이론상으로는 훌륭해 보이지만, 실제로는 각종 함정과 예상치 못한 문제에 부딪히는 것들이 있습니다. 기술은 대체로 우리 삶을 편리하게 만들어주지만, 때로는 해결하는 문제보다 더 많은 문제를 만들어내기도 합니다.
여기서는 처음부터 세상에 나오지 말았어야 할 6가지 끔찍한 기술을 소개합니다.
1. 얼굴 인식
얼굴 인식 기술은 한때 SF 영화에만 존재하는 미래 기술이었지만, 이제는 애플의 Face ID부터 국제공항의 출입국 보안까지 다양한 분야에서 널리 활용되고 있습니다.
클리어뷰 AI(Clearview AI)는 얼굴 인식 업계에서 가장 먼저 대중적인 인지도를 얻은 기업 중 하나입니다. 이 회사는 웹사이트와 소셜 미디어에서 이미지를 수집하는 독특한 방식으로 방대한 얼굴 데이터베이스를 구축했습니다. 해당 소프트웨어는 법 집행 기관에서 절도나 아동 학대 같은 범죄 해결에도 사용되었습니다.
얼굴 인식 기술이 우리 삶을 조금 더 편리하고 안전하게 만든다는 사실에는 의심의 여지가 없습니다.
그러나 이 기술이 악의적인 세력에 의해 악용될 가능성에 대한 우려도 커지고 있습니다. 예를 들어, 억압적인 정부가 이를 악용해 시민들을 감옥에 가두거나, 무법한 경찰관이 특정 인물을 스토킹하는 데 사용할 위험이 있습니다.
빅 브라더 워치(Big Brother Watch)와 같은 시민권 단체들 역시 얼굴 인식과 같은 감시 기술이 개인 프라이버시에 심각한 위협이 되므로 완전히 금지해야 한다고 강력히 주장하고 있습니다.
2. 주이세로(Juicero)
투자자들로부터 1억 2천만 달러의 자금을 지원받은 주이세로는 '차세대 혁신'의 모든 조건을 갖춘 것처럼 보였습니다.
신선하고 건강한 콜드프레스 주스를 혁신적인 방식으로 제공한다는 것이 핵심 콘셉트였습니다.
Wi-Fi가 연결된 이 착즙기는 미리 손질된 과일과 채소가 담긴 파우치에서 주스를 짜내는 방식이었습니다. 버튼 하나만 누르면 아침 오렌지 주스가 완성되는 것이죠.
그러나 블룸버그가 파우치를 맨손으로도 충분히 짤 수 있으며, 그 결과물이 주이세로 기기로 만든 것과 구분할 수 없다고 보도하면서 모든 것이 무너졌습니다.
이후 주이세로는 하락세를 거듭했고, 기사 게재 직후 착즙기와 주스 팩의 판매가 중단되고 말았습니다.
3. 딥페이크
연구자들은 1990년대부터 딥페이크 기술 개발을 시작했습니다. 하지만 최근에야 리페이스(Reface)나 페이크앱(FakeApp) 같은 딥페이크 앱들이 폭발적인 인기를 끌면서 이 기술이 주류로 자리 잡게 되었습니다.
앱에서 다른 사람의 얼굴을 자신의 얼굴로 바꾸는 것이 무해한 재미로 보일 수 있지만, 이러한 트렌드에는 어두운 면도 존재합니다.
딥트레이스(Deeptrace)의 2019년 보고서에 따르면 딥페이크 콘텐츠의 무려 96%가 음란물인 것으로 나타났습니다. 또한 동의 없이 제작된 딥페이크 선정 콘텐츠가 수많은 온라인 커뮤니티에서 유통되고 있으며, 연예인은 물론 일반 여성들까지 피해자가 되고 있습니다.
딥페이크는 공직자를 허위로 묘사하는 데에도 악용되었습니다. 실제로 환경 단체 멸종 반란(Extinction Rebellion)은 2020년 벨기에 총리 소피 빌메스(Sophie Wilmès)의 딥페이크 영상을 페이스북에 게시해 코로나19와 기후 위기의 연관성을 논의하게 했습니다. 이 영상은 24시간 만에 10만 회 조회수를 기록했고, 많은 사람들이 진짜 영상이라고 믿었습니다.
사기꾼들 역시 음성 딥페이크를 이용해 사람들의 돈을 가로채고 있습니다. 실제로 한 기업 CEO는 상사와 통화하고 있다고 믿고 계좌로 돈을 송금했다가 24만 3천 달러를 사기당하는 사건이 발생했습니다.
4. 스마트 베이비 모니터
스마트 베이비 모니터는 부모들에게 완벽한 솔루션처럼 보입니다. 카메라를 설치하고 Wi-Fi로 앱에 연결하기만 하면 원격에서 아기를 지켜볼 수 있으니까요.
하지만 잠든 아이와 같은 방에서 낯선 목소리가 들려오는 것보다 새내기 부모를 더 섬뜩하게 만드는 일은 없습니다.
실제로 일부 부모들은 베이비 모니터가 해킹당해 스피커를 통해 외설적인 말이 흘러나오는 충격적인 경험을 했습니다.
보안을 강화해 베이비 모니터가 해킹당하지 않도록 하는 방법이 있긴 하지만, 호기심 많은 낯선 시선이 집 안으로 들어와 아기를 몰래 훔쳐본다는 사실을 알면서 어떻게 마음 편히 살 수 있겠습니까?
5. 전자 투표
이론적으로 전자 투표는 전통적인 종이 표 집계 방식의 완벽한 대안처럼 보입니다.
속도가 빠르고, 원격지에 거주하는 사람들의 투표 과정도 간소화할 수 있습니다.
그러나 민주적 투표 과정에서 전자 투표 기계의 사용은 여전히 논쟁적인 문제입니다.
핵심 문제 중 하나는 바로 '신뢰'라는 심리적 요소입니다. 일부 사람들은 자신의 표가 조작될 수 있다고 두려워하며, 만약 그런 일이 발생하더라도 사람이 직접 검증하기가 매우 어렵습니다.
2020년 미국 대통령 선거에서 사용된 스마트매틱(Smartmatic)과 도미니언(Dominion)의 투표 기계는 선거 사기 혐의의 대상이 되었습니다. 혐의의 진위 여부와 관계없이, 미국 국민 상당수는 자신의 표가 올바르게 집계되지 않았다고 믿었고, 이는 민주적 절차에 대한 신뢰를 크게 훼손했습니다.
게다가 모든 기계가 그렇듯이 전자 투표 기계 역시 해킹에 취약하며 잘못된 결과를 산출할 수 있습니다. 물리적 흔적을 남기는 종이 표와 달리, 전자 표는 발견되지 않은 채 훨씬 쉽게 변경될 수 있습니다.
이렇게나 많은 변수가 존재하는 상황에서, 더 느리지만 검증 가능한 기존 방식이 이미 있는데 굳이 가장 중요한 민주적 절차를 기계에 맡겨야 할까요?
6. 구글 글래스
구글 글래스는 2013년에 출시된 스마트 안경입니다.
광학 디스플레이에 정보를 표시하고, 사용자는 음성 명령으로 기기와 상호작용할 수 있었습니다. 안경에는 사진 촬영과 동영상 녹화가 가능한 카메라가 장착되어 있었고, 옆면에는 터치패드도 포함되어 있었습니다.
출시 당시 혁신적이라는 평가를 받았지만, 비판이 없었던 것은 아닙니다. 특히 동의 없이 타인을 촬영할 수 있다는 점에서 프라이버시 우려가 크게 제기되었습니다.
안전 문제도 있었습니다. 영국에서는 운전 중 구글 글래스 착용이 금지되었습니다.
또한 일부 사람들은 구글 글래스가 외관상 매력적이지 않을뿐더러 오히려 다소 섬뜩하다고 느꼈습니다. 카메라가 항상 자신을 향하고 있다는 사실을 알면 아무도 그 사람과 자연스럽게 교류하려 하지 않기 때문입니다.
결국 구글 글래스는 2015년에 단종되었고, 사용자와 비평가들은 이 기술의 존재 이유가 무엇이었는지 고개를 갸웃하며 남겨졌습니다.
흥미롭게도 최근 페이스북(현 메타)은 레이밴(Ray-Ban)과의 스마트 안경 파트너십을 발표했는데, 이는 동일한 프라이버시 문제를 다시 불러일 가능성이 높아 보입니다.
내일의 끔찍한 기술들
기술은 계속해서 우리 삶을 더 편리하게 만들어가고 있지만, 정말 끔찍한 무언가를 발명해낼 위험은 여전히 남아 있습니다.
일론 머스크와 스티븐 호킹 같은 기술계 거목들은 AI의 잠재적 위험에 대해 꾸준히 경고해왔습니다. 일론 머스크는 심지어 AI를 "악마를 소환하는 것"에 비유하기도 했습니다.
정말 끔찍한 기술에 대한 최선의 방어책은 조기에 위험을 식별하고 철저한 비상 계획을 마련해두는 것입니다.