어떤 것들은 이론상으로는 훌륭해 보이지만 실제로는 온갖 함정과 예상치 못한 문제에 부딪히게 됩니다. 기술은 대부분의 경우 삶을 단순화하지만 해결하는 것보다 더 많은 문제를 일으킬 수도 있습니다.
빛을 보지 말았어야 하는 6가지 끔찍한 기술이 있습니다.
1. 안면 인식
한때 공상 과학 영화의 영역에 국한되었던 안면 인식 기술은 이제 Apple의 Face ID 시스템에서 국제 공항의 국경 보안에 이르기까지 다양한 애플리케이션에서 사용됩니다.
Clearview AI는 대중에게 인정을 받은 최초의 안면 인식 회사 중 하나였습니다. 이 회사는 독창적인 방법을 사용하여 웹사이트와 소셜 미디어에서 이미지를 스크랩하여 얼굴 데이터베이스를 구축했습니다. 이 소프트웨어는 법 집행 기관에서 절도 및 아동 학대와 같은 범죄를 해결하는 데 사용되었습니다.
얼굴 인식이 우리의 삶을 조금 더 쉽고 안전하게 만들어준다는 것은 의심의 여지가 없습니다.
그러나 이 기술이 악의적인 행위자들에 의해 악용될 가능성이 있다는 우려가 있습니다. 예를 들어, 압제적인 외국 정부가 이를 악용하여 시민을 감옥에 가두거나 심지어 불법적인 법 집행관을 스토킹할 위험이 있습니다.
Big Brother Watch와 같은 민권 단체에서도 안면 인식과 같은 감시 기술이 개인의 사생활에 심각한 위협이 되며 전면 금지되어야 한다는 우려를 표명했습니다.
2. 주스로
투자자로부터 1억 2,000만 달러의 자금을 조달한 Juicero는 "차세대 대작"의 모든 것을 갖추었습니다.
신선하고 건강한 냉압착 주스를 혁신적으로 제공합니다.
Wi-Fi 지원 착즙기는 미리 잘게 썬 과일과 야채를 즙을 냅니다. 버튼을 누르면 아침 오렌지 주스가 배달됩니다.
Bloomberg가 맨손으로 주머니를 짜낼 수 있고 최종 제품은 Juicero 장치를 사용하여 만든 제품과 구별할 수 없다는 기사를 발표했을 때 모든 것이 무너졌습니다.
Juicero의 경우 기사 게재 이후 Juicero 프레스 및 주스 패킷 판매가 중단되면서 내리막길이었습니다.
3. 딥페이크
연구원들은 1990년대에 딥페이크 기술을 개발하기 시작했습니다. 그러나 최근 몇 년 동안 Reface 및 FakeApp과 같은 딥페이크 앱이 큰 인기를 얻으면서 이 기술이 주류를 이루었습니다.
앱에서 다른 사람의 얼굴을 자신의 얼굴로 바꾸는 것이 무해한 것처럼 보일 수 있지만 이러한 추세에는 어두운 면이 있습니다.
Deeptrace의 2019년 보고서에 따르면 딥페이크의 96%가 음란물이었습니다. 또한, 합의되지 않은 딥페이크 노골적인 콘텐츠가 수많은 온라인 커뮤니티에서 유포되며 유명인과 일반 여성이 피해자가 됩니다.
딥페이크는 또한 비디오에서 공무원을 허위로 표현하는 데 사용되었습니다. 예를 들어 Extinction Rebellion은 2020년 Facebook에 Sophie Wilmès 벨기에 총리의 딥페이크를 게시하여 COVID-19와 기후 위기 사이의 가능한 연관성에 대해 논의했습니다. 24시간 만에 100,000회의 조회수를 기록했으며 많은 사람들이 해당 동영상이 진품이라고 믿었습니다.
사기꾼은 또한 음성 딥페이크를 이용하여 사람들을 속여 현금을 빼앗고 있습니다. 예를 들어, 한 CEO는 자신이 상사와 전화 통화를 하고 있다고 믿고 은행 계좌로 이체하면서 243,000달러를 사기당했습니다.
4. 스마트 베이비 모니터
스마트 베이비 모니터는 부모를 위한 완벽한 솔루션인 것 같습니다. 카메라를 설정하고 Wi-Fi를 통해 앱에 연결하면 멀리서 아기를 지켜볼 수 있습니다.
그러나 새 부모에게는 잠자는 아이와 같은 방에서 이상한 목소리가 들리는 것보다 더 무서운 것은 없습니다.
이것이 베이비 모니터가 해킹되어 음란물이 방송되는 일부 부모의 현실입니다.
아기 모니터가 해킹되지 않도록 보안을 강화할 수 있는 방법이 있지만, 감시하는 눈이 자녀를 염탐하기 위해 집에 초대되었다는 사실을 알고 혼자 살 수 있습니까?
5. 전자 투표
이론적으로 전자 투표는 전통적인 종이 집계 방식에 대한 완벽한 대안으로 보입니다.
빠르고 외딴 곳에 있는 사람들의 투표 절차를 간소화합니다.
그러나 민주적 투표 과정에서 전자 투표 기계를 사용하는 것은 논쟁의 여지가 있는 문제입니다.
주요 문제 중 하나는 신뢰의 심리적 문제입니다. 자신의 투표가 바뀔까 봐 두려워하는 사람도 있고, 그럴 경우 사람의 확인이 어렵습니다.
스마트매틱(Smartmatic)과 도미니언(Dominion)이 2020년 미국 대선에 사용한 투표기가 부정선거 의혹의 대상이 됐다. 사기 혐의가 사실이든 아니든, 미국 인구의 일부는 자신의 득표가 올바르게 집계되지 않았다고 믿었고, 이는 민주주의 절차에 대한 신뢰를 훼손했습니다.
게다가 모든 기계와 마찬가지로 전자 투표 기계는 해킹에 취약하고 잘못된 결과를 생성할 수 있습니다. 전자 투표는 물리적인 종이 흔적을 남기는 종이 투표보다 훨씬 쉽게 눈에 띄지 않게 변경할 수 있습니다.
많은 일이 잘못될 수 있는데 더 느리지만 더 신뢰할 수 있는 방법이 이미 존재하는데 가장 중요한 민주적 절차를 기계에 맡겨야 합니까?
6. 구글 글래스
Google Glass는 2013년에 출시된 스마트 안경 기기입니다.
광학 디스플레이에 정보를 표시하고 사용자는 음성 명령을 통해 상호 작용합니다. 안경에는 사진을 찍고 동영상을 녹화할 수 있는 카메라와 측면에 터치패드가 장착되어 있었습니다.
출시 당시 혁신적이라는 평가를 받았음에도 불구하고 비방하는 사람들이 없었던 것은 아닙니다. 특히, 사람들이 허가 없이 기기를 사용하는 것을 녹음하는 것에 대해 개인 정보 보호 문제가 제기되었습니다.
영국의 운전자는 운전 중 Google Glass 착용을 금지하는 등 안전 문제도 문제였습니다.
어떤 사람들은 Google Glass가 미학적으로 매력적이지 않고 심지어 약간 소름이 돋기도 합니다. 사람들이 항상 카메라를 향하고 있다는 사실을 알면 누군가와 상호 작용하지 않을 것이기 때문입니다.
Google Glass는 2015년에 단종되었으며 사용자와 비평가는 이 기술의 요점이 무엇인지 궁금해하며 머리를 긁적였습니다.
보다 최근에 Facebook은 Ray-Ban과의 스마트 안경 파트너십을 발표했으며, 이는 동일한 개인 정보 관련 문제를 촉발할 조치입니다.
내일의 끔찍한 기술
기술은 계속해서 우리의 삶을 더 쉽게 만들어 주지만 우리가 진정으로 무서운 것을 발명할 위험은 여전히 남아 있습니다.
Elon Musk와 Stephen Hawking과 같은 기술 세계의 저명한 인물들은 AI의 잠재적 위험에 대해 목소리를 높여 왔습니다. Elon Musk는 그것을 "악마 소환"에 비유하기도 했습니다.
정말 끔찍한 기술에 대한 최선의 방어는 조기 식별과 비상 계획입니다.