시민들이 가는 곳마다 CCTV 카메라를 일상적으로 보는 데 익숙한 국가가 많이 있습니다. 모스크바는 이를 다른 차원으로 끌어올려 일부 아파트 건물 입구를 포함하여 도시 전역에 십만 개 이상의 장치를 설치했습니다. NTechLab의 창의적인 사람들은 2016년 12월 지방 정부와 협력하여 이 인프라의 핵심에 안면 인식 시스템을 구현했습니다. 2017년 9월 28일에 접수된 보고서에 따르면 그 이후로 이전에는 잡기 어려웠던 범죄자 6명을 체포했습니다. 하지만 모든 시민을 잠재적으로 자동으로 인식할 수 있는 기술로 끊임없이 감시를 받는 사회에 대해 이것은 무엇을 의미합니까? ?
잘못된 것은 무엇입니까?
도시가 수배범의 움직임과 일상을 추적하기에 충분한 감시 범위를 확보해야 한다는 주장이 있습니다. 모스크바에서 이루어진 체포는 시스템이 의도한 대로 작동한다는 것을 증명하며, 이 범죄자 중 일부는 수년 동안 체포를 피하고 있습니다. 그러나 우리는 한 도시에 너무 많은 CCTV 카메라가 있어서 지방 정부가 들어오는 각 시민과 관광객의 모든 움직임을 가상으로 추적할 수 있다는 으스스한 생각을 무시할 수 없습니다. 이와 같은 시 전체 시스템은 남용의 가능성이 매우 높습니다.
일반적으로 살인범은 적발되어 재판을 받아야 한다는 데 동의할 수 있지만, 그러한 광범위한 감시를 수행하는 동일한 기관에서 "범법자"라는 개념을 정의하는 사회를 상상하는 것은 불안합니다. 예를 들어 특정 의류를 금지하여 표현의 자유를 제한하는 사회가 이러한 감시 모델을 구현하면 어떻게 될까요? 특정 날짜에 잘못된 옷을 입기로 선택한 개인을 체포합니다.
FaceFind 스캔들
CCTV 실험 이전에 NTechLab은 FindFace라는 플랫폼을 통해 기술을 공개했습니다. 이를 사용하여 사람들은 임의의 사진을 업로드하여 개인의 VKontakte(VK, Facebook의 러시아어 버전) 프로필을 찾을 수 있습니다. 한 무리의 사악한 사람들이 이 소프트웨어를 사용하여 성인 여배우의 VK 프로필을 찾고 가족 및 친구에게 연락하여 부정적인 반응을 불러일으키고 대상의 삶을 어렵게 만들 수 있기를 바랍니다. FindFace의 초기 의도는 사용된 것과는 거리가 멀었습니다. 사람들이 새로운 친구를 찾을 수 있는 플랫폼으로 만들어졌지만 그 대신 전 세계의 스토커들에게 도움이 되었습니다.
선의의 이니셔티브가 목표를 달성하지 못할 때
안면인식 CCTV 플랫폼과 FindFace 모두 최선을 다해 만들어졌습니다. 하나는 범죄자를 잡기 위해 만들어졌고 다른 하나는 사람들을 더 가깝게 만들기 위해 만들어졌습니다. 그러나 인간의 본성과 국가 기관의 본성은 이 소프트웨어가 어떻게 사용될 것인지에 대해 다른 그림을 그립니다. 우리는 우리 자신의 삶뿐만 아니라 다른 사람들도 통제할 수 있는 방식으로 기술을 사용하려는 경향이 있습니다(예:부모가 자녀의 휴대전화에 추적 소프트웨어를 설치하는 경우). 올바르게 사용하면 사람들을 안전하게 지킬 수 있습니다. 그러나 FindFace 및 모스크바의 CCTV 기반 안면 인식 백본과 같은 기술이 잘못 사용되면 잠재적으로 무고한 사람들의 삶을 비참하게 만들 수 있습니다.
정부 감시를 지원하기 위해 기술을 어느 정도 구현해야 한다고 생각하십니까? 댓글로 이야기해 봅시다!