조지 오웰의 1984에 나오는 것 같습니다. :한 남자가 사적인 이메일을 보내다가 그로 인해 체포됨을 알게 됩니다. 이메일은 수사 중인 경찰관이 가로채지 않았습니다. 그 남자는 체포되기 전에 의심조차 하지 않았습니다. 이메일은 아는 사람이 거의 없는 자동화 시스템에 의해 분석되었고, 문제가 되는 이메일은 당국에 신고되었습니다.
이것이 당신이 살고 싶은 세상처럼 들립니까? 그 세계는 이미 와 있고 그 시스템은 아동 포르노를 보내는 남자를 잡는 데 사용되었습니다.
붉은 손 잡기
어떻게 된 건가요? John Skillern은 음란한 아이들의 사진을 친구에게 보내고 곧 체포되었습니다. 그가 몰랐던 것은 Google이 Gmail을 통해 전송된 이미지를 자동으로 스캔하여 복구된 아동 포르노 데이터베이스와 비교한다는 것입니다. 일치하는 항목이 발견되면 경찰에 알립니다. 이 경우, 그들은 이후 그의 컴퓨터와 태블릿을 수색하라는 영장을 받았고, 그곳에서 다른 아동 포르노 이미지를 발견했습니다.
미국 법에 따르면 아동 포르노의 증거를 발견한 회사는 즉시 경찰에 신고해야 합니다. 이것은 전통적으로 사진 개발자, 사진 호스팅 서비스 및 기타 사진 관련 회사에 적용되었지만 검색 엔진을 포함한 모든 회사에 적용됩니다. 물론 이것은 좋은 일입니다. 아동에 대한 성적 착취는 극악무도한 범죄이며 우리가 가진 모든 수단을 동원해야 합니다. 회사는 이러한 법률을 기꺼이 준수하며 일반적으로 사람들은 이를 준수합니다.
그러나 이 기술의 존재로 인해 일부 사람들은 걱정하게 되었습니다.
작동 원리
Gmail의 아동 포르노 스캔에 사용되는 기술은 Microsoft에서 만든 PhotoDNA라는 소프트웨어입니다. PhotoDNA 데이터베이스에 이미지가 추가되면 수학적 해시가 생성되어 고유 식별자로 사용됩니다. 수천 개의 이미지가 데이터베이스에 추가된 후에는 사진이 약간 변경되더라도 이러한 식별자를 기반으로 사진을 식별하는 데 정말 능숙해집니다.
Microsoft는 NCMEC(National Center for Missing and Exploited Children)와 공동으로 PhotoDNA를 개발했으므로 처음부터 아동 포르노 퇴치를 위한 것이 되었습니다. 그리고 분명히 효과가 있습니다. Skillern을 사로잡았고 Bing, OneDrive, Facebook, Twitter, Gmail 등 잠재적인 기업에서 사용 중입니다.
불행히도 PhotoDNA는 이미 데이터베이스에 추가된 사진만 식별할 수 있습니다. 즉, 새 이미지를 거래해도 경고가 발생하지 않습니다. 그러나 이미 나와 있는 불법 자료의 양이 많기 때문에 잠재적인 아동 포르노그래퍼를 식별하는 데 매우 유용할 수 있습니다.
비밀이었나요?
Skillern의 체포 발표 이후 Gmail의 PhotoDNA 배포가 개인 정보 보호 문제인지 여부에 대해 많은 논의가 있었습니다. Gmail은 사용자에게 광고를 제공하고 개인 이메일 내용을 스캔하여 표시할 광고를 결정합니다. Google은 이 스캔이 익명으로 수행되며 학생, 기업 및 정부 계정은 스캔되지 않는다고 유지합니다. 최근 개인 정보 보호 및 법적 문제로 인해 Google은 검색을 약간 중단했지만 PhotoDNA 사용이 폭로되면서 많은 사람들이 우리가 전체 이야기를 이해하고 있는지 여부에 의문을 제기하고 있습니다.
Google은 Gmail 메시지에서 아동 포르노를 검색하고 있다는 사실을 한 번도 부인한 적이 없지만 이에 대해 매우 엄격했습니다. 사람들이 아동 포르노 방지 조치를 지지할 것이라고 확신하지만, 구글이 이메일의 이미지를 스캔한다는 생각은 그다지 잘 통하지 않았을 수 있습니다. 그러나 이제 뉴스가 나왔고 우리는 Google이 우리 이메일로 무엇을 하고 있는지에 대해 스스로에게 물어봐야 합니다. 우리는 이메일이 본질적으로 안전하지 않다는 것을 알고 있지만 Google에서 감시한다는 증거를 찾는 것은 불안합니다.
Gmail Panopticon
18세기 후반에 Jeremy Bentham은 건물에 있는 모든 학생, 어린이, 또는 가장 적절한 경우에는 한 명의 감시자가 감시할 수 있는 파놉티콘(panopticon)이라는 건물에 대한 계획을 개발했습니다. 수감자 중 누구도 자신이 감시를 받고 있는지 알 수 없으므로 자신이 감시를 받고 있다고 가정하고 자신에게 주의를 끌지 않도록 행동을 자제하도록 격려해야 합니다.
그것이 Gmail이 우리를 이끄는 것입니까? 지금 그들은 아동 포르노에 대한 이미지를 스캔하고 있습니다. 그러나 일부 언론인이 지적했듯이 Google은 사업을 운영하는 국가의 법률에 구속됩니다. 즉, 정부는 스캔에서 찾은 다른 종류의 정보를 넘겨주도록 요구할 수 있습니다. 과장되게 들릴 수도 있지만 Gmail 이용약관에 동의함으로써 Google은 Google 데이터로 원하는 작업을 수행할 수 있는 많은 권한을 Google에 부여했습니다.
그리고 이 기술이 다른 범죄의 가해자를 추적하는 데 사용될 것이라고 상상하는 것이 그렇게 어렵습니까? 그대로 Google은 누군가가 Gmail을 통해 노골적으로 다른 유형의 범죄를 계획할 수 있으며 위험에 처하지 않을 것이라고 주장합니다. 하지만 언제까지 그럴까요? Google은 현재 비공개 메시지를 검색하여 법 집행 기관과 협력하고 있습니다. 이제 이 기술이 범죄자를 잡는 데 사용되어 대중에게 알려지게 되면서 매우 강한 유대감을 갖게 되었습니다.
Google은 다음에 무엇을 검색할까요? 테러 위협? 살인 음모? 좀도둑? 정치적 다수가 지지하는 의견과 다른 의견은? Google 서비스 사용을 중단할 의사가 있습니까? 우리는 정부의 요구가 증가함에 따라 가까운 장래에 큰 전환점을 볼 수 있습니다. 그리고 우리뿐만 아니라 더 억압적인 정부가 Google에 뒤집기를 요청할 것입니까? 동성애 증거가 포함된 이메일? 정치적 반대? 인도주의적 임무?
우리는 모른다. 그리고 Google이 어떻게 대응할지 말하기 어렵습니다.
그리고 그들의 스캐닝이 아동 포르노그래퍼를 잡을 수 있다는 것을 보여준 후에는 거절하기 어려울 것입니다. "그럼 아동 포르노를 지지합니까?" 답으로? 이 상황에서 되돌릴 수는 없을 것입니다. 세계에서 가장 비난받는 범죄자를 잡는 시스템에 대해 여론이 흔들리기 어려울 것입니다.
이것이 개인정보 보호의 시작인가?
인터넷의 대명사라고 할 수 있는 회사가 하나 있다면 바로 구글입니다. 그리고 그들이 우리의 이메일을 스캔한다면 온라인 개인 정보 보호가 끝날 수 있습니다(적어도 주요 채널에서는 항상 다른 옵션이 있을 것입니다). Don't Spy on Us Day of Action에 대한 제 글을 읽으면 개인 정보 보호가 기업 및 정부 차원에서 여러 방향에서 심각한 공격에 직면하고 있다는 사실을 알게 될 것입니다. 그리고 이 둘 사이의 협력은 온라인 개인 정보 보호 및 보안에 문제를 일으킬 수 있습니다.
Google이 스캔에 대한 여론을 개선하기 위해 계산된 움직임을 보고 있다고 생각하지 않지만, 이를 긍정적으로 만들기 위해 최선을 다할 것이라고 생각합니다. 그들은 이 스캔이 대중의 관심을 받기를 바라지 않았을 수도 있지만, 여기에는 우리의 개인 정보를 보호하는 대가로 그들이 우리를 위해 무엇을 할 수 있는지를 세상에 보여줄 수 있는 충분한 기회가 있습니다.
Google이 이 이야기에 대한 응답으로 취하는 다음 단계는 매우 의미가 있을 것입니다. 저는 이 이야기를 따라가기 위해 그들이 그것에 대해 말하는 것을 보기를 고대하고 있습니다. 어떻게 생각하나요? Google은 우리가 보내는 모든 이미지를 스캔하여 한계를 뛰어 넘고 있습니까? 아니면 아동 포르노와 싸우기 위해 사생활을 희생할 수 있습니까? Google이 다른 범죄를 검색하기 시작하면 같은 느낌이 들까요? 아니면 정부가 특정 이메일을 넘겨달라고 요구하기 시작한다면? 여기에는 논쟁과 토론의 여지가 많이 있습니다. 아래에 전화를 걸어 여러분의 생각을 알려주세요!
이미지 크레디트:모든 것을 보는 눈. Shutterstock을 통한 낙서 스타일(편집됨), Shutterstock을 통한 Man in black, flickr를 통한 Micah Baldwin, Wikimedia Commons를 통한 DieBuche, flickr를 통한 Robert Scoble, flickr를 통한 Ben Roberts.