페이스북, 트위터, 마이크로소프트, 유튜브가 협력하여 대규모 데이터베이스 구축에 나선다고 발표했습니다. 이 데이터베이스에는 테러 조직이 선전을 퍼뜨리고 잠재적 신병을 모집하는 데 사용하는 이미지와 영상이 담기게 되며, 각 플랫폼은 이를 통해 자사 사이트의 콘텐츠가 이용 약관을 위반할 소지가 있는지 알림을 받게 됩니다.
꽤 괜찮은 아이디어처럼 들리죠?
세부 사항
현재로서는 세부 내용이 다소 불분명합니다. 데이터베이스에 등록되는 모든 이미지와 영상에는 '고유한 디지털 지문'이 부여되며, 해당 콘텐츠가 특정 사이트에 나타나면 기업들이 알림을 받는 방식입니다. 프로그램 초기에는 '가장 극단적이고 악질적인 테러 이미지 및 영상'만 데이터베이스에 추가될 예정입니다.
이런 콘텐츠들은 모든 플랫폼의 이용 약관을 가장 확실하게 위반하는 것들이기 때문에, 다른 곳에서 발견되면 삭제하기가 비교적 수월합니다. 어떤 이미지와 영상을 데이터베이스에 넣을지는 각 기업이 스스로 결정하며, 해당 콘텐츠가 자사 사이트에 등장했을 때 삭제할지 여부도 직접 판단합니다.
지금까지 알려진 것은 사실상 이게 전부입니다. 트위터는 "이번 협력이 온라인 테러 콘텐츠라는 시급한 글로벌 문제를 억제하기 위한 정책 집행의 효율성을 높이기를 희망한다"고 밝혔습니다. 하지만 아직 확인된 것은 많지 않습니다. 어떤 콘텐츠를 데이터베이스에 기여할지 누가 결정할까요? 기업들이 독립적인 심사위원회를 구성할까요? 아니면 마음 내킬 때 가끔 몇 건씩 추가하기만 할까요?
착실하지 못한 과거 기록
온라인 콘텐츠를 관리·규제하는 일은 결코 쉽지 않습니다. 허위 정보, 학대, 테러 모집 영상 등 각종 유해 콘텐츠를 다루는 과정에는 수많은 문제가 도사리고 있습니다. 어떤 단체를 테러 단체로 분류할 것인가? 콘텐츠 삭제는 어떻게 결정되는가? 기업이 직접 찾아낼 것인가, 아니면 사용자 신고에 의존할 것인가?
마이크로소프트는 온라인 테러 콘텐츠에 대한 성명에서 이렇게 말했습니다.
"온라인 신고 도구를 통해 우리가 운영하는 소비자 서비스의 테러 콘텐츠가 접수되면, 우리는 이를 삭제할 것입니다."
그리고 테러 콘텐츠 전용 신고 양식 링크도 제공하고 있습니다. 하지만 실제로 그 양식을 찾아내어 사용할 사람이 얼마나 될까요? 또한 마이크로소프트는 빙(Bing) 검색 결과에서 테러 관련 콘텐츠 링크는 "현지 법률이 검색 서비스 제공업체에 삭제를 요구하는 경우에만" 제거하겠다고 밝혔습니다.
결국 책임은 다른 곳으로 전가되는 셈입니다.
책임 문제
전자프론티어재단(EFF)은 이런 유형의 콘텐츠를 온라인에서 규제하는 데 따르는 어려움에 대해 여러 차례 언급해 왔습니다. 2014년 게시물에서 EFF는 영국이 투명성과 책임 절차 없이 인터넷 서비스 제공업체(ISP)에 '극단주의 콘텐츠' 차단을 강제하려 한 계획을 비판했습니다. 인권 단체들 역시 테러 활동의 정의가 지나치게 광범위하다는 이유로 프랑스를 비판한 바 있습니다.
트위터와 페이스북 모두 콘텐츠 관리 면에서 좋지 않은 기록을 갖고 있습니다. 트위터는 ISIS 관련 계정 10만 개 이상을 삭제하고 혐오 발언 단체에 대한 규제를 강화했지만, 극단주의와 학대 행위를 방치해 왔다는 악명이 높습니다. 페이스북 역시 '표현의 자유'라는 명분 아래 사실상 방임주의를 고수하는 듯 보입니다.
물론 이런 책임을 감당하는 일은 매우 어렵습니다. 쉬운 일이라고 말하는 것이 아닙니다. 하지만 테크 기업들은 자신들의 기술이 실제로 어떻게 사용되는지에서 스스로를 떼어내는 데 능숙합니다. 여기에는 테러 이미지·영상 유포, 모집 활동 등도 포함됩니다. 2016년 8월, 영국의 한 보고서는 페이스북, 트위터, 유튜브가 "자사 사이트가 테러와 살인을 선전하는 데 이용되는 것을 의식적으로 방치하고 있다"고 지적했습니다.
이미지·영상 데이터베이스 구축만으로 이런 상황이 바뀔 것 같지는 않습니다. 움직이기 시작했다는 점은 고무적이지만, 미온적인 태도 이상이 되기는 어려워 보입니다.
개인정보 침해 우려는 없을까?
기업들이 사용자 신고를 받은 후 수작업으로 항목을 추가하는 방식이기 때문에, 여러분의 이미지나 영상이 우연히 데이터베이스에 들어갈 가능성은 낮아 보입니다. 다행스러운 부분입니다. 하지만 '유해' 콘텐츠에 고유 식별자를 부여한 거대한 중앙 데이터베이스가 만들어진다는 사실 자체는 우려스럽습니다.
그 이유는 크게 '무엇이 유해한지'를 당시 권력자가 결정할 수 있다는 데 있습니다. 정부가 개입할 경우 더욱 그렇습니다. 오늘은 다수파였다가 내일은 박해받는 소수파가 될 수도 있습니다. 이런 기술이 배포될수록 그런 변화는 더욱 무섭게 다가옵니다.
물론 이 기업들이 데이터베이스를 이용 약관 준수 외의 목적으로 사용한다는 징후는 없습니다. 하지만 민간 조직이 이런 기술을 개발하고 배포하고 있다는 사실 자체가 일부 사람들에게 불안감을 줄 수 있습니다. 정부는 이미 이 정도 수준의 감시 기술을 갖추고 있겠지만, 이런 기술의 확산은 기업들이 머지않아 더 많은 정보를 수집할 도구를 손에 넣게 될 수 있음을 시사합니다.
현재로서는 테러 콘텐츠 데이터베이스 때문에 개인정보가 위험해질 걱정을 할 필요는 없습니다. 하지만 개인정보·시민단체는 이런 유형의 기술이 다른 분야에서 어떻게 활용되는지 주시할 필요가 있습니다.
한 걸음 나아진 걸까?
테크 기업들이 자사 플랫폼의 테러 콘텐츠에 대해 적극적으로 나섰다는 점은 반가운 일입니다. 하지만 그들의 기록은 느슨한 집행과 고의적 방치로 가득합니다. 이 도구가 그 흐름을 바꾸는 데 도움이 될까요? 가능성은 낮아 보입니다. (완전히 자동화할 경우 또 다른 문제가 우후죽순 생길 테니까요.) 필자의 생각에 이 데이터베이스는 큰 변화를 가져오지 못할 것이며, 트위터, 페이스북, 마이크로소프트, 유튜브는 실질적 선의보다는 홍보 차원에서 이를 구상했을 가능성이 높습니다.
여러분은 어떻게 생각하시나요? 이 데이터베이스가 온라인 테러 콘텐츠 확산 방지에 도움이 될까요? 아니면 대중의 호감을 얻기 위한 빈손의 제스처일까요? 아래 댓글로 의견을 나눠주세요!