Facebook, Twitter, Microsoft 및 YouTube는 대규모 데이터베이스를 구축하기 위해 협력하겠다고 발표했습니다. 이 데이터베이스에는 테러리스트 네트워크가 선전을 퍼뜨리고 잠재적 신병에게 연락하는 데 사용하는 이미지와 비디오가 포함됩니다. 사이트의 무언가가 사용 약관을 위반할 가능성이 있는 경우 데이터베이스에서 이러한 회사에 알립니다.
좋은 생각 같죠?
세부 정보
현재로서는 세부 사항이 약간 불분명합니다. 데이터베이스의 각 이미지와 비디오에는 "고유한 디지털 지문"이 있으며 해당 콘텐츠가 사이트에 표시되면 회사에 경고가 표시됩니다. 프로그램 시작 시 회사는 "가장 극단적이고 지독한 테러리스트 이미지 및 비디오"만 데이터베이스에 추가합니다.
아이디어는 이러한 이미지와 비디오가 모든 플랫폼의 사용 조건을 위반할 가능성이 가장 높다는 것입니다. 이렇게 하면 해당 콘텐츠가 다른 곳에 표시되는 경우 해당 콘텐츠를 쉽게 제거할 수 있습니다. 각 회사는 어떤 이미지와 비디오가 데이터베이스에 있어야 하는지 결정하게 됩니다. 또한 콘텐츠가 자신의 사이트에 표시되는 경우 해당 콘텐츠를 삭제할지 여부를 결정할 수 있습니다.
이것이 우리가 지금까지 알고 있는 거의 전부입니다. 트위터는 "이 협력이 온라인 테러리스트 콘텐츠에 대한 긴급한 글로벌 문제를 억제하는 데 도움이 되는 정책을 계속 시행함에 따라 효율성을 높일 수 있기를 희망한다"고 말했다. 그러나 우리는 지금까지 잘 모릅니다. 기여할 콘텐츠는 누가 결정합니까? 회사에서 이런 종류의 독립적인 검토 위원회를 만들까요? 아니면 필요할 때 몇 가지만 추가할까요?
좋지 않은 기록
온라인에서 콘텐츠를 감시하는 것은 정말 어렵습니다. 그것이 잘못된 정보, 학대, 테러리스트 모집 비디오 또는 온라인상의 무수히 많은 종류의 나쁜 콘텐츠이건 간에, 그 과정에는 내재된 문제의 지뢰밭이 있습니다. 어떤 그룹이 테러리스트 자격이 있는지 누가 결정합니까? 콘텐츠 삭제는 어떻게 결정되나요? 기업이 이를 찾으러 나갈 것인가, 아니면 사용자에게 보고할 것인가?
Microsoft는 온라인 테러리스트 콘텐츠에 대한 성명에서 다음과 같이 말했습니다.
<블록 인용>당사가 호스팅하는 소비자 서비스의 테러리스트 콘텐츠가 당사의 온라인 보고 도구를 통해 주의를 끌면 이를 제거합니다.
또한 테러리스트 콘텐츠 보고에 특별히 사용되는 양식에 대한 링크를 제공합니다. 그러나 누군가가 실제로 그 양식을 찾고 사용할 가능성은 얼마나 됩니까? 그들은 또한 "현지법에 따라 검색 제공업체에 게시 중단이 필요한 경우에만 Bing에서 테러리스트 관련 콘텐츠에 대한 링크를 제거할 것"이라고 말했습니다.
이것은 더 나아가 책임을 다른 곳에 둡니다.
책임 문제
Electronic Frontier Foundation은 온라인에서 이러한 유형의 콘텐츠를 단속하는 데 따르는 어려움에 대해 광범위하게 저술했습니다. 2014년 게시물에서 그들은 ISP가 투명성과 책임 절차 없이 "극단주의 콘텐츠"를 차단하도록 강요하려는 영국의 계획을 비판했습니다. 인권 단체는 프랑스가 테러 활동에 대해 매우 광범위하게 정의하고 있다고 비판했습니다.
Twitter와 Facebook 모두 사이트의 경찰 콘텐츠에 대한 기록이 좋지 않습니다. 트위터가 100,000개 이상의 ISIS 관련 트위터 계정을 삭제하고 증오심 표현 단체를 더욱 강력하게 단속하기 시작했지만, 그들은 극단주의와 학대가 플랫폼에서 만연하도록 내버려 둔다는 평판이 좋지 않습니다. 페이스북 역시 언론의 자유를 기치로 하지 않는 접근 방식을 계속 사용하는 것에 만족하는 것 같습니다.
물론, 이런 종류의 책임을 관리하는 것은 상당히 어렵습니다. 쉽다고 말하는 것이 아닙니다. 그러나 기술 회사는 기술이 사용되는 것과 거리를 두는 데 능숙합니다. 여기에는 테러리스트 이미지, 비디오, 모집 운동 및 기타 콘텐츠의 전파가 포함됩니다. 2016년 8월 영국 보고서에 따르면 Facebook, Twitter 및 YouTube는 "테러와 살인을 조장하기 위해 사이트를 사용하는 것을 방지하기 위해 의식적으로 실패하고 있다"고 밝혔습니다.
이미지와 비디오의 데이터베이스를 구축한다고 해서 그것을 바꿀 것 같지는 않습니다. 행동을 취하는 것은 고무적이지만, 마음이 무거워지는 것은 상상하기 어렵습니다.
이것이 개인정보 보호 문제일 수 있습니까?
사용자가 신고한 후 회사에서 수동으로 데이터베이스에 항목을 추가하기 때문에 이미지나 동영상이 실수로 데이터베이스에 들어갈 가능성은 없어 보입니다. 어느 것이 고무적입니다. 그러나 고유하게 식별된 "불량" 콘텐츠로 가득 찬 대규모 중앙 데이터베이스를 만드는 것은 걱정스러운 일입니다.
이는 주로 당시의 담당자가 "나쁜" 것으로 간주되는 결정을 내리기 때문입니다. 정부의 개입이 있는 경우 특히 그렇습니다. 당신은 어느 날 다수의 일원이 될 수도 있고, 박해받는 소수의 일원이 될 수도 있습니다. 이러한 유형의 기술을 배포하면 이러한 종류의 변화가 더욱 무섭습니다.
물론 이러한 회사가 자체 사용 약관 지침을 느슨하게 시행하는 것 외에 다른 용도로 이 데이터베이스를 사용할 것이라는 징후는 없습니다. 그러나 민간 조직이 이 기술을 개발하여 배포하고 있다는 사실 때문에 일부 사람들은 걱정할 수 있습니다. 정부는 이미 이처럼 강력한 감시 기술을 보유하고 있지만 확산은 기업이 가까운 장래에 더 많은 정보를 수집할 수 있는 도구를 갖게 될 것이라는 신호일 수 있습니다.
현재로서는 테러리스트 콘텐츠 데이터베이스에 의해 귀하의 개인 정보가 위험에 처할 것이라고 걱정할 이유가 없습니다. 그러나 개인 정보 보호 및 옹호 조직은 이러한 유형의 기술이 다른 곳에 배포되는 것을 주시하는 것이 좋습니다.
한 걸음 더 나아갑니까?
기술 회사들이 자신들의 플랫폼에 있는 테러리스트 콘텐츠에 대해 한발 더 나아가 사전 예방적인 조치를 취하고 있는 것을 보는 것은 좋은 일입니다. 그러나 그들의 기록은 느슨한 집행과 고의적인 방치로 가득 차 있습니다. 이 도구가 문제를 해결하는 데 도움이 될까요? 그럴 가능성은 없어 보인다. (자동화하지 않는 한, 다른 많은 문제가 있습니다.) 제 생각에 이 데이터베이스는 크게 바뀌지 않을 것이며 Twitter, Facebook, Microsoft 및 YouTube는 이를 홍보 수단으로 생각했습니다. 하나는 실제로 좋은 일을 하기 위한 것이었습니다.
어떻게 생각하세요? 이 데이터베이스가 테러리스트 콘텐츠의 온라인 확산을 막는 데 도움이 될까요? 아니면 대중의 존경을 받기 위한 공허한 제스처입니까? 아래 댓글에 여러분의 생각을 공유하세요!