배우 톰 행크스가 정말 다섯 명을 살해했을까? 물론 아니다. 이 이야기는 풍자 신문 '더 어니언(The Onion)'에서 나온 것으로, 톰 행크스는 실제로 누구도 해치지 않았다. 대부분의 사람들은 이 기사가 사실이 아니라는 점을 금방 알아차릴 것이고, 확신이 서지 않더라도 간단한 검색만으로 그의 결백을 확인할 수 있다.
그런데 가벼운 유머 기사 한 편이 아니라, 톰 행크스를 싫어하는 누군가가 이런 기사를 수십 편씩 작성해 배우에 대해 잘 모르는 집단을 겨냥해 퍼뜨린다면 어떻게 될까? 이제 이것은 '무기화된 정보(weaponized information)'를 통한 인지 해킹(cognitive hack)이라 할 수 있다. 요컨대 특정 목적을 달성하기 위해 당신 뇌속의 정보를 바꾸려는 시도인 셈이다.
이러한 전술은 실제 세계의 사건들에 영향을 미쳤고, 때로는 치명적인 결과로 이어지기도 했다. 사람들이 허위 정보와 선전에 속아 넘어간 역사는 커뮤니케이션의 역사만큼 길지만, 정교한 타깃팅과 거의 즉각적인 유통은 비교적 최근에 등장한 현상이다.
QAnon 음모론 사례는 허위 정보가 얼마나 쉽게 사람들을 조종하는 데 악용될 수 있는지 보여주며, 2016년 미국 대통령 선거를 전후로 주목받은 가짜뉴스 문제 역시 여전히 중요한 관심사다. 대다수 사람들이 쉽게 속지 않기 때문에 극단적으로 걱정할 일은 아니지만, 소수 집단을 효과적으로 겨냥하는 것이 점점 쉬워지는 만큼, 기술을 활용해 더 나은 '인지 보안(cognitive security)'을 확보하는 방법을 고민할 필요가 있다.
'무기화된 정보'란 무엇인가?
무기화된 정보는 다음 조건 중 하나 이상에 해당하는 정보를 말한다.
- 의도적으로 조작되었거나 오해를 부르도록 만들어졌다
- 여론, 행동, 진실에 대한 인식에 영향을 주려는 목적을 지닌다
- 특정 집단을 겨냥해 오도하도록 설계되었다
- 선전, 가짜뉴스, 풍자, 음모론 등으로 분류될 수 있다
- 주로 소셜 미디어와 틈새(niche) 웹사이트를 통해 확산된다
- 봇넷의 자동 공유나 조작된 댓글·출처로 인기와 신뢰도를 부풀릴 수 있다
- 특정 의제를 밀거나 기존 사회 갈등을 이용해 금전적 이득을 얻으려는 목적으로 제작될 수 있다
한마디로 무기화된 정보는 '제한 없는 광고'라고 생각하면 된다. 광고도 특정 집단을 겨냥해 제품에 대한 생각을 바꾸려 하지만, 대체로 노골적인 거짓말까지는 가지 않는다. "담배는 건강에 좋다!" 같은 광고는 반대 사실이 입증된 상태에서는 통하지 않는다. 반면 무기화된 정보는 당신에 대한 데이터를 마음대로 활용할 수 있으며, 최소한의 진실성 요건조차 없다.
누구의 무기인가?
때로는 단일 세력이 무기화된 정보 캠페인을 지휘하는 경우도 실제로 있다. 러시아가 허위 정보 전쟁의 주도 세력 중 하나라는 증거가 계속 나오고 있으며, 정치적 목적으로 정보를 무기화한 다른 세력도 존재할 가능성이 높다. 다만 이 분야의 익명성 때문에 무엇이 주로 정치적 목적으로 운영되었는지 파악하기 어렵다. 여기에 막대한 수익을 낼 수 있다는 점이 문제를 더욱 복잡하게 만든다.
가짜뉴스가 수익성 좋은 사업인 가장 큰 이유는 사회에 이미 존재하는 갈등을 증폭기처럼 작동하기 때문이다. 사람들이 논쟁하는 주제는 클릭을 유발하고, 이런 주제는 대개 정치적으로 민감하기 때문에 정치적 목적으로 무기화된 정보와, 마케도니아 같은 곳에서 광고 수익을 위해 작성된 정보를 구분하기가 거의 불가능하다. 이는 호수에 다이너마이트를 던져 물고기를 잡는 것과 같다. 던진 사람에게는 돈 버는 도구지만, 호수 생태계 입장에서는 누군가 감행한 공격이다.
정보는 어떻게 '무기화'되는가?
RAND 연구소의 랜드 월츠먼(Rand Waltzman)은 정보가 무기화되는 과정을 다음과 같이 설명한다.
- 정치 성향, 취미, 관심사 등 어떤 기준으로든 대상 집단을 커뮤니티나 그룹으로 나눈다
- 각 커뮤니티에서 허위 정보를 가장 쉽게 믿을 만한 사람들을 찾아낸다
- 커뮤니티를 분석하고 그들의 소통 방식을 파악한다
- 커뮤니티 대화에서 자주 등장하는 서사와 이야기를 찾는다
- 자신의 관점을 밀어붙이는 서사를 설계해, 해당 커뮤니티가 모이는 미디어를 통해 삽입한다
- 커뮤니티를 모니터링하면서 반응에 따라 메시지를 조정한다
이것이 일반적으로 풍자나 클릭베이트와 무기화된 정보를 구분하는 기준이다. 의도와 무관하게 허위 정보를 만드는 모든 생산자는 취약한 커뮤니티를 찾고 타깃팅하는 프로세스를 갖추고 있어야 한다. 타깃 집단의 행동에 대한 정보가 많을수록 효과가 커지는데, 이것이 캠브리지 애널리티카(Cambridge Analytica) 같은 데이터 유출 사건이 우려되는 이유 중 하나다.
인지 보안(Cognitive Security)
무기화된 정보의 확산에 맞서는 방법은 크게 두 가지다. 대량 유포 자체를 차단하거나, 개인이 이를 스스로 식별할 수 있도록 교육하는 것이다. 페이스북, 구글, 트위터 같은 기업들은 플랫폼에서 조작된 기사를 삭제하는 데 힘쓰고 있고, 여러 스타트업들도 각자의 역할을 수행하고 있다. 하지만 이는 끊임없이 진화하는 싸움이며, 품질 관리와 검열 사이에는 얇은 경계선이 존재한다. 온라인에서 정보를 무기화하는 것이 금전적으로나 정치적으로 수익성을 유지하는 한, 생산 자체가 멈추기는 어렵다.
다만 독자들의 판별력을 높이는 노력과 결합하면, 이런 도구들은 무기화된 정보의 확산과 영향력을 크게 줄일 수 있다. 이미 여러 차원에서 가짜뉴스에 대한 인식을 높이려는 노력이 진행 중이지만, 이 역시 일종의 군비 경쟁이다. 온라인 무기화 정보의 가장 큰 장점 중 하나는 청중에 거의 즉시 적응할 수 있다는 점이다. 사람들이 출처 확인을 시작하면, 빠른 재디자인만으로 더 신뢰할 만해 보이게 만들 수 있다.
생각보다 무섭지 않은 무기화된 정보
장기적으로 볼 때 가장 강력한 인지 보안 자산은 평범한 인간의 두뇌다. 무기화된 정보는 무섭게 들리지만, 되돌릴 수 없는 마음의 바이러스는 아니다. 가장 취약한 사람들은 대개 이미 사실이 아닌 신념을 어느 정도 품고 있던 이들이며, 그런 사람들은 어떤 형태로든 늘 존재해 왔다.