조지 오웰의 소설 『1984』는 문화계에 큰 반향을 일으킨 작품입니다. 사람들이 이 디스토피아 소설을 '오전 11시 이후엔 아침 메뉴를 살 수 없다'는 일상적 불편에 빗대는 경우조차 있으니까요. 그런데 마이크로소프트는 실제 기술이 머지않아 소설 속 '빅 브라더'를 재현할 수 있다고 경고하고 나섰습니다.
마이크로소프트가 내다본 AI의 미래
마이크로소프트의 브래드 스미스(Brad Smith) 사장은 BBC 파노라마(Panorama) 프로그램에서 다소 섬뜩한 예측을 내놓았습니다. 영국의 유력 언론 매체인 BBC는 이 프로그램을 통해 중국이 인공지능(AI)을 활용해 국민을 감시하는 실태를 조명했습니다.
스미스는 정부가 기술이 사람들을 감시하는 방식의 최신 동향을 놓치지 않고, 기술 발전에 발맞춰 시민의 프라이버시를 보호하는 법률을 제정해야 한다고 강조했습니다. 그러지 못하면 기술이 규제를 "앞질러 질주"하게 되고, 일단 선두를 잡으면 "따라잡기가 매우 어려워진다"고 지적했습니다.
스미스는 상황이 통제 없이 흘러갈 때 어떤 일이 벌어질지 두려움을 감추지 않았습니다.
"나는 조지 오웰이 『1984』에서 남긴 교훈을 끊임없이 떠올립니다. 핵심 이야기를 아시겠지만, 그것은 언제나 모든 사람이 하는 모든 행동을 보고, 하는 모든 말을 들을 수 있는 정부에 관한 이야기입니다."
"그것은 1984년에는 현실이 되지 않았습니다. 하지만 우리가 주의하지 않으면 2024년에 현실이 될 수 있습니다."
미국과 중국, AI 패권을 둘러싼 신냉전
스미스의 우려에 공감하는 목소리도 적지 않습니다. 구글 전 CEO이자 현재 미국 국가안보 AI 위원회 위원인 에릭 슈밋(Eric Schmidt)은 AI 분야에서 중국이 반드시 넘어야 할 상대라고 평가했습니다.
그 배경에는 중국의 야심이 있습니다. 중국은 2030년까지 세계 AI 기술 강국으로 도약하는 것을 국가 목표로 삼고 있는데, 이미 좋은 출발을 마친 상태입니다. 2019년에는 미국보다 많은 AI 관련 특허를 등록했으며, 전 세계 7억 7천만 대 CCTV 카메라 중 약 54%가 중국에 설치되어 국민을 향하고 있습니다.
이 때문에 미국 전문가들은 방치할 경우 중국의 가치관이 서구 사회로 스며들 것을 걱정합니다. 다만 중국 측은 현재 그런 계획이 없다고 반박하고 있습니다.
중국 정부 자문위원인 쉐란(Xue Lan) 박사는 안면인식 기술이 만약 큰 사건·사고가 발생했을 때 "엄청나게 유용할 것"이라고 말했습니다. 그는 또한 미국의 우려가 중국 가치관의 침투에 대한 것이 아니라, AI 기술 분야 1위 자리에 오른 중국을 밀어내려는 미국의 패권 욕심에서 비롯된 것이라고 주장했습니다.
미국은 이런 중국 측 주장을 받아들이지 않습니다. 미국 의회 미래 국방 태스크포스 의장인 세스 몰튼(Seth Moulton) 의원은 현재 미국 기술 기업들에 AI 역량 강화를 독려하고 있으며, 이른바 'AI 군비 경쟁'이 장래에 중국과의 충돌로 이어질 가능성도 부정하지 않습니다.
최고의 AI를 향한 글로벌 경쟁
중국의 AI 역량이 커지면서 연구자와 전문가들은 그 감시 문화가 결국 서구에도 상륙할 것을 우려하고 있습니다. 그런 일이 현실이 된다면, 마이크로소프트가 경고한 대로 『1984』에 그려진 디스토피아가 우리 앞에 나타날지도 모릅니다.
기술이 여기까지 발전한 지금, 우리는 하루 24시간 누군가의 시선을 느낄 수도 있습니다. 다행히 개인이 취할 수 있는 대응책도 있습니다. 예컨대 모르는 사이에 웹캠이 해킹당하지 않았는지 점검하는 것부터 시작해 볼 수 있겠죠.