인공지능(AI) 기술은 우리가 살아가는 세상을 완전히 바꿀 수 있는 막강한 힘을 갖추고 있습니다. 이 기술을 통해 인류는 더 안전한 미래로 도약할 준비를 하고 있습니다. 하지만 전문가들은 인공지능과 그 미래에 대해 여러 우려를 낳고 있습니다. 지금까지의 논의는 AI가 인류의 일자리나 창의성을 대체할 것이라는 이야기에 머물렀습니다. 그러나 이제 여러 국제기구와 정부들은 AI가 치명적인 자율살상무기로 변모하거나 테러 조직의 손에 넘어갈 가능성을 걱정하기 시작했습니다.
AI의 위험성을 논할 때, 과연 우리는 AI 기술 기반 자율무기가 가져올 윤리적·법적 결과를 알고 있을까요? 자율무기가 이미 전쟁터에 배치되고 있는 상황에서, 다가오는 위협에 제대로 대비하고 있는 걸까요? 이 질문들에는 쉬운 답이 없습니다.
AI 기반 무기, 개발은 계속되고 있다
기술은 훌륭한 종이지만 나쁜 주인입니다. 인공지능 덕분에 의료부터 교통, 엔터테인먼트까지 경제의 여러 분야가 눈부신 발전을 이뤄왔습니다. 실제로 이 기술의 잠재력은 아직 다 펼쳐지지 않았습니다. 그러나 무기화된 기계의 지휘권을 인간에서 기계로 완전히 넘기는 일은 감당해야 할 리스크가 매우 큽니다.
한편 '킬러 로봇'이라는 개념은 이미 현실이 되었고, 유엔(UN)과 같은 기구는 이런 개발에 대한 전면 금지를 추진하고 있습니다. 일론 머스크(테슬라)와 무스타파 술레이만(구글 모회체 알파벳) 같은 영향력 있는 지도자들은 AI 기반 로봇이 실전에 투입될 경우 '제3차 혁명'이 찾아올 것이라 경고했습니다.
세계 각국은 이런 개발이 장차 세계에 이익을 가져다줄 인류의 무기라고 정당화하고 있습니다. 하지만 만약 같은 기술이 잘못된 손에 들어가 테러리스트들이 대량살상에 사용한다면 어떨까요? 무기의 사소한 오류가 수백만 명의 목숨을 앗아간다면? 로봇이 인간의 지능을 뛰어넘어 인류를 상대로 세계대전을 일으킨다면? 그런 시나리오 속에서 우리는 과연 생존할 수 있을까요?
실제로 최근 미국 정부와 중국군은 '스워밍 드론(Swarming Drones)' 실험을 진행했습니다. 이들은 대규모로 목표 지점에 파견되어 집단 학살을 감행할 수 있는 무인 항공기입니다. 기존 흐름상 테러 조직이 접근하지 못하는 기술은 없습니다. 마찬가지로 이 드론을 복제하는 일도 불가능하지 않습니다. 이는 제3차 세계대전으로 이어질 수 있고, 그렇게 된다면 인류는 지구에서 소멸할 가능성이 큽니다.
반면, AI는 테러 대응의 강력한 무기가 될 수도
최근 페이스북은 테러를 지원하는 콘텐츠를 차단하기 위해 AI 기술을 활용하겠다고 발표했습니다. 또 동일 플랫폼은 이미지 매칭 기술을 통해 알려진 테러리스트가 올린 이미지와 영상이 다른 계정으로 퍼져나가는 것을 식별하고 차단하고 있습니다. 아울러 머신러닝 알고리즘으로 테러 선전의 패턴을 파악해, 해당 콘텐츠가 뉴스피드에 닿기 전에 신속하게 삭제할 계획입니다.
이것이 인공지능 스펙트럼의 다른 면, 즉 인류에게 이익이 되는 방향입니다. 실제로 페이스북은 인스타그램, 왓츠앱 등 자사 플랫폼으로 이 기술을 확장할 계획이며, 마이크로소프트, 트위터, 유튜브 등 다른 기술 대기업들과도 협력하고 있습니다. 이를 통해 테러 조직의 디지털 지문 정보를 담은 데이터베이스가 구축될 것으로 기대됩니다.
함께 읽기: 인공지능이 소셜미디어 마케팅을 바꾸는 방법
인공지능의 미래를 놓고 보면, 이 기술은 이미 세상을 장악할 준비를 마쳤습니다. 그러나 이 기술의 사용과 오용은 전적으로 인간의 윤리적·법적 판단에 달려 있습니다. 지금까지 모든 전쟁의 근본 원인은 탐욕과 패권 욕망이었고, 전쟁과 집단학살, 대학살을 일으킨 것은 인간 자신이었습니다. 인간은 기술을 이용해 세계를 지배해 왔고, 이제는 기계가 자신들을 지배할까 두려워하는 것입니다.
미래는 여전히 미지수입니다. 그렇다면 앞으로 벌어질 전쟁을 미리 기계 탓으로 돌릴 수 있을까요? 기계를 통제하고 훈련해야 할까요, 아니면 오히려 인간에게 인륜을 기억하라고 요구해야 할까요? 기계가 정말 인간의 지능을 넘어설 수 있을까요? 이 질문들에 대한 답은 결코 쉽지 않습니다. 우리가 할 수 있는 일은 이 기술이 테러리스트의 손에 넘어가지 않도록 관리하면서 미래를 향해 나아가는 것뿐입니다.