얼마 전 우리는 인공지능(AI)이 가져다주는 이점에 대해 다룬 바 있습니다. 흥미롭게도 오늘 아침, 킬러 로봇 반대 캠페인으로 유명한 단체 '생명의 미래 연구소(Future of Life Institute)'가 공개한 영상 하나를 접하게 되었습니다. 이 짧은 필름 『슬로터봇(Slaughterbots)』은 자율 무기 개발이 지닌 어두운 면에 대한 인식을 높이려는 시도입니다.
이 영상은 일부에게 지나치게 불안하고 소름 돋는 경험이 될 수 있습니다. 하지만 동시에 우리에게 뜨거운 질문을 던집니다. “위대한 기술 발전의 물결 속에서, 우리는 대체 어디로 향하고 있는가?”
일부는 이를 단순한 SF로 치부할지 모릅니다. 그러나 실제로 존재하는 첨단 군사 기술들을 들여다본다면 이야기가 달라집니다. AI 종말론에 대한 두려움이 결코 근거 없는 것이 아님을 깨닫게 될 것입니다.
자율 무기(Autonomous Weapons)란?
자율 무기란 인간 조종자의 지시 없이 스스로 군사 목표물을 선정하고 공격하도록 설계된 군용 로봇을 말합니다. '치명적 자율 무기 체계(Lethal Autonomous Weapon Systems)', '치명적 자율 로봇', '로봇 무기' 등으로도 불리며, 더 직설적으로는 '킬러 로봇(Killer Robots)'이라는 이름으로 알려져 있습니다.
이러한 무기는 공중, 육지, 수상, 수중, 심지어 우주에서도 작동할 수 있습니다. 현재까지 대부분의 무기 체계는 공격 과정에서 상당한 수준의 인간 개입을 필요로 하지만, 일부 방어 시스템은 이미 완전한 자율 운용에 가깝습니다.
인공지능은 바로 이 자율 무기의 핵심 기반 기술입니다. 가장 두려운 점은 이들이 스스로 판단하고 결정을 내릴 수 있다는 사실입니다. 이는 우리의 안보와 자유에 치명적인 위협이 될 수밖에 없습니다.
슬로터봇: 영상 속 살인 드론
슬로터봇은 영상에 등장하는 로봇 드론 체계의 이름으로, 인간의 개입 없이 사람을 죽일 수 있는 능력을 갖춘 고도화된 드론입니다. 손바닥만 한 크기의 자율 드론에 안면인식 시스템과 탑재형 폭발물이 결합되어, 흔적조차 남기지 않는 학살을 감행합니다.
영상은 국방 역량 강화를 목적으로 폭발물 탑재가 가능한 초소형 자율 드론을 선보이는 신제품 발표회 장면으로 시작됩니다. 그러나 이후 전개되는 내용이야말로 가장 섬뜩한 부분입니다. 이 기술 무기가 잘못된 손에 넘어가, 정치인과 정치 운동가, 심지어 학생들을 겨냥한 암살 도구로 사용된다면 어떤 일이 벌어질까요?
주목할 점은 슬로터봇에 등장하는 기술들이 전부 허구가 아니라는 사실입니다. 안면인식, 자동 조준, 인공지능, 무장 항공 드론, 회로 소형화 기술은 오늘날 이미 실현되어 가동 중인 시스템들입니다.
기술적 우위가 우리의 몰락을 부를까?
이 질문에 답하기란 쉽지 않습니다. 대부분의 사람들에게 과학은 인류를 돕기 위한 도구이지만, 일부는 이를 인류 파괴의 무기로 사용하기도 합니다. 영상에 담긴 참상이 오늘날 즉시 현실화될 수 있는 것은 아니지만, 기술 발전의 현재 궤적을 고려하면 결코 먼 미래의 이야기라고만 할 수 없습니다.
이 영상은 자율 킬러 로봇으로 가득한 디스토피아적 미래를 묘사함으로써 허구의 형태를 빌린 경고 메시지를 전달합니다. 캘리포니아 대학교 버클리 캠퍼스의 스튜어트 러셀(Stuart Russell) 교수와 생명의 미래 연구소의 공동 작업 결과물입니다.
미래를 지키기 위한 노력
영상은 자율 무기를 논의하기 위해 스위스 제네바에서 열리는 유엔 특정 재래식 무기 협약(CCW) 회의와 맞춰 의도적으로 공개되었습니다. 연구진들은 이 회의를 통해 자율 무기 체계의 글로벌 금지에 대한 국제적 지지 기반을 구축하고자 합니다.
생명의 미래 연구소는 과학자와 비즈니스 리더들이 설립한 비영리단체로, 일론 머스크(Elon Musk)와 스티븐 호킹(Stephen Hawking)처럼 AI의 위험성을 경고해 온 인사들의 지원을 받고 있습니다. 이 단체는 첨단 기술이 초래할 수 있는 존재론적 위험을 완화하기 위해 활동하고 있습니다. 현재 유엔 안전보장이사회 5대 상임이사국을 포함한 125개국이 협약 결의안을 준수하겠다고 서약한 상태입니다.
한편 여러 기업들이 대(對)드론 기술 개발에 나서고 있으며, 각국 정부 역시 특히 드론 무리(drone swarm) 형태로 나타날 수 있는 AI의 잠재적 위협을 인지하고 있습니다.
킬러 로봇 반대 캠페인(Campaign to Stop Killer Robots) 역시 이번 주 유엔 회의에서 행사를 후원하며 국제 사회에 경각심을 일깨우고, 비행 드론·무인 전차·자동 경비총 등 다양한 형태로 개발될 수 있는 치명적 자율 무기의 전면 금지를 제안하고 있습니다.
영상의 마지막에서 스튜어트 러셀 교수는 이렇게 말합니다.
“당신이 방금 본 그 미래를 막을 기회가 우리에게는 있습니다. 하지만 행동해야 할 시간은 빠르게 사라지고 있습니다. 기계가 인간을 죽일지 스스로 선택하도록 허용한다면, 그것은 우리의 안보와 자유에 파괴적인 결과를 가져올 것입니다.”