얼마 전에 우리는 인공 지능의 이점에 대해 논의했습니다. 흥미롭게도 오늘 아침 나는 킬러 로봇을 멈추기 위한 캠페인으로 유명한 조직인 'The Future of Life Institute'에서 공개한 악몽 같으면서도 깨달음을 주는 영상을 보게 되었습니다. '이라는 제목의 이 단편 영화는 도축로봇 <엠>' , 자율 무기 개발의 어두운 면에 대한 인식을 높이려는 시도입니다.
이 비디오는 일부 사람들에게 너무 혼란스럽거나 머리가 곤두서게 보일 수 있지만 "위대한 기술 발전으로 우리는 어디로 가고 있습니까? ”
어떤 사람들은 이것을 허구라고 치부할 수도 있지만, 현존하는 고도로 발전된 군사 기술을 살펴보는 것은 분명히 가치가 있을 것입니다. 우리는 이것이 AI Apocalypse에 대한 당신의 모든 두려움을 완전히 현실로 보이게 만들 수 있음을 독자들에게 경고해야 합니다. 그럼 시작하겠습니다.
자율 무기
자율 무기는 치명적인 자율 무기, 치명적인 자율 무기 시스템, 치명적인 자율 로봇, 로봇 무기 또는 보다 정확하게는 킬러 로봇이라고도 하는 인간 조작자의 지시 없이 군사 목표물을 선택하고 공격하도록 설계된 군사 로봇 유형입니다. .
이 무기는 공중, 지상, 수중, 수중 또는 우주에서 작동할 수 있습니다. 현재 무기 시스템은 완전히 자율적인 특정 방어 시스템을 제외하고 여전히 공격에 상당한 수준의 인간 개입이 필요합니다.
인공 지능은 자율 무기의 중추입니다. 무서운 것은 그들이 스스로 결정을 내릴 수 있게 해주는 뛰어난 방어 시스템입니다. 명백한 바와 같이 이것은 우리의 안보와 자유를 정말로 파괴할 수 있습니다.
도축로봇
Slaughterbots는 영화에서 묘사된 로봇 드론 시스템에 주어진 이름으로, 인간의 개입 없이 사람을 죽일 수 있는 기능을 갖춘 드론의 고급 버전입니다. 손바닥 크기의 자율 드론으로 안면 인식 시스템과 탑재된 폭발물을 탑재해 추적할 수 없는 학살을 자행한다.
비디오는 국가의 방어 시스템을 돕기 위해 만들어진 일부 폭발물을 운반할 수 있는 기능을 갖춘 자율 소형 드론의 출시 회의로 시작됩니다. 그러나 비디오에서 다음은 가장 무서운 부분입니다. 이 기술 무기가 잘못된 손에 들어가 암살 도구로 사용되어 정치인, 정치 활동가 및 학생을 표적으로 삼으면 어떻게 됩니까?
도축 로봇에 사용되는 기술은 안면 인식, 자동 타겟팅, 인공 지능, 무기화된 항공 드론 및 회로 소형화와 같이 오늘날 실행 가능한 실행 가능한 시스템입니다.
우리의 기술력이 몰락의 원인이 될까요?
이 질문에 답하기는 어렵습니다. 우리 대부분에게 과학은 인류를 돕기 위한 것이지만 이 기술을 인류를 파괴하기 위한 무기로 사용하는 사람들도 있습니다. 영상에서 보여지는 만행은 오늘날 있을 수 없는 일이지만, 기술 발전의 궤적을 보면 그런 날이 머지 않았습니다.
이 영상은 자율 킬러 로봇으로 가득 찬 디스토피아적 미래를 그려냄으로써 우리에게 가상의 경고를 주기 위해 제작되었습니다. 이는 캘리포니아 버클리 대학의 스튜어트 러셀 교수와 미래 생명 연구소의 공동 노력입니다.
미래를 보호하기 위한 시도
이 영상은 자율 무기에 대한 논의를 위해 스위스 제네바에서 열리는 유엔 재래식 무기 협약(UN Convention on Conventional Weapons) 회의에 맞춰 이번 주 의도적으로 공개됐다. 연구원을 대신하여 자율 무기 시스템에 대한 글로벌 금지에 대한 지원을 구축하려는 시도입니다.
Future of Life Institute는 Elon Musk 및 Stephen Hawking과 같은 AI 회의론자들이 지원하는 과학자 및 비즈니스 리더 그룹에 의해 설립되었습니다. 첨단 기술로 인한 실존 적 위험을 완화하기 위해 노력하는 비영리 단체입니다. 현재 UN 안전보장이사회 상임 이사국 5개를 포함한 125개국이 협약의 결의를 존중하겠다고 약속했습니다.
안티 드론 기술을 연구하는 여러 회사가 있으며 정부는 특히 드론 무리의 형태로 AI가 제시하는 잠재적인 위협을 확실히 인식하고 있습니다.
킬러 로봇 중지 캠페인(Campaign to Stop Killer Robots)은 국제 사회를 일깨우고 비행 드론, 자율 주행 탱크 또는 자동 센트리 건으로 개발될 수 있는 치명적 자율 무기에 대한 전 세계적 금지를 제안하기 위해 이번 주 UN 회의에서 행사를 후원하고 있습니다.
비디오의 결론에서 Stuart Russell 교수가 말했듯이,
“방금 본 미래를 막을 기회가 있지만 행동할 수 있는 창은 빠르게 닫히고 있습니다. 기계가 인간을 죽이도록 선택하도록 허용하는 것은 우리의 안보와 자유를 파괴할 것입니다.”