세상은 수십 년간 영화에서 보아 온 그 모습처럼 AI가 일상을 장악하고 삶을 화려하게 바꿔주기를 서두르는 듯합니다. 하지만 우리는 그 이면에 있는 어두운 면을 의도적으로 외면하고 있는 것은 아닐까요? 인류를 시간문제로 집어삼킬 수도 있는 바로 그 측면 말입니다. 지금 이 시점에서 해킹, 바이러스, 악성코드가 주요 관심사인데, 과연 우리는 이 첨단 기술에 따라붙는 '악마'까지 대비하고 있을까요? AI가 우리를 능가하게 되면 어떻게 될까요? 어쩌면 우리는 스스로 무덤을 파고 있는 것일지도 모릅니다.
현재의 AI는 기본적인 기능만 수행하기 때문에 '협소 AI(Narrow AI)'라고 불립니다. 그런데 사실 이 단계만으로도 이미 상당한 위협이 될 수 있습니다. 가장 대표적인 예가 Siri입니다. 빠르고 때로는 재치 넘치는 답변으로 우리를 놀라게 하죠. 하지만 지금은 인터넷에서 데이터를 가져와 우리에게 전달해 줄 뿐입니다. 반면 강한 AI(Strong AI), 즉 아직 잠들어 있는 '휴면 AI'는 인지 기능을 갖추어 대화하고, 배우고, 심지어 추론까지 할 수 있게 됩니다. 잠깐! 이 단계에 도달하면 어떤 일이 벌어질지 한번 되짚어 볼 필요가 있습니다.
동전의 뒷면
이 기술이 발전하면서 가장 우려되는 것은 AI가 잘못된 손에 들어가는 일입니다. 무기가 처음 만들어졌을 때 그 의도는 아마 맹수 같은 외부의 위험으로부터 스스로를 지키는 것이었을 겁니다. 그러나 우리는 그 무기를 서로 겨누는 수준으로까지 나아왔습니다. 마찬가지로 AI가 사람들의 손에 의해 우리를 향해 사용된다면 어떻게 될까요?
인공지능은 살인을 목적으로 프로그래밍될 수 있습니다. 좋아하든 싫어하든, 이 기술은 얼마든지 잘못된 손에 넘어가 대량 살상을 초래할 가능성이 있습니다. Future of Life 재단에 따르면, 그런 무기화된 기술은 협소 AI 단계에서도 이미 가능하다고 합니다. 그렇다면 강한 AI가 등장하면 어떻게 될까요? AI는 자신에게 부여된 임무를 수행하는 데 방해가 된다고 여기면 인간을 장애물로 취급할 가능성도 있습니다.
IBM의 슈퍼컴퓨터 왓슨(Watson)이 좋은 예입니다. 방대한 데이터를 샅샅이 분석해 근거 기반의 결론에 도달하도록 설계되었습니다. 실제로 2011년에는 퀴즈 쇼 '제오파디(Jeopardy!)'에서 전 챔피언들을 꺾고 100만 달러를 차지했습니다. 놀랍지 않습니까? 그럴지도 모릅니다. 하지만 왓슨이 순식간에 접근할 수 있는 데이터의 방대함을 상상해 보세요. 그리고 만약 모든 데이터에 접근할 수 있게 된다면 어떤 일이 일어날까요?
오늘날 우리가 보고 있는 것은 기계가 특정 작업을 수행하도록 만드는 응용 AI(Applied AI)입니다. 데이터를 바탕으로 의료 진단을 내리거나 얼굴을 인식하는 식이죠. 아직 등장하지 않은 범용 AI(General AI)는 특정 유형의 데이터에서 결과를 도출하는 데 그치지 않고, 인간이 수행하는 거의 모든 작업을 해낼 수 있는 능력을 기계에 부여할 것입니다. 그렇다면 다음 질문이 자연스럽게 따라옵니다. 그럼 우리의 일자리는 어떻게 될까요?
관점을 바꿀 때가 된 걸까?
비관론의 예언자가 되고 싶은 것은 아니지만, 빌 게이츠나 일론 머스크 같은 거장들이 AI가 초래할 위협을 걱정하는 데에는 분명 이유가 있습니다. AI 발전 속도는 몇 년 전의 예측을 훌쩍 앞질러 나아가고 있습니다. 초지능(super intelligence)을 향해 질주하는 것보다 더 중요한 것은, 이 강력한 기술을 안전하게 통제하고 보호할 방법을 먼저 찾아내는 일입니다.
AI의 지능이 커질수록, 시간이 지나면서 그 목표가 우리와 다른 방향으로 정렬될 가능성이 있습니다. 그리고 이렇게 엇갈린 지능이 결국 무엇으로 이어질지 우리는 아무도 알 수 없습니다. 그런 미래가 오기까지 수십 년이 걸릴 수 있지만, 진짜 우려되는 점은 그것을 통제할 안전장치를 마련하는 데 훨씬 더 오랜 시간이 걸린다는 사실입니다.