이 이야기는 2018년 8월 22일 UC 버클리(UC Berkeley) 연구진이 발표한 논문에서 시작됩니다. 이 논문은 컴퓨터가 사람의 모습 위에 '디지털 스켈레톤'을 입혀 마치 그 사람이 춤을 잘 추는 것처럼 보이게 만드는 기술을 시연했습니다. 재미있어 들리시나요?
춤에 서툰 우리라면 누구나 자신이 다음 세대의 마이클 잭슨처럼 춤추는 영상을 만들어 보고 싶어 할 것입니다. 하지만 인공지능(AI)과 동영상 편집·렌더링 소프트웨어가 결합되는 이 기술은, 악용될 경우 상당히 불길한 결과를 낳을 수 있다는 점이 문제입니다.
연구진의 성과 소개
앞서 언급한 논문은 본질적으로 머신러닝을 활용해 '서로 다른 영상 속 인물들 간에 움직임을 전이'하는 방법을 보여준 사례입니다. 즉, 한 사람의 동작을 다른 사람에게 그대로 덧씌우는 것이죠. 연구 결과는 아래에서 확인할 수 있습니다.
결과물은 다소 어색하고 우스꽝스러워 보입니다. 하지만 이런 기술이 계속 발전한다면, 우리 사회가 마주하게 될 현실은 결코 가볍지 않을 수 있습니다. 물론 'AI'라는 용어를 넓은 의미로 사용하고 있는 것은 사실입니다. 이는 특정 상황 속에 누군가를 '상상해 내는' 개념을 구현한 영상 편집 기법의 시연이지만, 분명 인공지능으로 이어지는 선구적 기술 중 하나임에는 틀림없습니다.
딥페이크(Deepfake)란 무엇인가
유튜브에서 '딥페이크'를 검색해 보면, 유명인의 얼굴을 바꿔치기한 영상이나 그럴듯하게 만들어진 조작 콘텐츠를 업무 환경에서도 볼 수 있을 만큼 많이 찾아볼 수 있습니다. 대부분은 유머를 위한 것이지만, 이 소프트웨어를 선의로 사용하는 사람만 있는 것은 아닙니다.
딥페이크는 한 사람의 얼굴 정보를 추출해 다른 사람의 얼굴 위에 덧씌우는 기술입니다. 이것이 어디로 흘러갈지 짐작이 가실 겁니다. 실제로 상당수 사람들이 이 기술을 이용해 타인의 '복수 포르노(revenge porn)' 영상을 제작합니다. 피해자는 자신의 얼굴이 선정적인 콘텐츠에 합성된 끔찍한 상황에 놓이면서도 대응할 방법조차 없습니다. 영상 속 장면을 마치 본인이 직접 저지른 것처럼 완벽하게 보이기 때문입니다.
더 진보된 오버레이 기술이 발전하면 컴퓨터가 가상 스켈레톤을 생성해, 악의적인 행위자가 온전한 한 사람의 모습을 잠재적으로 불온한 상황에 통째로 합성하는 것도 가능해집니다. 결국 우리는 증거를 조작하는 데 쓰일 수 있는 도구들의 칵테일을 손에 쥐게 되는 셈입니다. 범죄 현장 영상 속 총기를 든 인물이 전혀 다른 사람으로 보이게 만드는 것도 가능하다는 뜻입니다.
법적으로는 어떤 영향을 미칠까?
대부분의 국가에는 이미 사건의 위조나 거짓 증언을 명확히 규정하는 법 체계가 갖춰져 있습니다. 개인의 '가상 사칭(virtual impersonation)'과 관련해서도, 이러한 기술로 영상을 변조하는 행위는 이미 해당 법률의 적용 범위에 속합니다.
문제가 복잡해지는 지점은 법원이 영상 증거를 채택하는 단계입니다. 지금의 기술로도 영상을 이 정도로 조작할 수 있다면, 5년 후에는 무엇이 가능할지 상상해 보십시오. 법원이 제출된 영상을 신뢰할 수 있다고 판단할 수 있을까요? 디지털 데이터로 이루어진 영상에서는 원본과 똑같이 행동하는 복제본을 만드는 일이 그리 어렵지 않습니다.
사실 법원은 이미 영상 증거의 채택에 매우 신중한 태도를 보여왔습니다. 이러한 기술의 발전은 법원을 더욱 불신의 늪으로 밀어넣어, 조작된 영상을 받아들일까 두려워 나중에는 영상으로 촬영된 어떤 것도 믿지 못하는 지점까지 갈 수도 있습니다.
결국 우리가 좋아하든 아니든, 이 새로운 기술은 우리 곁에 남을 것이며 그에 맞춰 적응해야 할 것입니다. 첫걸음 중 하나는, 과거 80년대와 달리 요즘은 훨씬 적은 자원과 숙련도만으로도 영상을 조작할 수 있다는 사실을 널리 알리는 것입니다. 시간이 지나면 사람들은 접하는 영상에 대해 더욱 회의적인 시선을 갖게 될 것입니다.
"이 기술은 갈수록 정교해지고 있습니다… 사람들은 두려움에 떨겠죠. 저도 그들에게 진심으로 공감합니다. 하지만 한번 발명된 기술을 없었던 일로 만들 수는 없으니, 우리는 함께 나아갈 수밖에 없습니다. 저는 딥페이크 알고리즘 자체와 그 잠재력, 그리고 현재의 악용 사례보다 알고리즘의 가능성을 훨씬 더 지지하는 입장입니다. 하지만 어쨌든, 인터넷의 세계에 오신 것을 환영합니다."
2018년 2월 더 버지(The Verge)가 보도한 기사에서 한 레딧(Reddit) 사용자가 남긴 말입니다.
여러분은 이러한 인식을 어떻게 확산시켜야 한다고 생각하시나요? 적응하기 위해 우리가 또 무엇을 해야 할까요? 댓글로 여러분의 생각을 나눠 주세요!