딥페이크와 AI 생성 영상은 이제 우리 일상 깊숙이 들어왔습니다. 지난 몇 년간 기술이 비약적으로 발전하면서 영상의 질과 양이 모두 급증했고, 이는 국가 안보와 개인 정보 보호에 대한 커다란 우려를 낳고 있습니다.
그동안 익명의 온라인 사용자들이 아무리 정교한 가짜 영상을 만들어도 첨단 안면 인식 소프트웨어를 통과하지 못하는 것이 당연하게 여겨졌습니다. 하지만 지금은 상황이 달라졌습니다.
안면 인식 API마저 속였다
한국 성균관대학교(수원 소재) 연구진은 현재 딥페이크 기술의 수준을 직접 테스트했습니다. 아마존과 마이크로소프트가 제공하는 안면 인식 API를 대상으로, 오픈소스로 공개되어 누구나 접근할 수 있는 딥페이크 영상 생성 소프트웨어를 활용해 두 시스템의 성능을 검증한 것입니다.
연구진은 할리우드 유명인들의 얼굴을 실험 대상으로 삼았습니다. 그럴듯한 딥페이크를 만들려면 같은 인물의 다양한 각도에서 촬영된 고품질 이미지가 대량으로 필요한데, 일반인보다 유명인의 사진이 훨씬 쉽게 구할 수 있기 때문입니다.
또한 마이크로소프트와 아마존 모두 연예인 얼굴 인식 서비스를 제공하고 있어 연구의 벤치마크로 적합하다고 판단했습니다. 연구진은 공개된 데이터셋을 활용해 총 8,000개가 넘는 딥페이크를 제작했고, 각 영상에서 여러 장의 얼굴 이미지를 추출해 해당 API에 제출했습니다.
그 결과는 충격적이었습니다. 마이크로소프트의 Azure Cognitive Services는 딥페이크에 의해 무려 78%의 확률로 속아 넘어갔습니다. 아마존의 결과도 크게 다르지 않아, 제출된 얼굴의 68%가 실제 인물로 인식되었습니다.
딥페이크 탐지기는 안전할까?
딥페이크 탐지기는 딥페이크 생성 원리와 비슷한 방식으로 작동합니다. 머신러닝 모델을 학습시켜 딥페이크 영상을 식별하도록 만든 소프트웨어입니다.
그러나 최근에는 초고화질 영상을 만들어 탐지기를 속이는 방식 대신, 모든 프레임에 '적대적 예제(adversarial examples)'를 삽입해 AI 시스템 자체를 혼란스럽게 만드는 기법이 등장했습니다. 실제로 이러한 유형의 딥페이크 공격은 78~99%에 달하는 높은 성공률을 보이고 있습니다.
기술 발전만큼 위협도 커진다
딥페이크는 머신러닝의 응용 기술입니다. 어느 정도 설득력 있는 영상을 만들려면 같은 인물의 얼굴을 다양한 각도와 표정으로 담은 수백 장의 이미지가 필요합니다.
막대한 데이터가 요구되다 보니, 온라인에 노출된 사진이 많은 연예인이나 정치인 같은 사람들만 위험에 처한다고 생각하기 쉽습니다. 하지만 이제는 더 이상 그렇지 않습니다.
딥페이크 분석 업체 Deeptrace에 따르면, 온라인에 유통되는 딥페이크 영상 수는 2019년 10월부터 2020년 6월까지 약 9개월 만에 무려 330%나 증가했습니다. 게다가 딥페이크 제작자들이 사용하는 소프트웨어와 알고리즘은 날로 강력해지고 있으며, 접근성도 한층 높아지고 있습니다.
딥페이크의 위험에 노출되는 사람은?
딥페이크가 처음 대중화됐을 때 가장 큰 우려 사항은 개인 정보 보호와 국가 안보였습니다. 정치인과 정부 관계자의 영상 자료를 더 이상 신뢰할 수 없게 되는 것에 대한 두려움이 컸습니다.
물론 딥페이크가 초래하는 보안 위협을 간과하는 것은 무책임한 태도입니다. 하지만 여러 조사 결과에 따르면 딥페이크 제작자들이 아직 정치 교란에 큰 관심을 두지 않는 것으로 나타났습니다. 온라인에 유통되는 딥페이크 영상 대부분은 크게 두 가지 범주로 나뉩니다. 유명인 인터뷰를 조작한 재미있는 영상과, 영화 및 선정적인 자료입니다.
최근 연구에서 API를 속일 만큼 고품질의 딥페이크를 만들기 위해 유명인의 얼굴을 사용했지만, 적은 데이터로도 딥페이크 제작이 불가능한 것은 아닙니다. 물론 이런 저품질 딥페이크로 첨단 안면 인식 시스템을 속이기는 어렵겠지만, 일반 사람들을 속이기에는 충분히 그럴듯할 수 있습니다.
오늘날에는 온라인에 흔적을 남긴 사람이라면 누구나 딥페이크 피해자가 될 수 있습니다. 몇 장의 사진과 본인이 출연한 영상 하나만 있으면 되기 때문입니다. 완성된 딥페이크의 화질이 낮더라도 제작 자체는 가능하며, 충분히 피해를 입힐 수 있습니다.
미래는 여전히 불확실
딥페이크는 당분간 사라질 기미를 보이지 않고 있으며, 그 전망에 관해서는 상반된 예측이 팽팽하게 맞서고 있습니다.
일부는 온라인에서 접하는 어떤 영상도 신뢰할 수 없는 종말론적 사이버 미래를 예상합니다. 반면 다른 이들은 딥페이크를 애니메이션 기술에 비유하며 콘텐츠 제작 분야에서 새로운 가능성을 열어줄 것이라고 낙관적으로 전망하기도 합니다.