온라인상의 정체성이 곧 나 자신과 직결되는 요즘, 자신의 모습이 완벽하게 복제될 수 있다는 가능성은 누구에게나 불안한 일입니다. 그런데 딥페이크 기술의 등장으로 이것은 이제 현실이 되었습니다.
딥페이크 제작 기술이 점점 저렴해지고 사용하기 쉬워지는 지금, 딥페이크는 어떤 위험을 안겨줄까요? 그리고 진짜 영상과 딥페이크를 어떻게 구별할 수 있을까요?
딥페이크란 무엇인가?
딥페이크(Deepfake)는 영상이나 이미지 속 인물의 얼굴을 다른 사람의 모습으로 바꿔치기한 미디어를 의미합니다. '딥러닝(Deep Learning)'과 '가짜(Fake)'를 합친 용어로, 머신러닝 알고리즘과 인공지능(AI)을 활용해 실제와 거의 구분되지 않는 합성 미디어를 만들어냅니다.
가장 단순한 형태는 한 얼굴을 다른 모델의 몸에 입히는 수준이지만, 급속도로 발전한 현재에는 모르는 사람을 허위 성인 영상, 가짜 뉴스, 악질 장난 영상에 합성하는 심각한 사례까지 나타나고 있습니다.
딥페이크가 가져오는 6가지 위험
조작된 이미지는 예전부터 존재했습니다. 무엇이 진짜이고 무엇이 가짜인지 판단하는 것은 디지털 미디어 시대의 일상적인 과제였죠. 하지만 딥페이크가 만들어내는 문제는 차원이 다릅니다. 가짜 이미지와 영상에 그동안 없었던 수준의 정밀함을 더했기 때문입니다.
대중에게 처음 널리 알려진 딥페이크 사례 중 하나는 조던 필(Jordan Peele)이 버락 오바마 전 대통령을 연기하며 딥페이크의 위험성을 경고한 영상이었습니다. 해당 영상은 목소리가 어색하고 얼굴에 잔상이 남는 등 조악해 보이지만, 딥페이크 기술의 가능성을 보여준 대표적 예시입니다.
윌 스미스가 키아누 리브스 대신 '매트릭스'의 네오 역할을 맡았다면 어땠을까 하는 영상도 화제가 된 바 있습니다. 이 두 영상은 악의가 없으며, 수백 시간에 걸친 머신러닝 작업 끝에 완성된 것입니다. 하지만 동일한 기술은 학습할 시간과 컴퓨팅 파워만 있다면 누구나 사용할 수 있습니다. 초기에는 진입 장벽이 상당히 높았지만, 기술이 발전하고 진입 장벽이 크게 낮아지면서 딥페이크의 부정적·유해한 활용 사례가 늘어나고 있습니다.
1. 연예인을 합성한 가짜 성인물
딥페이크 기술이 초래하는 가장 큰 위협 중 하나는 합성 성인물, 즉 이른바 '딥페이크 포르노'입니다. 엠마 왓슨, 내털리 포트먼, 테일러 스위프트 등 유명 여성 연예인의 얼굴을 사용한 가짜 성인 영상이 수만 건에 달하며, 각종 성인 콘텐츠 사이트에서 수천만 회의 조회수를 기록하고 있습니다.
이 모든 영상은 딥페이크 머신러닝 알고리즘으로 연예인의 얼굴을 성인 배우의 신체에 합성한 것이지만, 정작 해당 사이트들은 아무런 제재 조치를 취하지 않고 있습니다.
딥페이크 탐지·분석 기업 센서티티(Sensity)의 CEO이자 최고 과학자인 조르조 파트리니(Giorgio Patrini)는 "사이트들이 이를 삭제하고 필터링할 강력한 이유가 생기기 전까지는 아무 일도 일어나지 않을 것"이라며 "수억 명이 이용하는 웹사이트에서 아무런 제재 없이 이런 자료를 올릴 수 있는 상황이 계속될 것"이라고 지적했습니다.
일부 딥페이크 제작자들이 주장하는 것과 달리, 이런 영상은 결코 피해자가 없는 콘텐츠가 아니며 명백한 착취 행위입니다.
2. 일반인을 합성한 가짜 성인물
연예인 합성물보다 더 심각한 문제는 무엇일까요? 바로 아무 잘못 없는 일반 여성의 얼굴을 도용한 가짜 성인물입니다. 센서티티의 조사에 따르면 메신저 앱 텔레그램(Telegram)에서 10만 건이 넘는 딥페이크 누드 이미지를 생성한 봇이 적발되었습니다. 상당수 이미지는 소셜미디어 계정에서 도용된 것으로, 친구, 여자친구, 아내, 어머니 등 일반인들의 사진이 악용되었습니다.
이 봇은 딥페이크 기술의 중대한 진전이기도 합니다. 사용자는 딥페이크, 머신러닝, AI에 대한 지식이 전혀 없어도 되며, 사진 한 장만 있으면 자동으로 합성 이미지가 만들어집니다. 게다가 이 봇은 여성 이미지에만 작동하며, 프리미엄 구독(더 많은 이미지 생성, 워터마크 제거) 요금도 터무니없이 저렴합니다.
연예인 딥페이크와 마찬가지로, 이런 이미지는 착취적이고 학대적이며 비도덕적입니다. 남편, 연인, 가족, 직장 동료, 상사의 메시지함으로 전달되어 삶을 무너뜨릴 수 있고, 협박과 공갈에 악용될 가능성도 매우 높습니다. 기존의 '복수 포르노' 문제에 더해 위협을 한층 가중시키는 셈입니다.
텔레그램에 이런 콘텐츠가 유통된다는 점 또한 문제입니다. 텔레그램은 사용자 개입을 최소화하는 프라이버시 중심 메신저로, 성인물 관련 봇 삭제 정책이 있음에도 이 사례에 대해서는 아무런 조치를 하지 않았습니다.
3. 허위 정보 및 낚시성 콘텐츠
조던 필이 오바마를 연기한 영상에서 그는 딥페이크의 위험성을 경고했습니다. 딥페이크 기술에 대한 가장 큰 우려 중 하나는, 지나치게 사실적인 가짜 영상이 실제 비극으로 이어질 수 있다는 점입니다.
극단적으로는 딥페이크 영상이 전쟁을 촉발할 수 있다는 지적도 나옵니다. 물론 극단적인 시나리오이지만, 다른 심각한 결과도 충분히 가능합니다. 예컨대 대기업이나 은행 CEO가 시장에 타격을 주는 발언을 하는 딥페이크 영상이 유포되면 주식 시장 폭락을 유발할 수 있습니다. 사람은 영상을 확인하고 검증할 시간이 있지만, 글로벌 시장은 뉴스에 즉각 반응하며 자동 매도 프로그램도 실제로 작동하기 때문입니다.
또 하나 고려해야 할 점은 '물량'입니다. 딥페이크 제작 비용이 점점 저렴해지면서, 동일 인물에 대해 서로 다른 분위기, 장소, 스타일로 같은 가짜 메시지를 반복해서 담은 대량의 딥페이크 콘텐츠가 쏟아져 나올 가능성도 커지고 있습니다.
4. 진짜 콘텐츠마저 가짜로 몰리는 문제
허위 정보의 확장판으로, 딥페이크가 놀라울 정도로 사실적이 될 경우를 생각해봐야 합니다. 그렇게 되면 내용과 무관하게 사람들은 영상이 진짜인지 의심하기 시작할 것입니다.
누군가 범죄를 저지르고 유일한 증거가 영상이라면, "그건 딥페이크야, 조작된 증거야"라고 주장할 수 있지 않을까요? 반대로 특정인을 함정에 빠뜨리기 위해 딥페이크 영상을 증거로 심어두는 경우도 가능합니다.
5. 가짜 전문가 프로필과 소셜 계정
이미 딥페이크로 만든 가짜 전문가 프로필 사례가 여러 번 적발되었습니다. 링크드인(LinkedIn)이나 트위터(X)에는 전략적으로 중요한 조직의 고위직으로 보이는 프로필이 존재하지만, 정작 그 사람은 실존하지 않으며 딥페이크 기술로 생성된 얼굴일 가능성이 높습니다.
다만 이것은 딥페이크 고유의 문제는 아닙니다. 정부, 첩보망, 기업들은 오래전부터 가짜 프로필과 페르소나를 활용해 정보를 수집하고, 의제를 밀어붙이고, 여론을 조작해 왔습니다.
6. 피싱, 소셜 엔지니어링 등 각종 사기
소셜 엔지니어링은 이미 보안 분야의 고질적인 문제입니다. 사람은 본능적으로 다른 사람을 믿고 싶어 합니다. 하지만 그 신뢰가 보안 침해와 데이터 유출로 이어질 수 있죠. 소셜 엔지니어링은 대개 전화 통화나 영상 통화 같은 직접적인 접촉을 필요로 합니다.
만약 딥페이크 기술로 임원의 얼굴과 목소리를 흉내 내어 보안 코드나 민감한 정보에 접근한다면, 딥페이크를 활용한 사기가 쏟아져 나오는 결과를 낳을 수 있습니다.
딥페이크를 식별하고 탐지하는 방법
딥페이크의 완성도가 높아지는 만큼, 이를 가려내는 능력이 점점 더 중요해지고 있습니다. 초기에는 화면 흐림, 영상 깨짐과 잔상 등 비교적 단순한 흔적이 있었지만, 기술 비용이 빠르게 하락하면서 이런 단서들도 줄어들고 있습니다.
딥페이크를 100% 완벽하게 탐지하는 방법은 아직 없지만, 활용할 만한 네 가지 팁이 있습니다.
- 디테일 확인: 딥페이크 기술이 아무리 좋아져도 여전히 어려워하는 부분이 있습니다. 특히 영상 속 세부 묘사, 즉 머리카락의 움직임, 눈동자의 움직임, 말할 때 볼 근육의 변화, 부자연스러운 표정 변화 등입니다. 눈 움직임은 특히 중요한 단서입니다. 초기에는 깜빡임이 큰 흔적이었지만 이제는 자연스럽게 처리되는 반면, 눈동자의 섬세한 움직임은 여전히 어색한 경우가 많습니다.
- 감정 표현: 디테일과 연결되는 요소로 감정이 있습니다. 누군가 강한 메시지를 전달할 때 실제 사람의 얼굴은 다양한 감정을 오가며 표현합니다. 딥페이크는 실제 사람만큼 깊이 있는 감정 표현을 재현하지 못합니다.
- 비일관성: 영상 화질은 역대 최고 수준입니다. 주머니 속 스마트폰도 4K 촬영과 전송이 가능하고, 정치 지도자가 성명을 발표한다면 최고급 촬영 장비가 갖춰진 공간에서 이루어집니다. 따라서 영상과 음성 모두에서 화질이 현저히 낮다면 그 자체로 큰 의심 신호입니다.
- 출처 확인: 해당 영상이 인증된 플랫폼에서 공개된 것인지 확인하세요. 소셜미디어 플랫폼은 인증 시스템을 통해 세계적으로 알려진 인물이 사칭당하지 않도록 하고 있습니다. 시스템에 허점이 있긴 하지만, 충격적인 영상이 어디에서 스트리밍되고 호스팅되는지 확인하면 진위를 가늠하는 데 큰 도움이 됩니다. 역방향 이미지 검색으로 해당 이미지가 인터넷의 다른 곳에도 퍼져 있는지 확인하는 방법도 효과적입니다.
딥페이크 탐지를 돕는 도구들
딥페이크 감별은 혼자 싸우는 싸움이 아닙니다. 주요 IT 기업들이 딥페이크 탐지 도구를 개발 중이며, 일부 플랫폼은 악성 딥페이크를 원천 차단하는 조치를 내놓고 있습니다.
예를 들어 마이크로소프트의 딥페이크 탐지 도구 '마이크로소프트 비디오 인증기(Video Authenticator)'는 몇 초 만에 영상을 분석해 진위 여부를 사용자에게 알려줍니다. 어도비(Adobe)는 콘텐츠에 디지털 서명을 할 수 있는 기능을 제공해 조작으로부터 콘텐츠를 보호할 수 있게 했습니다.
페이스북과 트위터(X)는 이미 악성 딥페이크를 금지하고 있고(윌 스미스 매트릭스 영상처럼 무해한 사례는 허용), 구글은 가짜 음성 클립에 대응하기 위한 음성 분석 도구를 개발하고 있습니다.
가짜 미디어 감별 능력을 키우고 싶다면, 다양한 가짜 판별 테스트를 통해 학습하는 것도 좋은 방법입니다.
딥페이크는 이미 우리 곁에, 그리고 더 정교해지고 있다
냉정하게 말해, 2018년 딥페이크가 대중화된 이후 그 주된 용도는 여성에 대한 악용이었습니다. 연예인 얼굴로 가짜 성인물을 만들든, 소셜미디어의 일반인 사진에서 옷을 벗기든, 그 본질은 전 세계 여성을 착취하고 조작하며 모욕하는 데 있습니다.
딥페이크의 확산은 이미 눈앞에 다가와 있습니다. 이 기술의 성장은 공공에 심각한 위협이 되고 있음에도, 그 물결을 막을 뚜렷한 방법은 아직 마련되지 않은 상황입니다.