Deepfakes 및 AI 생성 비디오가 여기에 있습니다. 그러나 지난 몇 년 동안 품질과 양이 증가하여 많은 사람들이 국가 안보와 개인 정보 보호에 대해 걱정하게 되었습니다.
그러나 익명의 온라인 사용자가 가짜 비디오를 사실적으로 만들려고 아무리 노력해도 고급 얼굴 인식 소프트웨어를 지나칠 수 없습니다. 지금까지.
속이는 얼굴 인식 API
한국 수원에 있는 성균관대학교의 연구원들이 현재의 딥페이크 기술의 품질을 테스트했습니다. 그들은 오픈 소스 및 일반적으로 사용되는 딥페이크 비디오 생성 소프트웨어를 사용하여 Amazon과 Microsoft API를 모두 테스트하여 성능을 확인했습니다.
연구원들은 할리우드 유명인의 얼굴을 사용했습니다. 견고한 딥페이크를 생성하기 위해 소프트웨어는 동일한 인물의 다양한 각도에서 많은 고품질 이미지를 필요로 하며, 이는 일반인보다 유명인이 훨씬 쉽게 획득할 수 있습니다.
연구원들은 또한 Microsoft와 Amazon의 API를 연구의 벤치마크로 사용하기로 결정했습니다. 두 회사는 유명인의 얼굴 인식 서비스를 제공하기 때문입니다. 그들은 공개적으로 사용 가능한 데이터 세트를 사용하고 8,000개가 넘는 딥페이크를 만들었습니다. 각 딥페이크 동영상에서 여러 얼굴 사진을 추출하여 API에 제출한 것이 문제입니다.
Microsoft의 Azure Cognitive Services를 통해 연구원들은 딥페이크를 사용하여 78%의 시간 동안 시스템을 속일 수 있었습니다. Amazon의 결과는 제출된 얼굴의 68%가 실제로 식별되어 약간 더 좋았습니다.
딥페이크 탐지기는 어떻습니까?
Deepfake 감지기는 deepfake와 거의 같은 방식으로 작동합니다. 감지기는 딥페이크 비디오를 감지하는 방법에 대해 기계 학습 모델을 사용하여 훈련된 소프트웨어입니다.
그러나 탐지기를 속이기 위해 초현실적인 비디오를 만드는 데 집중하는 대신 딥페이크는 이제 모든 프레임에 적대적인 예를 포함하여 AI 시스템을 혼란스럽게 할 수 있습니다. 실제로 이러한 유형의 딥페이크 공격은 성공률이 78~99%입니다.
악화되고 있습니다
Deepfakes는 기계 학습 응용 프로그램입니다. 조금이라도 설득력 있는 사진을 만들려면 같은 사람의 얼굴을 여러 각도에서 다양한 감정을 표현하는 수백 장의 이미지가 필요합니다.
방대한 양의 데이터가 필요하기 때문에 유명인이나 정치인처럼 온라인에 많이 존재하는 사람들만 위험에 처해 있다고 생각할 수 있습니다. 하지만 더 이상 그렇지 않습니다.
Deeptrace에 따르면 온라인 딥페이크의 수는 2019년 10월부터 2020년 6월까지 1년도 채 되지 않아 330% 증가했습니다. 말할 것도 없이 딥페이크 제조업체가 사용하는 소프트웨어와 알고리즘은 더욱 강력해지고 있으며 더 쉽게 사용할 수 있고 액세스할 수 있습니다.
누가 Deepfakes의 위험에 처해 있습니까?
딥페이크가 처음 주류가 되었을 때 주요 관심사는 개인 정보 보호와 국가 안보였습니다. 사람들은 정치인과 공무원의 동영상을 더 이상 신뢰할 수 없다고 두려워했습니다.
그러나 딥페이크의 보안 위험을 무시하는 것은 무책임한 일이지만 여러 설문조사에 따르면 딥페이크 제작자는 아직 정치를 방해하는 데 관심이 없습니다. 온라인 딥페이크 동영상의 대부분은 연예인 인터뷰의 웃긴 동영상과 영화 및 음란물이라는 두 가지 범주로 나눌 수 있습니다.
최근 연구가 API를 속일 수 있는 고품질 딥페이크를 보장하기 위해 유명인의 얼굴을 사용하여 수행되었지만, 그렇다고 해서 더 적은 데이터로 딥페이크를 만들 수 없다는 의미는 아닙니다. 물론, 고급 얼굴 인식 시스템을 속일 수는 없지만 다른 사람을 속일 만큼 충분히 설득력이 있습니다.
요즘은 사회적 존재감이 있는 사람이라면 누구나 딥페이크를 설득력 있게 만들 수 있습니다. 그들이 필요로 하는 것은 귀하의 사진 몇 장과 귀하가 출연한 비디오뿐입니다. 결과로 나오는 딥페이크의 품질은 낮을 수 있지만 여전히 실행 가능하고 해로울 수 있습니다.
미래는 아직 알 수 없음
딥페이크는 곧 사라지지 않을 것이기 때문에 딥페이크의 상태에 대해 많은 모순된 예측이 있습니다.
일부는 온라인에서 접하는 어떤 영상도 신뢰할 수 없는 종말론적 사이버 미래를 기대합니다. 다른 사람들은 딥페이크를 애니메이션에 비유하고 콘텐츠 제작에 미래가 있을 수 있다고 말하면서 더 낙관적입니다.