이 전체 이야기는 2018년 8월 22일 UC 버클리의 연구원들이 발표한 논문으로 시작하여 컴퓨터가 "디지털 골격"을 인간의 모습에 겹쳐서 사람을 잘 춤추게 만드는 방법을 보여줍니다. 재미있을 것 같죠?
왼발이 두 개인 우리 중 누가 다음 마이클 잭슨처럼 춤을 추는 동영상을 보여주고 싶지 않겠습니까? 그러나 인공 지능을 비디오 편집 및 렌더링 소프트웨어와 혼합한다는 사실은 기술이 남용될 경우 꽤 불길한 영향을 미칠 수 있습니다.
연구원의 작업 소개
앞서 언급한 연구원들이 발표한 논문은 기본적으로 한 사람의 움직임을 다른 사람에게 효과적으로 중첩하여 "다른 비디오에서 인간 피험자 간의 움직임을 전송"하는 데 기계 학습을 사용할 수 있는 방법을 보여줍니다. 여기에서 작업 결과를 볼 수 있습니다.
버릇없고 다소 우스꽝스러워 보이지만 이러한 기술이 계속 발전함에 따라 우리가 직면할 수 있는 현실은 미래의 사회로서 우리에게 도전이 될 수 있습니다. 비록 이것이 개념을 구현하는 비디오 편집 기술의 시연이라고 말하면서 "AI"라는 용어를 느슨하게 사용하고 있지만, 이것은 확실히 인공 지능의 선구자 중 하나입니다(예:상황에서 누군가를 "상상"). .
딥페이크에 대해 이야기합시다
YouTube에서 "딥페이크"를 검색어로 사용하면 유명인의 얼굴 교환과 그 자리에서 제작된 반쯤 설득력 있는 위조를 보여주는 작업 친화적인 비디오를 많이 찾을 수 있습니다. 이것은 종종 좋은 유머로 수행되지만 모든 사람이 이 소프트웨어에 대해 좋은 의도를 갖고 있는 것은 아닙니다.
Deepfakes는 개인의 얼굴 프로필을 가져와 다른 사람의 얼굴에 겹쳐 씁니다. 우리가 이것을 가지고 어디로 가는지 알 수 있고, 만약 당신이 할 수 없다면 여기 있습니다:이 기술을 사용하여 다른 사람들의 "리벤지 포르노" 비디오를 만들어 그들이 매우 위협적인 상황에 연루되도록 하는 많은 사람들이 있습니다. 노골적인 콘텐츠에 자신의 초상이 붙어 있는 것을 발견하고 의지할 수 없습니다. 비디오에서 무슨 일이 일어나고 있는지 완전히 그들이 한 것처럼 보입니다.
더 발전된 오버레이 기술은 컴퓨터가 가상 골격을 그릴 수 있게 하여 악의적인 행위자가 잠재적으로 위태로운 상황에 사람 전체를 중첩시킬 수 있도록 합니다. 우리가 끝내는 것은 증거를 조작하는 데 사용할 수 있는 도구 모음입니다. 범인은 범죄 현장 영상에서 다른 사람처럼 보이게 만들 수 있습니다.
법적으로 어떤 영향을 미치나요?
대부분의 국가에는 사건의 위조 또는 거짓 증인을 명확하게 정의하는 법률 시스템이 이미 마련되어 있습니다. 개인의 "가상 사칭"과 관련하여 이러한 기술을 사용하여 비디오를 수정하는 것은 이미 이러한 법률의 범위에 속합니다.
법원이 비디오 증거를 인정할 때 상황이 복잡해집니다. 지금 우리가 비디오를 치료할 수 있는 기술이 있다면 5년 후에 우리가 무엇을 할 수 있을지 상상해 보세요. 법원은 제출된 비디오를 어떻게 신뢰할 수 있다고 간주할 수 있습니까? 복제품을 원본과 똑같이 만드는 것은 그리 어렵지 않습니다. 결국 모든 것이 디지털입니다.
법원은 이미 비디오 증거를 사건 파일로 받아들이는 것을 매우 꺼려하고 있습니다. 이러한 기술의 발전은 조작된 것을 받아들이는 것을 두려워하여 비디오에 포착된 어떤 것도 믿을 수 없는 지경에 이르게 할 수 있습니다.
결국 우리가 좋든 싫든 이 새로운 종류의 기술이 우리와 함께할 것으로 보이며 그에 따라 적응해야 합니다. 우리가 취할 수 있는 첫 번째 단계 중 하나는 비디오가 80년대로 돌아가던 때보다 훨씬 더 적은 리소스와 기술 요구 사항으로 훨씬 더 쉽게 위조될 수 있다는 사실을 널리 알리는 것입니다. 결국 사람들은 자신이 보는 동영상에 대해 더 회의적일 것입니다.
<블록 인용>“기술은 점점 더 발전하고 있습니다. 사람들은 두려워할 것입니다. 그리고 그들에게 진심으로 공감합니다. 그러나 기술은 발명되지 않을 수 없기 때문에 우리는 그것을 발전시켜야 합니다. 저는 딥페이크 알고리즘 자체와 현재 사용되는 용도보다는 그 잠재력을 훨씬 더 지지합니다. 하지만 다시 인터넷에 오신 것을 환영합니다.”
이것은 특정 Reddit 사용자가 2018년 2월에 게시된 기사에서 Verge에게 말한 내용입니다.
우리가 어떻게 인식을 확산시켜야 한다고 생각합니까? 적응하려면 또 무엇을 해야 합니까? 이 토론을 댓글로 합시다!