요즘 얼굴 인식 기술은 더 이상 액션 영화 속 경찰이나 스파이만의 전유물이 아닙니다. 수많은 스마트폰 사용자가 매일 이 기술로 기기에 로그인하고, 공항에서는 여권 심사 과정에 관련 소프트웨어가 활용되고 있습니다.
얼굴 인식 덕분에 신원 확인과 스마트폰 잠금 해제가 한결 편리해졌습니다. 하지만 일부 사용자들은 자신의 온라인 사진이 이런 소프트웨어 개발에 몰래 사용될 수 있다는 사실을 우려하기 시작했습니다.
플리커(Flickr) 사용자라면, 내 사진이 얼굴 인식 기술에 사용되었는지 확인할 수 있는 온라인 도구가 등장했습니다. 그렇다면 만약 사용되었다면, 과연 무언가 조치를 취할 수 있을까요?
왜 내 온라인 사진이 얼굴 인식 소프트웨어에 사용될까?
얼굴 인식 기술을 테스트하려면 개발자에게 필연적으로 '얼굴' 데이터가 필요합니다. 그리고 흔히 온라인에 이미 공개된 사진을 가져와 기술이 제대로 작동하는지 확인하곤 합니다.
얼굴 인식 정확도를 높이려면 다양한 얼굴 데이터가 필요합니다. 성별, 피부색, 나이 등 여러 특징이 모두 고려되어야 하기 때문입니다.
대표적인 사진 공유 웹사이트인 플리커는 사진을 찾는 기업과 연구자들에게 매력적인 타깃입니다. 실제로 2019년에는 IBM이 플리커의 사진을 얼굴 인식 학습 프로그램에 사용했다는 보도가 잇달아 화제가 되었습니다.
IBM은 편향 문제를 개선하기 위해 다양한 인종과 특성의 얼굴을 활용하고자 했지만, 정작 사진 속 인물들에게 이미지 사용 동의를 구하지는 않았습니다.
NBC의 보도에 따르면, 해당 데이터베이스에 자신의 사진이 포함된 한 사진작가는 이렇게 말했습니다.
"내가 촬영한 사람들 중 누구도 자신의 사진이 이런 방식으로 사용되고 있다는 사실을 알지 못했다."
"IBM이 아무에게도 알리지 않고 이 사진들을 마음대로 사용할 수 있다는 건 상당히 수상한 일이다."
얼굴 인식 기술의 문제점
인종 편향은 얼굴 인식 기술을 둘러싼 가장 큰 논쟁거리 중 하나입니다. 2020년 하버드 대학교가 발표한 연구를 비롯해 이 문제를 심층적으로 파악하려는 연구들이 진행되어 왔습니다.
연구 결과에 따르면, '피부가 어두운 여성'으로 분류된 사람들은 모든 업체의 얼굴 인식 시스템에서 가장 낮은 정확도를 보였습니다.
이 연구는 또한 미국의 인종차별적 법집행 정책의 역사, 그리고 이러한 기술이 그 문제를 되풀이할 가능성까지 함께 살폈습니다.
흥미롭게도 IBM 역시 이런 우려를 직접 표명한 바 있습니다. 2020년 IBM은 얼굴 인식 시장에서 철수했으며, 당시 아빈드 크리슈나(Arvind Krishna) CEO는 미국 의회에 공개 서한을 보냈습니다.
서한에서 그는 "국내 법집행 기관이 얼굴 인식 기술을 사용해야 하는지, 그리고 어떤 방식으로 사용해야 하는지에 대한 국가적 논의"를 촉구했습니다.
IBM은 또한 다음과 같이 밝혔습니다.
"IBM은 대규모 감시, 인종 프로파일링, 기본적 인권과 자유의 침해, 그리고 신뢰와 투명성이라는 우리의 가치와 원칙에 어긋나는 모든 목적을 위해, 타 업체가 제공하는 얼굴 인식 기술을 포함한 어떠한 기술의 사용도 단호히 반대하며 결코 용납하지 않을 것입니다."
내 사진이 사용되었는지 확인하는 방법
플리커 계정이 있다면 exposing.ai라는 도구를 활용할 수 있습니다.
exposing.ai는 6개의 서로 다른 데이터셋에 흩어져 있는 300만 장이 넘는 플리커 사진을 검색해 줍니다. 이 플랫폼을 통해 자신의 사진이 다음과 같은 용도로 사용되었는지 확인할 수 있습니다.
- 얼굴 인식 기술 고도화
- AI 모델 학습
- 성능 테스트
확인하려면 exposing.ai 웹사이트에 접속하세요. 홈페이지 상단에 검색창이 나타납니다.
검색창에는 다음 중 아무거나 입력하면 됩니다.
- 플리커 사용자 이름
- 해시태그
- 사진 URL
정보를 입력하고 검색 버튼을 누르면, 몇 초 안에 내 사진의 사용 여부를 확인할 수 있습니다.
사진이 얼굴 인식에 사용되었다면 조치할 방법이 있을까?
안타깝게도 대부분의 경우 답은 '없다'입니다. 얼굴이 이미 공개된 데이터셋에 포함되어 버렸다면 삭제를 요청할 방법이 없습니다.
다만 앞으로 배포되는 데이터셋에는 자신의 사진이 포함되지 않도록 요청하는 방식으로, 같은 일이 반복되는 것은 막을 수 있습니다.
예를 들어 IBM이 사용했던 사진들은 원래 YFCC100M 데이터셋의 일부였습니다. 이 사진들은 크리에이티브 커먼즈(Creative Commons) 라이선스로 온라인에 공개되어 있었기 때문에, 일부 예외를 제외하면 자유롭게 사용될 수 있었던 것이죠.
당신의 얼굴도 얼굴 인식에 사용되었을까?
많은 사람들이 소셜 미디어에 자신의 얼굴이 노출되는 것조차 꺼립니다. 하물며 연구에 사용되는 것은 더욱 그렇습니다. 얼굴 인식 소프트웨어가 발전해야 하는 것은 분명한 사실이지만, 동의 없이 얼굴이 유통되는 것을 원치 않는 사용자의 입장도 충분히 이해할 수 있습니다.
이미 데이터셋에 얼굴이 사용되었다면 개인이 할 수 있는 일은 많지 않지만, 적어도 exposing.ai는 기업들의 인공지능 개발 실태와 데이터 수집 관행을 드러내는 데 도움을 줍니다.
현재로서는 어떤 플랫폼에든 콘텐츠를 올리기 전에 이미지 공유 권리와 라이선스를 먼저 확인하는 것이 최선입니다. 그 외에는 유사한 일이 반복되지 않도록 규제 변화를 기다릴 수밖에 없습니다.