인공지능(AI)은 지난 몇 년간 꾸준히 발전해 왔으며, 페이스북은 카메라 기능과 뉴스피드 분석 등 다양한 기능에 AI 기술과 개념을 접목시켜 왔습니다. 인공지능은 리소스 활용을 최적화하고 사용자 경험을 단순화해 사람들의 삶을 더 편리하게 만드는 것을 목표로 합니다. 소셜 미디어 분야에서 AI는 차세대 소통·상호작용 매체를 제공하고, 사용자가 소중한 사람들과 스마트하게 연결되도록 돕는 역할을 해왔습니다. 하지만 페이스북의 AI는 뉴스피드 필터링과 사용자 프라이버시 보호에 실패했고, 세계 최대 소셜 미디어 플랫폼에서 혐오 발언이 자유롭게 확산되도록 방치하며 윤리마저 위반했다는 비판을 받았습니다. F8 키노트 행사 2일차에는 페이스북 CTO 마이크 슈뢰퍼(Mike Schroepfer)의 진행으로 AI와 AI 보안 관련 내용이 행사 대부분을 차지했습니다. 그럼 페이스북이 향후 AI를 통해 어떤 계획을 가지고 있는지 살펴보겠습니다.
페이스북의 인공지능
페이스북이 인공지능을 활용하는 핵심 영역은 바로 뉴스피드 검토입니다. AI 기술은 혐오 발언, 폭력성, 인종차별, 정치 정보 등 페이스북의 가치관과 전 세계 법률에 위배되는 콘텐츠를 걸러내는 데 사용됩니다. 또한 AI는 사용자의 검색어, 선호도, 업데이트 내용을 분석해 적절한 광고를 노출하고, 친구 추천과 스폰서 게시물을 피드에 필터링해 넣습니다. 이것이 바로 페이스북 비즈니스 모델을 뒷받침하는 구조입니다.
페이스북의 AI 활용 방식
페이스북은 고급 자연어 처리(NLP) 기술을 활용해 AI를 학습시키고, 다양한 형식의 콘텐츠 간 차이를 이해하도록 돕고 있습니다. NLP는 다국어 임베딩(multilingual embedding)을 사용해 AI가 여러 언어로 작성된 콘텐츠를 이해하고, 전 세계 뉴스피드에서 유해 콘텐츠를 제거할 수 있게 합니다.
그 어려움
다국어 임베딩을 갖추고 있음에도 불구하고, 페이스북 AI가 모든 콘텐츠를 포착하기란 매우 어렵습니다. 세계에는 6천 개가 넘는 언어가 존재하며, 거의 비슷한 수의 민족 집단이 이를 사용하고 있습니다. 이렇게 방대한 언어 이해 능력을 AI에 학습시키는 것은 극히 어려운 일입니다. 페이스북의 AI는 시스템에 업로드된 라벨링된 데이터로부터 학습하는데, 데이터의 양이 방대하다 보니 개발자가 효과적인 학습을 위해 이를 라벨링하는 작업은 결코 쉽지 않습니다. 게다가 데이터 양이 커질수록 사람의 실수 가능성도 함께 커집니다.
사진·영상 데이터 학습의 난제
페이스북은 특히 인스타그램 인수 이후 이미지 이해 능력 면에서 크게 성장했습니다. 컴퓨터 비전과 파놉틱 피처 피라미드 네트워크(Panoptic FPN) 개념을 도입해 이미지의 모든 요소 구조를 파악할 수 있게 되었고, Panoptic FPN은 배경까지 포함한 이미지 구조까지 인식할 수 있는 수준에 이르렀습니다. 덕분에 페이스북 AI는 웹상에 이미지 형태로 존재하는 유해 콘텐츠를 걸러내는 능력이 한층 강화되었습니다.
하지만 영상 콘텐츠 이해는 여전히 페이스북 AI의 큰 약점입니다. 페이스북에 업로드·공유되는 영상을 통한 혐오 발언과 폭력성 차단 측면에서 머신러닝은 여러 수준에서 실패해 왔습니다. 페이스북은 해시태그를 데이터 라벨로 활용해 AI가 영상 콘텐츠에서 학습하거나, 적어도 해시태그 정보를 바탕으로 데이터의 관련성을 판단하도록 시도했다고 주장하지만, 아직 만족스러운 수준에는 미치지 못했습니다.
페이스북 AI는 어디서 실패하는가?
페이스북 AI는 지도 학습(Supervised Learning) 프레임워크로 운영됩니다. 즉, AI가 사람 개발자가 라벨링한 데이터셋으로부터 학습하는 방식입니다. 지난 몇 년간 페이스북 사용자 수는 지구 전체 인구의 약 3분의 1에 육박했습니다. 이는 문자, 오디오, 영상 형식의 막대한 데이터가 순식간에 페이스북에 업로드된다는 의미이며, AI는 이 콘텐츠를 실시간으로 평가해야 하는 임무를 맡고 있습니다. 사람이 개입하는 만큼 철저한 검토 과정에서도 데이터 라벨링 지연이나 AI가 읽어 들이는 데이터셋의 결함이 발생할 수 있습니다. 이는 콘텐츠 감지 오류로 이어질 수 있으며, 업로드되는 모든 사용자 콘텐츠에 대해 AI가 동일한 방식으로 작동하지 않을 가능성도 있습니다.
자기지도 학습 AI: 유해 콘텐츠 제거를 위한 페이스북의 대안
F8 2019 2일차에서 CTO 마이크 슈뢰퍼는 페이스북이 자기지도 학습(self-supervised learning)을 지원하는 시스템 설계를 위해 연구자와 개발자들을 이끌고 있다고 발표했습니다. 이러한 AI 시스템은 데이터셋과 라벨링 없이도 정보를 이해할 수 있어, 스스로 의존하고 스스로 인식하는 능력을 갖추게 됩니다. 자기지도 학습 AI에는 대량의 데이터를 입력할 수 있지만, 모든 데이터가 원본 그대로 입력되는 것은 아닙니다. AI 머신의 학습 모듈을 설계하려면 콘텐츠나 데이터에서 일부 정보 조각을 제거한 뒤, 머신이 스스로 빠진 부분을 알아내도록 해야 합니다. 이런 방식의 학습은 머신이 페이스북에 올라오는 콘텐츠의 관련성을 높이고, 정책과 법률에 대해 더 정교하게 검증할 수 있게 해줍니다.
포용적 AI 학습: AR 사업의 윤리성과 보안 강화
페이스북은 Portal과 Spark AR을 통해 AR·VR 기술 사업에 큰 야심을 품고 있습니다. 하지만 스마트 기술이 훌륭한 사용자 경험을 제공하려면 그에 걸맞은 스마트한 AI가 필요합니다. Portal 카메라는 증강 현실 개념으로 설계되었으며, 차세대 안면 인식과 스마트 화상 통화 플랫폼의 핵심이 될 예정입니다. 그러나 이 카메라와 AR/VR 헤드셋이 사용자의 명령을 이해하는 데 편향을 보이는 것으로 나타났습니다. 렌즈가 피부색과 성별을 구분하면서 모든 사용자에게 동등한 경험을 제공하지 못했고, 이는 곧 인종·성별 차별로 이어집니다. 전 세계적인 비판을 겪은 상황에서 이런 문제는 페이스북이 절대 원하지 않는 결과입니다.
이에 페이스북은 이 문제를 해결하기 위해 포용적(inclusive) AI를 구축하겠다고 발표했습니다. 이를 위해 나이지리아계 미국인 라데 오바메힌티(Lade Obamehinti)가 페이스북 AR/VR 부문 전략 부서를 이끌고 있습니다. 연구진은 다양한 피부색을 가진 사람들을 대상으로 서로 다른 조명 환경에서 AI 카메라를 테스트해, AI의 학습 모듈에 오류나 변동 없이 포용성이 내재되도록 검증할 계획입니다.
페이스북은 왜 AI에 공을 들여야 하는가?
페이스북은 사용자 데이터가 악용되고, 그 데이터가 임원들의 코앞에서 마케터와 광고주에게 팔리도록 방치했습니다. 이후 시스템 장애를 겪었고, 수백만 명의 사용자 비밀번호가 평문(plain text)으로 노출되는 사고도 일어났습니다. 그리고 뉴질랜드 크라이스트처치에서 한 남성이 모스크에서 사람들을 총으로 살해하는 장면을 페이스북에 생중계하면서, 개발자들의 AI 역량 부족과 무관심은 극에 달했습니다. 해당 영상은 스트리밍되었고, 사람들이 다운로드할 충분한 시간 동안 페이스북 뉴스피드에 그대로 남아 있었습니다.
페이스북은 이미 수많은 반발에 직면했고 그 과정에서 수십억 달러의 손실을 입었습니다. 그래서 올해 F8 행사 1일차에서 마크 저커버그는 '프라이버시'라는 단어를 수없이 반복했던 것입니다. 페이스북은 이미 신뢰를 잃었고, 전 세계 사용자와 정책 입안자들의 인내 한계마저 넘어섰습니다. 페이스북이 AI가 콘텐츠를 제대로 이해하도록 만들지 못한다면, 향후 몇 년 안에 서비스 중단이라는 최악의 시나리오에 직면할 수도 있습니다.
어쩌면 그래서 페이스북은 CTO를 무대에 종일 세워두고, 사용자 보호를 위해 어떤 노력을 하고 있는지 알림으로써 사용자를 안심시키려 했던 것일지도 모릅니다.
이번 변화는 성공할 수 있을까?
저커버그 스스로 이런 변화가 하룻밤 사이에 이루어지지 않을 것임을 인정했습니다. 페이스북은 AI의 결함을 완전히 없애고 혐오 콘텐츠를 영구적으로 제거하려면 비즈니스 모델 자체를 바꿔야 할 수도 있습니다. 연구는 진행 중이며, 이러한 학습 모듈의 개발은 아직 초기 단계에 머물러 있습니다. 그러나 분명히 말할 수 있는 것은, 페이스북이 이런 문제를 진지하게 받아들이기 시작했다는 점입니다. 이것이 우선순위로 유지된다면, 회사는 올해 F8에서 임원들이 약속한 바를 실현할 수 있을지도 모릅니다.
이제 페이스북이 FB 콘텐츠를 이해하기 위한 새로운 기술과 더 나은 AI 학습 모듈을 내놓을 때입니다. 특히 페이스북과 완전 소유 플랫폼·제품의 사용자가 날로 증가하고 있는 상황에서 더욱 그렇습니다. 페이스북이 채팅·소통 서비스와 함께 광고 및 인플루언싱 포털로 변모한 지금, 서버의 데이터는 분류와 라벨링의 한계를 넘어섰습니다. 페이스북의 이번 조치들이 회사에 도움이 될까요? 답은 그리 간단하지 않을 것입니다. 그때까지 우리가 할 수 있는 것은 저커버그가 말한 대로 실천하는지 지켜보는 일입니다.