수많은 사람들이 아무리 개인적인 내용이라도 AI 챗봇에 무엇이든 털어놓곤 합니다. 대부분 익명성이 보장되고 안전하며 비공개라고 믿기 때문입니다. 하지만 현실은 다릅니다. AI 챗봇의 '프라이버시'는 그리 비공개적이지 않으며, 최근 발생한 대규모 유출 사건이 이를 증명했습니다.
3억 건 이상의 채팅이 유출되다
여러 AI 모델을 기반으로 작동하는 인기 채팅 앱 'Chat & Ask AI'가 2026년 1월 충격적인 유출 사고를 겪었습니다. 한 사용자가 약 5천만 명의 앱 사용자 중 최소 절반에 해당하는 사람들의 3억 건이 넘는 채팅에 접근한 것입니다. 여기에는 일상적인 질문은 물론, 의료·정신 건강·금융, 심지어 불법 활동에 관한 매우 개인적인 대화까지 포함되어 있었습니다.
다행히 '해리(Harry)'라는 이름으로 활동하는 해당 연구자는 악의적인 목적으로 데이터에 접근한 것이 아니었습니다. 취약점을 알려 개발자가 수정할 수 있도록 하기 위한 선의의 행동이었죠.
그럼에도 이번 사건은 해커가 얼마나 쉽게 수백만 건의 '비공개' 채팅 메시지에 순식간에 접근할 수 있는지를 보여주는 사례였습니다.
이번 사례의 원인은 Chat & Ask AI의 구글 파이어베이스(Google Firebase) 설정 오류였습니다. 이런 문제는 흔한 편이며, 앱을 운영하는 코데웨이(Codeway)는 해리가 취약점을 알려준 직후 즉시 수정했습니다.
하지만 다음에 취약점을 발견하는 사람이 선의를 가지고 있으리라는 보장은 없습니다. 어느 날 당신의 '비공개' AI 채팅이 온 세상에 유출될 수도 있다는 뜻입니다.
이번이 처음도 아닙니다. 수십만 건의 그록(Grok) 비공개 대화가 구글 검색 결과에 노출된 적이 있고, ChatGPT 사용자들에게서도 비슷한 일이 벌어졌습니다.
원인은 때로 단순한 설정 오류입니다. 또 어떤 경우에는 사용자들이 채팅을 공유하면 특정 친구에게만 공유되는 것이 아니라 공개된다는 사실을 인지하지 못하기도 합니다. 예를 들어 많은 사용자가 메타 AI의 디스커버 피드(Discover Feed)가 친구에게만 채팅을 공유한다고 잘못 생각했지만, 실제로는 모든 사용자에게 공개되었습니다.
AI 챗봇은 생각보다 더 많은 데이터를 저장한다
챗봇들은 자주 데이터를 비공개로 유지한다고 주장하지만, 이용약관을 읽어보셨나요? 긴 서비스 약관과 개인정보 처리방침을 읽는 일은 분명 지루하지만 저는 반드시 읽습니다. 어떤 데이터가 왜 저장되는지 알아야 하기 때문입니다. 이 과정을 덜 번거롭게 만드는 요약 도구들도 있으니 적극 활용해 보시길 권합니다.
대부분의 경우 거부(opt-out)하지 않으면 채팅 내용은 AI 학습에 자유롭게 사용될 수 있습니다. 상호작용이 많을수록 AI 모델은 인간과 올바르게 소통하는 방법을 더 많이 배우고, 전반적으로 더 많은 정보를 축적합니다. 실제로 OpenAI는 일부 개인 데이터가 모델 학습에 사용될 수 있다고 명시하고 있습니다.
OpenAI가 설명하는 개인 데이터의 AI 학습 활용 방안
무료든 유료든 계정이 있다면 대부분의 AI 플랫폼은 다음과 같은 정보를 수집합니다:
- 이름, 사용자명, IP 주소, 브라우저 지문 등
- 선호하는 성격 설정, 좋아하고 싫어하는 것, 레시피 검색 시 알레르기처럼 나중을 위해 기억해달라고 요청한 정보 등 개인 취향 데이터
- 민감한 문서를 포함한 업로드 파일 데이터
- 주제와 관계없는 모든 채팅 내역
- AI 챗봇의 에이전트 기능으로 결제를 진행할 경우 금융 정보
다음 문제는 이 데이터가 무기한 저장된다는 점입니다. 채팅을 삭제했다고 해서 어딘가에 저장된 데이터가 사라지거나, 학습 및 맞춤형 경험 제공에 더 이상 사용되지 않는다는 보장은 없습니다.
그저 로봇과 대화하는 것뿐이라고 생각하기 쉽습니다. AI와 대화하는 게 편하다는 것도 이해합니다. 하지만 AI 챗봇의 프라이버시는 보장되지 않으며, 언젠가 실제 사람이 그 대화를 볼 수도 있습니다. 교훈은 명확합니다. AI와 대화할 때조차 당신은 결코 완전히 익명이 아니라는 것입니다.
서드파티 채팅 앱은 더욱 위험하다
구글, OpenAI, 메타 등 인기 AI 모델을 만드는 회사들이 완벽하게 안전하거나 프라이버시를 깊이 신경 쓴다고 말하려는 것은 아닙니다. 하지만 서드파티(제3자) 앱을 통해 AI 챗봇을 사용하기 시작하면 프라이버시 위험은 더욱 커집니다.
Chat & Ask AI 같은 앱은 여러 모델을 하나로 통합합니다. 모든 장점을 한곳에서 누릴 수 있는 좋은 방법이죠. 저 역시 Yupp처럼 이런 앱이 모델을 비교하고 어떤 모델이 가장 좋은 결과를 내는지 확인하는 데 매우 유용하다고 느꼈습니다.
다만 저는 제 데이터가 서드파티 앱뿐 아니라 사용 중인 모든 모델에 의해서도 수집된다는 점을 충분히 인지하고 사용합니다. 프라이버시는 결국 가장 약한 고리만큼만 안전합니다.
제 조언은 간단합니다. 서드파티 AI 채팅 앱으로 다른 모델에 접속할 때는 평소보다 더욱 신중해야 하며, 절대 개인적인 정보를 공유하지 마세요.
사용자들이 AI와 대화하면서 과도하게 정보를 공유하는 것은 놀랍지 않습니다. 실체가 없으니 무슨 상관일까 싶겠죠. 소셜 미디어를 예로 들어보겠습니다. 사용자들은 친구들만 자신의 게시물을 볼 것이라 생각합니다. 하지만 갑자기 회사가 논란이 될 만한 게시물을 보거나, 도둑이 '휴가 중' 게시물을 보고 빈집털이를 감행하는 현실을 마주하면 충격을 받죠.
온라인에 공유하는 모든 것은 언제든 공개될 수 있습니다. 개인정보 설정이 잠금에 도움은 되지만 보장은 아닙니다. 플랫폼에 취약점이 생기면 모든 것이 공개될 수 있습니다. 그리고 AI 플랫폼은 어떤 데이터를 학습에 사용하는지 명확히 밝히지 않는 경우가 많으므로, 다음 항목은 절대 공유하지 않기를 강력히 권합니다:
- 이름, 주소, 전화번호 등 개인을 식별할 수 있는 모든 정보
- 금융 관련 정보
- 보안 질문 답변, 비밀번호, 사용자명 (AI로 비밀번호를 생성하는 것도 피하세요)
- 불법 활동 관련 내용
- 업무나 개인 생활과 관련된 기밀 문서
- 정신 건강을 포함한 건강 정보
AI 챗봇의 프라이버시를 공개 포럼과 동일하게 생각하세요. 그렇게 인식하는 순간 훨씬 안전해집니다.
AI 챗봇을 안전하게 사용하는 방법
완전 오프라인으로 작동하는 AI 챗봇이 가장 안전한 선택입니다. 물론 기능은 제한적이지만, 모든 것이 로컬에서 처리되어 프라이버시 위험이 크게 줄어듭니다. 안드로이드 기기에서도 실행할 수 있습니다.
이것이 어렵다면 모델 제공사의 공식 채팅 앱을 이용하세요. 단순히 모델에 접근만 하는 서드파티 앱보다 개인정보 보호 법규를 더 잘 준수하는 경향이 있습니다.
가능하다면 채팅 기록 기능을 끄는 것도 권합니다. 챗봇이 학습하고 저장하는 정보량을 줄일 수 있습니다. 최소한이라도 사용이 끝난 후에는 채팅 기록을 삭제하는 습관을 들이세요.
프라이버시를 최우선으로 하는 AI 챗봇을 선택하는 것도 좋은 방법입니다. 예를 들어 프로톤(Proton)의 루모(Lumo) 챗봇은 제로 액세스 암호화를 사용해 채팅의 비공개를 보장합니다. 또는 브레이브(Brave)의 프라이빗 AI 검색을 이용하면 24시간 후 자동 삭제되는 암호화 채팅을 이용할 수 있습니다.
좋든 싫든 AI는 이제 우리 삶의 일부가 되었습니다. 이제 우리가 기억해야 할 것은 단 하나입니다. 컴퓨터와 대화한다고 해서 그 대화가 비공개로 유지되는 것은 아니라는 사실입니다.