수많은 사람들이 AI 챗봇을 사용하여 아무리 개인적인 내용이라도 모든 것을 논의했습니다. 주로 그들은 그것이 익명이고 안전하며 비공개라고 생각합니다. 사실, AI 챗봇의 개인 정보 보호는 그렇게 사적이지 않으며 최근의 대규모 침해 사고가 이를 증명합니다.
목차
3억 개가 넘는 채팅이 노출되었습니다
여러 AI 모델로 구동되는 매우 인기 있는 채팅 앱인 Chat &Ask AI는 2026년 1월에 충격적인 침해를 경험했습니다. 한 사용자는 5천만 명의 앱 사용자 중 최소 절반이 넘는 3억 개가 넘는 채팅에 액세스했습니다. 여기에는 의료, 정신 건강, 금융, 불법 활동을 포함한 일상적인 질문과 훨씬 더 많은 개인 채팅이 포함되었습니다.
좋은 소식은 단순히 Harry라는 이름을 사용하는 연구원이 악의적인 목적으로 앱 데이터에 액세스하지 않았다는 것입니다. 대신 그는 개발자가 수정할 수 있도록 취약점을 노출시키기 위해 그렇게 했습니다.
그러나 이 취약점은 해커가 수백만 개의 개인 채팅 메시지에 단번에 접근하는 것이 얼마나 쉬운지 보여줍니다.
이 경우 Chat &Ask AI에 Google Firebase 구성 문제가 있었습니다. 이는 흔한 일이며, 앱을 개발한 회사인 Codeway는 Harry가 취약점을 알린 후 즉시 문제를 해결했습니다.
다음에 누군가 취약점을 발견하더라도 이전과 같이 끝나지 않을 수 있습니다. 이는 귀하의 "비공개" AI 채팅이 전 세계로 유출된다는 의미일 수 있습니다.
이번 침해나 유출은 처음이 아니다. 수십만 개의 비공개 Grok 대화가 Google 검색 결과에 나타났습니다. ChatGPT 사용자에게도 비슷한 일이 일어났습니다.
때로는 단순한 구성 오류일 수도 있습니다. 다른 경우에는 사용자가 채팅을 공유하는 방식을 이해하지 못하고 선택한 친구뿐만 아니라 공개적으로 공유하는 경우도 있습니다. 예를 들어, 많은 사용자들은 Meta AI의 Discover Feed가 친구들과의 채팅만 공유한다고 잘못 생각했습니다. 대신 채팅은 모든 사용자와 공유되었습니다.
AI 챗봇은 생각보다 많은 것을 저장합니다
챗봇은 종종 귀하의 데이터를 비공개로 유지한다고 주장하지만 해당 약관을 읽었습니까? 나는 긴 서비스 약관과 개인 정보 보호 정책을 읽는 것을 싫어하지만 어쨌든 읽습니다. 어떤 데이터가 왜 저장되는지 알고 싶습니다. 이 과정을 덜 지루하게 만드는 방법이 있는데, 제가 강력히 추천하는 방법입니다.
대부분의 경우, 귀하가 선택을 해제하지 않는 한 귀하가 대화하는 모든 내용은 AI 교육을 위한 공정한 게임입니다. 더 많이 상호 작용할수록 AI 모델이 인간과 올바르게 상호 작용하는 방법에 대해 더 많이 학습합니다. 그들은 또한 전반적으로 더 많은 정보를 얻습니다. 예를 들어 OpenAI는 일부 개인 데이터가 모델 훈련에 사용될 수 있다고 명시합니다.
개인 데이터가 AI 훈련에 어떻게 사용될 수 있는지에 대한 OpenAI의 설명입니다. 무료 또는 프리미엄 계정이 있는 경우 대부분의 AI 플랫폼은 다음을 수집합니다:
- 이름, 사용자 이름, IP 주소, 브라우저 지문 등
- 개인 선호 사항(예:선호하는 성격, 좋아하는/불호하는 것, 조리법을 검색할 때 알레르기 등 나중에 참고할 수 있도록 기억하도록 지시한 사항)
- 민감한 문서를 포함하여 업로드된 파일의 데이터
- 무엇에 관한 것이든 모든 채팅
- 구매를 위해 AI 챗봇의 에이전트 기능을 사용하는 경우 재정 세부정보
다음 문제는 이 데이터가 무기한 저장된다는 것입니다. 채팅을 삭제할 수도 있지만 그렇다고 해당 내용이 아직 어딘가에 저장되지 않고 교육이나 개인화 경험에 사용되지 않는다는 의미는 아닙니다.
그냥 로봇과 대화하고 있다고 생각하기 쉽습니다. 알겠습니다. AI와 채팅하는 것은 쉽습니다. 그러나 이러한 AI 챗봇의 개인정보 보호는 보장되지 않으며 언젠가는 실제 인간이 이러한 채팅을 볼 수도 있습니다. 교훈은 AI와 대화할 때에도 결코 진정한 익명이 될 수 없다는 것입니다.
제3자 채팅 앱은 더욱 위험합니다
나는 Google, OpenAI, Meta 또는 인기 있는 AI 모델을 지원하는 다른 회사가 완전히 안전하거나 귀하의 개인 정보를 전혀 보호한다고 주장하지 않습니다. 하지만 타사 앱을 통해 AI 챗봇을 사용하기 시작하면 개인정보가 더욱 위험해질 수 있습니다.
Chat &Ask AI와 같은 앱은 여러 모델을 하나로 결합합니다. 한 곳에서 모든 장점을 최대한 활용할 수 있는 좋은 방법입니다. 저는 Yupp처럼 모델을 비교하고 어떤 것이 최상의 결과를 제공하는지 확인하는 데 매우 유용한 이러한 앱을 발견했습니다.
나는 내 데이터가 타사 앱뿐만 아니라 내가 사용하는 모든 모델에서도 수집된다는 점을 충분히 알고 있습니다. 귀하의 개인 정보는 가장 약한 링크만큼만 안전합니다.
제 조언은 타사 AI 채팅 앱을 사용하여 다른 모델에 액세스할 때마다 더욱 주의하라는 것입니다. 개인적인 내용은 절대 공유하지 마세요.
AI와 채팅할 때 사용자가 지나치게 공유하는 것은 놀랍지 않습니다. 현실이 아닌 것 같은데 무슨 해가 되나요? 소셜미디어를 예로 들어보겠습니다. 사용자는 자신이 게시한 내용을 자신의 친구만 볼 수 있다고 가정합니다. 하지만 고용주가 갑자기 논란의 여지가 있는 게시물을 보거나 강도가 “휴가 중” 게시물을 이용하면 그들은 충격을 받습니다.
온라인에서 공유하는 모든 내용은 공개될 수 있습니다. 개인 정보 보호 설정은 사물을 잠그는 데 도움이 되지만 보장되지는 않습니다. 플랫폼에 취약점이 발생하면 모든 것이 공개될 수 있습니다. 그리고 AI 플랫폼은 훈련에 어떤 유형의 데이터를 사용하는지 항상 명확하게 알 수 없으므로 다음 정보는 공유하지 않는 것이 좋습니다.
- 이름, 주소, 전화번호 등과 같은 개인 식별 정보
- 재정 세부정보
- 보안 답변, 비밀번호 또는 사용자 이름(또한 AI를 사용하여 비밀번호를 생성하지 않음)
- 불법 활동
- 업무 또는 개인 생활에 관한 기밀 문서
- 정신 건강을 포함한 건강 정보
AI 챗봇 개인정보 보호는 공개 포럼과 동일하다고 생각하세요. 그렇게 하면 훨씬 안전해질 거예요.
AI 챗봇을 안전하게 사용하기
완전히 오프라인인 AI 챗봇은 가장 안전한 옵션이지만 더 제한적입니다. 모든 것이 로컬에서 처리되므로 개인 정보 보호 위험이 줄어듭니다. Android에서도 실행할 수 있습니다.
이것이 선택 사항이 아닌 경우 모델 제공업체의 공식 채팅 앱을 사용하세요. 이는 단순히 모델에 액세스하는 임의의 타사 앱보다 개인 정보 보호법을 더 잘 따르는 경향이 있습니다.
가능하다면 채팅 기록을 끄는 것도 좋습니다. 이는 챗봇이 많은 정보를 학습하고 저장하는 것을 제한합니다. 적어도 작업이 끝나면 채팅 기록을 삭제하세요.
개인 정보 보호를 최우선으로 생각하는 AI 챗봇을 선택하세요. 예를 들어, 제로 액세스 암호화를 사용하여 채팅을 비공개로 유지하는 Proton의 Lumo 챗봇이 있습니다. 또는 Brave의 비공개 AI 검색을 통해 24시간 후에 삭제되는 암호화된 채팅을 찾아보세요.
AI는 이제 좋든 나쁘든 우리 삶의 일부가 되었습니다. 이제 컴퓨터와의 채팅이 대화가 비공개라는 의미는 아니라는 점만 기억하면 됩니다.