2025년 11월 6일 오전 9시(EST)에 게시됨
Gavin은 기술 설명, 보안, 인터넷, 스트리밍 및 엔터테인먼트 부문의 부문 책임자이며, 전직 정말 유용한 팟캐스트의 공동 진행자이자 빈번한 제품 리뷰어입니다. 그는 Devon 언덕에서 약탈한 현대 작문 학위를 보유하고 있으며 10년 이상의 전문 작문 경험을 보유하고 있으며 그의 작품은 How-To Geek, Expert Reviews, Trusted Reviews, Online Tech Tips 및 Help Desk Geek 등에 게재되었습니다. Gavin은 CES, IFA, MWC 및 기타 기술 무역 박람회에 참석하여 현장에서 직접 보고하며 그 과정에서 수십만 단계를 거쳤습니다. 그는 자신이 기억하고 있는 것보다 더 많은 헤드폰, 이어버드, 기계식 키보드를 검토했으며, 많은 양의 차, 보드 게임, 축구를 즐깁니다.
사이버 보안에 관해 이야기할 때 우리는 일반적으로 해커가 사람들을 능가하는 모습을 상상합니다. 하지만 대신 AI가 클릭을 하면 어떻게 될까요?
ChatGPT Atlas, Opera Neon, Perplexity Comet 및 The Browser Company의 Dia와 같은 차세대 AI 브라우저는 모두 웹 서핑을 약속합니다. 사이트를 읽고, 링크를 따라가고, 양식을 작성하고, 심지어 구매할 수도 있습니다. 인간은 항상 사기에 빠지는데 자동화된 AI 에이전트가 같은 문제에 빠지는 것을 막는 방법은 무엇일까요?
AI 브라우저와 에이전트가 사기에 빠지는 방법
AI 브라우저 전반에 걸쳐 읽기가 암울합니다
OpenAI의 Atlas 브라우저는 오랜 시간 동안 출시되었으며 엄청난 기대를 불러일으켰습니다. 하지만 연구원들이 OpenAI가 보안을 얼마나 심각하게 받아들이는지 알아보기 위해 브라우저에 갇히는 데는 오랜 시간이 걸리지 않았습니다.
결과는 고무적이지 않았습니다. 보안 회사인 LayerX는 브라우저 출시 후 며칠 만에 Atlas에서 두 가지 심각한 문제를 발견했습니다.
한 가지 취약점은 신속한 주입에 중점을 두어 ChatGPT의 메모리 기능에 악성 명령을 주입할 수 있습니다. 그런 다음 지침에 따라 매우 위험한 원격 코드 실행이 허용되었습니다. LayerX의 연구에서는 Atlas가 직면한 악성 웹 페이지 중 단 5.8%만 차단한 것으로 나타났습니다. 따라서 90% 이상의 시간 동안 탭을 닫고 다음 단계로 넘어가는 대신 피싱 페이지와 상호작용하게 됩니다.
출처:LayerX OpenAI와 Atlas 브라우저에 대한 공정성을 고려하면, LayerX 테스트에서 저조한 성능을 보이는 에이전트 AI 기능을 갖춘 유일한 AI 브라우저와는 거리가 멀었습니다. Perplexity의 인기 있는 Comet AI 브라우저는 피싱 페이지의 7%만을 차단했습니다.
이에 비해 Edge, Chrome, Dia는 각각 53%, 47%, 46%의 공격을 거부하여 훨씬 더 많은 공격을 차단했습니다.
사기성
보안 연구 회사인 Guardio는 ChatGPT Atlas가 출시되기 전이었지만 비슷한 문제에 직면했습니다. Scamlexity 연구(훌륭한 이름)는 "에이전트 AI 브라우저를 테스트했습니다. 클릭하고, 지불하고, 실패했습니다." 연구 회사는 가짜 CAPTCHA 화면 내에 즉각적인 주입 공격을 숨기도록 설계된 "ClickFix 사기에 대한 AI 시대의 해석"이라고 불리는 "PromptFix"를 개발했습니다. 가짜 CAPTCHA에 보이지 않는 텍스트가 삽입되어 자동 탐색 모드를 사용하는 AI 에이전트는 제품 구매, 파일 다운로드 등을 쉽게 속일 수 있습니다.
마찬가지로 Perplexity의 Comet 브라우저에 피싱 이메일을 표시하면(수신 이메일 처리를 요청한 후) 즉시 정체되어 가짜 페이지에 사용자 정보가 추가됩니다. 심지어 페이지가 안전하다고 선언하기 위해 사용자에게 자격 증명을 입력하라는 메시지도 표시되었습니다.
자동 조종 장치의 AI 브라우저가 나쁜 것을 클릭합니다
AI 에이전트는 인간이 보지도 못하는 사기에 취약합니다
가장 큰 문제는 AI 브라우저와 에이전트 AI 브라우징이 우리가 평소에 하던 일을 중단하도록 유도한다는 것입니다. 귀하는 자동화된 시스템에 귀하를 대신하여 결정을 내리도록 하고 있으며, 그렇게 함으로써 AI 모델이 이해할 수 없는 사기에 대해 경고하는 중요한 위험 신호를 놓칠 가능성이 있습니다.
현재 이러한 공격은 대부분 야생이 아닌 보안 연구소에서 발생합니다. 그러나 위험은 현실적이고 빠르게 증가하고 있습니다. AI 브라우저는 단지 사이트를 보는 것이 아닙니다. 또한 로그인을 처리하고 쿠키를 저장하며 때로는 연결된 계정에 대한 액세스를 유지합니다. 따라서 오용 가능성이 매우 높으며 공격자가 이를 적극적으로 악용하려고 하는 것이 분명합니다.
일반 사람들의 문제 중 하나는 화면을 주의 깊게 보더라도 인간의 눈으로 항상 감지할 수 없는 사기에 대해 이야기하고 있다는 것입니다. 이러한 비밀스러운 프롬프트 주입 공격은 일반적으로 눈에 띄지 않게 악성 명령을 삽입하며, 사기를 당했을 때까지 어떤 일이 일어났는지 알 수 없습니다.
그리고 기존 브라우저에는 뭔가 이상해 보일 때 경고하는 경고와 팝업이 있는 반면, 자동으로 탐색하는 AI 에이전트는 이를 극복해야 할 또 다른 과제로 간주할 수 있습니다.
해결책은 하나뿐입니다
일반 보안 도구가 항상 유용한 것은 아닙니다
최신 보안 문제에는 최신 솔루션이 필요하며, 자동화된 에이전트 브라우징 기능을 갖춘 AI 브라우저로 인해 발생하는 문제에는 새로운 솔루션이 필요합니다. Google 세이프 브라우징이나 바이러스 백신 도구와 같은 일반적인 방어 수단은 AI가 사용자를 대신해 링크를 클릭하도록 설계되지 않았기 때문입니다. 의심의 여지 없이 따라잡고 있지만 여전히 미지의 영역입니다.
예를 들어 연구자들이 AI 브라우저를 표준 브라우저와 비교했을 때 그 차이는 극명했습니다. Google의 세이프 브라우징은 알려진 잘못된 URL을 차단할 수 있지만 사기꾼이 "wellsfargo.com" 대신 "wellzfargo-security.com"이라는 새로운 도메인을 생성하면 AI 에이전트는 어쨌든 클릭했습니다. 그들은 도메인 이름을 추측하지 않습니다. 그들은 페이지가 은행 로그인처럼 보이는 것을 보고 충실하게 계속합니다.
더 나쁜 것은 프롬프트 주입 공격은 URL에 전혀 의존하지 않는다는 것입니다. 이는 기존 스캔 도구로는 볼 수 없는 합법적인 페이지나 PDF 내에 존재합니다.
현재 유일한 실제 해결책은 인간의 감독입니다. 이는 브라우저의 완전한 자동화라는 마법 같은 느낌을 없애지만 실제로는 브라우저가 피싱 사기에 빠지지 않도록 하는 중요한 단계입니다.
Opera의 Neon과 같은 AI 브라우저는 정기적으로 일시 중지하여 사람의 입력을 요청하여 계획의 다음 단계가 괜찮은지, 지금까지 완료된 작업이 허용 가능한지 확인합니다. 이러한 작은 인간 상호작용의 순간이 에이전트 AI 브라우저가 사기에 빠지거나 멀웨어를 다운로드하는 등의 문제를 완화하는 데 도움이 될 수 있습니다.
사기꾼들에게는 새로운 새벽입니다
완전히 새로운 범위의 사기에 대처해야 합니다
AI 브라우저는 사기꾼이 누구를 속여야 하는지에 변화를 가져옵니다. 목표는 더 이상 당신이 아니라 당신의 대리인입니다. 그리고 지금 그 상담원은 너무 신뢰하고 있습니다.
위에 자세히 설명된 연구 결과에 따르면 이러한 시스템은 피싱 페이지의 90% 이상에 속하고 사람이 단 몇 초 안에 발견할 수 있는 거의 모든 사회 공학적 단서를 놓쳤다는 점을 고려하면 인간의 감독이 절대적으로 중요하다는 것은 분명합니다. 비록 약한 고리가 사람인 경우가 많다고 해도 말입니다.