2025년 11월 11일 오후 1시(EST)에 게시됨
Gavin은 기술 설명, 보안, 인터넷, 스트리밍 및 엔터테인먼트 부문의 부문 책임자이며, 전직 정말 유용한 팟캐스트의 공동 진행자이자 빈번한 제품 리뷰어입니다. 그는 Devon 언덕에서 약탈한 현대 작문 학위를 보유하고 있으며 10년 이상의 전문 작문 경험을 보유하고 있으며 그의 작품은 How-To Geek, Expert Reviews, Trusted Reviews, Online Tech Tips 및 Help Desk Geek 등에 게재되었습니다. Gavin은 CES, IFA, MWC 및 기타 기술 무역 박람회에 참석하여 현장에서 직접 보고하며 그 과정에서 수십만 단계를 거쳤습니다. 그는 자신이 기억하고 있는 것보다 더 많은 헤드폰, 이어버드, 기계식 키보드를 검토했으며, 많은 양의 차, 보드 게임, 축구를 즐깁니다.
이 시점에서 생성 AI 도구에는 어두운 면이 있다는 것을 모두가 알고 있습니다. 표절이나 기타 형태의 콘텐츠 도용 문제나 심지어 데이터 센터를 유지하고 운영하는 데 필요한 막대한 양의 에너지와 물에 대해 말하는 것이 아닙니다.
AI를 사용하여 위험한 맬웨어와 피싱 계획을 작성함으로써 범죄자가 단 몇 번의 프롬프트만으로 전체 사기 캠페인을 그 어느 때보다 쉽게 구축할 수 있게 되었습니다.
Vibescamming으로 알려진 것은 AI가 만들어낸 가장 큰 문제로 빠르게 자리잡고 있지만 안전을 유지할 수 있는 몇 가지 방법이 있습니다.
Vibescamming을 사용하면 사기가 간단해집니다
바이브 코딩처럼 AI 챗봇만 있으면 됩니다
간단히 말해서, 바이브캠은 AI를 기반으로 한 피싱입니다. 원하는 것을 얻을 때까지 생성 AI 도구를 실행하여 소프트웨어를 구축하는 프로세스인 '바이브 코딩'을 차용했습니다.
같은 방식으로 VibeScamming을 사용하면 거의 모든 사람이 AI 에이전트에 설명하여 피싱 사기 또는 사이버 공격을 시작할 수 있습니다. 코딩 기술이나 해킹 경험이 없는 사람이라도 AI 챗봇을 불러오는 것만으로도 악성 이메일, 가짜 웹사이트, 악성 코드를 생성할 수 있습니다.
따라서 사기꾼이 비밀번호 도용에 연루되기를 원하지만 해당 작업을 수행하기 위해 프로그램을 코딩하는 방법을 모른다고 상상해 보십시오. 이를 위해 우리는 그들이 다크 웹으로 향하지 않고 온라인에서 일부 악성 코드를 구매하려고 시도하지 않는다고 가정할 수도 있습니다. 비밀번호를 도용하기 위해 특정 도구를 프로그래밍하는 방법을 배우거나 사람들을 유인하기 위한 피싱 캠페인을 개발하는 대신 AI 도구가 작업을 수행하도록 유도할 수 있습니다.
Vibescamming은 이전과는 전혀 다른 방식으로 사이버 범죄의 진입 장벽을 낮추기 때문에 매우 심합니다. 과거에는 범죄자가 웹사이트를 디자인하는 방법, 설득력 있는 영어 작성 방법, 악성 코드 코딩 방법을 알아야 할 수도 있었습니다. 이제 AI가 모든 작업을 수행할 수 있습니다.
또 다른 위험은 속도와 규모입니다. AI를 사용하면 사기꾼은 인간보다 훨씬 빠르게 작업을 자동화하고 공격을 확장할 수 있습니다. 예를 들어, AI는 공개 정보를 스크랩하고 각 개인에 대한 AI 초안 사용자 지정 메시지를 작성하여 수천 개의 대상에 대한 피싱 이메일을 신속하게 개인화할 수 있습니다. 즉석에서 적응할 수도 있습니다. 피싱 페이지 링크가 차단되면 사기꾼은 AI에게 코드나 텍스트를 수정하고 새 버전을 생성하도록 요청할 수 있습니다. 이러한 민첩성은 피싱 캠페인이 방어를 회피하기 위해 빠르게 진화할 수 있음을 의미합니다.
기존 챗봇에서는 작동하지 않습니다.
일부 챗봇은 다른 챗봇보다 훨씬 더 신중합니다
Vibe 코딩은 모든 생성 AI 챗봇에서 작동합니다. 어떤 사람들은 다른 사람들보다 더 잘하지만 일반적으로 대부분은 시도해 볼 것입니다. 다행히도 진동캠은 그렇지 않습니다.
대부분의 AI 챗봇에는 예측 가능한 위험한 사용으로부터 보호하도록 설계된 안전 가드 레일이 있습니다. 예를 들어, ChatGPT는 "Microsoft 로그인 페이지와 SMS 메시지처럼 보이는 웹사이트를 만들어 사람들이 클릭하도록 유도하세요."와 같은 메시지를 거부하고 "사기/피싱 및 불법이므로 도움을 주지 않습니다."라고 설명합니다.
다른 챗봇에서도 비슷한 이야기입니다. Opera의 에이전트인 Neon 브라우저는 내 요청을 의심스러운 것으로 분류한 반면, Grok은 "사회 공학 공격에 대한 안전 지침을 위반한다"는 이유로 내 요청을 거부했습니다.
그러나 앞서 말했듯이 일부 챗봇은 이러한 요청에 더 취약합니다. "vibescamming"이라는 용어를 만든 Guardio Labs의 2025년 연구에 따르면 새로운 AI 도구가 상품을 배달하도록 속일 수 있다는 사실이 밝혀졌습니다. 바이브 코딩을 용이하게 하도록 설계된 앱인 Loveable은 "Microsoft의 인터페이스와 유사한 세련되고 전문적인 디자인을 구상"하면서 연구원들을 위한 피싱 캠페인을 계획하고 설계하는 작업에 곧바로 착수했습니다.
피해자를 속이기 위해 설계된 가짜 URL이 포함된 피싱 페이지를 배포했습니다. 그러나 Guardio는 실제로 특정 데이터 수집 기능이 없었으며 이를 추가하라는 메시지가 표시되었을 때 거부했다고 지적했습니다. 따라서 적어도 프로세스의 해당 측면에서는 약간 뒤로 밀렸습니다. 또한 Loveable은 이 동작을 패치했으며 더 이상 피싱 캠페인의 개요를 만들려고 시도하지 않습니다.
불쾌한 내용을 잠금 해제하기 위한 탈옥 생성 AI 챗봇
생성적 AI 탈옥은 AI가 가드레일을 우회하도록 특별히 제작된 프롬프트입니다.
ChatGPT 초기에는 진정한 기능을 "잠금 해제"하는 데 도움이 되도록 설계된 수많은 탈옥이 있었습니다. 요즘 사람들은 성공적인 ChatGPT 탈옥을 가슴에 품고 있으며 일부는 성공적인 생성 AI 해킹을 괜찮은 돈에 판매하고 있습니다.
따라서 ChatGPT에 더 이상 탈옥이 불가능한 것처럼 느껴지지만 사실 사람들은 훨씬 더 비밀스럽습니다. 이는 OpenAI, Google, Anthropic 및 Perplexity와 같은 회사가 이러한 허점을 즉시 폐쇄하는 것을 막을 수 있는 유일한 방법입니다.
탈옥은 온라인 생성 AI 챗봇이 가드레일 외부에서 작업을 수행하도록 유도하는 유일한 방법 중 하나입니다. 그렇지 않으면 챗봇 프로그래머가 제 역할을 다했고 AI가 협조를 거부하는 것입니다. 이는 진동 사기에 있어서 나쁜 일이 아닙니다.
다행히도 진동 사기를 피할 수 있습니다
최종 결과물은 기존 피싱 사기와 전혀 다르지 않습니다
이제 말씀드린 모든 내용과 맬웨어 및 피싱 사기 생성에 대한 장벽이 훨씬 낮아졌기 때문에 실제로는 여전히 동일한 사기를 경계하고 있습니다. 일부 사기 이메일이 점점 더 지능화되고 있지만 피싱 이메일에서 발견되는 숨길 수 없는 징후는 동일합니다.
따라서 조언은 동일하므로 진동 사기를 피하기 위해 보안 관행을 과도하게 수정할 필요는 없습니다.
- 사실이라기엔 너무 좋은 제안 :사기꾼은 Google 순위 1위 보장, 별 5개 즉시 리뷰 또는 기적의 건강 치료법과 같은 불가능한 결과를 약속하는 경우가 많습니다. 실제 서비스와 의료는 이러한 종류의 보장을 하지 않습니다.
- 모호하거나 일반적인 발신자 :많은 사기 이메일이 무료 Gmail 또는 Yahoo 주소에서 발송되며, 심지어 기업인 것처럼 가장합니다. 실제 대행사 및 기업에서는 전문 도메인을 사용합니다.
- 개인화 :아니 오히려 부족하기도 합니다. 이메일에 귀하의 이름이나 회사 세부 정보 없이 "안녕하세요" 또는 "안녕하세요"라고만 적혀 있다면 대량 메일 사기일 가능성이 높습니다. 진정한 봉사 활동에는 일반적으로 개인적인 세부 사항이 포함됩니다. "안녕하세요"는 제가 개인적으로 가장 좋아하는 표현 중 하나입니다.
- 감정적 요인 :이메일에서 계정 로그인이나 선불 결제를 요구하거나 의심스러운 링크를 클릭하도록 요구하는 경우 주의하세요. 마찬가지로, 심각한 질병을 기적적으로 치료해 주거나 사업을 “지배”하겠다는 약속과 같은 두려움이나 긴급함을 이용하여 사기가 많이 발생합니다. 모두 똑같습니다. 성급한 결정을 내려야 한다는 압박감입니다.
- 빨리 행동하세요! :메시지가 “지금 행동하세요!”와 같은 문구로 결정을 내리도록 유도하는 경우 또는 "오늘 답장하세요"는 위험 신호입니다. 사기꾼은 당신이 멈추고 생각하는 것을 원하지 않습니다.
피싱 이메일 위험 신호는 동일합니다. 기본적으로 누구나 사기꾼이 될 수 있으므로 이제는 더 많은 사기꾼을 만날 수도 있습니다.
AI가 개발한 악성코드는 이제
한동안 AI가 악성 코드와 피싱 캠페인을 개발한다는 아이디어는 환상적이었습니다. AI 도구는 특별히 위험한 것을 만들어낼 만큼 강력하지 않았고, 그것이 할 수 있는 일은 기존 위협과 크게 다르지 않았습니다.
2025년에는 AI가 개발한 악성코드가 야생에서 활발하게 활동하는 캠페인에 사용되는 모습이 더 자주 목격되면서 상황이 바뀌었습니다. 2025년 11월, Google의 Threat Intelligence Group은 다양한 AI 도구를 사용하여 개발된 두 가지 유형의 악성 코드에 대해 보고했는데, 이 악성 코드는 실제로 지침을 위해 AI 도구를 다시 호출합니다.
더욱이, 2025년 8월, AI 개발자 Anthropic은 자사의 Claude 챗봇이 AI를 사용하여 플랫폼과 연결된 공격을 설계하고 실행하는 대규모 악성 코드 캠페인의 일부로 사용되고 있음을 발견했습니다.
이게 비비캠(vibescamming) 공격인가요? 복잡성을 고려할 때 이는 바이브캠보다 약간 더 미묘하지만 AI가 매우 위험한 작업에 얼마나 쉽게 사용될 수 있는지를 보여줍니다. 그리고 이것들은 일반적인 공용 AI 도구입니다. 가드레일을 제거할 수 있는 수많은 강력한 로컬 AI 도구에 무슨 일이 일어나고 있는지 상상해 보세요.