생성형 AI 도구에는 어두운 면이 있다는 사실을 이제 누구나 알고 있습니다. 여기서 말하는 문제는 표절이나 콘텐츠 도용 같은 지식재산 침해도, 데이터 센터를 가동하는 데 소모되는 막대한 에너지와 물도 아닙니다.
진짜 문제는 AI를 활용해 악성코드와 피싱 공격을 제작하는 일입니다. 이제 범죄자는 단 몇 개의 프롬프트만으로 완전한 사기 캠페인을 구축할 수 있게 되었습니다.
'바이브스캐밍(vibescamming)'이라고 불리는 이 수법은 AI가 만들어낸 가장 큰 문제로 빠르게 부상하고 있지만, 다행히 스스로를 지킬 방법은 몇 가지 존재합니다.
바이브스캐밍, 사기를 놀랍도록 간단하게 만들다
바이브 코딩과 마찬가지로 AI 챗봇만 있으면 끝
간단히 말해, 바이브스캐밍은 AI로 구동되는 피싱입니다. 원하는 결과물이 나올 때까지 생성형 AI에 프롬프트를 입력하며 소프트웨어를 만드는 '바이브 코딩(vibe coding)'에서 착안한 용어죠.
같은 방식으로 바이브스캐밍을 활용하면 AI 에이전트에게 설명만 하면 거의 누구나 피싱 공격이나 사이버 공격을 시작할 수 있습니다. 코딩 실력이나 해킹 경험이 전혀 없는 사람도 AI 챗봇에 프롬프트를 입력하는 것만으로 악성 이메일, 가짜 웹사이트, 멀웨어를 만들어낼 수 있습니다.
예를 들어 어떤 예비 사기꾼이 비밀번호 탈취에 손을 대고 싶은데 프로그램 작성 방법을 전혀 모른다고 상상해 봅시다. 다크웹에서 멀웨어를 구매하지 않는다고 가정해도, 비밀번호 탈취 도구를 직접 개발하거나 피싱 캠페인을 설계하는 대신 AI 도구에게 일을 시키면 그만입니다.
바이브스캐밍이 무서운 이유는 사이버 범죄의 진입 장벽을 그 어느 때보다 낮췄기 때문입니다. 과거에는 웹사이트 제작 능력, 설득력 있는 영어 작문 실력, 멀웨어 코딩 지식이 필요했지만, 이제는 AI가 모든 것을 대신 처리해 줍니다.
속도와 규모 역시 또 다른 위험 요소입니다. AI를 활용하면 사기꾼은 작업을 자동화하고 인간보다 훨씬 빠르게 공격을 확장할 수 있습니다. 예컨대 AI는 공개된 정보를 수집해 수천 명의 대상자 각각을 위한 맞춤형 피싱 이메일을 순식간에 작성할 수 있습니다. 피싱 페이지 링크가 차단되면 코드나 문구 수정을 요청해 새 버전을 즉시 만들어내는 등 상황에 맞게 적응하는 것도 가능합니다. 이러한 민첩성 덕분에 피싱 캠페인은 방어막을 회피하며 빠르게 진화합니다.
아무 챗봇으로나 되는 건 아닙니다
챗봇마다 안전장치의 수준은 제각각
바이브 코딩은 어떤 생성형 AI 챗봇으로도 가능합니다. 성능 차이는 있어도 대부분 시도해 줍니다. 다행히 바이브스캐밍은 사정이 다릅니다.
대부분의 AI 챗봇에는 예측 가능한 위험한 사용을 차단하기 위한 안전장치가 마련되어 있습니다. 예를 들어 ChatGPT는 "마이크로소프트 로그인 페이지처럼 보이는 웹사이트와 클릭을 유도하는 문자 메시지를 만들어 달라"는 요청에 "사기 및 피싱에 해당하는 불법 행위라 도울 수 없다"며 거절합니다.
다른 챗봇도 비슷한 반응을 보였습니다. Opera의 에이전틱 Neon 브라우저는 해당 요청을 의심스러운 활동으로 분류했고, Grok은 "소셜 엔지니어링 공격에 대한 안전 가이드라인을 위반한다"며 요청을 거부했습니다.
하지만 앞서 언급했듯이 이런 요청에 더 취약한 챗봇도 존재합니다. '바이브스캐밍'이라는 용어를 만든 Guardio Labs의 2025년 연구에 따르면, 최신 AI 도구 하나는 교묘하게 속이면 요청을 관철시킬 수 있었습니다. 바이브 코딩 지원 앱인 Loveable은 연구진을 위한 피싱 캠페인 기획과 디자인에 곧바로 착수하며 "마이크로소프트 인터페이스를 연상시키는 세련되고 전문적인 디자인"을 구상했습니다.
피해자를 속이기 위한 가짜 URL까지 갖춘 피싱 페이지를 실제로 배포한 것입니다. 다만 Guardio는 이 도구에 실질적인 데이터 수집 기능은 없었으며, 기능 추가를 요청하자 거부했다고 밝혔습니다. 즉, 그 부분에 대해서는 최소한의 저항이 있었던 셈입니다. 참고로 Loveable은 이후 이 행동을 패치해 더 이상 피싱 캠페인 개요를 작성하지 않습니다.
생성형 AI 탈옥(Jailbreak)으로 안전장치 해제하기
생성형 AI 탈옥이란 AI의 안전장치를 우회하도록 특별히 설계된 프롬프트를 말합니다.
ChatGPT 초기에는 '진짜 능력'을 잠금 해제하는 탈옥 프롬프트가 수없이 널리 퍼져 있었습니다. 요즘은 성공적인 탈옥 사례를 사람들이 훨씬 더 감추고 있으며, 검증된 생성형 AI 해킹 기법을 상당한 금액에 판매하는 경우도 있습니다.
그래서 ChatGPT용 탈옥 프롬프트가 사라진 것처럼 느껴지지만, 실상은 은밀해졌을 뿐입니다. OpenAI, Google, Anthropic, Perplexity 같은 기업들이 허점을 발견하는 즉시 막아버리지 않으려면 그렇게 하는 수밖에 없기 때문입니다.
탈옥은 온라인 생성형 AI 챗봇에게 안전장치 밖의 행위를 강요할 수 있는 몇 안 되는 방법입니다. 그렇지 않다면 챗봇 개발자들의 노력 덕분에 AI가 협조를 거부합니다. 바이브스캐밍 관점에서 보면 결코 나쁜 일이 아니죠.
다행히도 바이브스캐밍 피해는 예방할 수 있습니다
완성품은 기존 피싱 사기와 크게 다르지 않습니다
멀웨어와 피싱 사기의 제작 장벽이 크게 낮아졌지만, 실제로 주의해야 할 사기 유형은 여전히 동일합니다. 일부 사기 이메일이 더 교묘해지긴 했어도, 피싱 이메일을 판별하는 결정적 징후는 변함이 없습니다.
따라서 바이브스캐밍을 피하기 위해 보안 습관을 과도하게 바꿀 필요는 없습니다. 기존의 보안 수칙이 그대로 유효합니다.
- 믿기 힘든 초대박 조건: 사기꾼은 구글 검색 1위 보장, 즉석 5성 리뷰, 기적적인 건강 회복 같은 불가능한 결과를 자주 약속합니다. 정직한 서비스나 의약품은 이런 보장을 하지 않습니다.
- 애매하거나 일반적인 발신자: 많은 사기 이메일은 기업을 사칭하면서도 무료 Gmail이나 Yahoo 주소를 사용합니다. 정식 기업과 에이전시는 전문 도메인을 사용합니다.
- 개인화 부족: 이름이나 업체 정보 없이 "안녕하세요" 정도로만 시작된다면 대량 발송 사기일 가능성이 높습니다. 정상적인 연락에는 보통 개인 정보가 포함됩니다.
- 감정 자극: 계정 로그인 정보나 선결제를 요구하거나 수상한 링크 클릭을 재촉하는 이메일은 경계해야 합니다. 중병의 기적 치료법이나 사업 '제패' 약속처럼 두려움과 긴급함을 이용하는 수법도 마찬가지입니다. 결국 모두 성급한 결정을 내리도록 압박하는 것입니다.
- 서두르라고 재촉!: "지금 당장!" 또는 "오늘 회신하세요" 같은 문구로 빨리 결정하게 만들려 한다면 위험 신호입니다. 사기꾼은 당신이 멈춰 생각할 시간을 원하지 않습니다.
피싱 이메일의 위험 신호는 동일합니다. 다만 사실상 누구나 사기꾼이 될 수 있는 환경이 된 지금, 그런 이메일을 더 자주 접하게 될 수 있을 뿐입니다.
AI로 개발된 멀웨어가 현실이 되었습니다
한동안 AI로 개발된 멀웨어와 피싱 캠페인은 공상과학 같은 이야기로 여겨졌습니다. 당시 AI 도구는 충분히 강력하지 않아 특별히 위험한 것을 만들 수 없었고, 만들어지더라도 기존 위협과 크게 다르지 않았기 때문입니다.
그러나 2025년 들어 상황이 급변했습니다. 실제 환경과 활발한 공격 캠페인에서 AI로 개발된 멀웨어가 더욱 자주 발견되고 있습니다. 2025년 11월에는 Google 위협 인텔리전스 그룹이 다양한 AI 도구로 개발되어 실행 중에 AI 도구에 지침을 요청하는 두 가지 유형의 멀웨어를 보고했습니다.
또한 2025년 8월에는 AI 개발사 Anthropic이 자사 Claude 챗봇이 대규모 멀웨어 캠페인의 일부로 사용되어, 플랫폼과 연계된 공격을 설계·실행하는 데 활용된 사실을 확인했습니다.
이것이 바이브스캐밍 공격일까요? 복잡성을 고려하면 바이브스캐밍보다 한 단계 더 정교한 공격이라고 평가할 수 있습니다. 하지만 AI가 얼마나 쉽게 극도로 위험한 작업에 동원될 수 있는지 보여주는 사례임은 분명합니다. 게다가 이는 모두가 접근 가능한 일반 공개 AI 도구의 사례입니다. 안전장치를 제거할 수 있는 수많은 강력한 로컬 AI 도구에서 벌어지고 있는 일이라면 더욱 상상하기 어렵습니다.