AI 에이전트는 이메일 답장, 소프트웨어 설치, 양식 작성은 물론 사용자 대신 파일과 계정 자격 증명까지 접근할 수 있습니다. 디지털 생활의 번거로움을 크게 덜어줄 잠재력을 지닌 도구입니다. 하지만 아무런 통제 없이 방치하면 AI 에이전트가 민감한 데이터를 노출시키거나, 악성코드를 설치하거나, 되돌릴 수 없는 시스템 변경을 일으킬 수도 있습니다.
현재 베타 버전으로 제공되는 노턴 AI 에이전트 프로텍션(Norton AI Agent Protection)은 Norton 360의 새로운 기능으로, 보안 위험을 줄이면서도 AI 에이전트를 마음껏 활용할 수 있도록 돕습니다. AI 에이전트가 '결정한 작업'과 '실제 실행되는 작업' 사이에 실시간 검사 지점을 추가해, 에이전트가 내 기기에서 무엇을 하는지 더 명확히 확인하고 통제할 수 있게 해줍니다.
노턴은 AI 에이전트를 사용하는 소비자를 위한 보안 계층을 제공하는 최초의 컨슈머 사이버 세이프티 브랜드입니다.
이 글에서는 노턴 AI 에이전트 프로텍션이 무엇인지, 어떻게 작동하는지, 그리고 통제되지 않은 AI 에이전트가 가져올 수 있는 보안 위험으로부터 어떻게 사용자를 보호하는지 자세히 알아보겠습니다.
AI 에이전트란 무엇인가?
AI 에이전트는 우리가 이미 익숙하게 사용하는 LLM 챗봇의 진화된 형태입니다. 핵심 차이점은 생성형 AI 챗봇과 달리 AI 에이전트는 단순히 프롬프트에 대한 답변을 생성하는 데 그치지 않고 실제 행동을 수행할 수 있다는 점입니다. 명령어 실행, 사용자 대신 구매, 파일 작업, 이메일 작성, 코딩 등이 모두 가능합니다. 주목받고 있는 AI 에이전트 도구로는 Claude Code, Cursor, OpenClaw 등이 있습니다.
AI 에이전트는 24시간 내내 쉬지 않고 불평 없이 거의 모든 일을 처리해주는 성실한 개인 비서와 같지만, 동시에 너무 쉽게 사람을 믿고 때로는 지시를 맹목적으로 따르다가 심각한 실수를 저지를 수도 있는 존재입니다.
문제는 AI 에이전트가 잠재력을 최대한 발휘하려면 광범위한 권한이 필요하다는 점입니다. 예를 들면 다음과 같습니다.
- AI 에이전트에게 이메일 답장이나 LinkedIn 게시물 작성을 맡기려면 계정 로그인 자격 증명이 필요합니다.
- 소프트웨어 설치와 새로운 도구 설정을 스스로 하게 하려면 컴퓨터 관리자 권한을 부여해야 합니다.
- 저렴한 항공권을 검색하고 예약하게 하려면 인터넷 탐색, 웹사이트 상호작용, 신용카드 사용 권한이 필요합니다.
- 계약서 서명을 맡기려면 전자서명 사용 권한이 필요합니다.
이처럼 유용한 작업을 수행하기 위해 높은 수준의 자율성과 신뢰가 요구되는 만큼, 적절한 안전장치가 없다면 AI 에이전트는 심각한 개인정보 및 보안 위험을 초래할 수 있습니다.
AI 에이전트 프로텍션 덕분에 컴퓨터에서 안전하게 작업하는 로봇.
보호 장치 없이 AI 에이전트를 사용할 때의 위험
높은 자율성, 광범위한 권한 요구, 지시를 그대로 따르는 특성 때문에 AI 에이전트는 강력한 만큼 잠재적으로 위험한 도구이기도 합니다.
프롬프트 인젝션(prompt injection) 공격에서는 공격자가 AI 에이전트에게 단순히 지시만 함으로써 원치 않는 행동을 유도할 수 있습니다. 사이버 범죄자는 프롬프트를 통해 사용자의 에이전트에게 악성코드 설치, 데이터 유출, 송금, 원격 접속 허용, 사용자 모르는 시스템 변경 등을 지시할 수 있습니다. 통제되지 않은 AI 에이전트와 관련된 구체적인 위험 사례를 살펴보겠습니다.
악성 스킬 및 확장 프로그램
많은 AI 에이전트는 다운로드 가능한 '스킬(skill)'이나 플러그인으로 기능을 확장할 수 있습니다. 이들은 ClawHub 같은 공개 저장소에서 가져오는 경우가 많은데, 안타깝게도 상당수가 제대로 검증되지 않았으며 일부는 심각한 보안 위험을 안고 있습니다.
노턴의 모회사 Gen이 수행한 AI 에이전트 연구에서 위협 분석가들은 공개 에이전트 레지스트리의 약 400개 스킬(전체의 약 12%)이 악성이라는 사실을 발견했습니다. 해당 스킬에는 AI 에이전트에게 악성코드를 다운로드하도록 지시하는 프롬프트가 포함되어 있었습니다.
공급망 공격
공급망 공격은 사이버 범죄자가 변조했거나 직접 만든 악성 패키지(파일·프로그램·소프트웨어 묶음)를 사용자 또는 AI 에이전트가 설치하는 공격입니다.
AI 에이전트는 작업을 완료하기 위해 패키지나 도구를 자동으로 설치하는 경우가 많으며, 특히 코드 작성이나 환경 설정 시 두드러집니다. 이 중 하나라도 안전하지 않으면 설치되는 순간 피해가 시작될 수 있습니다. 데이터 수집, 원치 않는 변경, 제3자의 시스템 접근 허용 등이 그 예입니다.
자격 증명 노출과 데이터 유출
AI 에이전트는 사용자 대신 작업을 수행하기 위해 비밀번호, API 키, 계정 토큰 같은 민감한 정보에 접근하는 경우가 많습니다. 이러한 접근 권한은 편리하지만 동시에 데이터 노출 위험도 키웁니다. 예컨대 에이전트가 속임수에 넘어가 자격 증명을 외부 서버로 전송하거나, 생성하는 코드에 자격 증명을 포함시킬 수 있습니다.
자격 증명이 한번 노출되면 공격자는 이를 이용해 계정에 침입하거나, 여러 시스템을 가로질러 확산하거나, 추가 공격을 자동화할 수 있습니다. 에이전트는 빠르게, 그리고 검토 과정 없이 행동하는 경우가 많아 이런 개인정보 유출은 문제를 인지하기도 전에 발생할 수 있습니다. 위협 행위자가 AI 에이전트 조작을 통해 충분한 개인정보를 확보하면 신원 도용까지 이어질 수 있습니다.
무단 시스템 변경
AI 에이전트는 파일 생성·수정·삭제는 물론 시스템 설정 변경까지 기기에서 직접 수행할 수 있습니다. 이런 작업은 대부분 백그라운드에서 진행되기 때문에 즉시 알아차리기 어렵습니다.
문제가 생기면 그 결과는 실질적일 수 있습니다. 중요한 파일 덮어쓰기, 설정 변경, 의도하지 않은 명령 실행 등이 발생할 수 있으며, 가시성과 통제 수단이 없다면 사소한 실수조차 데이터 손실이나 시스템 오류로 이어질 수 있습니다.
위협 행위자들도 AI 에이전트를 활용하고 있습니다
최근 Anthropic의 보안 연구진은 공격자가 AI 에이전트를 활용해 작업 상당 부분을 자율적으로 수행한 대규모 사이버 스파이 캠페인을 적발했습니다. 에이전트는 정찰, 취약점 식별, 악성코드 작성, 표적 조직에서의 민감한 데이터 추출까지 수행하도록 조작되었으며, 사람의 개입은 극히 minimal했습니다. 이른바 '다크 AI(dark AI)'의 사례입니다.
더 안전하게 AI 에이전트 활용하기: 노턴 AI 에이전트 프로텍션
AI 에이전트에게 더 많은 역할을 맡기려면 그것을 신뢰할 수 있어야 합니다. 하지만 에이전트의 작업 대부분이 화면 뒤에서 일어나기 때문에 신뢰하기가 쉽지 않습니다. 바로 이 지점에서 노턴 AI 에이전트 프로텍션이 등장합니다. 에이전트가 수행하는 모든 작업을 실시간으로 검사하는 보안 계층을 추가해 위협을 차단하고 위험한 행동을 경고해줍니다.
AI 에이전트 프로텍션은 백그라운드에서 조용히 작동하며 프롬프트 인젝션 같은 AI 사기와 위협으로부터 사용자를 보호합니다. 덕분에 에이전트가 실제로 무엇을 하는지 끊임없이 의심하지 않고도 업무를 맡길 수 있습니다.
"사람들은 AI 에이전트를 강력하게 만들어주는 요소이기 때문에 기기, 계정, 개인 정보에 대한 상당한 접근 권한을 에이전트에게 넘겨주고 있습니다. 하지만 지금까지는 에이전트가 곧 어떤 행동을 할지 검증할 방법이 없었습니다. 노턴 AI 에이전트 프로텍션은 바로 이 누락된 신뢰 계층을 채워, 사람들이 추측이 아닌 확신을 갖고 이 도구들을 사용할 수 있도록 합니다."
— Gen 제품 및 포트폴리오 총괄 Travis Witteveen
노턴 AI 에이전트 프로텍션은 회사 차세대 AI 기반 보안 도구를 만드는 팀인 Gen의 AI Foundry가 개발했습니다. AI 시스템이 단순한 상호작용에서 현실 세계의 행동으로 나아가는 흐름 속에서 사람들의 안전을 지키기 위한 AI 에이전트 신뢰 계층(AI Agent Trust Layer) 구축이라는 더 큰 비전의 일부입니다. 노턴의 고급 컨슈머 사이버 세이프티 도구 모음인 Norton 360의 기능으로 제공됩니다.
노턴 AI 에이전트 프로텍션의 작동 방식
노턴 AI 에이전트 프로텍션을 활성화하면 에이전트가 수행하는 모든 작업이 자격 증명 유출, 악성 URL, 안전하지 않은 다운로드, 예상치 못한 시스템 변경 같은 위험을 포착하도록 설계된 300개 이상의 탐지 규칙으로 실시간 분석됩니다. 분석 결과에 따라 에이전트가 시도하는 각 작업은 세 가지 결과 중 하나로 처리됩니다: 허용(Allow), 확인(Ask), 차단(Deny).
허용(Allow): 안전한 작업은 방해 없이 진행
AI 에이전트의 작업이 안전한 것으로 판별되면 워크플로우에 아무런 마찰이나 방해 없이 정상적으로 실행됩니다.
확인(Ask): 의심스러운 작업은 사용자 검토 대기
위험해 보이지만 명백히 악성이라고 단정할 수 없는 작업의 경우, 노턴이 실행을 일시 중지하고 차단할지 허용할지 선택권을 사용자에게 넘겨줍니다. 주도권이 다시 사용자에게 돌아오는 것입니다.
차단(Deny): 확인된 위협은 자동 차단
작업이 알려진 위협 패턴과 일치하면(예: 악성 URL로 자격 증명 전송, 파괴적인 명령 실행), 노턴 AI 에이전트 프로텍션이 해당 작업을 즉시 차단합니다.
노턴 AI 에이전트 프로텍션은 Claude Code, Cursor, OpenClaw 등의 도구에서 작동하며, 현재 Windows를 지원하고 Mac 지원도 곧 제공될 예정입니다.
노턴 AI 에이전트 프로텍션 시작하기
노턴 AI 에이전트 프로텍션을 사용하려면 유효한 Norton 360 구독만 있으면 됩니다. 기존 고객이라면 대시보드에서 바로 활성화할 수 있습니다. 보안(Security) > 고급 보안(Advanced Security) > 컴퓨터(Computer)로 이동한 후, 사용 중인 AI 에이전트 플랫폼에 대해 '보호 추가(Add Protection)'를 클릭하세요.
신뢰와 보안이라는 든든한 기반 위에서, 통제권을 놓치지 않은 채 AI 에이전트의 흥미로운 새로운 세계를 경험해 보세요.
자주 묻는 질문(FAQ)
노턴 AI 에이전트 프로텍션이란 무엇인가요?
Norton 360에 포함된 새로운 보안 기능으로, 기기에서 AI 에이전트의 작업을 실시간으로 모니터링하고 감독합니다. 위협을 차단하고 의심스러운 작업은 일시 중지하여 사용자의 검토를 요청합니다.
어떤 AI 에이전트와 호환되나요?
현재 Claude Code, Cursor, OpenClaw를 지원하며, 추가 통합도 계획되어 있습니다.
어떤 플랫폼을 지원하나요?
Windows 환경의 Norton 360 고객을 지원하며, Mac 지원도 곧 제공될 예정입니다.
위협은 어떻게 탐지하나요?
여러 계층에 걸친 300개 이상의 탐지 규칙으로 실시간 위협을 식별하며, 핵심 엔진은 사용자 기기에서 로컬로 실행됩니다. 명령어, 파일, 코드를 분석해 위험한 행동과 잠재적 자격 증명 유출을 감지하고, URL을 노턴 위협 인텔리전스와 대조해 피싱 및 악성 사이트를 차단하며, 에이전트가 설치하는 도구를 검증해 가짜 또는 의심스러운 패키지를 걸러냅니다.
별도 구독이 필요한가요?
아니요. 베타 기간 동안에는 모든 Norton 360 고객이 노턴 AI 에이전트 프로텍션을 이용할 수 있습니다. 베타 종료 후 요금제 적용 범위는 변경될 수 있으며, 추가 기능도 개발될 예정입니다.
AI 도구 속도가 느려지나요?
아니요. 안전한 작업은 중단이나 지연 없이 그대로 진행됩니다. 확인된 위협만 차단되고 의심스러운 작업만 일시 중지되므로, 워크플로우는 매끄럽게 유지됩니다.