AI 에이전트는 이메일에 응답하고, 소프트웨어를 설치하고, 양식을 작성하고, 파일 및 자격 증명에 액세스할 수 있습니다. 그들은 디지털 생활에서 많은 고된 작업을 수행할 수 있는 잠재력을 가지고 있습니다. 그러나 확인하지 않으면 AI 에이전트가 실수로 중요한 데이터를 노출하거나 악성 코드를 설치하거나 시스템에 되돌릴 수 없는 변경을 가할 수 있습니다.
현재 베타 버전인 Norton AI 에이전트 보호는 사용자가 관련 보안 위험을 줄이면서 AI 에이전트를 실험할 수 있도록 지원하는 Norton 360의 새로운 기능입니다. AI 에이전트가 결정한 작업과 실제로 실행하는 작업 사이에 실시간 체크포인트를 추가합니다. 이를 통해 에이전트가 귀하의 기기에서 무엇을 하고 있는지 더 잘 파악하고 제어할 수 있습니다.
Norton은 AI 에이전트를 사용하는 사람들을 위한 보안 계층을 제공하는 최초의 소비자 사이버 안전 브랜드입니다.
Norton AI 에이전트 보호, 작동 방식, 연결되지 않은 AI 에이전트와 관련된 보안 위험으로부터 사용자를 보호하는 데 어떻게 도움이 되는지 자세히 알아보세요.
AI 에이전트란 무엇인가요?
AI 에이전트는 우리에게 이미 익숙한 LLM 챗봇의 새로운 진화입니다. 주요 차이점은 생성 AI 챗봇과 같은 다른 유형의 AI와 달리 AI 에이전트는 프롬프트에 대한 응답을 생성하는 것이 아니라 조치를 취할 수 있다는 것입니다. 이는 명령 실행, 구매, 파일 작업, 이메일 작성 또는 코딩을 의미할 수 있습니다. 최신 AI 에이전트 도구로는 Claude Code, Cursor 및 OpenClaw가 있습니다.
AI 에이전트는 연중무휴 24시간 근무하고 결코 불평하지 않고 무엇이든 할 수 있는 것처럼 보이지만 다소 지나치게 신뢰하고 때로는 맹목적으로 지시를 따르며 의도하지 않게 심각한 실수를 저지르는 지칠 줄 모르는 개인 비서와 같습니다.
AI 에이전트의 순진함은 잠재력을 최대한 발휘하기 위해 광범위한 권한이 필요하기 때문에 문제가 됩니다. 예:
- AI 에이전트가 이메일에 응답하거나 LinkedIn에 게시하도록 하려면 계정 로그인 자격 증명이 필요할 수 있습니다.
- 소프트웨어를 설치하고 자체적으로 새 도구를 설정하려면 컴퓨터에 대한 관리자 권한을 부여해야 합니다.
- 저렴한 항공편을 검색하고 예약하려면 인터넷 로밍, 웹사이트 상호작용, 신용카드 사용 권한이 필요합니다.
- AI 에이전트가 계약서에 서명하도록 하려면 전자 서명 사용 권한이 필요합니다.
특정 유용한 작업을 수행하는 데 필요한 높은 수준의 자율성과 신뢰를 고려할 때 AI 에이전트는 적절한 가드레일 없이 심각한 개인 정보 보호 및 보안 위험을 초래할 수 있습니다.
AI Agent Protection 덕분에 컴퓨터에서 안전하게 작업하는 로봇.
보호 없이 AI 에이전트를 사용할 위험
AI 에이전트의 높은 수준의 자율성, 필요한 광범위한 권한, 지침을 따라야 하는 책임으로 인해 이러한 강력한 도구는 잠재적으로 위험할 수 있습니다.
즉각적인 주입 공격에서 악의적인 행위자는 단순히 지시만으로 AI 에이전트를 조작하여 바람직하지 않은 작업을 수행할 수 있습니다. 예를 들어, 사이버 범죄자는 에이전트에게 사용자가 모르는 사이에 맬웨어를 설치하거나, 데이터를 유출하거나, 돈을 보내거나, 장치에 대한 원격 액세스 권한을 부여하거나, 시스템을 변경하도록 유도할 수 있습니다. 다음은 확인되지 않은 AI 에이전트와 관련된 위험에 대한 몇 가지 구체적인 예입니다.
악성 기술 및 확장 프로그램
많은 AI 에이전트는 다운로드 가능한 "기술"이나 새로운 기능을 제공하는 플러그인을 통해 확장될 수 있습니다. 이는 ClawHub와 같은 공개 저장소에서 가져오는 경우가 많습니다. 안타깝게도 이러한 기술 중 다수는 제대로 검증되지 않았으며 일부 기술은 심각한 보안 위험을 초래합니다.
Norton의 개발사인 Gen이 수행한 AI 에이전트에 대한 한 연구에서 위협 연구자들은 공개 에이전트 레지스트리에서 약 400개의 기술(사용 가능한 전체 기술의 약 12%)이 악성이라는 사실을 발견했습니다. 여기에는 AI 에이전트에 악성 코드를 다운로드하도록 지시하는 메시지가 포함되어 있었습니다.
공급망 공격
공급망 공격은 귀하 또는 귀하의 AI 에이전트가 사이버 범죄자에 의해 변조되거나 생성된 악성 패키지(파일, 프로그램 또는 소프트웨어 묶음)를 설치하는 것입니다.
작업을 완료하기 위해 AI 에이전트는 특히 코드를 작성하거나 환경을 설정할 때 패키지나 도구를 자동으로 설치할 수 있습니다. 이러한 도구 중 하나가 안전하지 않은 경우 설치 후 해를 끼칠 수 있습니다. 귀하의 데이터를 수집하거나 원치 않는 변경을 가하거나 다른 사람에게 귀하의 시스템에 대한 액세스 권한을 부여할 수도 있습니다.
자격증명 노출 및 데이터 유출
AI 에이전트는 사용자를 대신하여 작업을 완료할 수 있도록 비밀번호, API 키, 계정 토큰과 같은 민감한 정보에 액세스할 수 있는 경우가 많습니다. 이러한 액세스는 유용할 수 있지만 데이터가 노출될 위험도 있습니다. 예를 들어, 에이전트를 속여서 외부 서버에 자격 증명을 보내거나 생성된 코드에 자격 증명을 포함시킬 수 있습니다.
자격 증명이 노출되면 공격자는 이를 사용하여 계정에 액세스하거나 시스템 간 측면 이동을 하거나 추가 공격을 자동화할 수 있습니다. 상담원은 검토 없이 신속하게 조치를 취하는 경우가 많기 때문에 귀하가 문제가 있다는 사실을 깨닫기도 전에 이러한 개인 데이터 침해가 발생할 수 있습니다. 위협 행위자가 AI 에이전트를 조작하여 귀하의 개인 데이터를 충분히 획득하면 귀하의 신원을 도용할 수 있습니다.
무단 시스템 변경
AI 에이전트는 파일 생성, 수정, 삭제는 물론 시스템 설정 조정 등 장치에서 직접 변경 작업을 수행할 수 있습니다. 대부분의 경우 이러한 작업은 백그라운드에서 발생하므로 바로 알아차리지 못할 수도 있습니다.
문제가 발생하면 이러한 변경으로 인해 실제 결과가 발생할 수 있습니다. 에이전트는 중요한 파일을 덮어쓰거나, 구성을 변경하거나, 의도하지 않은 명령을 실행할 수 있습니다. 가시성이나 제어력이 없으면 작은 실수라도 데이터 손실이나 시스템 문제로 이어질 수 있습니다.
위협 행위자들도 AI 에이전트를 활용하고 있습니다
최근 한 사건에서 Anthropic의 보안 연구원들은 공격자가 AI 에이전트를 사용하여 대부분의 작업을 자율적으로 수행하는 대규모 사이버 스파이 활동을 발견했습니다. 에이전트는 정찰을 수행하고, 취약점을 식별하고, 악성 코드를 작성하고, 대상 조직에서 민감한 데이터를 추출하도록 조작되었습니다. 인간의 개입은 최소화되었습니다. 이른바 '다크 AI'에 활용되는 AI 에이전트의 사례다.
더 안전하게 AI 에이전트 사용:Norton AI 에이전트 보호 소개
AI 에이전트가 더 많은 책임을 맡게 하려면 AI 에이전트를 신뢰할 수 있어야 합니다. 뒤에서 일어나는 일이 너무 많으면 어려울 수 있습니다. Norton AI Agent Protection은 에이전트가 수행하는 모든 작업을 확인하는 실시간 보안 계층을 추가하여 위협을 차단하고 위험한 행동을 표시하는 데 도움이 됩니다.
AI 에이전트 보호는 백그라운드에서 조용히 작동하여 신속한 주입과 같은 특정 AI 사기 및 위협으로부터 사용자를 보호하므로 에이전트가 실제로 무엇을 하는지 끊임없이 추측하지 않고 작업에 투입할 수 있습니다.
"사람들은 AI 에이전트를 강력하게 만들기 때문에 자신의 시스템, 계정 및 개인 정보에 대한 상당한 액세스 권한을 부여하고 있습니다. 그러나 지금까지는 해당 에이전트가 무엇을 하려고 하는지 확인할 방법이 없었습니다. Norton AI Agent Protection은 누락된 신뢰 계층을 해결하므로 사람들은 추측이 아닌 확신을 가지고 이러한 도구를 사용할 수 있습니다."
Travis Witteveen, Gen의 제품 및 포트폴리오 책임자
Norton AI 에이전트 보호는 회사의 차세대 AI 기반 보안 도구를 개발하는 팀인 Gen’s AI Foundry에서 개발되었습니다. AI 시스템이 단순한 상호 작용에서 실제 작업으로 이동함에 따라 사람들을 안전하게 보호하도록 설계된 AI Agent Trust Layer를 구축하는 것은 더 넓은 비전의 일부입니다. 이는 Norton의 고급 소비자 사이버 안전 도구 제품군인 Norton 360의 기능입니다.
Norton AI 에이전트 보호 작동 방식
Norton AI 에이전트 보호를 활성화하면 자격 증명 유출, 악성 URL, 안전하지 않은 다운로드, 예상치 못한 시스템 변경과 같은 위험을 포착하도록 설계된 300개 이상의 탐지 규칙을 사용하여 에이전트가 수행하는 모든 작업이 실시간으로 분석됩니다. 해당 분석을 기반으로 상담원이 취하는 각 조치는 허용, 질문, 거부의 세 가지 결과 중 하나를 유발합니다.
허용:중단 없이 안전한 작업이 진행됩니다.
AI 에이전트의 작업이 안전하다고 인식되면 작업 흐름에 방해나 방해 없이 정상적으로 실행됩니다.
질문:의심스러운 작업은 검토를 위해 일시중지됩니다.
위험해 보이지만 완전히 악의적이지는 않은 작업에 대해 Norton은 실행을 일시 중지하고 이를 차단하거나 허용할 수 있는 선택권을 제공하여 사용자가 다시 주도권을 갖도록 합니다.
거부:확인된 위협은 자동으로 차단됩니다.
작업이 알려진 위협 패턴과 일치하면(예:악의적인 URL로 자격 증명 전송, 파괴적인 명령 실행) Norton AI Agent Protection은 해당 작업을 간단히 차단합니다.
Norton AI 에이전트 보호는 Claude Code, Cursor 및 OpenClaw와 같은 도구에서 작동합니다. Windows에서 지원되며 Mac도 곧 지원될 예정입니다.
Norton AI 에이전트 보호 시작하기
Norton AI 에이전트 보호 사용을 시작하려면 활성화된 Norton 360 제품 정보 사용 기간만 필요합니다. 이미 고객이라면 대시보드에서 활성화할 수 있습니다. 보안> 고급 보안> 컴퓨터로 이동합니다. 그런 다음 AI 에이전트 플랫폼에 대한 보호 추가를 클릭하세요.
통제력을 유지하는 데 도움이 되는 신뢰와 보안이 뒷받침되는 흥미롭고 새로운 AI 에이전트의 세계에 발을 담그세요.
FAQ
Norton AI 에이전트 보호란 무엇입니까?
Norton AI 에이전트 보호는 장치의 AI 에이전트 작업을 실시간으로 모니터링하고 감독하는 Norton 360의 새로운 보안 기능입니다. 위협을 차단하고 의심스러운 활동을 일시 중지하여 검토합니다.
Norton AI Agent Protection은 어떤 AI 에이전트와 함께 작동하나요?
Norton AI Agent Protection은 현재 Claude Code, Cursor 및 OpenClaw를 지원하며 추가 통합이 계획되어 있습니다.
Norton AI 에이전트 보호는 어떤 플랫폼을 지원합니까?
Norton AI 에이전트 보호는 Windows에서 Norton 360 고객을 위해 작동하며 Mac 지원은 곧 제공될 예정입니다.
Norton AI Agent Protection은 위협을 어떻게 탐지합니까?
Norton AI Agent Protection은 여러 계층에 걸쳐 300개 이상의 탐지 규칙을 사용하여 실시간으로 위협을 식별하며 핵심 엔진은 장치에서 로컬로 실행됩니다. 명령, 파일 및 코드를 분석하여 위험한 동작 및 자격 증명 유출 가능성을 표시하고, Norton의 위협 인텔리전스와 비교하여 URL을 확인하여 피싱 및 악성 사이트를 차단하고, 가짜 또는 의심스러운 패키지를 포착하기 위해 에이전트가 설치하는 도구를 확인합니다.
Norton AI Agent Protection을 별도로 구독해야 합니까?
아니요. 모든 Norton 360 고객은 베타 버전인 동안 Norton AI Agent Protection에 액세스할 수 있습니다. 베타 기간 및 추가 기능이 개발된 후에는 계획 자격이 변경될 수 있습니다.
AI 에이전트 보호로 인해 AI 도구 속도가 느려지나요?
아니요. 중단이나 속도 저하 없이 안전한 조치가 진행됩니다. 확인된 위협만 차단되며, 의심스러운 활동은 일시 중지됩니다. 작업 흐름이 원활하게 유지됩니다.