침입과 침입 탐지·방지 시스템의 개요
침입(intrusion)이란 네트워크 자원(예: 사용자 계정, 파일 시스템, 시스템 커널 등)의 무결성, 기밀성, 가용성을 위협하는 모든 활동을 의미합니다.
침입 탐지 시스템(IDS)과 침입 방지 시스템(IPS)은 모두 네트워크 트래픽과 시스템 성능을 모니터링하여 악성 활동을 찾아냅니다. 두 시스템의 차이점은 IDS가 탐지 결과를 로그와 보고서 형태로 기록하는 데 그치는 반면, IPS는 네트워크 경로상에 인라인으로 배치되어 식별된 침입을 실시간으로 능동적으로 차단할 수 있다는 점입니다.
침입 방지 시스템의 주요 장점은 악성 활동을 인식하고, 해당 활동에 대한 데이터를 기록하며, 활동을 차단·중단하고, 그 내역을 문서화하는 것입니다. 데이터 마이닝 기법은 다음과 같은 다양한 방식으로 침입 탐지 및 방지 시스템의 성능 향상에 기여할 수 있습니다.
1. 침입 탐지를 위한 새로운 데이터 마이닝 알고리즘
데이터 마이닝 알고리즘은 서명 기반(signature-based) 탐지와 이상 기반(anomaly-based) 탐지 양쪽 모두에 활용될 수 있습니다.
서명 기반 탐지
서명 기반 탐지에서는 학습 데이터가 '정상' 또는 '침입'으로 레이블링되며, 이를 바탕으로 알려진 침입을 식별하는 분류기(classifier)를 만들 수 있습니다. 이 분야의 연구에는 분류 알고리즘, 연관 규칙 마이닝(association rule mining), 비용 민감형 모델링(cost-sensitive modeling) 등이 포함됩니다.
이상 기반 탐지
이상 기반 탐지는 정상적인 행동에 대한 모델을 구축한 뒤, 그로부터 벗어나는 중요한 편차를 자동으로 식별하는 방식입니다. 클러스터링, 이상치 분석(outlier analysis), 분류 알고리즘, 통계적 기법 등 여러 접근 방식이 사용됩니다. 이러한 기법은 효과적이고 확장 가능해야 하며, 대용량·고차원·이질적인 네트워크 데이터를 처리할 수 있어야 합니다.
2. 연관·상관·판별 패턴 분석을 통한 분류기 개선
연관 분석, 상관 분석, 판별 패턴 마이닝은 네트워크 데이터를 정의하는 시스템 속성들 간의 관계를 발견하는 데 활용될 수 있습니다. 이러한 분석 결과는 침입 탐지에 유용한 속성을 선별하는 데 중요한 통찰을 제공합니다. 또한 특정 패턴과 일치하는 트래픽의 요약 집계처럼, 집계된 레코드에서 파생된 새로운 속성 역시 침입 탐지 정확도를 높이는 데 도움이 됩니다.
3. 스트림 데이터 분석
침입과 악성 공격은 일시적이고 동적인 특성을 지니므로, 데이터 스트림 환경에서 침입 탐지를 수행하는 것이 필수적입니다. 더욱이 개별 이벤트는 그 자체로는 정상으로 보일 수 있지만, 이벤트 시퀀스의 일부로 볼 때는 악성으로 판단될 수 있습니다.
따라서 어떤 이벤트 시퀀스가 일반적으로 나타나는지 연구하고, 순차 패턴(sequential pattern)을 발견하며, 이상치를 식별하는 작업이 매우 중요합니다. 아울러 데이터 스트림에서 진화하는 클러스터를 발견하고 동적 분류 모델을 구축하는 데이터 마이닝 기법은 실시간 침입 탐지에 필수적입니다.
4. 분산 데이터 마이닝
침입은 여러 위치에서 시작되어 여러 다른 목적지를 겨냥할 수 있습니다. 분산 데이터 마이닝(distributed data mining) 기법을 활용하면 여러 네트워크 위치에서 수집한 데이터를 종합적으로 분석하여 이러한 분산형 공격을 효과적으로 식별할 수 있습니다.
5. 시각화 및 질의 도구
탐지된 이상 패턴을 검토할 수 있도록 시각화 도구를 제공해야 합니다. 이러한 도구에는 연관 관계, 판별 패턴, 클러스터, 이상치를 확인하는 기능이 포함될 수 있습니다. 또한 침입 탐지 시스템은 보안 분석가가 네트워크 데이터나 침입 탐지 결과에 대해 질의(query)를 수행할 수 있는 그래픽 사용자 인터페이스(GUI)를 갖추어야 합니다.
결론
데이터 마이닝은 새로운 탐지 알고리즘 개발부터 스트림 분석, 분산 처리, 시각화에 이르기까지 침입 탐지 및 방지 시스템 전반의 성능을 끌어올리는 핵심 기술입니다. 조직이 데이터 마이닝 기법을 보안 체계에 효과적으로 통합하면 알려진 공격뿐 아니라 미지의 위협까지 더 빠르고 정확하게 대응할 수 있습니다.