네트워크 보안에서 가장 빈번하게 언급되는 주제 중 하나는 DoS(서비스 거부) 공격과 이를 완화하기 위한 보안 솔루션입니다. 이 글에서는 DoS 공격 완화 방법을 비롯해 핑 스캔, 포트 스캔, 멀웨어, 트로이 목마 등 다양한 네트워크 공격 유형과 대응 전략을 체계적으로 정리했습니다.
DoS 공격 완화에 사용할 수 있는 두 가지 네트워크 보안 솔루션
DoS 공격을 완화하는 대표적인 보안 솔루션은 침입 방지 시스템(IPS)과 방화벽(Firewall)입니다. IPS는 네트워크와 호스트에 대한 접근을 제한하여 피해를 최소화할 수 있으며, 방화벽을 통해 허가되지 않은 트래픽을 사전에 차단할 수 있습니다. 또한 엣지 라우터에서 ICMP echo 및 reply 메시지를 비활성화하면 핑 스윕(ping sweep) 공격 자체를 효과적으로 차단할 수 있습니다.
핑 스캔(Ping Scan)을 완화하는 방법
네트워크 자체의 기능이 손상되지 않는 한, 포트 스캔과 핑 스윕을 완전히 막는 것은 불가능합니다. 다만 침입 방지 시스템(IPS)을 활용해 네트워크와 호스트에 대한 접근을 제한하면 피해를 최소화할 수 있으며, 엣지 라우터에서 ICMP echo와 reply를 비활성화하여 핑 스윕을 차단할 수 있습니다.
멀웨어 위험을 완화하는 가장 기본적인 방법
멀웨어 위험을 줄이기 위한 첫 번째 조치는 소프트웨어 업데이트를 다운로드하고 설치하는 것입니다. 새로운 취약점은 끊임없이 발견되며, 제조사들은 패치라는 형태의 소프트웨어 업데이트를 통해 이를 해결합니다. 장비가 자동 업데이트로 설정되어 있는지 반드시 확인하고, 그렇지 않다면 설정을 변경하는 것이 좋습니다.
대표적인 세 가지 네트워크 공격 유형
네트워크 공격은 크게 다음 세 가지 범주로 나눌 수 있습니다.
- 접근 공격(Access Attack): 권한 없이 시스템이나 데이터에 접근하려는 공격
- 정찰 공격(Reconnaissance Attack): 네트워크 정보를 수집하고 침입 경로를 탐색하는 공격
- 서비스 거부 공격(DoS Attack): 정상적인 서비스 이용을 방해하는 공격
버퍼 오버플로우를 시도하는 보안 공격의 유형
버퍼 오버플로우(buffer overflow)를 시도하는 공격은 DoS(서비스 거부) 공격에 해당합니다. DoS 공격은 통신 포트를 과부하 상태로 만들거나, 변형된 패킷을 특정 장비로 전송하여 다른 장비들이 해당 장비에 접근하지 못하도록 만들어 네트워크 서비스를 마비시킵니다.
DoS 공격의 두 가지 대표적인 사례
DoS 공격의 대표적인 예로는 버퍼 오버플로우(buffer overflow)와 핑 오브 데스(ping of death)가 있습니다. 이 두 공격은 서버의 메모리 관련 취약점을 악용하여 대량의 데이터 또는 비정상적으로 구성된 데이터를 전송함으로써 시스템을 마비시킵니다.
DoS 공격이 대상 시스템의 상태 저장(Stateful) 특성을 악용하는 방식
DoS 공격은 대상 시스템의 상태 저장(stateful) 특성을 악용하여 이점을 얻습니다. 공격 프로그램은 시스템을 파괴하거나 손상시키는 코드를 실행하며, 일부 공격에서는 중간자(man-in-the-middle)가 네트워크 트래픽을 가로채 분석하거나 조작하기도 합니다.
핑 스윕과 포트 스캔을 차단하는 방법
포트 스캐닝을 피하려면 외부 호스트로부터 필요한 트래픽만 허용하고 나머지는 모두 차단하는 것이 효과적입니다. 내부 호스트에 대한 접근은 반드시 필요한 경우에만 허용하며, 보호하려는 호스트와는 반대 방향으로 설정하는 것이 좋습니다. HTTP에 사용되는 TCP 80번 포트, 핑 요청에 사용되는 ICMP 등이 대표적인 표준 포트의 예입니다.
TCP 래퍼(TCP Wrapper)를 활용한 포트 스캔 완화
방화벽 설치와 더불어 TCP 래퍼를 활용하면 관리자가 IP 주소, 도메인 이름 등을 기준으로 서버 접근을 허용하거나 거부할 수 있어 무단 접근을 효과적으로 방지할 수 있습니다.
핑 스윕과 포트 스캔에 사용되는 도구: Nmap
Nmap은 포트 스캔에 가장 널리 사용되는 도구이지만, 핑 트래픽 스캔에도 활용할 수 있습니다. Nmap을 -sP 옵션과 함께 실행하면 특정 호스트가 온라인 상태인지 확인할 수 있으며, 핑 스윕 역시 -sP 옵션을 통해 수행됩니다.
바이러스와 웜의 공격 단계
바이러스나 웜이 감행하는 공격은 일반적으로 다음 순서로 진행됩니다.
- 탐침(Probe)
- 침투(Penetrate)
- 잠복(Persist)
- 확산(Propagate)
- 마비(Paralyze)
DoS 공격의 두 가지 실행 방식
DoS 공격은 플러딩(flooding)과 서비스 충돌(crashing) 두 가지 방식으로 수행됩니다. 플러딩 공격은 서버가 과도한 트래픽을 수신하게 되어 성능이 저하되고 결국 다운되는 현상을 유발합니다. 버퍼 오버플로우는 가장 흔한 DoS 공격 유형이며, DDoS 공격에서도 플러딩 방식이 활용됩니다.
다섯 가지 주요 네트워크 공격 클래스
- 무단 접근(Unauthorized Access): 허가받지 않고 네트워크에 접근하는 행위
- 분산 서비스 거부(DDoS) 공격: 다수의 시스템을 이용해 웹사이트를 마비시키는 공격
- 중간자(Man-in-the-Middle) 공격: 통신을 가로채 도청하거나 조작하는 공격
- 코드 공격 및 SQL 인젝션: 애플리케이션 코드나 데이터베이스 취약점을 노리는 공격
- 권한 상승(Privilege Escalation) 및 내부자 위협(Insider Threat)
암호학이 보장하는 정보 보안의 세 가지 구성 요소(CIA 삼각형)
암호학은 정보 보안 모델의 핵심인 CIA 삼각형, 즉 기밀성(Confidentiality), 무결성(Integrity), 가용성(Availability)을 보장합니다. 각 구성 요소는 정보 보안이 달성해야 할 근본적인 목표를 대표합니다.
피해자 컴퓨터를 이용하는 트로이 목마의 유형
프록시 트로이 목마(Proxy Trojan)는 피해자의 컴퓨터에 프록시 서버를 설치합니다. 공격자는 이를 통해 피해자의 컴퓨터를 활용해 신용카드 사기 등 불법 행위를 저지르거나, 해당 시스템에서 다른 네트워크로 악성 공격을 시작할 수 있습니다.
네트워크 시스템에 대한 접근 공격의 주요 목적
네트워크에 대한 접근 공격의 주된 목적은 네트워크에 대한 정보를 수집하고 접근 경로를 탐색하는 것입니다. 이러한 정보 수집 활동이 바로 정찰(reconnaissance)이며, 서비스 거부 공격은 시스템 접근 자체를 차단하는 결과를 낳습니다.
DNS 쉐도잉(DNS Shadowing) 공격이란?
DNS에 대한 공격에는 DNS 터널링 공격과 함께 DNS 쉐도잉 공격이 있습니다. DNS 쉐도잉 공격에서는 공격자가 부모 도메인을 탈취한 후, 공격 목적으로 활용할 여러 개의 하위 도메인(subdomain)을 생성하여 공격을 수행합니다.