FIN이란 무엇인가?
'FIN'은 문맥에 따라 두 가지 의미로 사용됩니다. 하나는 네트워크 통신 프로토콜인 TCP에서 연결 종료를 알리는 플래그(FIN flag)이고, 다른 하나는 미국에서 개발된 차량용 GPS 보안 시스템 'FIN'입니다. 이 글에서는 두 가지 의미를 모두 살펴보고, 특히 네트워크 보안과 관련된 FIN 패킷의 동작 원리를 자세히 정리합니다.
보안 시스템으로서의 FIN: GPS 도난 방지 장치
미국에서 제조된 FIN GPS는 원래 오토바이 소유주가 자신의 차량을 손쉽게 관리할 수 있도록 설계된 첨단 GPS 보안 시스템입니다. 이 장치는 차량이 허가 없이 움직이면 문자 메시지나 이메일로 즉시 알려주며, 도난 발생 시 차량의 위치를 빠르게 추적해 회수하는 데 큰 도움을 줍니다.
TCP FIN 패킷이란?
TCP에서 연결을 정상적으로 닫을 때는 FIN(Finish) 패킷을 전송합니다. FIN은 "더 이상 보낼 데이터가 없으므로 연결을 종료하고 싶다"는 의사 표현입니다. 연결이 종료되면 해당 연결에 할당된 리소스가 해제되고, 양측은 안전하게(gracefully) 세션을 마무리할 수 있습니다.
FIN 패킷이 전송되면 어떻게 되나요?
TCP 연결의 어느 한쪽이든 FIN 신호를 보내 연결 종료를 알릴 수 있습니다. FIN을 받은 수신 측은 더 이상 데이터를 수신하지 않겠다는 사실을 애플리케이션에 알려주어야 하며, 이후 ACK로 응답하며 종료 절차를 진행합니다.
SYN과 FIN이 동시에 설정된 패킷은 공격 신호
정상적인 통신에서는 SYN(연결 요청)과 FIN(연결 종료)이 하나의 패킷에 함께 담기는 일이 없습니다. 따라서 이러한 패킷이 탐지된다면 대상 장비에 대한 공격 시도를 의심해야 합니다. 실제로 포트 스캐닝이나 비정상 패킷을 이용한 DoS 공격에서 이런 조합이 활용되곤 합니다.
FIN과 RST의 차이점
두 플래그 모두 연결을 끝내는 데 사용되지만 그 의미는 다릅니다.
- FIN: "대화는 끝냈지만, 상대방이 통신을 마칠 때까지는 계속 듣고 있겠다"는 정상적인 종료 요청입니다.
- RST(Reset): "애초에 대화한 적도 없으니 더 이상 통신하지 말라"는 강제 중단 신호입니다.
트래픽이 적으면서 오랫동안 유지되는 TCP 연결에서는 RST가 유용하게 활용될 수 있습니다.
FIN과 ACK의 관계
[ACK]는 상대방이 보낸 데이터 패킷을 정상적으로 수신했음을 확인하는 응답입니다. TCP 프로토콜에서는 연결을 완전히 종료하기 위해 양쪽 끝이 각각 FIN(종료 요청)을 보내야 하며, 각 FIN에 대해 ACK로 응답하는 4-way 핸드셰이크 과정을 거칩니다.
Wireshark에서 FIN 패킷 확인하기
패킷 분석 도구인 Wireshark에서 FIN 플래그가 설정된 패킷이 보이면 해당 TCP 세션이 곧 종료된다는 뜻입니다. 이에 대한 응답 패킷에는 데이터를 잘 받았음을 나타내는 ACK 비트가 포함됩니다.
FIN 패킷의 주요 특징
- Finish 플래그: 송신자가 데이터 전송을 마쳤음을 나타내며, 일반적으로 마지막 패킷에만 설정됩니다.
- Urgent 플래그: 수신자에게 다른 패킷보다 우선적으로 처리해야 할 긴급 데이터가 있음을 알립니다.
누가 TCP FIN을 보내나요?
TCP FIN은 데이터 스트림을 먼저 끝내려는 쪽, 즉 송신자가 전송합니다. FIN 플래그가 설정된 패킷을 받은 수신자는 FIN-ACK로 응답하며, 여기에는 자신이 수신한 시퀀스 번호가 포함됩니다.
RST(Reset) 패킷이란?
TCP 리셋(RST) 패킷은 송신자가 더 이상 어떤 데이터도 수신하지 않겠다고 선언할 때 사용합니다. 경로 외부(out-of-path)에서 운영되는 관리 장비는 불필요하거나 원치 않는 연결을 강제로 종료하기 위해 TCP RST 패킷을 주입하기도 합니다.
마무리: FIN은 네트워크 보안과 어떤 관련이 있을까?
정리하면, FIN 자체는 TCP 연결을 정상적으로 종료하는 표준 신호이지만, SYN+FIN처럼 비정상적인 조합의 패킷은 공격의 징후가 될 수 있습니다. 또한 FIN이라는 이름의 GPS 보안 장치는 차량 도난 방지 분야에서 활용됩니다. 네트워크 엔지니어라면 FIN과 RST의 차이, 그리고 비정상 플래그 조합을 탐지하는 방법을 반드시 이해하고 있어야 합니다.