일부 Windows 사용자들이 VPN 연결에 실패하는 문제를 겪고 있습니다. 모든 시도가 VPN 오류 806(GRE 차단) 메시지와 함께 실패로 끝나는 것이죠. 이 문제는 주로 방화벽이 네트워크를 필터링하고 있을 때 발생하는 것으로 알려져 있으며, Windows 8.1과 Windows 10 모두에서 확인된 사례입니다.
조사해 보면 이러한 현상을 유발하는 원인은 여러 가지가 있습니다. VPN 오류 806(GRE 차단)을 일으킬 수 있는 주요 원인들은 다음과 같습니다.
- 오래된 라우터 펌웨어 – 가장 흔한 원인 중 하나는 GRE 프로토콜을 처리할 수 없는 구버전 라우터 펌웨어입니다. 라우터 펌웨어를 공식 경로를 통해 최신 버전으로 업데이트하면 예방할 수 있습니다.
- TCP 포트 1723이 닫혀 있는 경우 – 대부분의 VPN 클라이언트는 방화벽 통과 연결에 이 TCP 포트를 사용합니다. 이 포트가 닫혀 있어서 오류가 발생한다면, 방화벽 설정에서 해당 포트를 허용 목록에 추가하면 해결됩니다.
- 다른 방화벽의 간섭 – 방화벽이 활성화되어 있을 때만 문제가 발생한다면, VPN 사용 중에는 서드파티 백신 프로그램을 일시적으로 비활성화하는 것도 고려해 볼 만합니다.
이제 가능한 원인을 모두 파악했으니, 실제로 VPN 오류 806을 성공적으로 해결한 사용자들이 활용한 방법들을 소개하겠습니다.
방법 1: 라우터 펌웨어 업데이트
많은 사용자들의 제보에 따르면, GRE 프로토콜을 처리하지 못하는 심하게 오래된 라우터 펌웨어를 사용할 때 이 문제가 발생할 수 있습니다. PPTP 패스스루가 관련된 경우, 방화벽이 네트워크를 필터링하는 동안 라우터가 GRE 프로토콜을 차단할 수 있습니다.
이 경우 라우터에 사용 가능한 최신 펌웨어 업데이트를 설치하면 문제를 해결할 수 있습니다. 물론 구체적인 방법은 라우터 제조사에 따라 다릅니다.
대부분의 경우, 라우터 제조사 웹사이트에서 최신 펌웨어를 미리 다운로드한 후, 라우터 관리자 페이지에 접속하여 고급(Advanced) 메뉴에서 펌웨어를 설치하는 방식으로 진행됩니다.
정확한 절차는 각 제조사 웹사이트의 공식 문서를 참고하여 라우터 펌웨어 업데이트를 완료하시기 바랍니다.
이 방법이 해당되지 않거나 이미 수행했는데도 VPN에 연결할 때 여전히 동일한 VPN 오류 806(GRE 차단)이 발생한다면, 아래의 다음 해결 방법을 확인해 보세요.
방법 2: 방화벽에서 포트 1723 허용하기
대부분의 VPN 솔루션은 방화벽 통과 연결을 위해 거의 확실하게 1723 포트를 사용합니다. 기본적으로 이 포트는 허용되어 있어야 하지만, 그렇지 않은 경우 방화벽 설정에 접근하여 이 포트를 영구적으로 허용하는 규칙을 만들면 문제를 해결할 수 있습니다.
서드파티 방화벽을 사용하는 경우 절차가 상당히 다를 수 있습니다. 이 경우에는 사용 중인 서드파티 방화벽에서 1723 포트를 여는 구체적인 방법을 온라인에서 검색해 보세요.
반면 기본 Windows 방화벽을 사용하고 있다면, 아래 지침에 따라 1723 포트를 수동으로 허용할 수 있습니다.
- Windows 키 + R을 눌러 실행(Run) 대화상자를 엽니다. 텍스트 상자에 'firewall.cpl'을 입력하고 Enter 키를 눌러 Windows Defender 방화벽을 실행합니다.
- Windows Defender 방화벽 화면에 들어가면 왼쪽 세로 메뉴에서 고급 설정(Advanced Settings) 링크를 클릭합니다.
- 고급 보안이 포함된 Windows Defender 방화벽 창에서 왼쪽 메뉴의 인바운드 규칙(Inbound Rules)을 클릭한 후, 오른쪽 메뉴에서 새 규칙(New Rule)을 클릭합니다.
- 규칙 종류(Rule Type) 화면에서 포트(Port)를 선택하고 다음을 클릭합니다.
- 다음 화면에서 TCP를 선택한 후, 특정 로컬 포트(Specific Local Ports)를 선택하고 텍스트 상자에 1723을 입력한 뒤 다음을 클릭합니다.
- 다음 단계에서 연결 허용(Allow the connection)을 선택하고 다음을 다시 클릭합니다.
- 규칙 적용 범위를 묻는 화면에서는 도메인(Domain), 개인(Private), 공용(Public)에 해당하는 체크박스가 모두 선택되어 있는지 확인한 후 다음을 클릭합니다.
- 마지막으로 새로 생성한 규칙에 이름을 지정하고 마침(Finish)을 클릭하여 규칙을 영구적으로 설정합니다.
- 컴퓨터와 라우터를 모두 재시작한 후, 동일한 VPN 오류 806(GRE 차단) 없이 VPN 네트워크에 연결할 수 있는지 확인합니다.
여전히 동일한 문제가 발생한다면, 아래의 마지막 해결 방법을 시도해 보세요.
방법 3: Windows 방화벽 또는 서드파티 방화벽 일시적으로 비활성화
위의 방법들로도 해결되지 않는다면, VPN 오류 806이 1723 포트 외의 다른 방화벽 간섭 때문에 발생했을 가능성이 높습니다. 이 경우, 다른 VPN 솔루션으로 전환하기 전 마지막 단계로 VPN 사용 중에는 방화벽 필터링을 일시적으로 비활성화해 볼 수 있습니다.
서드파티 백신 프로그램을 사용 중이라면 프로그램별로 절차가 다르므로, 방화벽을 비활성화하는 옵션을 찾지 못했다면 해당 제품의 구체적인 방법을 온라인에서 검색해 보세요.
기본 Windows 방화벽을 사용하고 있다면, 아래 지침에 따라 활성 방화벽 필터링을 일시적으로 비활성화할 수 있습니다.