많은 사용자가 웹 서핑 시 신원 보호와 보안을 위해 VPN을 사용하고 있습니다. VPN은 훌륭한 도구이지만 다양한 제약과 오류가 발생할 수 있습니다. 사용 중인 운영체제와 관계없이 안전한 연결을 시도하는 과정에서 여러 가지 VPN 오류 코드를 만나게 되는 경우가 매우 흔하며, 이번 글에서 다룰 내용은 VPN 오류 789입니다.
L2TP 연결 시도 실패 오류란?
원격 컴퓨터와의 초기 협상 과정에서 보안 계층이 처리 오류를 일으켜 L2TP 연결 시도가 실패했습니다.
VPN 오류 789는 사용자가 L2TP 방식으로 연결을 시도할 때 발생하는 가장 흔한 오류 중 하나입니다. 이 오류가 나타나면 원격 컴퓨터와의 초기 협상 단계에서 보안 계층 처리에 문제가 생겨 L2TP 연결이 실패하게 됩니다.
VPN 오류 789의 주요 원인
이 오류는 Windows 2000 터미널 서비스를 통해 클라이언트 세션을 설정할 때, 또는 시스템이 L2TP 서버에 올바르게 연결되도록 구성되어 있지 않을 때 발생할 수 있습니다. 그 외 주요 원인은 다음과 같습니다.
- L2TP 기반 VPN 클라이언트(또는 VPN 서버)가 NAT 뒤에 있는 경우
- VPN 서버 또는 클라이언트에 잘못된 인증서 또는 사전 공유 키(PSK)가 설정된 경우
- VPN 서버에 컴퓨터 인증서 또는 신뢰할 수 있는 루트 인증서가 없는 경우
- VPN 서버의 컴퓨터 인증서에 '서버 인증(Server Authentication)' EKU가 포함되어 있지 않은 경우
모든 Windows 버전에서 이 오류가 발생할 수 있으며, 특히 Windows 7의 L2TP IPSEC 환경에서 많이 보고됩니다.
VPN 오류 789 해결 방법
VPN 오류 789를 해결하기 위해 아래 세 가지 방법을 순서대로 시도해 볼 수 있습니다.
- VPN 네트워크 어댑터 재시작(재설치)
- 인증서 확인
- IPsec 서비스 다시 활성화
각 방법을 자세히 살펴보겠습니다.
방법 1: VPN 네트워크 어댑터 재시작
복잡한 문제 해결에 들어가기 전에 먼저 간단한 방법부터 시도해 보세요. 네트워크 어댑터를 재설정하면 오류가 해결되는 경우가 많습니다.
1] '시작' 버튼을 마우스 오른쪽 버튼으로 클릭하고 '장치 관리자'를 선택합니다.
2] '네트워크 어댑터' 항목을 찾아 클릭하여 목록을 확장합니다.
3] 사용 중인 네트워크 어댑터를 찾습니다.
4] 마우스 오른쪽 버튼을 클릭하고 '디바이스 제거'를 선택합니다.
5] '확인'을 클릭합니다.
6] 시스템을 '다시 시작'합니다.
재부팅 후 로그인하면 네트워크 어댑터가 자동으로 다시 설치되며 기본 공장 설정값으로 초기화됩니다. 이 방법으로 VPN 오류 789가 해결되지 않으면 다음 방법을 시도하세요.
방법 2: 인증서 확인
클라이언트 측과 서버 측 모두 올바른 인증서가 사용되고 있는지 확인해야 합니다. 사전 공유 키(PSK)를 사용하는 경우에는 클라이언트와 VPN 서버 양쪽에 동일한 PSK가 설정되어 있는지 반드시 확인하세요. 인증서 불일치는 L2TP/IPsec 연결 실패의 대표적인 원인입니다.
방법 3: IPsec 서비스 다시 활성화
IPsec 서비스를 다시 활성화하는 절차는 다음과 같습니다.
1] '시작' 버튼을 마우스 오른쪽 버튼으로 클릭하고 '실행'을 선택합니다.
2] 'services.msc'를 입력하고 Enter 키를 누릅니다.
3] 'IKE 및 AuthIP IPSec 키 교환 모듈'과 'IPSec 정책 에이전트' 서비스를 찾습니다.
4] 두 서비스의 상태를 확인합니다. 상태가 '실행 중'이라면 '다시 시작'을 클릭하고, 실행 중이 아니라면 '시작'을 눌러 활성화합니다.
5] 두 서비스를 각각 더블클릭하고 '시작 유형' 항목을 확인합니다.
6] 시작 유형을 '자동'으로 변경합니다.
7] '확인'을 클릭하여 변경 사항을 저장합니다.
8] VPN 서비스를 다시 시작하고 연결을 다시 시도합니다.
마무리
위의 모든 방법을 시도한 후에도 VPN 오류 789가 계속 발생한다면, 사용 중인 VPN 서비스 제공업체에 즉시 문의하는 것이 좋습니다. 어떤 해결 방법이 도움이 되었는지 아래 댓글로 알려주시면 많은 분들에게 도움이 될 것입니다.