L2TP(Layer 2 Tunneling Protocol) 연결은 주로 가상 사설망(VPN)을 지원하기 위해 사용되는 프로토콜입니다. VPN은 실제 접속 위치와 다른 지역에 있는 서버를 통해 연결을 우회시켜 사용자의 원래 위치를 숨기는 역할을 합니다. 이를 통해 특정 웹사이트에서 자신의 위치를 감추거나 일부 보안 제한을 우회할 수 있습니다.
그러나 최근 들어 많은 사용자들이 VPN 연결을 시도할 때 "보안 계층에서 처리 오류가 발생하여 원격 컴퓨터와 초기 협상 중 L2TP 연결 시도가 실패했습니다(The L2TP connection attempt failed because the security layer encountered a processing error during the initial negotiations with the remote computer)"라는 오류 메시지가 나타나며 연결에 실패한다는 보고가 잇따르고 있습니다. 이번 글에서는 이 오류가 발생하는 원인을 살펴보고, 문제를 완전히 해결할 수 있는 실질적인 방법들을 소개하겠습니다.
"L2TP 연결 시도 실패" 오류의 원인
여러 사용자로부터 접수된 수많은 보고를 바탕으로 저희는 해당 문제를 조사했으며, 이를 완전히 해결할 수 있는 솔루션 목록을 마련했습니다. 또한 오류를 유발하는 원인도 함께 분석했는데, 주요 원인은 다음과 같습니다.
- 비활성화된 프로토콜: 경우에 따라 VPN 연결 속성에서 Microsoft CHAP v2 프로토콜이 비활성화되어 있으면 이 오류가 발생합니다. 대부분의 VPN 연결이 정상적으로 작동하려면 이 프로토콜이 반드시 활성화되어 있어야 합니다.
- PPP 설정 문제: VPN 연결을 시도하기 전에 P2P(Point to Point) 프로토콜이 올바르게 구성되어 있어야 합니다. 이 프로토콜에는 LCP 프로토콜이 포함되어 있으며, 연결이 정상적으로 작동하려면 LCP 확장 기능도 활성화해야 합니다.
이제 문제의 성격에 대해 기본적으로 이해하셨으니, 해결 방법으로 넘어가겠습니다. 충돌을 피하려면 아래 소개하는 순서대로 진행하는 것이 좋습니다.
손상된 파일 복구
먼저 Restoro를 다운로드하여 실행하고, 손상되었거나 누락된 시스템 파일을 스캔 및 복원하세요. 복구가 완료되면 아래의 해결 방법을 진행하시기 바랍니다.
방법 1: MS-CHAP v2 활성화
Windows 10에서 VPN에 연결하려면 Microsoft CHAP v2 프로토콜이 활성화되어 있는 것이 중요합니다. 이 단계에서는 해당 프로토콜을 활성화하는 방법을 알아보겠습니다.
- 연결하려는 VPN 서버의 자격 증명(계정 정보)과 일치하도록 VPN 연결이 올바르게 구성되어 있는지 확인한 후, 연결을 추가합니다.
- 연결이 추가되면 네트워크 어댑터 목록에 해당 연결이 표시됩니다.
- Windows 키 + R을 눌러 실행(Run) 창을 엽니다.
- ncpa.cpl을 입력하고 Enter 키를 눌러 네트워크 어댑터 설정 창을 엽니다.
- 추가한 VPN 연결을 마우스 오른쪽 버튼으로 클릭하고 속성(Properties)을 선택합니다.
- 보안(Security) 탭으로 이동한 후, "다음 프로토콜 허용(Allow These Protocols)" 옵션을 체크합니다.
- "MS-CHAP(Microsoft-CHAP) Version 2" 옵션을 체크하고 확인(OK)을 클릭합니다.
- VPN에 다시 연결을 시도하고 문제가 지속되는지 확인합니다.
방법 2: LCP 확장 기능 활성화
PPP 설정에서 LCP 확장 기능이 허용되도록 구성하는 것도 매우 중요합니다. 이 단계에서는 VPN 속성을 변경하여 확장 기능을 활성화하는 방법을 알아보겠습니다.
- Windows 키 + R을 눌러 실행(Run) 창을 엽니다.
- ncpa.cpl을 입력하고 Enter 키를 눌러 네트워크 어댑터 설정 창을 엽니다.
- 추가한 VPN 연결을 마우스 오른쪽 버튼으로 클릭하고 속성(Properties)을 선택합니다.
- 옵션(Options) 탭으로 이동한 후, PPP 설정(PPP Settings)을 클릭합니다.
- "LCP 확장 사용(Enable LCP Extensions)" 옵션을 체크하고 확인(OK) 버튼을 클릭합니다.
- 설정을 저장하기 위해 다시 한번 확인(OK)을 클릭합니다.
- VPN에 다시 연결을 시도하고 문제가 해결되었는지 확인합니다.