Windows Fall Creators Update(1709)는 향상된 연결성과 다양한 새로운 기능을 사용자에게 제공했으며, 기존에 오류가 있던 여러 모듈도 함께 수정되어 배포되었습니다. 하지만 업데이트가 출시된 직후부터 일부 사용자들은 VPN 모듈에서 문제가 발생하기 시작했습니다.
대표적인 증상은 내장된 VPN 애플리케이션이 아예 열리지 않거나, 연결에 계속 실패하는 것입니다. 이러한 문제는 주로 소프트웨어 충돌이나 인터넷 연결 상태 불량으로 인해 발생합니다. 아래에서 단계별 해결 방법을 확인해 보세요.
방법 1: 레지스트리 값 변경
레지스트리의 'PolicyAgent' 키에 새 값을 추가하여 문제를 해결할 수 있습니다. 만약 이 방법으로 문제가 해결되지 않더라도, 나중에 동일한 절차를 역순으로 진행하면 변경 사항을 되돌릴 수 있습니다. 단, 레지스트리 편집기는 매우 강력한 도구이므로 잘 모르는 키를 생성하거나 수정하면 시스템이 손상될 수 있으니 주의해서 진행하세요.
- Windows + R 키를 눌러 실행 창을 연 뒤, 입력란에 'regedit'을 입력하고 Enter 키를 누릅니다.
- 레지스트리 편집기가 열리면 아래 경로로 이동합니다.
컴퓨터\HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\PolicyAgent
- 해당 경로에서 창 오른쪽 빈 공간을 마우스 오른쪽 버튼으로 클릭하고 '새로 만들기 > DWORD(32비트) 값'을 선택합니다.
- 새로 생성된 값의 이름을 'AssumeUDPEncapsulationContextOnSendRule'로 지정합니다. 그런 다음 해당 값을 두 번 클릭하여 속성 창을 열고 값 데이터를 '2'로 설정한 뒤 확인을 눌러 저장합니다.
- 컴퓨터를 재부팅한 후 문제가 해결되었는지 확인합니다.
방법 2: VPN 패키지(CMAK) 재설치
1703에서 1709로의 현재 위치 업그레이드(in-place upgrade) 이후 많은 사용자들이 VPN 클라이언트가 비정상적으로 작동하거나 아예 실행되지 않는다고 보고했습니다. Microsoft는 수많은 불만 접수 끝에 이 문제를 공식적으로 인정했으며, VPN 패키지 전체를 다시 설치해야 할 수 있다고 밝혔습니다. 특히 CMAK(Connection Manager Administration Kit) 기반 VPN 사용자에게 해당되는 내용입니다.
- Windows + S 키를 눌러 검색창을 연 뒤, 'features' 또는 'windows 기능 켜기/끄기'를 입력하고 첫 번째 결과를 엽니다.
- Windows 기능 창에서 항목들을 살펴보며 'RAS 연결 관리자 관리 키트(CMAK)'를 찾습니다. 이미 이 패키지를 사용 중이라면 대부분 체크되어 있을 것입니다. 체크를 해제하고 '확인'을 클릭합니다.
- Windows가 해당 유틸리티를 제거하면 컴퓨터를 재시작하고 다시 Windows 기능 창으로 돌아갑니다.
- 이번에는 RAS 연결 관리자 관리 키트(CMAK) 항목을 다시 체크하고 '확인'을 눌러 재설치를 진행합니다. 설치가 완료되면 한 번 더 재부팅한 뒤 문제가 해결되었는지 확인합니다.
방법 3: 1709 업데이트 이후 Cisco VPN 문제 해결
Cisco VPN 클라이언트를 사용하는 경우, 원칙적으로는 업데이트를 진행하기 전에 클라이언트를 제거하는 것이 좋습니다. 업데이트 전에 미리 제거해 두면 이후 복구 작업이 훨씬 수월하기 때문입니다. 아래 단계를 참고하여 클라이언트를 올바르게 설치하고 정상 작동 상태로 만들어 보세요.
참고: 본문에 언급된 서드파티 소프트웨어와는 어떠한 제휴 관계도 없으며, 사용자 편의를 위해 소개하는 것입니다. 모든 작업은 본인 책임하에 진행하시기 바랍니다.
- Sonicwall 64비트 VPN을 다운로드합니다. 반드시 최신 버전을 사용하세요. 구버전은 정상적으로 작동하지 않을 수 있습니다.
- Sonicwall 설치가 완료되면 Cisco VPN을 설치합니다. 운영체제가 64비트라면 64비트 파일을, 32비트라면 32비트 파일을 사용합니다.
운영체제 비트 수는 '내 PC'를 마우스 오른쪽 버튼으로 클릭하고 '속성'을 선택한 뒤, '시스템' 항목 아래의 '시스템 종류'에서 쉽게 확인할 수 있습니다.
참고: exe 파일이 이 운영체제에서 실행될 수 없다는 오류가 발생하면, WinRAR 등의 압축 프로그램으로 exe 파일을 추출한 후 그 안의 .msi 파일을 직접 실행하면 됩니다.
- 이제 레지스트리를 수정합니다. Windows + R 키를 누르고 'regedit'을 입력한 뒤 Enter 키를 누릅니다.
- 레지스트리 편집기에서 아래 경로로 이동합니다.
컴퓨터\HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\CVirtA
- DisplayName 값을 찾아 운영체제에 맞게 수정합니다:
- x86(32비트): '@oem8.ifn,%CVirtA_Desc%;Cisco Systems VPN Adapter' → 'Cisco Systems VPN Adapter'
- x64(64비트): '@oem8.ifn,%CVirtA_Desc%;Cisco Systems VPN Adapter for 64-bit Windows' → 'Cisco Systems VPN Adapter for 64-bit Windows'
- 변경을 완료한 후 레지스트리 편집기를 닫고 컴퓨터를 재시작합니다. 재부팅 후 문제가 해결되었는지 확인합니다.
방법 4: 시스템 관리자에게 L2TP 허용 요청
1709 업데이트 적용 후 PPTP 프로토콜은 정상적으로 작동하지만, L2TP에서는 연결 문제가 발생하는 경우가 있습니다. 이 경우 회사나 조직의 시스템 관리자에게 연락하여 PPTP 프로토콜과 함께 L2TP도 허용하도록 요청하면 간단히 해결할 수 있습니다. 이 설정은 Windows Server 2012 R2에 내장된 RAS(원격 액세스 서비스) 기능을 통해 손쉽게 적용할 수 있습니다. 이 문제는 주로 회사 외부에서 원격으로 사내 네트워크에 접속하려는 사용자들에게 자주 발생합니다.