모뎀, Wi-Fi 또는 이더넷 연결로 인터넷에 접속하려 할 때 오류 633을 마주한 적이 있으신가요? 이 오류는 Windows Vista 시절부터 보고되기 시작해 지금까지도 수많은 Windows 10 사용자를 괴롭히고 있는 대표적인 VPN 오류입니다. 이 글에서는 오류 633이 무엇인지, 어떤 증상과 원인이 있는지, 그리고 실질적인 해결 방법까지 단계별로 자세히 안내해 드립니다.
오류 633의 증상과 원인
이 문제에 영향을 받는 사용자는 인터넷 연결을 시도할 때 다음과 같은 오류 메시지를 확인하게 됩니다.
'모뎀 또는 기타 연결 장치가 이미 사용 중이거나 올바르게 구성되지 않았습니다.'
이 메시지는 모뎀의 구성 설정이 손상되어 정상적으로 작동하지 못하고 있다는 것을 명확히 알려줍니다. 오류 633의 주요 원인은 다음과 같습니다.
- WAN Miniport 장치 문제: 장치 관리자 → 네트워크 어댑터에 있는 WAN Miniport 장치가 사용 중인 VPN 프로토콜과 연동되지 않거나 비정상적으로 작동하는 경우입니다.
- TCP 포트 충돌: VPN 연결에 필요한 TCP 포트(기본적으로 1723번)를 다른 프로그램이 이미 점유하고 있는 경우입니다.
또한 하나의 장치나 통신 포트에 여러 인터넷 연결이 설정된 상태에서 다른 응용 프로그램이 해당 포트를 사용할 때도 오류 633이 발생할 수 있습니다. 특정 모뎀 모델이나 PC에 국한된 문제가 아니므로 어떤 환경에서든 나타날 수 있다는 점을 유의하세요.
Windows 10에서 오류 633 해결하기
가장 먼저 시도해 볼 간단한 방법은 사용 중인 인터넷 장치(모뎀 등)의 전원을 끄거나 케이블을 분리했다가 다시 연결하는 것입니다. 그런 뒤 인터넷에 재접속하여 문제가 해결되었는지 확인하세요. 문제가 계속된다면 아래의 해결 방법들을 순서대로 적용해 보세요.
- TCP 포트 명시적으로 예약하기
- netstat 명령어로 1723 포트를 사용하는 프로그램 찾아 종료하기
- 불필요한 인터넷 장치 관련 프로그램 제거하기
- 네트워크 어댑터 드라이버 업데이트하기
- 네트워크 어댑터 제거 후 재설치하기
각 해결 방법을 하나씩 자세히 살펴보겠습니다.
1] TCP 포트 명시적으로 예약하기
Win + R 키를 눌러 '실행' 대화 상자를 엽니다.
'regedit'를 입력하고 '확인'을 클릭해 레지스트리 편집기를 실행합니다.
레지스트리 편집기에서 다음 하위 키로 이동합니다.
HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters
메뉴에서 편집 > 새로 만들기 > 다중 문자열 값을 선택합니다.
새 값을 'ReservedPorts'로 이름을 변경한 뒤 더블클릭합니다.
'값 데이터' 입력란에 '1723-1723'을 입력하고 '확인'을 클릭해 저장합니다.
레지스트리 편집기를 종료하고 컴퓨터를 재부팅합니다.
시스템이 부팅되면 오류가 해결되었는지 바로 확인해 보세요.
2] netstat 명령어로 1723 포트를 사용하는 프로그램 종료하기
시작 메뉴에서 'cmd'를 검색합니다.
검색 결과의 'cmd'를 마우스 오른쪽 버튼으로 클릭하고 '관리자 권한으로 실행'을 선택해 관리자 권한의 명령 프롬프트를 실행합니다.
명령 프롬프트 창에 'netstat -aon'을 입력하고 Enter 키를 누릅니다.
출력된 목록에서 시스템의 TCP 1723 포트를 사용 중인 프로그램이 있다면 해당 프로세스 ID(PID)를 확인합니다.
명령 프롬프트에 다음 명령어를 입력하고 Enter 키를 누릅니다. (PID 부분에는 앞서 확인한 프로세스 ID를 입력하세요.)
taskkill /PID PID /F
taskkill 명령이 실행되면 해당 프로그램이 강제 종료되고 TCP 1723 포트가 확보됩니다.
참고: taskkill 명령은 지정한 프로세스 ID에 해당하는 프로세스를 종료하며, /F 옵션은 프로세스를 강제로 종료할 때 사용됩니다.
'exit'를 입력하고 Enter 키를 눌러 명령 프롬프트를 종료합니다.
시스템을 재부팅하세요. 재부팅 후에는 해당 프로그램이 다른 TCP 포트를 사용하게 되어 1723 포트가 인터넷 장치를 위해 비워집니다.
3] 불필요한 인터넷 장치 관련 프로그램 제거하기
인터넷 속도 부스터, 모뎀에 번들로 제공되는 서드파티 도구 같은 불필요한 프로그램이 설치되어 있으면 모뎀이 오작동할 수 있습니다. 이런 프로그램은 인터넷 모뎀이나 시스템에 꼭 필요한 것이 아니므로 제거해 보세요.
- 시작 메뉴에서 '앱 및 기능'(또는 '프로그램 추가/제거')을 검색합니다.
- 검색 결과에서 '앱 및 기능'을 클릭합니다.
- 제거할 프로그램을 찾아 클릭한 뒤 '제거'를 선택하고 안내에 따라 삭제를 진행합니다.
불필요한 프로그램을 제거한 후 시스템을 재부팅하고 인터넷 연결을 다시 시도해 보세요.
4] 네트워크 어댑터 드라이버 업데이트하기
- Win + R 키를 눌러 '실행' 대화 상자를 엽니다.
- '실행' 창에 'devmgmt.msc'를 입력하고 Enter 키를 눌러 '장치 관리자'를 실행합니다.
- '네트워크 어댑터' 항목을 더블클릭해 확장합니다.
- 사용 중인 네트워크 어댑터를 찾아 마우스 오른쪽 버튼으로 클릭하고 '드라이버 업데이트'를 선택합니다.
- '업데이트된 드라이버 소프트웨어 자동 검색'을 선택하고 Windows가 검색을 마칠 때까지 기다립니다.
시스템이 네트워크 어댑터의 최신 드라이버를 찾으면 자동으로 다운로드 및 설치됩니다. 설치가 완료되면 인터넷에 연결해 문제가 해결되었는지 확인하세요.
5] 네트워크 어댑터 제거 후 재설치하기
Win + R 키를 눌러 '실행' 대화 상자를 엽니다.
'실행' 창에 'devmgmt.msc'를 입력하고 Enter 키를 눌러 '장치 관리자'를 실행합니다.
제거 과정이 완료되면 상단 메뉴에서 동작 > 하드웨어 변경 사항 검색을 클릭하세요. 그러면 Windows가 네트워크 어댑터와 드라이버를 자동으로 다시 설치합니다.
네트워크 어댑터가 재설치되면 시스템을 재부팅하고 오류가 사라졌는지 확인해 보세요.
이 가이드가 VPN 오류 633을 해결하는 데 도움이 되었기를 바랍니다. 위 방법들로도 문제가 지속된다면 인터넷 서비스 제공업체(ISP)에 문의하거나 모뎀 자체의 하드웨어 결함 여부를 점검해 보는 것도 좋은 방법입니다.