원격 시스템에 접속하려고 할 때 '컴퓨터가 원격 데스크톱 게이트웨이 서버에 연결할 수 없습니다(Your computer can't connect to the Remote Desktop Gateway Server)'라는 오류 메시지가 나타나는 경우가 있습니다. 이 오류의 주요 원인은 원격 데스크톱(RDP) 클라이언트가 HTTP/UDP 방식의 연결을 사용하기 때문으로 알려져 있습니다.
마이크로소프트는 원격 데스크톱 클라이언트를 지속적으로 업데이트해 왔으며, 새로운 Windows 버전이 출시될 때마다 개선된 버전을 함께 제공하고 있습니다. 시간이 지나면서 RDP 연결을 HTTP 기반으로 처리하는 기능도 추가되었는데, 새로운 기능만큼 예상치 못한 버그와 오류도 함께 등장하게 되었습니다. 다행히 이 오류 역시 명확한 해결 방법이 존재합니다.
오류의 원인은 무엇인가?
조사 결과, 많은 사용자가 알지 못하는 이 오류 메시지의 실제 원인은 다음과 같습니다.
- HTTP/UDP 연결 방식: RDP 클라이언트가 HTTP/UDP 방식으로 연결을 시도하면서 문제가 발생합니다. 이를 해결하려면 클라이언트가 HTTP/UDP 대신 RPC-HTTP 방식을 사용하도록 강제해야 하는데, 이는 Windows 레지스트리에 새 키를 추가하는 것만으로 간단히 설정할 수 있습니다.
아래 해결 방법을 진행하려면 레지스트리를 수정해야 하므로 관리자 권한이 있는 계정이 필요합니다.
레지스트리 키 'RDGClientTransport' 생성하기
해결 방법은 매우 간단합니다. Windows 레지스트리에 'RDGClientTransport'라는 이름의 DWORD 값을 새로 추가하면 됩니다. 이 값을 설정하면 RDP 클라이언트가 HTTP/UDP 대신 RPC-HTTP 방식으로 연결하게 되어 오류가 해결됩니다. 다음 단계를 따라 진행하세요.
- 시작 메뉴를 열고 실행(Run)을 입력한 후 Enter 키를 눌러 실행 창을 엽니다.
- 실행 창에 'regedit'를 입력하고 Enter 키를 누릅니다.
- 레지스트리 편집기가 열리면 아래 경로로 이동합니다.
HKEY_CURRENT_USER\Software\Microsoft\Terminal Server Client
- 왼쪽 폴더를 하나씩 확장하여 이동하거나, 상단 주소 표시줄에 위 경로를 그대로 붙여넣어도 됩니다.
- 해당 위치로 이동한 후 오른쪽 빈 공간을 마우스 오른쪽 버튼으로 클릭하고 새로 만들기(New) → DWORD(32비트) 값을 선택합니다.
- 새로 생성된 값의 이름을 RDGClientTransport로 변경한 후, 해당 값을 더블클릭합니다.
- 값 데이터를 1로 설정하고 확인을 클릭합니다.
- 레지스트리 편집기를 닫습니다.
- 원격 데스크톱으로 다시 연결을 시도합니다.
위 과정을 완료하면 오류가 해결되어 원격 시스템에 정상적으로 다시 연결할 수 있을 것입니다. 만약 여전히 문제가 지속된다면, 레지스트리 값이 올바르게 저장되었는지 확인한 후 시스템을 재시작하고 다시 시도해 보시기 바랍니다.