원격 데스크톱 오류 코드 0x104 해결 방법 총정리

원격 데스크톱 프로토콜(RDP)은 Windows에 기본으로 탑재된 유틸리티로, 물리적으로 컴퓨터 앞에 있지 않아도 같은 네트워크나 다른 네트워크의 PC에 접속할 수 있게 해주는 강력한 도구입니다. 사무실이나 집에서 몇 번의 클릭만으로 대상 시스템을 제어할 수 있어 업무 효율성이 크게 향상됩니다. 서드파티 RDP 프로그램도 많지만, 여전히 많은 사용자가 Windows 내장 원격 데스크톱을 선호합니다. 물론 다른 소프트웨어와 마찬가지로 이 도구 역시 여러 가지 문제가 발생할 수 있는데, 이번 글에서 다룰 주제는 바로 오류 코드 0x104입니다.

이 오류는 같은 네트워크 또는 다른 네트워크의 대상 시스템에 연결하려고 할 때 나타납니다. 오류 메시지는 다음과 같습니다.

"PC를 찾을 수 없어 원격 PC에 연결할 수 없습니다. 원격 PC의 FQDN(정규화된 도메인 이름) 또는 IP 주소를 입력한 후 다시 시도하세요."

이 문제는 DNS 설정, 네트워크 검색 옵션, 때로는 Windows Defender 방화벽의 개인 정보 설정 때문에 발생할 수 있습니다.

원격 데스크톱 오류 코드 0x104의 원인

오류의 원인은 상황에 따라 다를 수 있지만, 대체로 다음 세 가지가 주요 원인입니다.

• 네트워크 검색이 꺼져 있는 경우: 공유 옵션에서 네트워크 검색 기능이 비활성화되어 있으면 오류 메시지가 나타날 수 있습니다.
• Windows 방화벽이 포트를 차단하는 경우: 원격 데스크톱은 기본적으로 3389번 포트를 사용해 RDP 연결을 설정합니다. 이 포트가 Windows 방화벽에 의해 차단되어 있다면 연결할 수 없습니다.
• DNS 설정 문제: 사용자 지정 DNS 서버를 사용 중이라면 그것이 원인일 수 있습니다. 이 경우 DNS 설정을 제거한 후 연결을 다시 시도해야 합니다.

아래에서 소개하는 해결 방법을 순서대로 따라 하면 문제를 해결할 수 있습니다. 반드시 제시된 순서대로 진행하세요.

해결 방법 1: 네트워크 검색 켜기

네트워크 검색(Network Discovery)은 내 시스템이 네트워크상의 다른 시스템을 인식하거나 스캔할 수 있는지를 결정하는 옵션입니다. RDP 연결을 설정하려면 이 옵션이 반드시 켜져 있어야 합니다. 설정 방법은 다음과 같습니다.

1. 제어판을 엽니다.
2. 네트워크 및 인터넷 > 네트워크 및 공유 센터로 이동합니다.
3. 왼쪽 메뉴에서 '고급 공유 설정 변경'을 클릭합니다.
4. 현재 사용 중인 네트워크 프로필을 확장하고 '네트워크 검색 켜기'를 선택합니다.
5. 변경 내용 저장을 클릭합니다.

해결 방법 2: 방화벽에서 3389 포트 허용하기

앞서 언급했듯이 3389번 포트는 원격 데스크톱이 연결에 사용하는 기본 포트입니다. 이 포트가 Windows 방화벽에 의해 차단되어 있으면 연결이 불가능합니다. 또한 악의적인 공격자로부터 자신을 보호하기 위해 반드시 강력한 비밀번호와 사용자 이름을 설정해야 합니다. 방화벽에서 포트를 허용하는 방법은 다음과 같습니다.

1. Windows 키를 눌러 시작 메뉴를 엽니다.
2. 원격 설정(Remote Settings)을 입력하고 Enter 키를 누릅니다. 시스템 창이 열립니다.
3. 왼쪽 메뉴에서 원격 설정을 클릭합니다.
4. 원격 탭의 원격 데스크톱 항목에서 '이 컴퓨터에 대한 원격 연결 허용'이 선택되어 있는지 확인합니다.
5. 이제 제어판을 엽니다.
6. 시스템 및 보안 > Windows Defender 방화벽으로 이동합니다.
7. 왼쪽 메뉴에서 '고급 설정'을 클릭합니다.
8. 인바운드 규칙을 선택한 후 원격 지원(RA Server TCP-In)을 찾습니다.
9. 해당 규칙이 사용 상태인지 확인합니다.
10. 다음으로 원격 데스크톱 - 사용자 모드(TCP-In 및 UDP-In) 규칙을 찾아 사용되도록 설정되어 있고 포트가 3389인지 확인합니다. 창을 확장하여 로컬 포트 열이 보이면 포트를 확인할 수 있습니다.
11. 연결을 다시 시도합니다.

해결 방법 3: 사용자 지정 DNS 서버 삭제하기

시스템에서 사용자 지정 DNS 서버를 사용하고 있다면 원격 연결을 설정하기 전에 해당 설정을 제거해야 합니다. 이는 호스트와 대상 시스템 양쪽 모두에 적용됩니다. 설정 방법은 다음과 같습니다.

1. 작업 표시줄의 네트워크 아이콘을 마우스 오른쪽 버튼으로 클릭하고 네트워크 및 인터넷 설정 열기를 선택합니다.
2. '어댑터 옵션 변경'을 클릭합니다.
3. 사용 중인 네트워크 어댑터를 마우스 오른쪽 버튼으로 클릭하고 속성을 선택합니다.
4. 인터넷 프로토콜 버전 4(TCP/IPv4)를 선택한 후 속성을 클릭합니다.
5. 'DNS 서버 주소를 자동으로 받기'가 선택되어 있는지 확인합니다.
6. 확인을 클릭합니다.
7. 연결을 다시 시도합니다.

위의 세 가지 해결 방법을 순서대로 적용하면 대부분의 경우 오류 코드 0x104를 해결할 수 있습니다. 만약 문제가 계속된다면 대상 PC의 IP 주소를 직접 입력해 연결을 시도하거나, 두 시스템 모두 최신 Windows 업데이트가 적용되었는지 확인해 보는 것도 좋은 방법입니다.