Windows·macOS에서 원격 데스크톱 오류 코드 0x204 해결하는 방법 총정리

Mac, Android 등 다른 운영체제에서 Windows PC에 접속하려는 사용자 중 일부는 원격 데스크톱(RDP)을 실행할 때 오류 코드 0x204를 마주하게 됩니다. 원격 데스크톱은 PC에 연결하여 앱, 파일, 네트워크 리소스에 자유롭게 접근할 수 있게 해주는 강력한 도구지만, 때로는 의도한 대로 작동하지 않는 경우가 생깁니다.

오류 코드 0x204를 유발하는 가장 대표적인 원인은 Windows 컴퓨터에서 원격 데스크톱 프로토콜이 활성화되어 있지 않은 경우입니다. 이럴 때는 시스템 속성 화면에서 해당 기능을 직접 켜고 네트워크 수준 인증 연결을 허용하면 문제를 해결할 수 있습니다.

또한 방화벽이 원인일 가능성도 있습니다. 원격 데스크톱이 사용하는 프로세스는 다수의 악성코드에 악용되어 온 만큼, 보안 프로그램이 이를 위협으로 판단해 차단하기 쉽습니다. 이 경우 제외(예외) 규칙을 추가하거나 실시간 보호를 일시 중지하거나 서드파티 보안 소프트웨어를 완전히 제거해야 할 수 있습니다.

그 외에도 그룹 컨테이너(Group Containers) 폴더에 저장된 임시 파일로 인해 문제가 발생하는 사례가 있습니다. 해당 상황이라면 UBF8T346G9.com.microsoft.rdc 폴더를 삭제하는 것만으로도 오류를 해결할 수 있습니다.

방법 1: 원격 데스크톱 프로토콜 활성화(Windows 호스트)

다른 기기에서 원격 데스크톱으로 Windows에 접속할 때 오류 코드 0x204가 나타나는 가장 흔한 원인은, 시스템 속성 화면에서 원격 데스크톱 기능이 꺼져 있는 것입니다.

여러 대의 기기로 접속을 시도했는데 모두 동일한 오류가 발생한다면, 가장 먼저 확인해야 할 항목이 바로 이 부분입니다.

아래 순서에 따라 접속하려는 Windows 컴퓨터에서 원격 데스크톱 프로토콜이 켜져 있는지 확인하세요.

참고: 아래 단계는 Windows 버전과 관계없이 거의 모든 환경에서 동일하게 적용됩니다.

1. Windows 키 + R을 눌러 실행 창을 엽니다. 입력란에 'SystemPropertiesRemote.exe'를 입력하고 Enter 키를 눌러 시스템 속성 창을 띄웁니다.
   참고: UAC(사용자 계정 컨트롤) 창이 뜨면 예를 클릭해 관리자 권한을 부여하세요.
2. 시스템 속성 창에서 원격 탭이 열려 있는지 확인합니다. 이후 원격 데스크톱 섹션에서 토글을 '이 컴퓨터에 대한 원격 연결 허용'으로 변경합니다.
   참고: 다른 네트워크에서 접속하려는 경우, '네트워크 수준 인증이 있는 원격 데스크톱을 실행하는 컴퓨터에서만 연결 허용' 항목의 체크를 해제해야 할 수 있습니다.
3. 적용을 클릭해 변경 사항을 저장한 뒤, 동일한 원격 데스크톱 프로토콜로 다시 접속하여 문제가 해결되었는지 확인합니다.

문제가 여전히 지속된다면 다음 해결 방법으로 넘어가세요.

방법 2: Windows 방화벽에서 원격 데스크톱 허용하기

기본 설정에서는 Windows 방화벽이 원격 데스크톱 프로토콜을 허용 목록에 포함하지 않는다는 점에 유의해야 합니다.

따라서 원격 데스크톱으로 파일에 접근할 수 있게 하려면, Windows 방화벽 설정의 '허용되는 앱' 메뉴에서 원격 데스크톱과 원격 데스크톱(WebSocket)을 허용하도록 기본 보안 설정을 수정해야 합니다.

이 작업은 사용 중인 Windows 버전과 무관하게 반드시 필요합니다.

중요: 서드파티 방화벽 프로그램을 사용 중이라면 아래 단계가 적용되지 않습니다. 이 경우에는 해당 프로그램에서 원격 데스크톱 프로토콜을 허용 목록에 추가하는 별도의 방법을 찾아야 합니다.

아래는 원격 데스크톱 프로토콜이 네트워크상의 다른 기기와 통신할 수 있도록 허용하는 방법입니다.

1. Windows 키 + R을 눌러 실행 창을 연 후, 'firewall.cpl'을 입력하고 Enter 키를 눌러 Windows 방화벽 설정 메뉴를 엽니다.
   참고: UAC(사용자 계정 컨트롤) 창이 뜨면 예를 클릭해 관리자 권한을 부여합니다.
2. Windows Defender 방화벽 설정 화면 좌측 메뉴에서 '앱 또는 기능이 Windows Defender 방화벽을 통과하도록 허용'을 클릭합니다.
3. 허용되는 앱 창에서 우선 우측 상단의 '설정 변경' 버튼을 클릭해 허용 앱 목록을 수정할 수 있도록 합니다.
4. 허용 목록을 아래로 스크롤한 뒤, 원격 데스크톱 항목의 개인 및 공용 체크박스를 모두 활성화합니다.
5. 같은 방식으로 원격 데스크톱(WebSocket) 항목도 활성화한 후, 확인을 눌러 변경 사항을 저장합니다.
6. Windows PC를 재부팅하고, 부팅이 완료되면 원격 데스크톱 프로토콜로 다시 접속을 시도합니다.

문제가 계속되며 여전히 오류 코드 0x204가 나타난다면, 다음 해결 방법을 확인하세요.

방법 3: 서드파티 백신 비활성화(해당되는 경우)

실제로 이 문제는 서드파티 보안 소프트웨어를 사용하는 환경에서 자주 보고됩니다. 특히 McAfee Internet Security가 오류 코드 0x204를 유발하는 것으로 가장 많이 알려진 보안 프로그램입니다.

이런 현상이 발생하는 이유는 대개 서드파티 백신이 오탐(false positive)을 일으켜, 원격 데스크톱 프로토콜이 사용하는 포트를 원격 파일 접근 시도, 즉 악성 행위로 잘못 판단하기 때문입니다.

해당 상황이라면 서드파티 백신의 실시간 보호 기능을 비활성화하는 것만으로도 문제를 해결할 수 있습니다. 다만 비활성화 절차는 사용 중인 백신 제품마다 다르다는 점에 유의하세요.

대부분의 백신은 작업표시줄 메뉴에서 바로 실시간 보호(활성 실드)를 끌 수 있습니다. 작업표시줄의 백신 아이콘을 우클릭한 뒤, 실시간 보호를 비활성화하는 옵션을 찾아 선택하면 됩니다.

이렇게 해도 효과가 없거나 서드파티 방화벽을 사용 중이라면, 다음 방법으로 넘어가세요.

방법 4: 서드파티 방화벽 제거하기(해당되는 경우)

서드파티 방화벽을 사용 중이라면, 단순히 비활성화하거나 실행을 막는 것만으로는 효과가 없을 수 있습니다. 보안 모듈 자체가 시스템에 그대로 남아 있기 때문입니다. 문제의 원인이 서드파티 방화벽이라면, 분석 대상 프로세스 목록에서 원격 데스크톱을 제외하는 허용 규칙을 만드는 것이 유일한 해결책입니다.

단, 이 과정은 프로그램마다 절차가 크게 다릅니다.

사용 중인 백신에 예외 추가 기능이 없다면, 보안 프로그램 전체를 삭제하고 남은 파일까지 완전히 정리해 해당 포트가 계속 차단되지 않도록 하는 것이 최선입니다.

이 방법을 진행하려면 아래 순서에 따라 서드파티 방화벽을 제거하세요.

1. Windows 키 + R을 눌러 실행 창을 연 후, 'appwiz.cpl'을 입력하고 Enter 키를 눌러 프로그램 및 기능 메뉴를 엽니다.
2. 프로그램 및 기능 목록에서 설치된 애플리케이션을 스크롤하며 서드파티 방화벽 항목을 찾습니다. 해당 항목을 우클릭한 뒤 제거를 선택합니다.
3. 제거 화면의 안내에 따라 프로세스를 완료한 뒤, 컴퓨터를 재시작합니다.
4. 재부팅 후에는 프로그램을 완전히 삭제하여, 이후에도 문제를 일으킬 수 있는 잔여 파일이 남지 않도록 합니다.
5. 서드파티 방화벽이 완전히 제거되었는지 확인한 뒤, 원격 데스크톱 프로토콜로 다시 접속하여 오류 코드 0x204가 사라졌는지 확인합니다.

동일한 문제가 계속된다면 다음 해결 방법을 시도해 보세요.

방법 5: 원격 지원 초대 기능 활용하기

일부 사용자는 Windows 원격 지원 유틸리티로 오프라인 초대장을 생성하고, 접속이 불가능한 기기에서 해당 파일을 열어 문제를 해결한 사례가 있습니다.

이 방식은 오프라인 초대장을 활용함으로써, 오류 코드 0x204를 유발할 수 있는 차단된 포트들을 모두 우회할 수 있게 해줍니다.

아래는 원격 지원 초대장을 만드는 간단한 방법입니다.

1. Windows 키 + R을 눌러 실행 창을 연 후, 입력란에 'msra.exe'를 입력하고 Enter 키를 눌러 Windows 원격 지원 마법사를 실행합니다.
   참고: UAC(사용자 계정 컨트롤) 창이 뜨면 예를 클릭해 관리자 권한을 부여합니다.
2. Windows 원격 지원 마법사에서 '신뢰할 수 있는 사람을 도움을 받을 사람으로 초대'를 클릭합니다.
3. 다음 화면에서 '이 초대를 파일로 저장'을 선택합니다.
   참고: 더 편하다면 다른 옵션(메일 프로그램으로 초대장 첨부 또는 Easy Connect 사용)을 선택해도 됩니다.
4. 접속에 문제가 있는 기기에서 미리 만들어 둔 초대 파일을 열어 문제가 해결되는지 확인합니다. 초대장이 열리면 필요한 포트가 모두 개방되어 오류 코드 0x204가 더 이상 발생하지 않아야 합니다.

그래도 동일한 문제가 지속된다면, 마지막 방법을 확인해 보세요.

방법 6: 원격 데스크톱 임시 폴더 삭제하기(Mac 전용)

위 방법들이 모두 실패했고 macOS 환경에서만 문제가 발생한다면, Mac용 원격 데스크톱 앱이 사용하는 임시 폴더 안에 연결 설정을 방해하는 손상된 파일이 들어 있을 가능성이 높습니다.

해당 상황이라면 그룹 컨테이너 폴더에서 임시 폴더를 삭제해 문제를 해결할 수 있습니다. 절차는 다음과 같습니다.

1. Mac에서 원격 데스크톱 앱이 완전히 종료되어 있는지 확인합니다.
2. 화면 하단 독(Dock)에서 Finder 아이콘을 클릭합니다.
3. Finder 검색 기능으로 'group containers'를 검색한 뒤, Return 키를 눌러 결과를 불러옵니다.
4. group containers 폴더에 진입하면 UBF8T346G9.com.microsoft.rdc 항목을 우클릭하고 휴지통으로 이동을 선택해 삭제합니다.
5. Mac을 재시작한 뒤, 부팅이 완료되면 문제가 해결되었는지 확인합니다.