이 글에서는 RDP(원격 데스크톱 프로토콜)를 통해 원격 Windows 호스트에 접속했을 때 바탕화면 대신 검은 화면만 표시되는 문제를 해결하는 방법을 소개합니다. 이 문제는 최신 Windows 10 및 Windows Server 2019 빌드에서 특히 자주 발생하며, 여기에서는 내부 헬프데스크 지식 베이스에서 정리한 대표적인 해결책들을 안내해 드립니다.
표준 Windows RDP 클라이언트(mstsc.exe)로 원격 컴퓨터에 접속을 시도한 후, 자격 증명을 입력했음에도 불구하고 바탕화면 대신 검은 화면만 나타나는 상황을 가정해 보겠습니다.
RDP 세션에서 검은 화면이 나타나는 주요 원인과 해결 방법
RDP 세션에서 검은 화면이 발생하는 원인은 매우 다양하여 진단하거나 분류하기가 쉽지 않습니다. 아래 방법들을 순서대로 시도해 보시기 바랍니다.
1. CTRL+ALT+END 키 조합 활용
RDP 세션 내에서 CTRL+ALT+END 키를 누릅니다(이 조합은 RDP 세션에서 암호를 변경할 때도 사용됩니다). 그런 다음 취소를 클릭하세요. 이 방법만으로도 RDP 세션의 바탕화면으로 돌아가는 경우가 종종 있습니다. 만약 효과가 없다면, 같은 화면에서 작업 관리자를 열고 파일 탐색기 프로세스를 실행합니다(파일 → 새 작업 실행 → explorer.exe 입력 → 확인).
2. RDP 클라이언트 설정 점검
RDP 클라이언트 설정에서 캐싱이 비활성화되어 있는지 확인하세요(환경 탭에서 비트맵 캐싱 유지 옵션을 해제). 또한 원격 호스트가 지원하는 화면 해상도를 사용하고 있는지 확인합니다(디스플레이 탭에서 해상도를 낮추거나 전체 화면 모드를 사용해 보세요).
3. 비디오 드라이버 업데이트 및 WDDM 드라이버 설정 변경
로컬 컴퓨터와 원격 컴퓨터 모두 최신 버전의 비디오 드라이버를 사용하고 있는지 확인하세요. 자동 드라이버 업데이트를 사용하거나(비활성화하지 않은 경우), 드라이버를 수동으로 다운로드하여 설치해 보십시오.
일부 경우에는 WDDM 드라이버 대신 XDDM 비디오 드라이버를 사용하도록 설정해야 합니다. 이를 위해서는 로컬 그룹 정책 편집기(gpedit.msc)를 열고 컴퓨터 구성 → 관리 템플릿 → Windows 구성 요소 → 원격 데스크톱 서비스 → 원격 데스크톱 세션 호스트 → 원격 세션 환경에서 원격 데스크톱 연결에 WDDM 그래픽 디스플레이 드라이버 사용을 사용 안 함으로 설정합니다. 레지스트리로도 동일하게 설정할 수 있습니다:
reg add "HKLM\SOFTWARE\Policies\Microsoft\Windows NT\Terminal Services" /v "fEnableWddmDriver" /t REG_DWORD /d 0 /f
설정 후 RDP/RDS 호스트에서 그룹 정책을 갱신합니다.
4. 연결 끊긴 세션 문제 해결 (Windows Server 2016)
RDP 세션 시간 제한이 구성된 Windows Server 2016 환경에서는, 연결이 끊긴 세션에 다시 접속을 시도할 때 세션이 정상적으로 활성화되지 않고 검은 화면만 표시된다는 사용자 불만이 있었습니다. 이 경우 사용자 본인이 RDP 세션을 직접 종료하거나(CTRL+ALT+END → 로그아웃), 관리자가 강제로 세션을 닫아야 합니다. 또는 연결이 끊긴 사용자 세션을 자동으로 종료하도록 더 적극적인 시간 제한 설정을 구성하는 것도 좋은 방법입니다.
5. UDP 포트 3389 비활성화
RDP 트래픽에 UDP 포트 3389 사용을 비활성화해 보세요(Windows Server 2012 R2/Windows 8.1 이상에서는 기본 RDP TCP 포트 3389와 함께 UDP가 사용됩니다). 클라이언트 장치의 로컬 GPO에서 컴퓨터 구성 → 정책 → 관리 템플릿 → Windows 구성 요소 → 원격 데스크톱 서비스 → 원격 데스크톱 연결 클라이언트에서 클라이언트에서 UDP 끄기 옵션을 활성화하거나, 다음 레지스트리 명령으로 설정할 수 있습니다:
reg add "HKLM\SOFTWARE\Policies\Microsoft\Windows NT\Terminal Services\Client" /v "fClientDisableUDP" /t REG_DWORD /d 1 /f
서버 측에서 RDP 트래픽에 대한 UDP 프로토콜을 비활성화하려면 GPO에서 원격 데스크톱 세션 호스트 → 연결 → RDP 전송 프로토콜 선택을 TCP만 사용으로 설정합니다.
6. Windows Audio 서비스 재시작
때때로 RDS 호스트에서 Audiosrv(Windows Audio) 서비스를 재시작해야 하는 경우가 있습니다. 서비스 재시작 후 사용자 프로필이 정상적으로 로드되고 바탕화면이 나타납니다.
Microsoft의 추가 권장 사항
Microsoft는 항상 효과가 있는 것은 아니지만 문제의 근본 원인을 해결할 수 있는 몇 가지 추가 권장 사항을 제시합니다.
1. MTU 크기 통일
RDP 호스트, 클라이언트, 그리고 그 사이의 모든 네트워크 장비가 동일한 MTU 크기로 구성되어 있는지 확인하세요.
2. RDP 트래픽 압축 비활성화
로컬 GPO 편집기에서 RDP 트래픽 압축을 비활성화합니다: RemoteFX 데이터 압축 구성 = RDP 압축 알고리즘 사용 안 함 (컴퓨터 구성 → 관리 템플릿 → Windows 구성 요소 → 원격 데스크톱 서비스 → 원격 데스크톱 세션 호스트).
3. URCP(Universal Rate Control Protocol) 비활성화
Windows Server 2019 또는 Windows 10 1809 이상에서 RDP 세션의 검은 화면 문제가 발생한다면, 이벤트 뷰어를 열어 응용 프로그램 및 서비스 로그 → Microsoft → Windows → RemoteDesktopService-RdpCoreTS를 확인하세요. 'Failed GetConnectionProperty' in CUMRDPConnection::QueryProperty at 2884 err=[0x80004001] 또는 'Connection doesn't support logon error redirector' in CUMRDPConnection::GetLogonErrorRedirector at 4199 err=[0x80004001]과 같은 오류가 있는지 살펴보십시오.
이러한 오류가 확인되면, RDP 클라이언트와 서버 간에 UDP(MS-RDPEUDP2)를 통해 일부 데이터를 전송하는 데 사용되는 URCP(Universal Rate Control Protocol)를 비활성화합니다:
reg add "HKLM\SOFTWARE\Microsoft\Terminal Server Client" /v "UseURCP" /t REG_DWORD /d 0 /f
또는 PowerShell을 사용하여 다음과 같이 레지스트리 값을 설정할 수도 있습니다:
New-ItemProperty 'HKLM:\SOFTWARE\Microsoft\Terminal Server Client' -Name UseURCP -PropertyType DWord -Value 0
위의 방법들을 순차적으로 적용하면 대부분의 RDP 검은 화면 문제를 해결할 수 있습니다. 문제가 지속된다면 이벤트 뷰어의 로그를 면밀히 분석하여 근본 원인을 파악하는 것이 좋습니다.