원격 데스크톱 라이선스 서버를 사용할 수 없어 원격 세션 연결이 끊길 때 해결 방법

RD 세션 호스트(RDSH)는 원격 데스크톱 서비스(RDS)의 역할 중 하나로, Windows 애플리케이션이나 데스크톱을 호스팅합니다. 이러한 리소스는 원격 데스크톱 연결을 통해 접근할 수 있으며, 사용자가 RD 세션 호스트에 접속하면 원격 데스크톱 서비스 라이선스 서버가 사용자와 디바이스에 클라이언트 액세스 라이선스(CAL)를 발급합니다.

그런데 사용자가 연결을 시도할 때 두 가지 문제가 발생할 수 있습니다. 하나는 사용 가능한 원격 데스크톱 라이선스 서버가 없는 경우이고, 다른 하나는 보안 문제로 인해 액세스가 거부되는 경우입니다. 이때 표시되는 오류 메시지는 다음과 같습니다.

라이선스를 제공하는 데 사용할 수 있는 원격 데스크톱 라이선스 서버가 없기 때문에 원격 세션 연결이 끊어졌습니다.

이 글에서는 원격 데스크톱 라이선스 서버가 누락된 경우를 중심으로 살펴보지만, 보안 문제가 원인일 때 필요한 조치도 함께 안내합니다. 먼저 문제의 원인을 파악해야 합니다. 이를 위해서는 도메인 관리자 권한으로 RD 세션에 로그인한 후 RD 라이선스 진단 도구(RD License Diagnoser)를 실행해야 합니다.

원격 데스크톱 라이선스 서버 누락의 주요 원인

라이선스 서버 누락 징후: 로그에 RDSH의 유예 기간이 만료되었다는 메시지가 나타나고, 서버에 라이선스 서버가 구성되어 있지 않은 경우입니다. 또한 "라이선스 서버 <컴퓨터 이름>을(를) 사용할 수 없음"이라는 메시지와 함께 네트워크 연결 문제, 서비스 중단 등이 원인으로 표시될 수 있습니다. 이 경우 RD 라이선싱 서비스를 구성해야 합니다.
네트워크/인증서 문제: 네트워크 프로토콜 관련 오류나 클라이언트 연결 끊김 등 다른 유형의 문제가 표시된다면 보안 오류일 가능성이 높습니다. 이 경우 X509 인증서 레지스트리 키를 새로 고쳐야 합니다.

원격 세션 연결 끊김 오류 해결 방법

진단 결과로 확인된 문제에 따라 아래 방법들을 순서대로 적용해 보세요.

RD 라이선싱 서비스 구성
X509 인증서 레지스트리 키 새로 고침
라이선스 서버 및 정책 관련 그룹 정책 사용

1] RD 라이선싱 서비스 구성

RD 라이선싱 서비스는 모든 라이선스의 유효성을 검증하고 라이선스를 정상적으로 제공할 수 있도록 보장합니다. 서버 관리자를 통해 다음 단계에 따라 문제를 해결하세요.

서버 관리자를 열고 원격 데스크톱 서비스로 이동합니다.
배포 개요(Deployment Overview)에서 작업(Tasks)을 선택한 다음 배포 속성 편집(Edit Deployment Properties)을 선택합니다.
원격 데스크톱 라이선싱을 선택하고 배포 환경에 맞는 라이선싱 모드(장치 단위 또는 사용자 단위)를 지정합니다.
RD 라이선스 서버의 FQDN(정규화된 도메인 이름)을 입력한 후 추가를 선택합니다.
RD 라이선스 서버가 여러 대라면 각 서버마다 4번 단계를 반복합니다.

2] X509 인증서 레지스트리 키 새로 고침

주의: 레지스트리를 수정하는 작업이 포함되므로 반드시 신중하게 진행하세요. 작업 전에 레지스트리를 백업하여 문제가 발생하면 복원할 수 있도록 준비하는 것이 좋습니다. 완료 후에는 X509 인증서 레지스트리 키를 삭제하고 컴퓨터를 재시작한 다음, RD 라이선싱 서버를 다시 활성화해야 합니다. 각 RDSH 서버에서 다음 단계를 수행하여 RD 라이선싱 서버를 재활성화하세요.

레지스트리 편집기를 열고 다음 경로로 이동합니다.

HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Terminal Server\RCM

레지스트리 메뉴에서 레지스트리 파일 내보내기(Export Registry File)를 선택합니다. 파일 이름 상자에 exported-Certificate를 입력한 후 저장을 클릭합니다. 그다음 아래 값들을 각각 마우스 오른쪽 버튼으로 클릭하여 삭제를 선택하고, 확인 창에서 예를 눌러 삭제를 완료합니다.

Certificate
X509 Certificate
X509 Certificate ID
X509 Certificate2

삭제가 완료되면 레지스트리 편집기를 종료하고 RDSH 서버를 재시작합니다. 서버가 재부팅되면 해당 키들이 자동으로 새로 생성됩니다.

3] 그룹 정책 사용

이 방법은 독립 실행형(Standalone) 서버에 적용됩니다. 서버에서 gpedit.msc를 실행한 후 다음 경로에서 두 가지 정책 설정을 사용하도록 변경해야 합니다.

컴퓨터 구성\관리 템플릿\Windows 구성 요소\원격 데스크톱 서비스\원격 데스크톱 세션 호스트\라이선스

지정된 원격 데스크톱 라이선스 서버 사용 - 사용
원격 데스크톱 라이선싱 모드 설정 - 사용

또한 라이선싱 모드가 올바르게 설정되어 있는지 확인하고, RD 라이선싱 서버의 FQDN이 추가되어 있는지 점검하세요. 세션 컬렉션이 생성되어 있고 RDSH 서버가 해당 그룹에 포함되어 있는지도 함께 확인하는 것이 좋습니다.