Computer >> 컴퓨터 >  >> 시스템 >> Windows

RDP '인증 오류가 발생했습니다. 요청한 기능이 지원되지 않습니다' 오류 해결 방법

두 대의 Windows 컴퓨터 사이에서 원격 데스크톱 연결(RDP)을 사용하려고 할 때 '인증 오류가 발생했습니다. 요청한 기능이 지원되지 않습니다(An Authentication error has occurred, The Function requested is not supported)'라는 오류 메시지가 나타난다면, 이 글이 도움이 될 것입니다. 이번 포스팅에서는 해당 오류를 유발하는 주요 원인을 살펴보고, 문제를 해결할 수 있는 실질적인 방법들을 소개합니다.

오류 메시지의 모습

원격 데스크톱 연결 인증에 실패하면 다음과 같은 오류 메시지가 표시됩니다.

Remote Desktop Connection

인증 오류가 발생했습니다.
요청한 기능이 지원되지 않습니다.

원격 컴퓨터: 컴퓨터_이름 또는 IP_주소
CredSSP 암호화 Oracle 수정(CredSSP encryption oracle remediation) 때문일 수 있습니다.
자세한 내용은 https://go.microsoft.com/fwlink/?linkid=866660 을 참조하세요.

위 이미지에서 확인할 수 있듯이, 이 오류 메시지는 CredSSP 암호화 Oracle 수정 정책으로 인해 발생합니다. 레지스트리 편집기 또는 그룹 정책 편집기를 사용하여 이 오류를 해결할 수 있습니다.

오류의 원인: CredSSP 취약점 패치

마이크로소프트는 최근 CredSSP(Credential Security Support Provider) 버전에서 원격 코드 실행 취약점(CVE-2018-0886, 암호화 Oracle 공격)이 존재한다는 사실을 확인했습니다. 이 취약점을 성공적으로 악용하는 공격자는 사용자 자격 증명을 릴레이하여 대상 시스템에서 코드를 실행할 수 있으며, 인증을 위해 CredSSP에 의존하는 모든 애플리케이션이 이러한 공격에 노출될 수 있었습니다.

이 보안 위험을 차단하기 위해 마이크로소프트는 인증 과정에서 CredSSP가 요청을 검증하는 방식을 수정하는 보안 업데이트를 배포했습니다. 해당 패치는 영향을 받는 모든 플랫폼의 CredSSP 인증 프로토콜과 원격 데스크톱 클라이언트를 갱신했습니다.

그러나 업데이트 설치 후에는 패치가 적용된 클라이언트와 패치되지 않은 서버 간 통신이 불가능해졌습니다. 즉, 클라이언트 컴퓨터에는 보안 업데이트가 설치되어 있지만 서버 컴퓨터에는 설치되어 있지 않은 경우(또는 그 반대의 경우), 원격 연결에 실패하고 위와 같은 오류 메시지가 나타나게 됩니다.

RDP 인증 오류 해결 방법 3가지

'인증 오류가 발생했습니다. 요청한 기능이 지원되지 않습니다' 오류 메시지가 표시된다면, 아래의 권장 해결 방법들을 순서대로 시도해 보세요.

  1. Windows 10에 최신 보안 패치 적용
  2. 암호화 Oracle 수정(Encryption Oracle Remediation) 정책 변경
  3. AllowEncryptionOracle 레지스트리 값 생성 및 구성

각 해결 방법의 세부 절차를 하나씩 살펴보겠습니다.

1] Windows 10에 최신 보안 패치 설치

가장 근본적인 해결책은 두 컴퓨터(서버 및 클라이언트) 모두에 CredSSP 보안 패치를 설치하는 것입니다. 시작 > 설정 > 업데이트 및 보안 > Windows Update > 업데이트 확인으로 이동하여 최신 누적 업데이트를 다운로드하고 설치할 수도 있습니다.

두 컴퓨터 모두 CredSSP 패치가 설치되면 '인증 오류가 발생했습니다 – 요청한 기능이 지원되지 않습니다' 오류 메시지는 더 이상 나타나지 않습니다.

만약 어떤 사정으로 서버 또는 클라이언트 컴퓨터에 보안 업데이트를 설치할 수 없다면, 아래의 2번과 3번 해결 방법을 사용하세요.

2] 암호화 Oracle 수정 정책 변경

그룹 정책 편집기를 사용하여 암호화 Oracle 수정 정책을 변경하면 오류 메시지를 해결할 수 있습니다.

참고: 이 방법은 로컬 그룹 정책 편집기가 기본적으로 제공되지 않는 Windows 10 Home 에디션에는 적용되지 않습니다. 다만, Windows 10 Home에 로컬 그룹 정책 편집기를 추가하는 방법으로 우회할 수 있습니다.

암호화 Oracle 수정 정책을 활성화하려면 다음 단계를 따르세요.

  • Windows 키 + R을 누릅니다.
  • 실행 대화 상자에 gpedit.msc를 입력하고 Enter 키를 눌러 그룹 정책 편집기를 엽니다.
  • 로컬 그룹 정책 편집기에서 왼쪽 창을 통해 아래 경로로 이동합니다.

컴퓨터 구성 > 관리 템플릿 > 시스템 > 자격 증명 위임

  • 오른쪽 창에서 암호화 Oracle 수정 항목을 두 번 클릭하여 속성을 엽니다.
  • 정책 화면에서 라디오 버튼을 사용(Enabled)으로 설정합니다.
  • 아래로 스크롤하여 보호 수준(Protection Level)을 취약(Vulnerable)으로 변경합니다.
  • 적용(Apply) > 확인(OK)을 클릭하여 변경 사항을 저장합니다.

이제 로컬 그룹 정책 편집기를 종료하고 컴퓨터를 재시작합니다. 부팅 후 RDP 연결을 다시 시도하여 문제가 해결되었는지 확인하세요.

3] AllowEncryptionOracle 레지스트리 값 생성 및 구성

이 방법은 앞서 설명한 암호화 Oracle 수정 정책을 활성화하는 것과 동일한 효과를 냅니다. 다음 레지스트리 값을 생성하고 구성하여 문제를 해결할 수 있습니다.

AllowEncryptionOracle: DWORD: 2

레지스트리 작업은 시스템에 큰 영향을 줄 수 있으므로, 진행 전에 반드시 레지스트리 백업 또는 시스템 복원 지점 생성을 권장합니다.

필요한 예방 조치를 마쳤다면 아래 절차를 진행하세요.

  • Windows 키 + R을 누릅니다.
  • 실행 대화 상자에 regedit를 입력하고 Enter 키를 눌러 레지스트리 편집기를 엽니다.
  • 아래 레지스트리 경로로 이동합니다.
HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Policies\System
  • System 키를 마우스 오른쪽 버튼으로 클릭하고 새로 만들기(New) > 키(Key)를 선택한 후 이름을 CredSSP로 지정합니다.
  • CredSSP 키를 마우스 오른쪽 버튼으로 클릭하고 새로 만들기 > 키를 선택한 후 이름을 Parameters로 지정합니다.
  • 오른쪽 창의 빈 공간을 마우스 오른쪽 버튼으로 클릭하고 새로 만들기 > DWORD(32비트) 값을 선택합니다.
  • 값 이름을 AllowEncryptionOracle로 변경하고 Enter 키를 누릅니다.
  • 새로 만든 값을 두 번 클릭하여 속성을 엽니다.
  • 값 데이터 입력란에 2를 입력하고 Enter 키를 눌러 저장합니다.
  • 레지스트리 편집기를 종료하고 PC를 재시작합니다.

이제 원격 데스크톱 연결이 정상적으로 설정될 것입니다!