원격 데스크톱 연결(Remote Desktop Connection)을 사용하는 사용자는 다른 원격 PC에 연결을 시도할 때 '인증 오류가 발생했습니다(An Authentication Error has occurred)'라는 오류 메시지를 마주할 수 있습니다. Microsoft는 이 오류 메시지를 공식적으로 인정했으며, 오류의 근본 원인과 발생 이유를 설명하는 문서까지 공개한 바 있습니다.

이 오류 메시지는 새로운 것이 아니며, Windows에서 꽤 오랫동안 존재해 왔습니다. 그 이유는 불완전한 업데이트부터 그룹 정책 문제에 이르기까지 다양한 원인이 있기 때문입니다.
원격 데스크톱 연결 시 '인증 오류가 발생했습니다' 오류의 원인은 무엇일까요?
앞서 언급했듯이, 이 오류의 원인은 여러 요소에서 찾아볼 수 있습니다. 주요 원인은 다음과 같습니다:
- 최신 업데이트가 연결하는 컴퓨터 또는 대상 컴퓨터 중 한 곳에 설치되어 있지 않은 경우입니다. 버전 불일치로 인해 원격 데스크톱 연결이 중단됩니다.
- 그룹 정책 편집기에 문제가 있는 경우입니다. 접근 권한을 부여하려면 일부 그룹 정책 키를 변경해야 할 수 있습니다.
- 대상 컴퓨터에 연결할 때 실제 비밀번호가 일치하지 않는 경우입니다.
해결 방법으로 넘어가기 전에, 인터넷 연결이 활성화되어 있는지 그리고 관리자 계정으로 로그인했는지 먼저 확인하세요.
해결 방법 1: 두 컴퓨터 모두 최신 Windows 업데이트 설치하기
더 복잡한 해결 방법으로 넘어가기 전에, 먼저 두 컴퓨터 모두에 최신 Windows 업데이트를 설치하는 것이 좋습니다. 원격으로 연결을 시도할 때는 보안 취약점을 방지하기 위해 두 컴퓨터에 동일한 보안 패치가 설치되어 있어야 합니다. 이러한 보안 패치는 Windows 업데이트를 통해 설치됩니다.
- Windows + S 키를 누르고 검색창에 '업데이트'를 입력한 후 해당 애플리케이션을 엽니다.
- 업데이트 설정 화면에서 업데이트 확인을 클릭합니다.
- Windows가 서버에 연결하여 필요한 파일을 다운로드한 후 업데이트를 자동으로 설치합니다.

- 두 컴퓨터 모두 업데이트가 완료되었는지 확인합니다. 컴퓨터를 재시작한 후 오류 메시지가 해결되었는지 확인합니다.
해결 방법 2: 그룹 정책 편집기 설정 변경하기
Windows 그룹 정책 편집기에는 컴퓨터가 서로 상호작용하고 다양한 작업을 수행하는 방식을 결정하는 중요한 정보가 담겨 있습니다. 일종의 지침 역할을 하며, 컴퓨터마다 설정 기준에 따라 내용이 다를 수 있습니다. 다른 컴퓨터와의 연결이 원활하게 이루어지도록 하려면 몇 가지 키를 변경해야 합니다.
- Windows + R 키를 누르고 실행창에 'gpedit.msc'를 입력한 후 Enter 키를 누릅니다.
- 그룹 정책 편집기에서 다음 경로로 이동합니다:
컴퓨터 구성 > 관리 템플릿 > 시스템 > 자격 증명 위임 > 암호화 Oracle 수정

- 암호화 Oracle 수정(Encryption Oracle Remediation) 키를 열고 상태를 사용(Enabled)으로 변경합니다. 또한 보호 수준(Protection Level)을 취약(Vulnerable)으로 설정합니다.

- 적용(Apply)을 눌러 변경 사항을 저장하고 확인(OK)을 눌러 종료합니다. 이후 오류 메시지가 해결되었는지 확인합니다.
컴퓨터에 그룹 정책 편집기가 없는 경우, 레지스트리 편집기를 사용하여 해당 키를 추가할 수 있습니다.
- Windows + S 키를 누르고 검색창에 '명령 프롬프트'를 입력한 후, 애플리케이션을 마우스 오른쪽 버튼으로 클릭하고 관리자 권한으로 실행을 선택합니다.
- 관리자 권한 명령 프롬프트에서 다음 명령을 실행합니다:
REG ADD HKLM\Software\Microsoft\Windows\CurrentVersion\Policies\System\CredSSP\Parameters\ /v AllowEncryptionOracle /t REG_DWORD /d 2

- 명령 실행 후 다시 연결을 시도합니다. 그래도 작동하지 않으면 컴퓨터를 재시작한 후 다시 시도합니다.
위의 해결 방법 외에도 아래 방법들을 추가로 시도해 볼 수 있습니다:
- (기업 환경의 경우) 도메인 컨트롤러에서 비밀번호를 재설정할 수 있습니다. 이후 Active Directory에서 해당 사용자를 선택하고 속성을 연 뒤, 계정(Account) 탭에서 다음 로그온 시 사용자가 반드시 암호 변경(User must change password at next login) 옵션의 체크를 해제합니다.
- 원격 컴퓨터에 직접 접근할 수 없는 경우, 해당 컴퓨터에서 보안 업데이트를 제거하여 두 컴퓨터의 버전을 동일하게 맞추는 방법도 있습니다.
- 대상 컴퓨터에 연결하는 것이 제한되어 있지 않은지 확인합니다. 대상 컴퓨터 쪽에서도 연결이 차단되어 있지 않은지 마찬가지로 점검해야 합니다.
- 네트워크의 방화벽(Firewall) 설정을 확인합니다.