Computer >> 컴퓨터 >  >> 문제 해결 >> Windows 오류

VMware Workstation 'Device/Credential Guard 호환 불가' 오류 완벽 해결 가이드

일부 VMware Workstation 및 VMware Player 사용자들은 프로그램을 실행하거나 가상 머신을 시작하려고 할 때 'VMware and Device/Credential Guard are not Compatible' 오류 메시지가 나타나는 문제를 겪고 있습니다. 이 문제를 겪는 대부분의 사용자는 Windows 업데이트를 설치한 후에야 오류가 발생하기 시작했다고 보고했습니다.

이 문제를 해결할 때는 먼저 Hyper-V를 비활성화하는 것부터 시작하는 것이 좋습니다. CMD 명령어를 사용하거나 GUI 인터페이스를 통해 비활성화할 수 있습니다.

또 다른 원인으로는 Virtualization Based Security(가상화 기반 보안)라는 로컬 그룹 정책이 특정 가상화 기술을 차단하는 경우입니다. 이 경우 로컬 그룹 정책 편집기를 사용하거나 레지스트리 편집기를 통해 해당 정책을 비활성화할 수 있습니다.

Windows 10에서 이 문제가 발생한다면 부팅 구성 데이터(BCD)의 불일치 때문일 가능성이 높습니다. 이 경우 BCD 파일을 수정하여 Hyper-V 관련 항목을 제거하면 문제를 해결할 수 있습니다.

Windows Defender를 사용 중이라면 Core Isolation(코어 격리)이라는 보안 기능이 원인일 수도 있습니다. 이 경우 설정 앱 또는 레지스트리 편집기를 통해 코어 격리를 비활성화하여 문제를 해결할 수 있습니다.

방법 1: Hyper-V 비활성화

여러 사용자 보고에 따르면, 'VMware and Device/Credential Guard are not Compatible' 오류를 유발하는 가장 흔한 원인은 Hyper-V(마이크로소프트의 자체 가상화 기술)와 VMware 간의 충돌입니다. 기본적으로 VMware와 VirtualBox는 자체 가상화 기술을 사용하도록 설계되어 있습니다.

하지만 Windows 업데이트(KB4515871) 중 일부는 타사 응용 프로그램이 Hyper-V를 강제로 사용하도록 만드는 것으로 알려져 있으며, VMware에서는 이로 인해 해당 오류가 발생합니다.

최근 설치한 Windows 업데이트가 오류의 원인이라고 생각된다면, 아래 가이드 중 하나를 따라 Hyper-V를 비활성화하여 VMware가 자체 가상화 기술을 사용할 수 있도록 하세요.

A. CMD를 통한 Hyper-V 비활성화

  1. Windows 키 + R을 눌러 실행 대화 상자를 엽니다. 텍스트 상자에 cmd를 입력하고 Ctrl + Shift + Enter를 눌러 관리자 권한 명령 프롬프트를 실행합니다.

    참고: UAC(사용자 계정 컨트롤) 창이 나타나면 예를 클릭하여 관리자 권한을 허용합니다.
  2. 관리자 권한 명령 프롬프트에서 다음 명령어를 입력하고 Enter 키를 눌러 시스템 수준에서 Hyper-V를 비활성화합니다:
    dism.exe /Online /Disable-Feature:Microsoft-Hyper-V
  3. 명령이 성공적으로 처리되면 명령 프롬프트 창을 닫고 컴퓨터를 재부팅합니다.
  4. 재부팅이 완료되면 VMware를 열고 이전에 오류가 발생했던 작업을 다시 수행해 봅니다.

B. PowerShell을 통한 Hyper-V 비활성화

PowerShell을 관리자 권한으로 실행한 후 다음 명령어를 입력하면 Hyper-V를 켜거나 끌 수 있습니다:

bcdedit /set hypervisorlaunchtype off (Hyper-V 비활성화)

bcdedit /set hypervisorlaunchtype on (Hyper-V 활성화)

C. GUI를 통한 Hyper-V 비활성화

  1. Windows 키 + R을 눌러 실행 대화 상자를 열고, 텍스트 상자에 appwiz.cpl을 입력한 후 Enter 키를 눌러 프로그램 및 기능 메뉴를 엽니다.
  2. 프로그램 및 기능 메뉴에서 왼쪽 메뉴의 Windows 기능 켜기/끄기를 클릭합니다.
  3. UAC(사용자 계정 컨트롤) 창이 나타나면 예를 클릭하여 관리자 권한을 허용합니다.
  4. Windows 기능 메뉴에서 Hyper-V 폴더의 드롭다운 메뉴를 확장한 후, Hyper-V 관리 도구와 Hyper-V 플랫폼의 체크박스를 해제하고 확인을 클릭하여 변경 사항을 저장합니다.
  5. GUI를 통해 Hyper-V를 비활성화했다면 컴퓨터를 재시작하고 다음 시작 시 문제가 해결되었는지 확인합니다.

그래도 VMware Player/Workstation 실행 시 또는 가상 머신 마운트 시 동일한 오류가 발생한다면, 아래의 다음 해결 방법으로 넘어가세요.

방법 2: Virtualization Based Security 비활성화

위의 지침을 따랐는데도 Hyper-V와 VMware 간 충돌이 아니라면, Virtualization Based Security(가상화 기반 보안) 정책이 적용되어 있어서 오류가 발생했을 가능성이 있습니다. 특정 가상 머신 유형에는 이 보안 기능이 필요합니다.

Virtualization Based Security는 로컬 그룹 정책 편집기를 통해 정책으로 적용됩니다. 단, 이 유틸리티는 기본적으로 Windows 10 Pro 및 이전 Pro 버전에서만 사용할 수 있습니다.

참고: Home 버전을 사용 중이라면 gpedit 유틸리티를 수동으로 설치하여 사용할 수 있습니다.

로컬 그룹 정책 편집기(gpedit)를 사용할 수 있는 환경이라면 아래 서브 가이드 A를 따라 전용 정책을 통해 Virtualization Based Security를 비활성화하세요.

Home 버전을 사용 중이면서 로컬 그룹 정책 편집기를 설치하고 싶지 않다면 두 번째 가이드 (서브 가이드 B)를 따라 레지스트리 편집기를 통해 Virtualization Based Security를 비활성화하세요.

A. Gpedit을 통한 Virtualization Based Security 비활성화

  1. Windows 키 + R을 눌러 실행 대화 상자를 열고, 텍스트 상자에 gpedit.msc를 입력한 후 Enter 키를 눌러 로컬 그룹 정책 편집기를 엽니다.

    참고: UAC(사용자 계정 컨트롤) 창이 나타나면 예를 클릭하여 관리자 권한을 허용합니다.
  2. 로컬 그룹 정책 편집기에서 왼쪽 메뉴를 사용해 다음 위치로 이동합니다:
    컴퓨터 구성 - 관리 템플릿 - 시스템 - Device Guard
  3. 해당 위치로 이동한 후 오른쪽 메뉴에서 가상화 기반 보안 켜기(Turn on Virtualization Based Security)를 더블클릭합니다.
  4. 정책 설정 메뉴에서 옵션을 사용 안 함(Disabled)으로 설정하고 확인을 클릭하여 변경 사항을 저장합니다.
  5. 설정을 완료한 후 컴퓨터를 재시작하고 다음 시작 시 문제가 해결되었는지 확인합니다.

B. 레지스트리 편집기를 통한 Virtualization Based Security 비활성화

  1. Windows 키 + R을 눌러 실행 대화 상자를 열고, 텍스트 상자에 regedit를 입력한 후 Enter 키를 눌러 레지스트리 편집기를 엽니다. UAC(사용자 계정 컨트롤) 창이 나타나면 예를 클릭하여 관리자 권한을 허용합니다.
  2. 레지스트리 편집기에서 왼쪽 메뉴를 사용해 다음 위치로 이동합니다:
    HKEY_LOCAL_MACHINE\System\CurrentControlSet\Control\DeviceGuard

    참고: 직접 탐색하거나 경로를 주소 표시줄에 붙여넣고 Enter 키를 눌러 즉시 이동할 수 있습니다.
  3. 올바른 위치에 도착하면 오른쪽 영역의 빈 공간을 우클릭하고 새로 만들기 > DWORD(32비트) 값을 선택합니다.
  4. 새로 생성된 DWORD의 이름을 EnableVirtualizationBasedSecurity로 지정한 후 더블클릭하여 기수(Base)를 16진수(Hexadecimal)로, 값을 0으로 설정하여 Virtualization Based Security를 비활성화합니다.
  5. 확인을 눌러 변경 사항을 저장한 후, 레지스트리 편집기를 닫고 컴퓨터를 재시작하여 문제가 해결되었는지 확인합니다.

그래도 동일한 문제가 발생한다면 아래의 다음 해결 방법으로 넘어가세요.

방법 3: BCD 파일 수정

이 문제는 BCD(부팅 구성 데이터)의 불일치가 타사 가상화 기술과 충돌을 일으켜 발생할 수도 있습니다. 같은 문제를 겪은 여러 사용자는 관리자 권한 명령 프롬프트에서 몇 가지 명령어를 실행한 후 문제가 갑자기 해결되었다고 보고했습니다.

이 명령어들은 Hyper-V의 잔여 요소가 VMware의 가상화 기술과 충돌하지 않도록 합니다. 절차는 다음과 같습니다:

  1. Windows 키 + R을 눌러 실행 대화 상자를 열고, 텍스트 상자에 cmd를 입력한 후 Ctrl + Shift + Enter를 눌러 관리자 권한 명령 프롬프트를 실행합니다.

    참고: UAC(사용자 계정 컨트롤) 창이 나타나면 예를 클릭하여 관리자 권한을 허용합니다.
  2. 관리자 권한 명령 프롬프트 창에서 다음 명령어를 정확한 순서대로 입력하고, 각 명령어마다 Enter 키를 눌러 BCD 데이터에서 Hyper-V 참조를 제거합니다:
    bcdedit /set {0cb3b571-2f2e-4343-a879-d86a476d7215} path "\EFI\Microsoft\Boot\SecConfig.efi"
    bcdedit /set {bootmgr} bootsequence {0cb3b571-2f2e-4343-a879-d86a476d7215}
    bcdedit /set {0cb3b571-2f2e-4343-a879-d86a476d7215} loadoptions DISABLE-LSA-ISO,DISABLE-VBS
    bcdedit /set hypervisorlaunchtype off
  3. 모든 명령이 성공적으로 처리되면 컴퓨터를 재시작하고 문제가 해결되었는지 확인합니다.

그래도 동일한 'VMware and Device/Credential Guard are not Compatible' 오류가 발생한다면 아래의 최종 해결 방법으로 넘어가세요.

방법 4: 코어 격리(Core Isolation) 비활성화

위의 방법들이 모두 효과가 없었다면, 아직 확인하지 않은 마지막 원인이 남아 있습니다. Windows Defender를 사용 중이라면 코어 격리(Core Isolation)라는 보안 기능이 오류를 유발하고 있을 가능성이 있습니다.

코어 격리는 커널 수준에서 작동하는 정교한 맬웨어 공격으로부터 보호하기 위해 Windows Defender가 배치하는 추가 보안 계층입니다.

이 보안 기능을 비활성화한 여러 사용자가 문제가 완전히 사라졌다고 확인했습니다. 다만 단점이 있습니다. 시스템이 일부 보안 취약점에 노출될 수 있다는 점입니다.

이 방법을 시도해 보려면 아래 첫 번째 가이드 (서브 가이드 A)를 따라 Windows 보안 설정 메뉴에서 코어 격리를 비활성화하세요. 코어 격리 항목이 회색으로 비활성화되어 있다면 레지스트리 편집기를 통해서도 가능합니다 (서브 가이드 B).

A. GUI를 통한 코어 격리 비활성화

  1. Windows 키 + R을 눌러 실행 대화 상자를 열고, 텍스트 상자에 ms-settings:windowsdefender를 입력한 후 Enter 키를 눌러 설정 앱의 Windows 보안 탭을 엽니다.
  2. Windows 보안 메뉴에서 오른쪽 영역으로 이동하여 보호 영역 아래의 디바이스 보안을 클릭합니다.
  3. 목록을 아래로 스크롤하여 코어 격리 섹션의 코어 격리 세부 정보를 클릭합니다.
  4. 코어 격리 메뉴에서 메모리 무결성(Memory integrity) 토글을 끔(Off)으로 설정합니다.
  5. 변경 사항을 적용한 후 컴퓨터를 재부팅하고, VMware 가상 머신을 다시 실행하여 다음 시작 시 문제가 해결되었는지 확인합니다.

B. 레지스트리 편집기를 통한 코어 격리 비활성화

  1. Windows 키 + R을 눌러 실행 대화 상자를 열고, 텍스트 상자에 regedit를 입력한 후 Enter 키를 눌러 레지스트리 편집기를 엽니다. UAC(사용자 계정 컨트롤) 창이 나타나면 예를 클릭하여 관리자 권한을 허용합니다.
  2. 레지스트리 편집기에서 왼쪽 메뉴를 사용해 다음 위치로 이동합니다:
    Computer\HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\DeviceGuard\Scenarios\CredentialGuard

    참고: 시간을 절약하려면 전체 경로를 주소 표시줄에 붙여넣고 Enter 키를 눌러 즉시 이동할 수 있습니다.
  3. 올바른 위치에 도착하면 오른쪽 메뉴에서 Enabled 키를 더블클릭합니다.
  4. Enabled 값 편집 창에서 기수를 16진수(Hexadecimal)로 설정하고 값 데이터(Value data)를 0으로 입력합니다. 그런 다음 확인을 클릭하여 변경 사항을 저장합니다.
  5. 변경 사항을 적용한 후 컴퓨터를 재시작하고 다음 시스템 시작 시 문제가 해결되었는지 확인합니다.