이 글에서는 VMware Workstation 또는 VMware ESXi 하이퍼바이저에서 실행되는 가상 머신에 Windows 11을 게스트 OS로 설치하는 방법을 자세히 설명합니다. VMware 가상 머신에 Windows 11을 설치하려고 하면 대부분의 사용자가 "이 컴퓨터에서 Windows 11을 실행할 수 없습니다"라는 오류 메시지를 접하게 됩니다. 이 오류가 발생하는 이유와 이를 우회하는 방법을 함께 알아보겠습니다.
Windows 11 설치 최소 시스템 요구 사항
Microsoft는 Windows 11을 설치하기 위한 최소 시스템 요구 사항을 다음과 같이 발표했습니다.
- RAM 4GB 이상
- 1GHz 듀얼 코어 CPU
- TPM 2.0(Trusted Platform Module) 칩
컴퓨터 또는 가상 머신이 이러한 요구 사항을 충족하지 못하면 ISO 이미지로 Windows 11을 설치하려고 할 때 다음과 같은 오류 메시지가 나타납니다.
This PC can't run Windows 11. This PC doesn't meet the minimum system requirements to install this version of Windows. For more information, visit aka.ms/WindowsSysReq
VMware VM에 Windows 11 설치 시 TPM 및 Secure Boot 우회 방법
가상 머신에 Windows 11을 설치할 때는 시스템 요구 사항 검사를 건너뛸 수 있습니다. 메모리, 호환 CPU, TPM 칩, UEFI+Secure Boot에 대한 최소 요구 사항 검사를 모두 우회하는 것이 가능합니다.
- VMware 가상 머신에서 일반적인 Windows 11 설치를 진행합니다. 설치 오류가 나타나면(위 스크린샷 참조) Windows 설치 창에서 뒤로 가기 화살표를 클릭해 한 단계 뒤로 이동합니다.
Shift + F10키를 눌러 명령 프롬프트를 엽니다.regedit.exe를 입력하여 레지스트리 편집기를 실행합니다.- 레지스트리 키 HKEY_LOCAL_MACHINE\SYSTEM\Setup으로 이동한 후 LabConfig라는 새 레지스트리 키를 생성합니다.
- LabConfig 키 안에 값이 1인 DWORD(32비트) 매개변수 세 개를 생성합니다.
BypassTPMCheckBypassSecureBootCheckBypassRAMCheck - 레지스트리 편집기와 명령 프롬프트를 닫고 Windows 11 설치 화면으로 돌아갑니다.
- Windows 11 에디션을 선택하고 설치를 클릭합니다.
- 이제 최소 시스템 요구 사항과 TPM 장치 검사 없이 Windows 11 설치를 계속 진행할 수 있습니다.
VMware Workstation에 Windows 11 설치하기
VMware Workstation에 모든 시스템 요구 사항을 충족하는 정상적인 방식으로 Windows 11을 설치하려면, UEFI 지원, Secure Boot, 가상 TPM 칩이 포함된 가상 머신을 생성해야 합니다.
가상 머신 설정을 열고 Advanced(고급) 탭으로 이동하여 해당 VM에 UEFI 펌웨어가 사용되고 있는지 확인합니다. 또한 Enable secure boot(Secure Boot 사용) 옵션도 체크합니다.
그다음 가상 머신에 가상 TPM 모듈(vTPM)을 추가합니다. 이 작업을 수행하기 전에 먼저 VMware Workstation 가상 머신을 암호화해야 합니다.
Options(옵션) 섹션에서 Access Control(액세스 제어)로 이동한 후 Encrypt(암호화)를 클릭합니다. 암호화 암호를 설정하면 암호화가 진행되며, 이 과정은 다소 시간이 걸릴 수 있습니다.
암호화가 완료되면 Hardware(하드웨어) 탭을 열고 Add(추가)를 클릭하여 Trusted Platform Module을 추가합니다.
이제 이 가상 머신에 Windows 11을 일반적인 방법으로 설치할 수 있습니다.
VMware ESXi/vSphere에 Windows 11 설치하는 방법
vSphere 환경의 VMware ESXi 가상 머신에 Windows 11을 설치하려면 가상 머신에 Virtual Trusted Platform Module을 추가해야 합니다. 이를 위해서는 암호화 키를 관리할 KMS(Key Management Server, 키 제공자)를 먼저 구성해야 합니다.
vSphere 7.0 이상에서는 vCenter가 기본 키 제공자(Native Key Provider)를 지원하므로 외부 KMS를 사용할 필요가 없습니다. vCenter에서 기본 키 제공자를 활성화하는 방법은 다음과 같습니다.
- vCenter를 선택하고 구성(Configure) -> 보안(Security) -> 키 제공자(Key Provider)를 엽니다.
- 추가(Add) -> 네이티브 키 제공자 추가(Add Native Key Provider)를 클릭합니다.
- 제공자 이름을 입력하고 Use key provider only with TPM protected ESXi hosts 옵션의 체크를 해제합니다. 이렇게 하면 물리적 TPM 칩이 없는 호스트에서도 vTPM을 사용할 수 있습니다.
- 그다음 키 제공자를 백업합니다. BACK-UP을 클릭하고 .p12 파일을 다운로드하여 안전한 위치에 보관합니다.
VMware ESXi 가상 머신에서 vTPM을 활성화하려면 다음 요구 사항을 충족해야 합니다.
- vSphere 6.7 이상 (무료 VMware Hypervisor에서는 사용 불가)
- VM 하드웨어 버전 14(ESXi 6.7) 이상
- EFI 및 Secure Boot 활성화
- VM 암호화 지원
- VM 설정에서 Windows Virtualization Based Security 옵션 활성화
모든 VM 옵션이 올바르게 설정되어 있고 VM 디스크를 암호화할 수 있는지 확인합니다.
기존 VM을 암호화하려면 VM Options(VM 옵션) 탭을 열고 Encryption(암호화) 섹션에서 디스크 암호화를 활성화합니다.
그다음 Virtual Hardware(가상 하드웨어) 탭에서 TPM을 추가하고(새 장치 추가 -> Trusted Platform Module) 가상 머신에 Windows 11을 정상적으로 설치하면 됩니다.
참고로 Hyper-V 가상 머신에 Windows 11을 설치하는 방법이 궁금하다면 관련 가이드 문서를 확인해 보시기 바랍니다.