[해결] VMware 'CPU가 게스트 운영 체제에 의해 비활성화되었습니다' 오류 수정 방법

VMware Workstation에서 가상 머신을 실행하려고 할 때 'CPU has been disabled by the guest operating system'(CPU가 게스트 운영 체제에 의해 비활성화되었습니다) 오류가 발생한다는 사용자 불만이 많이 접수되고 있습니다. 대부분의 사용자는 이전까지 정상적으로 작동하던 이미지에서 갑자기 문제가 발생하기 시작했다고 보고합니다. Linux, macOS, Windows 이미지 모두에서 동일한 현상이 나타나는 것으로 보아 특정 운영 체제에 국한된 문제는 아닌 것으로 추정됩니다.

오류의 주요 원인

다양한 사용자 사례를 분석한 결과, 이 오류를 유발하는 몇 가지 일반적인 시나리오를 확인할 수 있었습니다.

게스트 머신이 정상적으로 시작되지 않음 – 가장 흔한 원인은 디스크 구성 문제 또는 최근 게스트 머신 손상으로 인해 사용이 불가능해진 경우입니다.
BIOS 설정에서 VT-X가 활성화되지 않음 – VMware Workstation에 필수적인 VT-X 기술(인텔 가상화 기술)이 BIOS 설정에서 비활성화되어 있는 경우에도 이 문제가 발생합니다.
CPU ID가 라이선스 정책과 충돌함 – 소프트웨어가 호환되지 않는 CPU를 감지하여 OS 이미지가 시작되지 못하는 경우도 있습니다. 이 경우 CPU ID 마스킹으로 해결할 수 있습니다.

아래에서는 실제로 효과를 본 사용자들이 성공적으로 활용한 해결 방법들을 단계별로 안내합니다. 최상의 결과를 얻으려면 순서대로 진행하면서 문제가 해결될 때까지 시도해 보시기 바랍니다.

방법 1: BIOS 설정에서 VT-X(인텔 가상화) 활성화

가장 흔한 원인부터 확인해 보겠습니다. 메인보드 출고 시 VT-X가 기본적으로 꺼져 있거나, 서드파티 프로그램 또는 과거의 직접 설정으로 인해 해당 기술이 비활성화되어 있을 수 있습니다.

모든 메인보드 제조사는 BIOS 설정 내에 VT-X 기술을 켜고 끄는 옵션을 제공합니다. 다만 정확한 경로는 제조사마다 다를 수 있습니다.

BIOS 진입 방법은 메인보드 제조사에 따라 차이가 있지만, 공통적으로 부팅 초기 화면에서 BIOS(SETUP) 키를 눌러야 합니다.

일반적으로 BIOS 키는 F 계열 키(F2, F4, F8, F10, F12) 중 하나이며, Dell 컴퓨터의 경우 전용 키를 사용합니다. BIOS 키를 모르신다면 부팅 시 처음 표시되는 SETUP 화면에서 확인하거나, 메인보드 모델명으로 온라인 검색을 통해 찾을 수 있습니다.

[해결] VMware CPU가 게스트 운영 체제에 의해 비활성화되었습니다 오류 수정 방법

BIOS 설정에 진입한 후에는 가상화 기술 항목이 VTx/VTd라는 이름으로 표시되어 있는 경우가 많습니다. 해당 항목을 활성화하고 변경 사항을 저장한 뒤 컴퓨터를 재부팅하세요.

재부팅 후 VMware Workstation에서 동일한 이미지를 열어 문제가 해결되었는지 확인합니다. 여전히 같은 오류가 발생한다면 다음 방법으로 넘어가세요.

방법 2: CPU ID 마스킹 작업 수행

보안 검사 과정에서 호환되지 않는 프로세서가 감지되면 프로세서가 비활성화되어 이 오류가 발생할 수도 있습니다. 이는 주로 Ivy Bridge 아키텍처 머신에서 생성한 이미지를 Sandy Bridge 아키텍처 머신으로 옮기거나 그 반대의 경우에 발생합니다.

이런 상황에서는 CPU ID를 마스킹하지 않으면 시스템이 이미지 부팅을 거부합니다. VMware ESXi 등 상위 제품에서는 GUI로 쉽게 설정할 수 있지만, VMware Workstation에는 해당 옵션이 없습니다.

대신 이미지의 VMX 파일을 수정하여 CPU ID를 마스킹하는 방법이 있습니다. Notepad++와 같은 강력한 텍스트 편집기가 필요하며, 단계별 절차는 다음과 같습니다.

시스템에 Notepad++가 설치되어 있는지 확인합니다. 설치되어 있지 않다면 공식 웹사이트에서 Download 버튼을 클릭해 설치 파일을 내려받습니다.
Notepad++ 설치 파일을 실행하고 화면 안내에 따라 설치를 완료합니다.
편집기를 설치한 후, 가상 머신 상태가 전원 꺼짐(Powered Off) 상태인지 확인합니다(일시 중단 상태가 아니어야 함). 재생 아이콘 옆 드롭다운 메뉴를 클릭하고 목록에서 Shut down guest를 선택하면 됩니다.
게스트 머신을 선택한 상태에서 오른쪽 창의 Edit virtual machine settings(가상 머신 설정 편집)를 클릭합니다.
가상 머신 설정 메뉴에서 Hardware 탭을 선택한 후 Hard Disk (SCSI) 장치를 클릭합니다. 오른쪽 창에서 Disk file의 정확한 경로를 확인하고 복사해 둡니다. 다음 단계에서 필요합니다.
파일 탐색기(Mac의 경우 Finder)를 열고 Disk file 경로로 이동합니다. 여러 형식의 파일 중 확장자가 .vmx인 파일을 찾아 마우스 오른쪽 버튼으로 클릭한 후 Notepad++로 편집을 선택합니다.
참고: Windows 10에서 파일 확장자가 보이지 않는다면 파일 탐색기 상단의 보기 탭에서 파일 이름 확장명 항목에 체크되어 있는지 확인하세요.
Notepad++로 .vmx 파일을 연 후, 구성 파일 맨 아래로 스크롤하여 다음 코드 줄을 추가합니다:
```
cpuid.1.eax = "0000:0000:0000:0001:0000:0110:1010:0101"
```
코드를 추가한 후 Ctrl + S를 눌러 변경 사항을 저장하고 Notepad++를 닫습니다.
VMware Workstation Player에서 가상 머신을 다시 시작합니다. 이제 'CPU가 게스트 운영 체제에 의해 비활성화되었습니다' 오류 없이 게스트 머신이 정상적으로 부팅될 것입니다.

이 방법으로도 해결되지 않았다면 마지막 방법을 시도해 보세요.

방법 3: 새 가상 머신 생성

위 두 가지 방법으로도 오류가 해결되지 않는다면 디스크 구성 문제가 있거나, 최근 수행한 작업으로 인해 가상 머신이 손상되었을 가능성이 높습니다.

원인이 무엇이든 새로운 게스트 머신을 처음부터 생성하면 문제를 해결할 수 있습니다. 단, 이 방법은 기존 게스트 머신에 저장된 데이터가 모두 삭제된다는 점을 유의해야 합니다.

새 가상 머신을 생성하는 절차는 다음과 같습니다:

VMware Workstation을 실행하고 왼쪽 창에서 Home 화면을 선택한 후, 오른쪽 창에서 Create a new Virtual Machine(새 가상 머신 만들기)을 클릭합니다.
Installer disk image file (iso) 옵션을 선택하고 Browse 버튼을 클릭해 ISO 이미지를 지정합니다. 마법사가 운영 체제를 자동으로 감지하여 Easy Install을 준비합니다. ISO 파일이 로드되면 Next를 클릭합니다.
필요한 자격 증명(사용자 정보)을 입력하고 Next를 클릭합니다.
새 가상 머신의 이름을 지정하고 저장 위치를 설정한 후 Next를 클릭합니다.
Maximum disk size를 지정해 원하는 디스크 용량을 설정하고 저장 방식을 선택한 후 Next를 클릭합니다.
마지막으로 Finish 버튼을 클릭해 새 가상 머신 생성을 완료합니다.

이렇게 생성한 새 게스트 머신은 초기 부팅 과정에서 'CPU가 게스트 운영 체제에 의해 비활성화되었습니다' 오류 없이 정상적으로 실행될 것입니다.