VirtualBox에서 "Call to WHvSetupPartition failed: ERROR_SUCCESS (Last=0xc000000d/87) (VERR_MEM_VM_CREATE_FAILED)" 오류가 발생하는 가장 흔한 원인은 Hyper-V가 설치되어 있거나 Windows 10 시작 시 자동으로 로드되기 때문입니다. 이 문제는 Windows 10 Pro는 물론 Home 버전에서도 자주 나타납니다.
문제 상황
Windows 10 업데이트 이후 VirtualBox 가상 머신(VM)이 시작되지 않으면서 다음과 같은 오류 메시지가 표시됩니다.
Call to WHvSetupPartition failed: ERROR_SUCCESS (Last=0xc000000d/87) (VERR_NEM_VM_CREATE_FAILED).
Result Code: E_FAIL (0x80004005)
Component: ConsoleWrap
Interface: IConsole {872da645-4a9b-1727-bee2-5585105b9eed}
오류 발생 원인
Hyper-V가 활성화되면 Windows 하이퍼바이저가 CPU의 가상화 기능(VT-x/AMD-V)을 독점적으로 사용하게 됩니다. 그 결과 VirtualBox가 가상 머신을 생성할 때 필요한 하드웨어 가상화 리소스에 접근하지 못해 위와 같은 오류가 발생합니다. 특히 WSL2, Windows Sandbox, Docker Desktop, 코어 분리(Core Isolation)/메모리 무결성 기능을 사용하면 Hyper-V가 자동으로 활성화될 수 있으므로 주의가 필요합니다.
이 글에서는 VirtualBox의 "Call to WHvSetupPartition failed" 오류를 해결하는 방법을 단계별로 안내합니다.
Windows 10에서 VirtualBox WHvSetupPartition 오류 해결 방법
1. 제어판 > 프로그램 및 기능 > Windows 기능 켜기/끄기로 이동합니다.
2. 아래 기능들의 체크박스를 모두 해제합니다.
- 컨테이너(Containers) *
- Hyper-V *
- 가상 머신 플랫폼(Virtual Machine Platform)
- Windows 하이퍼바이저 플랫폼(Windows Hypervisor Platform)
- Windows 샌드박스(Windows Sandbox)
* 참고: '컨테이너'와 'Hyper-V' 기능은 Windows 10 Pro 에디션에만 표시됩니다.
3. 기능 변경 후 컴퓨터를 다시 시작합니다.
4. 관리자 권한으로 명령 프롬프트를 실행합니다. (시작 메뉴에서 'cmd' 검색 후 마우스 우클릭 → '관리자 권한으로 실행')
5. 아래 명령어를 입력하고 Enter 키를 누릅니다.
- bcdedit /set hypervisorlaunchtype off
이 명령어는 Windows 부팅 시 하이퍼바이저가 자동으로 실행되지 않도록 설정하여, VirtualBox가 CPU 가상화 기능을 온전히 사용할 수 있게 해줍니다.
6. PC를 재부팅합니다.
7. 재부팅이 완료되면 VirtualBox를 실행하고 가상 머신을 시작합니다.
참고: Hyper-V 기반 기능이 꼭 필요한 경우
WSL2나 Docker Desktop처럼 Hyper-V가 필수인 환경을 함께 사용해야 한다면, VirtualBox 6.1 이상 버전에서 제공하는 Hyper-V 호환 모드를 이용할 수 있습니다. 다만 이 경우 가상 머신 성능이 크게 저하될 수 있으므로, 최상의 성능을 원한다면 두 가상화 솔루션을 동시에 활성화하지 않는 것을 권장합니다.
여기까지 진행하면 오류가 해결됩니다! 이 가이드가 도움이 되셨다면 댓글로 경험을 공유해 주시고, 주변에도 공유해 많은 분들이 활용할 수 있도록 해주세요.