많은 VirtualBox 사용자들이 컴퓨터를 재시작한 후 가상 머신(VM)을 시작할 때 다음과 같은 문제를 겪습니다. 먼저 "VirtualBox – Error in supR3HardenedWiReSpawn" 오류가 나타나고, 확인(OK)을 클릭하면 "Failed to open a session for the virtual machine exit code 1 (0x1) – E_FAIL (0x80004005)"라는 추가 오류가 표시되면서 자세한 내용은 'VBoxHardening.log' 파일을 참조하라고 안내됩니다. 그러나 VBoxHardening.log 파일에는 여러 DLL 파일이 "lacks WinVerifyTrust"(서명 검증 실패)라는 메시지만 있을 뿐, 문제의 명확한 원인 설명은 없습니다.
문제 상황 요약
Windows 10 PC에서 최신 버전의 VirtualBox를 설치하고 컴퓨터를 재시작한 뒤, 가상 머신을 시작하면 다음과 같은 오류가 발생합니다:
"VirtualBox – Error in supR3HardenedWiReSpawn
Error relaunching VirtualBox VM process: 5
supR3HardenedWinReSpawn what: 5 VERR_INVALID_NAME (-104) - Invalid (malformed) file/path name."
위 메시지에서 확인(OK)을 누르면 이어서 다음과 같은 오류가 나타납니다:
"Failed to open a session for the virtual machine %VM_Machine_Name%.
The virtual machine '%VM_Machine_Name%' has terminated unexpectedly during startup with exit code 1 (0x1). More details may be available in 'C:\Users\Admin\VirtualBox VMs\%VM_Machine_Name%\Logs\VBoxHardening.log'.
Result Code: E_FAIL (0x80004005)
Component: MachineWrap
Interface: IMachine {85632c68-b5bb-4316-a900-5eb28d3413df}"
이 가이드에서는 아래와 같은 VirtualBox 오류들을 해결하는 방법을 단계별로 설명합니다:
- VirtualBox Error in supR3HardenedWiReSpawn. Error relaunching VirtualBox VM process: 5… supR3HardenedWinReSpawn what: 5 VERR_INVALID_NAME
- Failed to open a session for the virtual machine… Virtual Machine terminated with exit code 1 (0x1)
- 'VBoxHardening.log' 파일에 여러 .dll 파일이 [lacks WinVerifyTrust]라고 기록되는 경우
해결 방법: VirtualBox VM 프로세스 5 재실행 오류 [lacks WinVerifyTrust]
중요: 아래 본격적인 해결 단계로 넘어가기 전에, 먼저 다음 기본 조치들을 하나씩 적용하고 각각의 조치 후에 VM이 정상적으로 시작되는지 확인해 보세요.
기본 조치 1. 백신 프로그램 비활성화 또는 제거
백신 프로그램의 실시간 보호 기능을 일시적으로 끄거나, 백신 프로그램 자체를 제거한 후 VM을 시작해 보세요.
* 참고: HP Pro 또는 HP Elite PC를 사용 중이고 HP 사전 설치 소프트웨어가 있다면, 다음 프로그램들을 반드시 제거하세요. 이들 프로그램은 VirtualBox의 드라이버 서명 검증과 충돌하는 것으로 알려져 있습니다:
- HP Client Security
- HP Sure Click
- HP Sure Sense
기본 조치 2. Hyper-V 비활성화 여부 확인
제어판 > 프로그램 및 기능 > Windows 기능 켜기/끄기로 이동하여 Hyper-V 항목의 체크가 해제되어 있는지 확인하세요. 체크되어 있다면 해제한 후 재부팅합니다.
기본 조치 3. VBoxDrv 드라이버 수동 설치
파일 탐색기에서 "C:\Program Files\Oracle\VirtualBox\drivers\vboxdrv" 폴더로 이동한 후, VBoxDrv.inf 파일을 마우스 오른쪽 버튼으로 클릭하고 설치(Install)를 선택하세요.
기본 조치 4. VirtualBox 재설치
a. 제어판 > 프로그램 및 기능으로 이동하여 VirtualBox를 제거합니다.
b. 컴퓨터를 재부팅합니다.
c. VirtualBox 최신 버전을 다운로드합니다.
d. 다운로드한 설치 파일을 마우스 오른쪽 버튼으로 클릭하고 관리자 권한으로 실행합니다.
e. 컴퓨터를 재부팅합니다.
f. VM을 시작해 보고, 동일한 오류가 계속 발생한다면 아래 1단계부터 진행하세요.
1단계. VBoxDrv 서비스 시작 유형을 2(자동)로 변경
* 참고: VBoxDrv 서비스의 'Start' 값을 2로 변경하는 방법은 VirtualBox 포럼의 Hardening Fix 게시글에서 착안한 것입니다. 해당 게시글에서는 'Start' 값을 3으로 변경할 것을 제안하지만, 실제 테스트 결과 값 3으로 변경했을 때는 문제가 해결되지 않고 오히려 악화되었습니다.
- 레지스트리 편집기를 엽니다. (Win + R 키를 누른 후 'regedit' 입력)
- 왼쪽 창에서 다음 키로 이동합니다:
HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\VBoxDrv - 오른쪽 창에서 Start REG_DWORD 값을 두 번 클릭합니다.
- 값 데이터(Value data)를 1에서 2로 변경하고 확인을 클릭합니다.
* 'VBoxDrv' 서비스 시작 유형의 가능한 값('Start' REG_DWORD 값에 저장됨):
| 값 | 시작 유형 | 설명 |
|---|---|---|
| 0 | Boot (부팅) | 부팅 시 서비스가 로드됩니다. |
| 1 | System (시스템) | 커널 초기화 과정(부팅 시)에 서비스가 로드됩니다. |
| 2 | Automatic (자동) | 서비스 제어 관리자(SCM)가 자동으로 서비스를 로드합니다. |
| 3 | Manual (수동) | 필요할 때 수동으로 서비스가 로드됩니다. |
| 4 | Disabled (사용 안 함) | 서비스가 비활성화됩니다. |
- 레지스트리 편집기를 닫고 PC를 재시작합니다.
- VM을 시작해 보세요. 만약 "Call to WHvSetupPartition failed: ERROR_SUCCESS (Last=0xc000000d/87)" 오류와 함께 VM이 여전히 시작되지 않는다면, 아래 2단계로 진행하세요.
2단계. 부팅 시 Hyper-V 하이퍼바이저 비활성화
Windows 10 Pro 또는 Enterprise 에디션에서는 Hyper-V가 기본적으로 부팅 시 함께 시작되도록 설정되어 있습니다. VirtualBox와 충돌을 피하려면 이 기능을 비활성화해야 합니다.
- 관련 문서: FIX VirtualBox Error "Call to WHvSetupPartition failed: ERROR_SUCCESS"
- 명령 프롬프트를 관리자 권한으로 실행합니다.
- 다음 명령어를 입력하고 Enter 키를 누릅니다:
- bcdedit /set hypervisorlaunchtype off
- PC를 재부팅합니다.
- 재부팅이 완료되면 VM을 시작해 정상 작동 여부를 확인합니다.
여기까지입니다! 이 가이드가 문제 해결에 도움이 되었다면 아래 댓글로 여러분의 경험을 공유해 주세요. 좋아요와 공유를 통해 다른 분들에게도 도움을 전달해 주시면 감사하겠습니다.