Oracle VM VirtualBox에서 가상 머신을 시작할 때 “NtCreateFile(\Device\VBoxDrvStub) failed: STATUS_OBJECT_NAME_NOT_FOUND (0xc0000034)” 오류가 나타난다면, 대체로 VirtualBox의 커널 드라이버(VBoxDrv 또는 VBoxSup)가 누락되었거나 차단되었거나 로드되지 않았음을 의미합니다. 이 드라이버가 없으면 VirtualBox가 필요로 하는 디바이스 인터페이스(VBoxDrvStub 디바이스 경로)를 생성할 수 없어, 가상 머신이 시작 단계에서 곧바로 중단됩니다.
이 문제는 주로 VirtualBox 업데이트 직후, 불완전한 설치, Windows 보안에 의한 드라이버 설치 차단, 또는 Hyper-V / VBS(가상화 기반 보안)가 시스템의 가상화·드라이버 처리 방식을 변경했을 때 발생합니다.
VirtualBox 버전과 Windows 구성에 따라 VirtualBox가 네이티브 모드에서 드라이버를 로드하지 못하거나, Hyper-V를 통해서만 실행될 수 있습니다(이 경우 호환성과 성능에 영향을 줄 수 있습니다).
시작하기 전에 반드시 '다시 시작'을 한 번 실행하세요(전원 끄기가 아님). 많은 PC에서 '시스템 종료'는 빠른 시작(Fast Startup) 기능 때문에 드라이버를 완전히 다시 로드하지 않지만, '다시 시작'은 드라이버 전체를 강제로 새로 로드합니다.
1. VirtualBox 드라이버 서비스 시작/재시작 (VBoxDrv / VBoxSup)
드라이버가 설치되어 있지만 실행 중이 아니라면, 서비스를 시작하는 것만으로도 오류가 즉시 해결될 수 있습니다. 단, 드라이버·서비스가 이미 존재하는 경우에만 작동합니다.
- Windows 검색에서 명령 프롬프트를 검색합니다.
- 마우스 오른쪽 버튼으로 클릭한 뒤 관리자 권한으로 실행을 선택합니다.
- 먼저 내 시스템에 어떤 VirtualBox 드라이버 서비스 이름이 존재하는지 확인합니다.
sc query type= driver | findstr /i vbox
- 찾은 드라이버 서비스를 시작합니다(예시).
net start vboxdrv
'서비스 이름이 잘못되었습니다'라는 메시지가 뜬다면 다음을 시도합니다.
net start vboxsup
성공 시 화면: “서비스가 성공적으로 시작되었습니다.”
- PC를 다시 시작한 후 VirtualBox를 실행합니다.
'service name is invalid'(서비스 이름이 잘못됨) / '찾을 수 없습니다' 같은 오류가 발생한다면, 드라이버가 누락되었거나 올바르게 등록되지 않은 것일 가능성이 높습니다. 다음 방법으로 넘어가세요.
상태 확인 (실제 존재하는 서비스 이름 그대로 입력):
sc query vboxdrv
시스템이 vboxsup를 사용하는 경우:
sc query vboxsup
정상 상태: STATE : 4 RUNNING 항목이 표시되어야 합니다.
2. VirtualBox 드라이버(.inf) 수동 설치
Windows 보안이나 정책 제한으로 인해 설치 과정에서 VirtualBox가 드라이버를 정상적으로 등록하지 못할 수 있습니다. .inf 드라이버를 수동으로 설치하면 올바르게 등록할 수 있습니다. VirtualBox 버전마다 구조가 다르므로, 시작하려는 서비스에 맞는 .inf를 설치하세요.
- vboxdrv가 누락되었거나 시작되지 않는 경우: vboxdrv 폴더의 VBoxDrv.inf를 설치합니다.
- vboxsup가 누락되었거나 시작되지 않는 경우: vboxsup 폴더의 VBoxSup.inf를 설치합니다.
- 파일 탐색기를 열고 다음 경로 중 시스템에 존재하는 폴더로 이동합니다.
C:\Program Files\Oracle\VirtualBox\drivers\vboxdrv
C:\Program Files\Oracle\VirtualBox\drivers\vboxsup - 확장자가 .inf로 끝나는 파일을 찾습니다(예: VBoxDrv.inf, VBoxSup.inf).
- .inf 파일을 마우스 오른쪽 버튼으로 클릭하고 설치를 선택합니다.
참고: 파일 확장명이 보이지 않는다면 파일 탐색기의 보기 메뉴에서 파일 확장명을 활성화하거나, 각 파일의 속성에서 종류를 확인하세요.'설치' 메뉴가 보이지 않는다면 4번 방법으로 건너뛰어 복구(Repair)/클린 재설치를 진행하세요(설치 프로그램을 관리자 권한으로 실행).
- 설치가 완료되면 PC를 다시 시작합니다.
- 재부팅 후 명령 프롬프트를 관리자 권한으로 열고 해당 서비스를 시작합니다(실제 존재하는 이름 사용).
sc start vboxdrv
시스템이 VBoxSup를 사용한다면:
sc start vboxsup
성공 시 화면:
sc query <서비스이름>실행 시 STATE : 4 RUNNING 표시. - VirtualBox를 실행하고 가상 머신을 다시 시작합니다.
동일한 오류가 계속된다면 아래를 계속 진행하세요. 가상화·보안 충돌(Hyper-V/VBS/메모리 무결성) 또는 손상된 설치가 원인일 수 있습니다.
3. Hyper-V 및 가상화 기능 비활성화 (진단 단계)
일부 시스템에서는 Hyper-V와 VBS가 VirtualBox가 네이티브 모드로 드라이버를 로드하는 것을 막거나, 하드웨어 가상화 접근 방식 자체를 변경할 수 있습니다. 이 기능들을 비활성화하면 문제가 가상화·보안 충돌 때문인지 확실히 확인할 수 있습니다.
주의: 이 기능들을 끄면 WSL2, Docker Desktop, Windows 샌드박스 및 일부 에뮬레이터에 영향을 줄 수 있습니다. 테스트 후에는 언제든 다시 켤 수 있습니다.
- Windows 검색에서 Windows 기능 켜기/끄기를 검색해 실행합니다.
- Hyper-V를 찾아 체크를 해제합니다.
- 활성화되어 있다면 다음 항목들도 함께 해제합니다.
- Windows 하이퍼바이저 플랫폼
- 가상 머신 플랫폼
- Windows 샌드박스(있는 경우)
- 확인을 누른 뒤 PC를 다시 시작합니다.
- VirtualBox를 실행해 가상 머신을 테스트합니다.
선택 사항이지만 중요: Hyper-V가 꺼져 있어도 Windows는 여전히 VBS / 메모리 무결성을 통해 가상화를 사용할 수 있습니다. 이를 테스트하려면 Windows 보안 > 디바이스 보안 > 코어 격리에서 메모리 무결성을 끈 후 재시작하고 다시 테스트하세요.
팁: Windows가 드라이버를 차단했다면 Windows 보안 > 보호 기록에서 VirtualBox, VBoxDrv.sys, VBoxSup.sys 또는 “드라이버 차단” 관련 항목이 있는지 확인하세요. 허용 또는 복원 옵션이 표시되면 이를 적용한 뒤 VirtualBox를 재설치·복구하면 됩니다.
4. VirtualBox 복구 또는 클린 재설치
드라이버 파일이 손상되었거나 버전이 어긋나 있거나 일부만 제거된 상태라면, 재설치를 통해 올바른 드라이버와 서비스를 다시 설치·등록할 수 있습니다. 설치 프로그램이 이미 있다면 먼저 복구(Repair) 옵션(제공되는 경우)을 시도하고, 없다면 클린 재설치를 진행하세요.
- 설정 > 앱 > 설치된 앱(또는 앱 및 기능)에서 Oracle VM VirtualBox를 제거합니다.
- 제거 후 PC를 다시 시작합니다.
- 선택적 정리(제거 후에도 잔여 파일이 남은 경우에만): 파일 탐색기에서 다음 경로로 이동합니다.
C:\Windows\System32\drivers
- VBox*.sys 형식의 남은 파일을 찾습니다(예: VBoxDrv.sys, VBoxSup.sys).
중요: VirtualBox가 완전히 제거된 상태에서 해당 파일이 VirtualBox 잔여물임을 명확히 식별할 수 있을 때만 삭제하세요. - 잔여 VBox*.sys 파일이 있으면 삭제합니다. Windows에서 삭제가 거부되면 무리하게 강제하지 말고 재설치를 계속 진행하세요.
- 최신 버전의 VirtualBox를 다운로드해 설치한 뒤 PC를 다시 시작합니다.
팁: 설치 프로그램을 마우스 오른쪽 버튼으로 클릭해 관리자 권한으로 실행하면 드라이버가 올바르게 설치됩니다. - VirtualBox Extension Pack(USB 2/3, RDP 등)을 사용 중이라면 현재 VirtualBox 빌드와 버전이 일치하는 Extension Pack을 설치하세요.
- VirtualBox를 실행하고 가상 머신을 다시 시작합니다.
저자 소개

Hamza Mohammad Anwar
Hamza Mohammad Anwar는 MERN 스택(MongoDB, Express, ReactJS, NodeJS) 기술을 활용해 고성능 웹 애플리케이션을 개발하는 것에 집중하는 JavaScript 웹 개발자입니다. ReactJS, MongoDB, Express, NodeJS 등 관련 기술에 대한 전문성을 갖추고 있으며, Google IT 인증 전문가로서 IT 지원 분야의 역량도 입증했습니다. 문제 해결에 열정적인 그는 다양한 기술적 오류를 직접 재현하고 원인을 분석해 해결책을 찾는 과정을 즐깁니다.