VT-x(Intel 가상화 기술)는 프로세서가 가상 머신을 실행할 수 있도록 해주는 핵심 기능입니다. 따라서 "VT-x is not available (VERR_VMX_NO_VMX)" 오류가 발생하면 VirtualBox가 정상적으로 작동하지 않습니다.
이 오류는 프로세서의 가상화 기능이 활성화되어 있지 않다는 의미입니다. 원인은 보안 설정부터 다른 기술과의 충돌까지 매우 다양합니다. 다행히 이 문제는 비교적 간단한 방법으로 해결할 수 있습니다. 지금부터 VirtualBox의 대표적인 오류인 VERR_VMX_NO_VMX를 해결하는 모든 방법을 소개합니다.
방법 1: BIOS에서 VT-x 활성화하기
"VT-x is not available" 오류가 발생하는 가장 흔한 이유는 컴퓨터에서 해당 기능이 단순히 꺼져 있기 때문입니다.
특히 해당 PC에서 처음으로 VirtualBox를 실행하는 경우라면 이 가능성이 높습니다. 해결하려면 BIOS 설정에 진입해 VT-x와 VT-d 옵션을 활성화하면 됩니다. 인텔 시스템에서는 보통 'Intel Virtualization Technology', AMD 시스템에서는 'SVM 모드'라는 이름으로 표시됩니다.
옵션의 위치는 메인보드 제조사마다 다르기 때문에 여러 BIOS 메뉴를 살펴봐야 할 수 있습니다. 일부 메인보드에서는 Security(보안) 메뉴 아래에, 다른 곳에서는 Advanced(고급) 메뉴 아래에 위치해 있습니다.
방법 2: Hyper-V 비활성화하기
윈도우에는 마이크로소프트 자체 가상화 기술이 내장되어 있으며, 이는 VirtualBox 같은 서드파티 도구와 충돌을 일으킵니다. 충돌을 제거하고 VirtualBox가 정상 작동하도록 하려면 이 기능을 비활성화해야 합니다.
이 기능의 이름은 Hyper-V이며, 모든 윈도우 버전에 포함되어 있는 것은 아닙니다. Hyper-V는 64비트 Windows 10 Pro, Enterprise 또는 Education 에디션에만 존재합니다. Windows 10 또는 Windows 11 Home 에디션을 사용 중이라면 이 단계를 건너뛰어도 됩니다.
- Hyper-V를 비활성화하는 방법은 여러 가지가 있지만, 가장 확실한 방법은 명령 프롬프트를 사용하는 것입니다. 시작 메뉴에서 "cmd"를 검색하고 '관리자 권한으로 실행' 옵션을 선택하세요.
- 다음 명령어를 입력합니다: bcdedit /set hypervisorlaunchtype off
이 명령은 부팅 구성 데이터(BCD)를 편집하여 목록에서 Hyper-V 서비스를 제거합니다.
- 추가로 안전을 위해 다음 명령어도 함께 입력합니다: dism.exe /Online /Disable-Feature:Microsoft-Hyper-V
이 명령은 DISM(배포 이미지 서비스 및 관리)이 윈도우 이미지를 업데이트할 때 Hyper-V 서비스를 자동으로 다시 추가하는 것을 방지합니다.
- 컴퓨터를 재시작합니다.
방법 3: 메모리 무결성 비활성화하기
Windows 보안에는 저수준 코드 삽입을 감지하고 가장 위험한 멀웨어로부터 PC를 보호하는 가상화 기반 보안 기능이 포함되어 있습니다. 하지만 Hyper-V처럼 이 기능 역시 VirtualBox와 충돌을 일으킵니다.
대부분의 사용자에게 코어 격리(Core isolation)가 제공하는 고급 보안은 필수적이지 않습니다. 실제로 최신 노트북은 하드웨어 성능을 최적화하는 내장 소프트웨어와의 충돌 때문에 이 기능이 기본적으로 꺼져 있는 경우가 많습니다.
- 메모리 무결성을 비활성화하려면 Windows 보안을 엽니다. 시작 메뉴에서 검색하면 바로 찾을 수 있습니다.
- 디바이스 보안(Device Security) 탭으로 이동합니다.
- 코어 격리(Core isolation) 항목에서 메모리 무결성이 실행 중인지 확인할 수 있습니다. '코어 격리 세부 정보'를 클릭하면 해당 옵션 화면으로 이동합니다.
- 메모리 무결성 토글을 '끔(Off)'으로 전환하여 비활성화합니다.
- 컴퓨터를 재시작합니다.
방법 4: 백신 프로그램 설정 확인하기
서드파티 백신 프로그램을 사용 중이라면, 해당 프로그램이 PC의 일부 가상화 기능을 차단하고 있을 수 있습니다. 예를 들어 Avast는 일부 컴퓨터에서 VT-x를 자동으로 비활성화합니다.
백신 프로그램 설정에서 하드웨어 가상화와 관련된 옵션을 찾아 허용 상태인지 반드시 확인하세요. Avast의 경우 '일반 > 문제 해결 > 하드웨어 지원 가상화 사용(Enable hardware-assisted virtualization)' 항목을 점검하면 됩니다.
윈도우에서 "VT-x is not available (VERR_VMX_NO_VMX)" 오류를 해결하는 가장 좋은 방법은?
Hyper-V 가상화가 실행 중인 상태에서 VirtualBox와 충돌하는 것이 Windows 10에서 VT-x 오류가 발생하는 가장 흔한 원인입니다. 명령 프롬프트를 통해 해당 기능을 비활성화하면 손쉽게 해결할 수 있습니다.
많은 PC에서 이 오류가 나타나는 또 다른 이유는 BIOS에서 가상화가 비활성화되어 있기 때문입니다. 이 역시 간단하게 해결할 수 있습니다. BIOS 설정을 열고 Intel Virtualization 또는 SVM 모드를 활성화하면 됩니다.
마지막으로, 과도하게 작동하는 보안 기능이 VT-x 오류의 원인이 되는 경우도 있습니다. Windows 보안에서 메모리 무결성을 비활성화하고, 서드파티 백신 설정을 확인해 충돌 요소를 찾아 해결하세요. 그러면 VirtualBox가 더 이상 문제없이 실행될 것입니다.