VirtualBox 설정이 잘못 구성되면 이러한 문제가 발생할 수 있습니다. 또한 서드파티 백신 프로그램이 VirtualBox의 작동을 방해하기도 하며, PC가 최소 시스템 요구 사항을 충족하지 못하면 Windows 11 자체를 설치할 수 없습니다.

이 문제를 어떻게 해결해야 할지 고민 중이라면 잘 찾아오셨습니다. VirtualBox에서 Windows 11이 설치되지 않는 경우 활용할 수 있는 몇 가지 해결 방법을 지금부터 소개합니다.
본격적으로 시작하기 전에, VirtualBox가 무엇이고 어떻게 작동하는지 간단히 살펴보겠습니다.
함께 읽으면 좋은 글: 윈도우 PC를 위한 최고의 가상 머신 소프트웨어 10선
VirtualBox란 무엇인가?

2010년부터 Oracle이 소유하고 있는 VirtualBox는 크로스 플랫폼 가상화 소프트웨어로, 하나의 장치에서 여러 운영체제를 동시에 실행할 수 있게 해줍니다. 즉, VirtualBox를 사용하면 단일 PC에서 Windows, macOS, Linux 등 다양한 OS를 함께 구동할 수 있습니다.
기술적으로 VirtualBox는 오픈소스 소프트웨어로, x86 아키텍처 기반으로 운영체제를 가상 머신 형태로 배포할 수 있도록 지원합니다. 덕분에 시스템의 활용 범위가 확장되며, 제한 없이 하나의 장치에 여러 운영체제를 구성할 수 있습니다.
함께 읽으면 좋은 글: VirtualBox로 Windows 10에 macOS 설치하는 방법
"Windows 11이 VirtualBox에 설치되지 않음" 오류 해결 방법
문제 해결에 앞서, 먼저 PC가 Windows 11 설치를 위한 최소 시스템 요구 사항을 충족하는지 확인하세요. 기본 요구 사양은 다음과 같습니다.
- 1GHz 이상의 프로세서
- 4GB RAM
- 64GB 이상의 여유 저장 공간
- TPM 2.0
- 호환 가능한 그래픽 카드
방법 1: 레지스트리 편집하기
Windows 레지스트리를 편집하면 최소 시스템 요구 사항 제한을 손쉽게 우회할 수 있습니다. 다음 단계를 따라 해보세요.
1. Windows + R 키를 눌러 실행 대화 상자를 열고, "Regedit"를 입력한 후 Enter 키를 눌러 레지스트리 편집기를 실행합니다.

2. 레지스트리 편집기 창에서 아래 경로로 이동합니다.
Computer\HKEY_LOCAL_MACHINE\SYSTEM\Setup
3. Setup 폴더를 마우스 오른쪽 버튼으로 클릭하고 "새로 만들기 > 키"를 선택합니다. 새 키의 이름을 "LabConfig"로 지정한 후 해당 폴더를 더블클릭하여 엽니다.

4. 오른쪽 창에서 마우스 오른쪽 버튼을 클릭하고 "새로 만들기 > DWORD(32비트) 값"을 선택합니다.

5. 새 값의 이름을 "BypassSecureBootCheck"로 입력하고, 값 데이터 필드에 "1"을 입력합니다.
6. 동일한 방법으로 아래 세 개의 항목을 추가로 생성합니다.
- BypassTPMCheck
- BypassCPUCheck
- BypassRAMCheck

7. 모든 항목의 값 데이터를 "1"로 설정합니다.
8. 레지스트리 편집기를 종료한 후 PC를 재부팅하고, VirtualBox를 실행해 Windows 11을 설치하여 문제가 해결되었는지 확인합니다.
방법 2: VirtualBox를 관리자 권한으로 실행하기
1. 파일 탐색기에서 "VirtualBox" 아이콘을 찾습니다. 해당 아이콘을 마우스 오른쪽 버튼으로 클릭하고 "관리자 권한으로 실행"을 선택합니다.

2. PC를 재부팅한 후, 관리자 권한으로 VirtualBox를 다시 실행해 Windows 11 설치를 진행하고 문제가 해결되었는지 확인합니다.
방법 3: Windows 보안 앱 비활성화하기
백신 프로그램이나 Windows 보안 앱이 VirtualBox와 충돌하여 Windows 11 설치를 막는 경우도 흔합니다. 이럴 때는 Windows 보안 앱을 일시적으로 비활성화해 보세요. 방법은 다음과 같습니다.
1. 작업 표시줄의 검색 아이콘을 클릭하고 "Windows 보안"을 입력한 후 Enter 키를 눌러 앱을 실행합니다.

2. "바이러스 및 위협 방지" 메뉴를 선택합니다.

3. "설정 관리"를 클릭합니다.

"실시간 보호" 옵션을 끄면 Windows 보안 앱이 일시적으로 비활성화됩니다. 이후 Windows PC를 재부팅하고 VirtualBox를 실행해 Windows 11을 설치한 뒤, 문제가 지속되는지 확인해 보세요.
마무리
VirtualBox 환경에서 Windows 11을 원활하게 구동하고 싶다면, 위에서 소개한 방법들을 차례대로 시도해 보시기 바랍니다. 만약 모든 방법을 시도했는데도 문제가 해결되지 않는다면, VMware Workstation이나 Hyper-V 같은 대체 가상화 소프트웨어로 전환하는 것도 좋은 선택입니다. 이 글이 도움이 되셨나요? 어떤 방법이 효과적이었는지 의견을 남겨 주세요!