중첩 가상화(Nested Virtualization)란?
물리적 서버에 Hyper-V 서버 역할 또는 Hyper-V Core Server를 설치하는 것은 비교적 간단한 작업이며, 대부분의 경우 별도의 추가 구성 없이도 완료할 수 있습니다. 격리된 환경을 구축하는 다음 단계는 가상 머신(VM)을 배포하고 그 위에 운영체제와 애플리케이션을 구성하는 것입니다. 이러한 방식을 흔히 전통적인 가상화라고 부르며, 물리적 머신을 추상화하여 가상 머신 위에서 동작하는 게스트 운영체제에 제공하게 됩니다.
그렇다면 가상 머신 안에서 다시 Hyper-V를 실행하려면 어떻게 해야 할까요? 기본 설정으로는 불가능하지만, Hyper-V 서버와 대상 가상 머신에 몇 가지 추가 설정을 적용하면 해결할 수 있습니다. 가상 머신 안에 또 다른 가상 머신을 실행할 수 있게 해주는 이 기술을 중첩 가상화(Nested Virtualization)라고 합니다. 이 기술은 VMware, Citrix, Nutanix 등 다른 주요 가상화 벤더에서도 지원하고 있습니다.
가상 머신 안에 가상 머신을 실행하는 것이 과연 어떤 용도일까요? 주로 개발자들이 테스트 목적, 랩(Lab) 환경 구축, 그리고 Hyper-V 컨테이너 실행을 위해 활용합니다.
Hyper-V 설치 시 발생하는 오류
가상 머신에 Hyper-V를 설치하려고 하면 가상화 기능이 존재하지 않는다는 오류 메시지와 함께 설치가 진행되지 않습니다.
이 문제의 해결책은 Hyper-V 서버에서 대상 가상 머신에 대해 중첩 가상화를 활성화하는 것입니다. 아래에서는 Windows Server 2019에 호스팅된 Hyper-V 서버에서 중첩 가상화를 활성화하는 전체 절차를 단계별로 안내합니다.
1단계: Hyper-V 서버에서 중첩 가상화 활성화
- 로그인 — Hyper-V 역할이 설치된 Windows Server 2019에 로그인하거나 원격으로 연결합니다.
- Hyper-V 관리자(Hyper-V Manager)를 엽니다.
- 중첩 가상화를 활성화할 VM으로 이동합니다. 이 예제에서는 "Windows2019"라는 이름의 VM을 사용합니다.
- 해당 VM을 종료(Shutdown)합니다.
- 시작 메뉴를 마우스 오른쪽 버튼으로 클릭한 후 Windows PowerShell(관리자)을 선택합니다.
- 다음 명령어를 입력하고 Enter 키를 누릅니다.
Set-VMProcessor -VMName Windows2019 -ExposeVirtualizationExtensions $true
여기서 'Windows2019'는 VM 이름이므로, 실제 환경에서는 자신의 VM 이름으로 변경해야 합니다. - 다음으로 중첩 가상 머신이 사용할 네트워크를 구성합니다. MAC 스푸핑(MAC Spoofing) 또는 NAT(Network Address Translation) 방식을 사용할 수 있으며, 여기서는 PowerShell에 아래 명령어를 입력하여 MAC 스푸핑을 활성화합니다.
Get-VMNetworkAdapter -VMName Windows2019 | Set-VMNetworkAdapter -MacAddressSpoofing On
'Windows2019'는 반드시 실제 VM 이름으로 교체하세요.
2단계: 게스트 OS에 Hyper-V 역할 설치
- VM을 켜고 Windows Server 2019에 로그인합니다.
- 서버 관리자(Server Manager)를 연 후 역할 및 기능 추가(Add roles and features)를 클릭합니다.
- 시작하기 전에(Before you begin) 화면에서 다음을 클릭합니다.
- 설치 유형 선택(Select Installation Type) 화면에서 다음을 클릭합니다.
- 대상 서버 선택(Select destination server) 화면에서 대상 서버를 확인하고 다음을 클릭합니다.
- 서버 역할 선택(Select server roles) 화면에서 Hyper-V를 체크한 후 기능 추가(Add Features)를 클릭합니다.
- 기능 선택(Select features) 화면과 Hyper-V 소개 화면에서 각각 다음을 클릭합니다.
- 가상 스위치 만들기(Create Virtual Switches) 화면에서 네트워크 어댑터를 선택합니다. Windows Server는 해당 머신에서 사용 가능한 모든 네트워크 어댑터를 자동으로 감지합니다.
- 가상 머신 마이그레이션(Virtual Machine Migration) 화면에서 다음을 클릭합니다.
- 기본 저장소(Default Stores) 화면에서 가상 하드 디스크 및 가상 머신 구성 파일의 저장 위치를 지정하거나 기본값으로 두고 다음을 클릭합니다.
- 설치 확인(Confirm Installation Selections) 화면에서 필요한 경우 대상 서버 자동 다시 시작(Restart the destination server automatically if required) 옵션을 선택하고 설치(Install)를 클릭한 뒤, 재시작 확인 창에서 예(Yes)를 선택합니다.
- Windows Server 2019가 Hyper-V 역할 설치를 완료할 때까지 기다립니다. 설치가 끝나면 필요한 구성 요소들이 자동으로 배포됩니다.
3단계: 중첩된 Hyper-V 환경 확인
- Windows Server 2019에 다시 로그인합니다.
- 서버 관리자를 엽니다.
- 도구(Tools) 메뉴로 이동한 후 Hyper-V 관리자(Hyper-V Manager)를 클릭합니다.
- 새로운 가상 머신을 생성하고, 가상 머신 안에서 동작하는 Hyper-V 환경을 마음껏 활용해 보세요!