VMware ESXi는 커널 등 핵심 운영체제 구성 요소를 통합하여 가상 컴퓨터를 배포하고 운영할 수 있도록 VMware가 개발한 엔터프라이즈급 타입 1(Type-1) 하이퍼바이저입니다. 타입 1 하이퍼바이저 특성상 ESXi는 운영체제 위에 설치하는 일반 소프트웨어 애플리케이션이 아니기 때문에, 평소 프로그램을 설치하듯 설치할 수 없습니다. 이 글에서는 Windows 11 또는 Windows 10 PC의 Hyper-V 가상 머신에 VMware ESXi를 성공적으로 설치하는 방법을 단계별로 자세히 안내합니다.
가상 머신에 ESXi를 설치할 수 있나요?
Windows 11/10 환경의 가상 머신에 ESXi를 설치하려면 다음 요구 사항을 충족해야 합니다.
- Intel VT 또는 AMD-V와 같은 하드웨어 가상화를 기본 지원하는 물리적 CPU
- 최소 1.5GB 이상의 메모리(원활한 사용을 위해 4GB 권장)
- 가상 CPU(vCPU) 2개
- ESXi 서버 자체와 그 안에서 구동할 가상 머신들을 수용할 수 있는 충분한 디스크 공간
이러한 사양은 ESX 또는 ESXi를 가상 머신에서 안정적이고 원활하게 구동하기 위한 기본 전제 조건입니다.
Hyper-V 가상 머신에 VMware ESXi 설치하기
Hyper-V 가상 머신 안에 ESXi를 설치하고 실행하는 것은 가능하지만, 프로덕션 환경에서는 공식적으로 지원되지 않으므로 테스트 환경에서만 활용하는 것이 좋습니다. 이 작업의 유일한 사전 요구 사항은 Intel VT-x 및 EPT 기술을 지원하는 Intel 프로세서를 갖춘 Windows Server 또는 Windows 11/10 Hyper-V 호스트가 필요하다는 점입니다.
Hyper-V 가상 머신에 ESXi를 설치하는 과정은 크게 5단계로 나눌 수 있으며, 아래에서 각 단계를 하나씩 살펴보겠습니다.
1] VMware PowerCLI 다운로드 및 설치
VMware는 PowerShell 갤러리를 통해 VMware PowerCLI를 배포하고 있습니다. Windows 호스트 머신에 VMware PowerCLI를 다운로드하여 설치하려면 다음을 수행합니다.
- Windows 키 + X를 눌러 고급 사용자 메뉴를 엽니다.
- 키보드에서 A 키를 눌러 관리자 권한으로 PowerShell을 실행합니다.
- PowerShell 콘솔에 아래 명령어를 입력하거나 복사해 붙여넣은 후 Enter 키를 누릅니다.
Install-Module -Name VMware.PowerCLI
설치가 완료될 때까지 잠시 기다립니다. 설치가 끝나면 2]단계인 커스터마이저 스크립트 실행으로 진행합니다.
2] ESXi-Customizer 다운로드 및 실행
ESXi-Customizer는 VMware PowerCLI ImageBuilder 모듈을 활용해 완전히 패치된 맞춤형 ESXi 설치 ISO를 손쉽게 제작할 수 있도록 도와주는 PowerShell 스크립트입니다. ESXi-Customizer PowerShell 스크립트를 다운로드한 후 압축을 해제하고, 스크립트 파일을 마우스 오른쪽 버튼으로 클릭한 뒤 Powershell로 실행(Run with Powershell)을 선택하여 Windows 호스트에서 실행합니다.
스크립트는 VMware 온라인 저장소에서 ESXi 6.0 ISO를 다운로드하며, 드라이버를 주입해 ISO를 사용자 정의할 수 있습니다. 커스터마이징에 사용되는 매개변수와 설명은 다음과 같습니다.
- ESXi 6.0용으로는 -v60, ESXi 6.5용으로는 -v65 매개변수를 사용합니다.
- V-Front 온라인 저장소에 연결하려면 -vft 매개변수를 사용합니다.
- ISO 내부에 DECchip 21140 이더넷 드라이버를 로드하려면 net-tulip을 사용합니다. 이 드라이버 덕분에 Microsoft Hyper-V 환경에서 ESXi를 가상 머신으로 실행할 수 있습니다.
ISO 다운로드가 완료되면 다음 단계로 진행합니다.
3] 레거시 네트워크 어댑터로 Hyper-V ESXi VM 생성
호스트 머신에서 레거시 네트워크 어댑터가 포함된 Hyper-V VM을 만들려면, Windows에서 Hyper-V를 구성하고 가상 머신을 생성하는 방법을 안내하는 가이드를 참고하시기 바랍니다. VM 생성 시 반드시 1세대(Generation 1)를 선택해야 2]단계에서 ESXi 설치 이미지에 통합한 호환 드라이버와 함께 레거시 네트워크 어댑터를 사용할 수 있습니다. 또한 최소 4GB의 메모리를 할당하고, 동적 메모리(Dynamic Memory) 사용은 권장하지 않습니다.
ESXi VM 생성이 완료되면, 가상 머신을 시작하기 전에 가상 프로세서 수를 수정해야 합니다. VM에 프로세서 2개를 구성할 수 있습니다. 그다음 기본 네트워크 어댑터를 제거하고 레거시 네트워크 어댑터를 추가한 뒤, 인터넷 또는 LAN과 통신할 수 있도록 Hyper-V 가상 스위치에 연결합니다. 또한 어댑터 설정에서 MAC 스푸핑(Mac Spoofing)을 활성화합니다.
완료되면 다음 단계로 진행합니다.
4] Enable-NestedVM.ps1 스크립트 다운로드 및 실행
중첩 가상화(Nested Virtualization)란 가상 머신 안에서 또 다른 가상 머신을 실행할 수 있는 기능을 의미합니다. 이 단계에서는 Enable-NestedVM PowerShell 스크립트를 다운로드한 후 1]단계와 동일한 방식으로 관리자 권한 PowerShell에서 실행하면 됩니다.
완료되면 마지막 단계로 진행합니다.
5] ESXi 가상 머신 시작 및 구성
이제 Hyper-V VM에 ESXi를 설치할 준비가 되었습니다. 다음을 수행합니다.
- VM 이름을 마우스 오른쪽 버튼으로 클릭하고 연결(Connect)을 선택한 뒤 시작(Start) 버튼을 눌러 VM을 시작합니다.
- 파란색 배경의 부팅 화면이 나타나면 TAB 키를 누릅니다.
TAB 키를 누르면 부팅 옵션을 수정할 수 있어 부팅 중 VM이 멈추는 현상을 예방할 수 있습니다.
- 아래 명령어를 입력하고 Enter 키를 누릅니다.
ignoreHeadless=TRUE
VMware ESXi 설치 프로그램이 로드되며, 설치 이미지에 통합된 tulip 모듈을 포함한 로드된 모듈 목록을 확인할 수 있습니다.
- 설치 프로그램이 로드되면 환영 화면에서 Enter 키를 눌러 계속 진행합니다.
- F11 키를 눌러 라이선스 계약에 동의하고 계속합니다.
- ESXi를 설치할 디스크를 선택합니다.
- Enter 키를 눌러 계속 진행합니다.
- 루트(root) 비밀번호를 입력하고 확인한 뒤 Enter 키를 누릅니다.
이제 디스크를 다시 파티션해야 한다는 시스템 경고가 표시됩니다.
- F11 키를 눌러 ESXi 설치를 시작합니다.
- 설치 과정이 완료될 때까지 기다립니다.
- 설치가 끝나면 재부팅이 필요합니다. Enter 키를 눌러 재부팅합니다.
이것으로 완료입니다! 재부팅 후 VMware ESXi가 Hyper-V 가상 머신에 성공적으로 설치되어 바로 사용할 수 있습니다.
ESXi 가상 머신에 연결하는 방법
vCenter Server의 가상 머신 콘솔을 통해 ESXi 가상 머신에 연결할 수 있습니다. vSphere Web Client에 로그인한 후, 인벤토리에서 전원이 켜져 있는 가상 머신을 찾아 선택합니다. 그다음 요약(Summary) 탭으로 이동해 파란색 콘솔 시작(Launch Console) 링크를 클릭하면 가상 머신 콘솔이 열리고, VM의 게스트 운영체제에 접근할 수 있습니다.