VMware '운영 체제를 찾을 수 없음' 오류 해결 방법

VMware Workstation이나 VMware Player를 사용하려는 일부 Windows 사용자들이 가상 머신 부팅 과정에서 "운영 체제를 찾을 수 없음(Operating System not found)" 오류 메시지가 표시된다고 보고하고 있습니다. 이 오류는 주로 물리 드라이브나 ISO 파일로 운영 체제를 설치하려 할 때 나타나며, 특정 Windows 버전에만 국한된 문제가 아닙니다. Windows 7, Windows 8.1, Windows 10 환경 모두에서 발생하는 것으로 확인되었습니다.

"운영 체제를 찾을 수 없음" 오류의 원인

다양한 사용자 사례와 이 오류를 해결하는 데 효과적이었던 복구 방법들을 분석해 본 결과, 다음과 같은 여러 원인이 있을 수 있는 것으로 밝혀졌습니다.

부팅 불가능한 ISO 파일 – 대부분의 경우 이 오류는 실제로는 부팅 가능하지 않고 업데이트 패키지만 담고 있는 ISO 파일을 사용할 때 발생합니다. 이 경우 부팅 가능한 다른 ISO 파일을 사용하면 문제를 해결할 수 있습니다.
물리 드라이브 사용 설정 미지정 – 가상 머신 설치에 물리 디스크(광학 드라이브 또는 플래시 드라이브)를 사용하려는 경우, VMware 설정에 해당 변경 사항을 반영해야 합니다. VM 설정 메뉴에서 몇 가지 변경을 통해 해결할 수 있습니다.
손상된 VM 파일 – 실행하려는 가상 머신의 일부 파일이 손상된 경우에도 이 오류가 발생할 수 있습니다. 이 경우 가상 머신을 처음부터 다시 생성하면 해결됩니다.
PXE 부팅 시간이 너무 짧은 경우 – 사용자 입력을 요구하는 화면이 표시되기 전에 PXE 시퀀스가 먼저 끝나버려 부팅이 실패할 수도 있습니다. 이 경우 .vmx 파일에 부팅 지연을 추가하여 해결할 수 있습니다.

동일한 오류 메시지를 해결하려고 한다면, 이 글에서 검증된 해결 방법들을 소개합니다. 아래에서 "운영 체제를 찾을 수 없음" 오류를 겪은 다른 사용자들이 성공적으로 활용한 여러 방법을 확인할 수 있습니다.

아래 방법들은 효율성과 난이도 순으로 정렬되어 있으므로, 제시된 순서대로 하나씩 따라 하는 것을 권장합니다. 원인이 무엇이든 그중 하나는 반드시 문제를 해결해 줄 것입니다.

방법 1: ISO 파일이 부팅 가능한지 확인

대부분의 경우 이 문제는 부팅 가능한 OS 이미지가 아니라 업데이트 패키지가 포함된 ISO 파일을 잘못 사용하는 사용자에게서 발생합니다. 가상 머신에서 마운트가 성공하려면 반드시 부팅 가능한 운영 체제 미디어를 사용해야 한다는 점을 기억하세요.

VMware에 OS 파일을 설치하려 할 때 "운영 체제를 찾을 수 없음" 오류가 표시된다면, 먼저 사용 중인 ISO가 실제로 부팅 가능한지 확인하세요. 사용 중인 ISO가 부팅 불가능하다고 판단되면 다른 ISO를 사용하거나 아래의 다음 방법으로 넘어가세요.

방법 2: 물리 장치 사용 지정 (해당하는 경우)

부팅 가능한 디스크에서 OS를 설치하려는 경우, 부팅 드라이브를 지정하지 않아 "운영 체제를 찾을 수 없음" 오류가 발생했을 가능성이 높습니다. 물리 CD/DVD에서 문제없이 부팅하려면 설정 메뉴를 통해 VMware에 물리 CD 또는 DVD에서 부팅하도록 지정해야 합니다.

설정 방법은 다음과 같습니다:

VMware Workstation 또는 VMware Player를 더블클릭하여 실행합니다.
메인 화면에서 문제가 발생하는 가상 머신을 마우스 오른쪽 버튼으로 클릭하고 설정(Settings)을 선택합니다.
가상 머신 설정(Virtual Machine Settings) 창에서 상단의 하드웨어(Hardware) 탭을 선택합니다.
장치 목록을 아래로 스크롤하여 CD/DVD(SATA)를 한 번 클릭해 선택합니다.
CD/DVD(SATA) 장치가 선택된 상태에서 오른쪽 창의 연결(Connection) 옵션을 물리 드라이브 사용(Use physical drive)으로 변경합니다. 그런 다음 드롭다운 메뉴에서 설치 미디어를 넣은 광학 드라이브를 선택합니다.
올바른 물리 광학 드라이브를 지정했다면 확인(OK)을 클릭하여 변경 사항을 저장합니다.
가상 머신을 다시 시작하여 문제가 해결되었는지 확인합니다.

여전히 "운영 체제를 찾을 수 없음" 오류가 발생한다면 아래의 다음 방법으로 넘어가세요.

방법 3: 가상 머신 재생성

일부 사용자들은 가상 머신을 다시 생성하고 UEFI 대신 BIOS를 우선하도록 설정하여 문제를 해결했다고 보고했습니다. VM Fusion이나 VMware Workstation을 사용하는 다른 사용자들은 Easy Install 옵션의 체크를 해제함으로써 문제를 해결했다고 합니다.

가상 머신을 재생성하는 방법은 다음과 같습니다:

VMware 애플리케이션을 열고 왼쪽 메뉴에서 홈(Home)을 클릭합니다. 그런 다음 오른쪽 메뉴에서 새 가상 머신 만들기(Create a New Virtual Machine)를 클릭합니다.
새 가상 머신 마법사(New Virtual Machine Wizard) 화면에서 설치 소스를 선택하고 다음을 클릭합니다.
참고: VM Fusion 또는 VMware Workstation을 사용하는 경우 "Easy Install" 옵션의 체크를 반드시 해제하세요.
다음 화면에서 가상 머신의 이름과 저장 위치를 지정합니다.
그다음 화면에서 최대 디스크 크기를 설정하고 가상 디스크 저장 방식을 선택한 후 다음(Next)을 클릭합니다.
마지막 화면에서 하드웨어 설정을 기본값으로 두거나 직접 구성한 후 마침(Finish)을 클릭합니다.
새로 생성된 가상 머신을 실행하여 문제가 해결되었는지 확인합니다.

여전히 동일한 "운영 체제를 찾을 수 없음" 오류가 발생한다면 아래의 다음 방법으로 넘어가세요.

방법 4: 부팅 지연을 설정하여 Windows Installer 화면 표시하기

특정 가상 머신 구성에서는 VMware가 PXE 부팅을 시도하는 과정에서, 사용자가 충분히 빠르게 VM에 접속하여 "아무 키나 눌러 Windows Installer로 부팅(Press any key to boot into Windows Installer)" 화면에서 키를 누르지 못해 부팅이 실패하는 경우가 있습니다.

이 경우 6초 이상의 부팅 지연을 설정하여 해당 화면에서 조작할 시간을 확보하면 문제를 해결할 수 있습니다.

설정 방법은 다음과 같습니다:

모든 가상 머신과 VMware 애플리케이션이 종료되어 있는지 확인합니다.
먼저 .vmx 파일을 편집할 수 있는 텍스트 편집기가 필요합니다. 기본 메모장으로도 가능하지만 데이터 손상을 방지하기 위해 Notepad++를 다운로드하여 설치하는 것을 권장합니다.
텍스트 편집기를 설치한 후, 파일 탐색기를 열고 다음 위치로 이동합니다:
```
C:\Users\*YourUser*\Documents\Virtual Machines
```
참고: *YourUser*는 Windows 사용자 계정 이름을 나타내는 자리표시자입니다. 실제 사용 중인 계정 이름으로 바꿔주세요.
Virtual Machines 폴더에 도착하면 문제가 있는 가상 머신과 관련된 폴더를 엽니다.
가상 머신 폴더 내에서 해당 VM의 .vmx 파일을 찾습니다.
참고: 파일 확장명이 보이지 않는다면 상단 리본 메뉴에서 보기(View) 탭을 클릭하고 파일 이름 확장명(File name extensions) 확인란이 활성화되어 있는지 확인하세요.
.vmx 파일을 마우스 오른쪽 버튼으로 클릭하고 Edit with Notepad++(Notepad++로 편집)를 선택합니다.
Notepad++ 창에서 맨 아래로 스크롤한 후 다음 코드 줄을 붙여넣습니다:
```
bios.bootDelay = "6000"
```
상단 리본 메뉴에서 파일(File)로 이동하여 저장(Save)을 클릭합니다. 그런 다음 Notepad++에서 연 파일을 안전하게 닫습니다.
이전에 "운영 체제를 찾을 수 없음" 오류를 일으켰던 가상 머신을 열어 문제가 해결되었는지 확인합니다.