VMware는 컴퓨터에서 가상 머신을 생성하고 실행할 수 있는 강력한 소프트웨어입니다. 하나의 호스트 시스템에서 여러 게스트 운영체제(가상 머신)를 동시에 실행할 수 있게 해주며, 많은 사용자가 Windows 환경에서 Linux 등 다른 운영체제를 구동하기 위해 VMware를 활용하고 있습니다. VMware에는 무료로 제공되는 VMware Player와 추가 기능을 갖춘 유료 버전인 VMware Workstation 등 다양한 에디션이 있습니다.
그런데 일부 사용자들은 VMware에서 가상 머신을 시작하려 할 때 "VMware 내부 오류(Internal Error)"라는 메시지를 접하는 경우가 있습니다. 이 오류는 대부분 VMware Windows 인증 서비스(Authorization Service)가 시작되지 못해 발생합니다.
이번 글에서는 오류의 원인을 자세히 살펴본 뒤, 문제를 해결할 수 있는 다양한 방법을 순서대로 소개하겠습니다.
VMware 내부 오류의 원인은 무엇일까요?
VMware 내부 오류는 대개 Windows에서 VMware 인증 서비스가 정상적으로 작동하지 않을 때 발생하지만, 상황에 따라 다른 원인일 수도 있습니다. Windows에서 이 오류가 발생하는 주요 원인은 다음과 같습니다.
- VMware 인증 서비스 시작 실패: 가장 흔한 원인은 Windows에서 VMware 인증 서비스가 시작되지 못하는 것입니다. 인증 서비스가 정상적으로 실행되지 않으면 이 오류가 발생할 가능성이 높습니다.
- 관리자 권한 부재: VMware 인증 서비스가 관리자 권한으로 실행되지 않으면 이 오류가 나타날 수 있습니다. VMware가 가상 머신을 구동하려면 인증 서비스가 반드시 관리자 권한으로 실행되어야 하므로, 서비스가 실행 중이라도 권한이 없다면 오류가 발생합니다.
- 과도하게 엄격한 백신 프로그램: 백신 소프트웨어가 매우 엄격한 보안 모드로 설정되어 있다면 VMware의 가상 머신 실행을 차단할 수 있습니다. 일부 백신·안티멀웨어 프로그램은 아예 가상 머신 실행 자체를 허용하지 않기도 합니다.
- 손상된 VMware Workstation 또는 Player: VMware 프로그램 파일이 손상된 경우에도 이 오류가 발생할 수 있습니다. 이때는 재설치가 빠른 해결책입니다.
- fix-game.exe 바이러스: VMware의 가상 머신 실행을 차단하는 것으로 알려진 fix-game.exe라는 바이러스도 있습니다. 작업 관리자에서 해당 프로세스가 실행 중인지 확인할 수 있으며, 이 바이러스는 VMware의 가상 머신 구동을 방해합니다.
아래에서 이 오류를 해결하기 위해 시도해 볼 수 있는 방법들을 소개합니다. 해결 방법은 원인에 따라 효과가 다를 수 있으므로, 하나씩 차례대로 적용해 보시길 권장합니다.
방법 1: VMware 인증 서비스를 관리자 권한으로 실행
먼저 시도해 볼 수 있는 방법은 VMware 인증 서비스를 관리자 권한으로 실행하는 것입니다. 이를 위해서는 관리자 계정으로 로그인되어 있어야 하며, 다음 단계를 따르세요.
- Windows 키 + R을 눌러 실행(Run) 창을 연 뒤 services.msc를 입력하고 Enter를 누릅니다.
- 서비스 목록에서 VMware Authorization Service를 찾습니다.
- 해당 서비스를 더블클릭한 후 시작(Start) 버튼을 클릭합니다.
- 시작 유형(Startup type)이 자동(Automatic)으로 설정되어 있는지도 확인합니다.
- 이후 VMware에서 가상 머신을 다시 실행해 봅니다. 인증 서비스 미작동이 원인이었다면 정상적으로 작동할 것입니다.
방법 2: 복구 옵션으로 VMware 재설치
일부 사용자들은 제어판의 복구(Repair) 기능을 이용해 VMware를 재설치함으로써 문제를 해결했습니다. 복구 방식으로 재설치하려면 다음 단계를 따르세요.
- 제어판 → 앱 및 기능으로 이동한 뒤, 프로그램 목록에서 VMware를 검색하고 마우스 오른쪽 버튼을 클릭한 후 복구(Repair)를 선택합니다.
- VMware 프로그램이 손상되어 오류가 발생한 것이라면 복구만으로도 대부분 문제가 해결됩니다.
방법 3: VMware를 관리자 권한으로 실행
VMware 인증 서비스는 관리자가 아닌 사용자도 가상 머신을 생성할 수 있도록 하기 위해 존재합니다. 따라서 VMware 자체를 관리자 권한으로 실행하면 해당 서비스 없이도 가상 머신을 만들 수 있습니다. 위의 방법 1로 오류가 해결되지 않았다면 이 방법을 시도해 보세요.
실행 방법은 간단합니다. VMware Workstation 또는 VMware Player 아이콘을 마우스 오른쪽 버튼으로 클릭한 후 "관리자 권한으로 실행(Run as Administrator)"을 선택하면 됩니다.
방법 4: 모든 VMware 서비스 중지 후 재시작
위의 모든 방법으로도 문제가 해결되지 않는다면, VMware 관련 서비스를 모두 중지했다가 다시 시작해 보세요.
- 먼저 시작 메뉴에서 cmd를 검색한 뒤 아이콘을 마우스 오른쪽 버튼으로 클릭하고 "관리자 권한으로 실행"을 선택합니다.
- 명령 프롬프트에서 다음 명령어를 순서대로 입력하여 VMware 관련 서비스를 중지합니다.
NET STOP "VMware Authorization Service"
NET STOP "VMware DHCP Service"
NET STOP "VMware NAT Service"
NET STOP "VMware USB Arbitration Service"
taskkill /im vmware-tray.exe /f
이 명령을 실행하면 Windows에서 실행 중인 모든 VMware 관련 서비스와 프로세스가 중지됩니다.
다음으로, 중지된 서비스를 다시 시작합니다. 명령 프롬프트에 아래 명령어를 입력하세요.
NET START "VMware Authorization Service"
NET START "VMware DHCP Service"
NET START "VMware NAT Service"
NET START "VMware USB Arbitration Service"
START C:\Progra~2\VMware\VMWARE~1\vmware-tray.exe
이제 VMware에서 가상 머신을 다시 실행해 오류가 사라졌는지 확인합니다. VMware에 필요한 서비스가 제대로 작동하지 않는 것이 원인이었다면, 서비스를 재시작하는 것만으로도 문제가 해결될 것입니다.