VirtualBox에서 나타나는 vmugfx 지원되지 않는 하이퍼바이저(unsupported hypervisor) 오류 해결 방법
업데이트: 2025년 9월 12일
최근에 아주 특이한 문제를 만났습니다. 그것도 간헐적으로만 나타나는 성질 고약한 문제였죠. 리눅스 호스트에서 VirtualBox로 리눅스 가상 머신 두 대를 운영하고 있는데, 둘 다 Kubuntu 24.04입니다. 한 대는 운영체제 설치 과정에서 LUKS 디스크 암호화를 설정했고, 다른 한 대는 암호화를 사용하지 않습니다. 두 가상 머신 모두 공식 저장소에서 제공되는 게스트 확장(Guest Additions)을 설치해 사용 중인데요, 이상하게도 LUKS 암호화를 적용한 쪽에서만 오류가 발생했습니다.
오류 메시지는 다음과 같습니다.
vmugfx 0000:00:02.0: [drm] *ERROR* vmugfx seems to be running on an unsupported hypervisor. This configuration is likely broken. Please switch to a supported graphics device to avoid problems.
즉, "vmugfx가 지원되지 않는 하이퍼바이저에서 실행되고 있는 것 같다. 이 구성은 손상되었을 가능성이 높으니 문제를 피하려면 지원되는 그래픽 장치로 전환하라"는 내용입니다. 다행히 이 오류는 부팅 과정에서만 표시될 뿐, 화면 크기 조절이나 화면 잠금 등 가상 머신의 실제 기능에는 아무런 영향을 주지 않았습니다. 하지만 그래도 깔끔하게 없애 보기로 했습니다.
힌트는 오류 메시지 안에 있다
오류 메시지가 상당히 기술적으로 보이지만, 사실 내용은 명확합니다. VirtualBox가 '지원되는 그래픽 장치로 전환하라'고 알려주고 있는 것이죠. 그러다 예전에 리눅스 게스트의 검은 화면(black screen) 문제에 대해 작성한 글이 생각났습니다. 혹시 해당 Kubuntu 인스턴스에서 사용 중인 그래픽 컨트롤러를 바꿔야 하는 것 아닐까요?
실제로 이 방법이 문제를 해결했습니다. VMSVGA에서 VBoxVGA로 전환한 결과는 꽤 만족스러웠습니다.
- 부팅 단계에서 더 이상 vmugfx 오류가 나타나지 않습니다.
- 이전에는 부팅 과정에서 가상 머신의 해상도가 여러 번 마구 변경되곤 했습니다. 1280x1024 같은 해상도에서 설정된 해상도로 바뀌었다가 다시 돌아갔다가 반복되는 식이었죠. VBoxVGA로 전환한 후에는 해상도가 안정적으로 유지되며, 화면이 임의로 재조정되지 않습니다. VirtualBox 창 크기와 항상 일치하게 표시됩니다.
- 가상 머신은 이전과 동일하게 문제없이 작동합니다. 호스트든 게스트든 화면 절전 타임아웃이 동작해도 아무 영향이 없으며, 검은 화면이나 멈춤 현상도 없습니다. 완벽하게 매끄럽게 실행됩니다.
마무리
짧은 튜토리얼이긴 하지만, 모든 글이 길어야 하는 것은 아니죠. 여기서 가장 중요한 교훈은 게스트 확장을 저장소나 ISO에서 성급하게 재설치하거나, 가상 머신 내부의 디스플레이 설정을 함부로 건드리는 등의 무분별한 시도를 하지 말라는 것입니다. 어차피 한쪽에서 잘 작동한다면 다른 쪽에서도 잘 작동해야 정상입니다.
그렇다면 왜 두 가상 머신의 결과가 달랐을까요? 제 추측으로는 부팅 초기 단계에 표시되는 LUKS 복호화 암호 입력 프롬프트와 관련이 있을 것 같습니다. vmugfx 오류가 발생할 때는 예쁜 그래픽 기반 암호 입력 창이 나타나지 않고, 별도 화면에 순수 텍스트로만 된 프롬프트가 표시되었습니다. 반면 VBoxVGA 컨트롤러로 전환하고 오류가 사라진 후에는 우아한 비밀번호 입력 필드와 스플래시 애니메이션까지 모두 정상적으로 표시됩니다. 즉, Ubuntu/Kubuntu의 부팅 과정 어딘가에 기본 그래픽 컨트롤러를 혼란스럽게 만드는 요소가 있는 것으로 보입니다. 그리고 이 문제는 가상 머신 내부의 설정 변경으로는 해결하기 어렵습니다. 하지만 컨트롤러를 간단히, 빠르게, 데이터 손실 없이 변경하는 것만으로 충분히 해결됩니다.
그럼, 즐거운 컴퓨팅 되세요!