VirtualBox, 리눅스 배포판, 비활성 후 블랙 스크린 문제
업데이트: 2024년 10월 30일
가상머신의 매력과 숨은 문제들
운영체제를 가상머신으로 구동하는 것은 정말 마법 같은 일입니다. 새로운 것을 시험해 보고 싶은데 여분의 하드웨어가 없다면? 문제없습니다. 하이퍼바이저를 실행하고 가상머신을 만든 다음, 그 안에서 Windows든 리눅스든 DOS든, 심지어 더 생소하고 오래된 운영체제든 무엇이든 테스트하면 됩니다. 하지만 이 우아한 마법에는 몇 가지 복잡한 요소가 따라옵니다. 디스플레이 설정, 3D 가속, 그리고 관련된 각종 문제들이 그것입니다.
예전에 VirtualBox에서 리눅스 로그인 화면 블랙 스크린 문제를 다룬 적이 있습니다. 그 가이드는 지금도 유효하지만, 이번에는 완전히 새로운 문제를 만났습니다. 이번 문제는 로그인 시점이 아니라 실행 중인 시스템 내부에서 나타납니다. 상황은 이렇습니다. 배포판을 부팅해 놓고 잠시 자리를 비운 후 돌아오면, 게스트 운영체제의 화면이 절전 모드로 진입해 검게 꺼져 있습니다. 문제는, 평소처럼 마우스를 움직이는 등의 동작으로 화면을 "깨우려" 해도 화면이 계속 검정색으로 머물러 있다는 점입니다. 재부팅하면 해결되지만, 그건 근본적인 해결책이 아니죠. 자세히 살펴보겠습니다.
리눅스 디스플레이 설정 이해하기
VirtualBox에서 리눅스 배포판을 게스트로 실행할 때는 몇 가지 설정 옵션이 있습니다. 첫째, 3D 가속을 사용할지 말지 결정해야 합니다. 3D 가속은 Guest Additions(게스트 확장)를 설치했을 때만 사용할 수 있습니다. 하지만 보안상의 이유로 설치를 피하고 싶은 경우도 있고, 일부 배포판은 Additions와 함께 제공되는 전체 드라이버 스택과 원만하게 작동하지 않기도 합니다. 3D 가속 없이 가상머신을 실행하면 데스크톱은 그래픽 카드 호출 없이 소프트웨어 에뮬레이션만으로 렌더링됩니다.
그럼에도 불구하고 대부분의 배포판은 소프트웨어 기반 그래픽으로도 잘 작동합니다. 믿기 어렵겠지만 어떤 경우에는 오히려 데스크톱 성능에 도움이 되기도 합니다(반대로 악영향을 주는 경우도 있고요). 3D 가속 사용 여부는 게스트 운영체제에서 선택 가능한 화면 해상도 범위에도 영향을 미치지만, 대체로 큰 문제는 없습니다.
3D 설정에 관한 마지막 팁으로, 3D 가속 없이 실행하기로 했다면 소프트웨어 렌더링 부담을 줄이기 위해 데스크톱 환경의 컴포지팅(Compositing)을 비활성화하는 것도 좋습니다. 예를 들어 KDE Plasma의 컴포지터는 기본적으로 OpenGL을 백엔드로 사용하는데, OpenGL은 VirtualBox에서 3D 가속을 켰을 때만 제대로 작동합니다. 따라서 컴포지터를 끄면 더 반응성 좋은 가상머신을 얻을 수 있습니다.
문제의 실체
3D 가속 없이 실행 중이라면 다음과 같은 문제를 겪을 수 있습니다. 가상머신을 놔두면 일정 시간 후 화면이 검게 꺼집니다. 일부 배포판은 스크린세이버를 사용하기도 하지만, 요즘은 드문 편입니다. 문제는 세션을 이어서 사용하려 할 때 발생합니다. 물리적인 시스템이라면 보통 마우스를 움직이거나 키보드를 누르면 화면이 깨어나 잠금 화면이나 열려 있던 데스크톱을 보여줍니다. VirtualBox의 게스트 운영체제에서도 당연히 같은 동작이 일어나야 하지만, 실제로는 그렇지 않습니다.
가상머신 화면은 검정색 그대로 반응하지 않습니다. 유일한 해결책은 재부팅뿐이며, 이는 작업 중이던 세션을 잃을 수 있다는 뜻입니다. 저는 여러 배포판에서 이 문제를 경험했는데, 모든 경우 3D 가속을 사용하지 않는 환경이었습니다(3D 가속 관련 블랙 스크린은 앞서 소개한 가이드를 참고하세요). 시스템 로그에는 아무런 흔적도 남지 않았습니다. 자, 그럼 해결해 보겠습니다.
해결 방법 (사실상 우회책)
여러 차례 테스트한 결과, 이 문제는 기본 그래픽 컨트롤러인 VMSVGA를 사용할 때만 발생한다는 것을 알아냈습니다. 블랙 스크린 문제를 피하려면 다른 컨트롤러로 변경해야 합니다. 해당 가상머신의 설정 창을 연 다음 디스플레이(Display) > 화면(Screen)으로 이동하고, 그래픽 컨트롤러(Graphics Controller) 드롭다운을 VBoxVGA로 변경하세요.
제 환경에서는 이 옵션이 유일하게 모든 배포판이 문제없이 부팅되도록 하고, 기본값인 800x600px가 아닌 "정상적인" 해상도로 데스크톱을 사용할 수 있게 하며, 안정적인 세션을 유지할 수 있게 해주는 선택지였습니다.
설정 창에 "잘못된 설정이 감지되었습니다(Invalid settings detected)"라는 메시지가 표시될 수 있습니다. 이는 기본값으로 되돌리라는 안내일 뿐, 가상머신 사용을 막지는 않습니다. 단, 이 컨트롤러에서는 3D 가속을 사용할 수 없다는 점에 유의하세요.
이제 배포판을 부팅하면 해상도가 기본값으로 돌아갑니다. 해상도를 변경하세요. VMSVGA와 달리 선택 가능한 해상도와 화면비 목록이 다르다는 점을 확인할 수 있습니다. 자신에게 맞는 해상도를 고른 뒤 시스템을 잠시 방치해 보세요. 이제 세션을 정상적으로 이어갈 수 있습니다. 즉, 가상 화면이 올바르게 깨어납니다. 이 문제의 정확한 근본 원인은 아직 밝혀내지 못했지만, 실용적인 우회책으로 활용할 수 있습니다.
마무리
여기까지입니다. 이런 문제를 겪지 않는 것이 가장 좋겠지만, 어디까지나 이것은 "마법"입니다. 운영체제 안에 또 다른 운영체제를 설치하고, 메모리와 디스크 용량이 허락하는 한 원하는 만큼 깊이 들어갈 수 있으니까요. 이 가이드를 보고 계신 분들 중에는 증상이 조금씩 다른 분들도 계실 겁니다. 하지만 핵심은 결국 3D 가속 사용 여부와 그에 따른 그래픽 컨트롤러 선택으로 귀결됩니다.
기본 설정을 바꾸는 것만으로 문제가 해결되는지 확인해 보세요. 해상도와 데스크톱 속도를 포함해 최적의 조합을 찾을 때까지 다양한 설정을 실험해 보시기 바랍니다. 마지막으로, VirtualBox의 새 메이저 버전이 출시되면 이 모든 사항이 완전히 달라질 수 있다는 점을 기억하고, 반드시 프로그램 버전과 정확히 일치하는 Extension Pack(확장 팩)을 사용하세요. 버전 불일치는 충돌, 잘못된 설정, 알 수 없는 오류의 또 다른 원인이 됩니다. 오늘 글이 도움이 되었기를 바랍니다. 다음에 또 만나요.