가상화는 운영체제 위에 또 다른 운영체제를 실행할 수 있게 해주는 편리한 기술입니다. 컴퓨터 안에 컴퓨터를 만드는 셈인데, 이를 통해 유연성, 레거시 시스템 지원, 여러 플랫폼에서의 소프트웨어 테스트, 격리 환경 구축 등의 장점을 얻을 수 있습니다. 다만 그래픽 성능에는 어느 정도 제약이 따릅니다.
VirtualBox는 몇 년 전부터 가상 머신에 3D 가속 기능을 활성화할 수 있는 옵션을 제공해 왔습니다. 그래픽 집약적인 작업을 더 효율적으로 처리할 수 있어 전반적인 사용 경험이 한결 부드러워집니다. 물론 완벽한 솔루션은 아니지만, 없는 것보다는 낫습니다. 그런데 간혹 문제가 발생합니다. 바로 Guest Additions를 설치한 후 재로그인했을 때 화면이 검게만 보이는 블랙 스크린 현상입니다. 이번 튜토리얼에서는 재설치 없이 블랙 스크린 상태에서 벗어나는 방법과, 나아가 3D 가속까지 제대로 활성화하는 방법을 알아보겠습니다.
문제 상황
조금 더 구체적으로 살펴보겠습니다. VirtualBox를 실행하고 Ubuntu 계열 배포판을 게스트 운영체제로 설치했다고 가정합시다. Ubuntu는 기본적으로 마우스 호스트-게스트 통합과 화면 크기 조절 같은 기본 드라이버를 포함하고 있지만, 공유 폴더나 클립보드 공유 같은 기능은 동작하지 않을 수 있습니다. 모든 기능을 온전히 사용하려면 ISO 이미지에서 Guest Additions를 설치해야 하며, 설치 후 재부팅하거나 그래픽 세션을 재시작해야 적용됩니다.
그런데 문제는, 재부팅 후 로그인 화면에 도달하지 못하고 검은 화면만 계속 나타난다는 점입니다. 이럴 때 어떻게 해야 할까요?
Linux 데스크톱 세션 기초 이해하기
먼저 기본적인 내용부터 짚고 넘어갑시다. 첫째, Guest Additions를 설치하기 전에 반드시 가상 머신의 스냅샷을 생성하세요. 이렇게 하면 문제가 생겼을 때 빠르고 쉽게 복구할 수 있습니다. 실제 물리적 시스템에서 중요한 변경 작업 전에 데이터 백업과 시스템 이미지를 만들어 두는 것과 같은 원리입니다.
둘째, 데스크톱 세션 로그인에 문제가 있다면 세션이 내부적으로 어떻게 관리되는지 이해해 두면 큰 도움이 됩니다. GNOME 기반 데스크톱은 로그인 관리를 위해 GDM(GNOME Display Manager)을 사용하며, 각 사용자의 설정은 아래 경로에 저장됩니다.
/var/lib/AccountServices/users/(사용자명)
각 사용자 파일에는 사용자 세션이 시작되는 방식을 정의하는 항목들이 들어 있습니다.
...
[User]
XSession=plasma
SystemAccount=false
...
시스템이 기본 세션으로 시작되도록 하려면 XSession 값을 비워두거나 ubuntu처럼 지정하면 됩니다. 세션 이름은 /usr/share/xsessions/ 디렉터리의 데스크톱 세션 파일들과 대응되며, 일반적인 파일은 다음과 같이 올바른 프로세스(데스크톱 환경)를 시작하는 데 필요한 항목들을 담고 있습니다.
[Desktop Entry]
Type=XSession
Exec=/usr/bin/startkde
TryExec=/usr/bin/startkde
DesktopNames=KDE
Name=Plasma
...
또 하나 고려할 사항은 X11과 Wayland의 차이입니다. Wayland는 가상 머신 환경에서 원활하게 동작하지 않을 수 있으므로, GDM 설정을 수정해 Wayland를 켜고 끄며 데스크톱 동작(블랙 스크린 포함)을 테스트해 보는 것이 좋습니다. 설정은 /etc/gdm/custom.conf 파일에서 진행하며, 아래 줄을 찾아 필요에 따라 주석 처리하거나 해제하면 됩니다.
#WaylandEnable=false
이것이 블랙 스크린이나 로그인 문제를 해결하는 첫걸음입니다. 자동 로그인 기능도 비활성화하는 것이 좋습니다. 특정 데스크톱 환경에 세션 관련 문제가 있는 경우, 자동 로그인 때문에 고장 난 세션에 계속 붙잡히는 무한 로그인 루프에 빠질 수 있기 때문입니다. 이제 기본기를 익혔으니 본격적으로 가상 머신 문제 해결로 돌아가겠습니다.
해결 방법
작업을 진행하려면 우선 데스크톱을 복구해야 합니다. 첫째, VirtualBox에서 가상 콘솔에 접근하려면 오른쪽 Ctrl(기본 Host 키) + F1~F7 조합을 누르세요. 호스트의 Ctrl + Alt + F1~F7 조합과 충돌하지 않으면서 게스트 안의 가상 콘솔로 진입할 수 있습니다. 다만 가상 콘솔조차 열리지 않는 경우도 있는데, 걱정할 필요 없습니다. 재설치 없이 해결할 수 있는 몇 가지 방법이 있습니다.
둘째, 3D 가속을 비활성화합니다. 가상 머신을 종료한 후 설정 창을 열고 해당 체크박스의 선택을 해제하세요. 그리고 가상 머신을 시작하면 블랙 스크린 없이 데스크톱에 정상적으로 진입할 수 있을 것입니다. 이제 시스템이 정상 동작하므로, 손상된 상태를 제대로 수리할 수 있습니다. 스냅샷, 가상 콘솔, 3D 가속 토글의 조합만 있으면 이런 유형의 문제도 좌절 없이 충분히 대응할 수 있습니다.
저장소(Repository)를 통해 Guest Additions 설치하기
ISO 이미지로 제공된 드라이버에서 문제가 발생했다면, 저장소에서 제공하는 패키지를 사용해 보세요(단, 기능상 제약은 감안해야 합니다). 먼저 uninstall 옵션으로 스크립트를 다시 실행하여 ISO로 설치한 드라이버를 제거합니다.
sudo /media/(사용자명)/(VirtualBox ISO 경로)/VBoxLinuxAdditions.run uninstall
재부팅 후 저장소 패키지를 설치합니다. Wayland를 사용 중이라면 다음 명령어가 필요합니다.
sudo apt-get install virtualbox-guest-utils
X11을 사용 중이라면(VirtualBox 환경에서는 대부분 그렇습니다) 다음 명령어를 사용하세요.
sudo apt-get install virtualbox-guest-x11
설치 후 다시 가상 머신을 종료하고, 3D 가속을 다시 켠 뒤 가상 머신을 시작합니다. 이제 잘 동작할 것입니다. 이것이 목표 달성을 향한 첫 단계입니다. 설정이 완료되었고 데스크톱도 정상적으로 작동합니다.
3D 가속이 실제로 작동하는지 확인하는 법
그런데 게스트 운영체제에서 3D 가속이 실제로 활성화되었는지 아직 확실하지 않습니다. 확인하는 가장 쉬운 방법은 mesa-utils 패키지에 포함된 glxinfo 명령어를 사용하는 것입니다.
sudo apt-get install mesa-utils
그다음 glxinfo를 실행하고 직접 렌더링(direct rendering)이 사용되는지 확인합니다.
glxinfo | grep direct
direct rendering: Yes
GL_ARB_direct_state_access, GL_ARB_draw_buffers,
...
출력 결과가 Yes라면 3D 가속이 활성화된 것입니다. 축하합니다! 네이티브 드라이버만큼 부드럽거나 빠르지는 않을 수 있지만, 분명 좋은 방향으로 나아가고 있습니다. 무엇보다 중요한 것은 블랙 스크린이 사라졌다는 점입니다. 이 방식에서는 앞서 언급한 공유 폴더 등 고급 기능은 사용할 수 없지만, 이 역시 차후 튜토리얼에서 다룰 우회 방법들이 있습니다.
마무리
내용이 많았지만, 도움이 되고 즐거운 시간이었기를 바랍니다. 이번 글에서는 최신 Linux 시스템이 데스크톱 세션을 관리하는 방식을 살펴보았고, Wayland를 켜고 끄는 방법도 배웠습니다. 또한 ISO 제공 드라이버와 저장소 제공 드라이버의 차이점과 사용법, 그리고 문제가 발생하더라도 빠르게 복구할 수 있도록 시스템을 견고하게 유지하는 다양한 방법들을 알아보았습니다.
3D 가속은 가상화 제품에서 서서히 개선되고 있으며, 이로 인해 가상화 제품의 활용도는 계속 높아지고 있습니다. 때로는 스택의 복잡성이 발목을 잡을 수도 있습니다. 하지만 상황이 매우 암담해 보이고 데스크톱이 망가진 것처럼 느껴지더라도, 우아하게 문제를 우회할 방법은 언제나 있습니다. 우리의 목표는 효율적이면서도 비파괴적인 해결입니다. 오늘은 임무 완수입니다. 다음에 다시 만나요, 가상 악어 친구들!
즐거운 가상화 되세요.