들어가며
원래는 아주 간단한 작업이어야 했지만, 현실은 그렇지 않습니다. 한편으로 우분투(Ubuntu)는 수많은 전통적인 리눅스 관례를 깨는 매우 현대적이고 독특한 배포판입니다. 다른 한편으로 VMware는 안정성과 하위 호환성이 최신 기술보다 중요한 기업용 시장을 겨냥하기 때문에, 제품을 오래되고 전통적인 커널과 호환되도록 만듭니다. 이 둘이 만나면 우분투에 VMware Server를 설치하려 할 때 여러 가지 걸림돌에 부딪히게 됩니다.
이 튜토리얼에서는 우분투(64비트)에 VMware Server를 설치할 때 발생하는 수많은 문제를 어떻게 극복할 수 있는지 단계별로 보여드리겠습니다. 그럼 시작해 보겠습니다.
간단한 소개
저는 베타 시절부터 VMware Server를 사용해 왔으며, 대부분 SUSE 머신에서 사용했습니다. SUSE 배포판에서는 단 한 번도 문제를 겪은 적이 없습니다. SUSE는 두 세대에 걸쳐 하위 호환성을 유지하기 때문에, 버전 9와 10에서 보던 오래된 스크립트, 라이브러리, 디렉터리들이 버전 11에서도 그대로 존재합니다.
반면 우분투는 일반적인 정석대로의 리눅스 배포판과 비교하면 훨씬 유동적이고 역동적이며 완전히 다릅니다. 놀랍지 않게도 Gutsy Gibbon(7.10)부터 VMware Server 관련해 온갖 문제에 시달려 왔습니다. 릴리스가 거듭될수록 문제는 더 복잡해졌고, 그 정점은 새로 산 노트북에 설치한 우분투 9.04 64비트 에디션에 VMware Server 1.0.9를 설치하려던 최근의 시도였습니다.
약간의 온라인 자료 검색과 직관을 동원해, 여섯 번쯤 실패한 설치 끝에 VMware Server를 구동하는 데 성공했습니다. 여러분의 시간과 노력을 아껴 드리고자, 제가 겪었던 모든 사소한 문제들을 모아 이 가이드를 정리했습니다. 이 글을 통해 어떤 함정을 피해야 하는지, 필요하다면 어떻게 빠르고 고통 없이 처리할 수 있는지 알아보시기 바랍니다.
알아두어야 할 사항
VMware Server는 .rpm 패키지와 .tar.gz 아카이브 두 가지 형태로 제공됩니다. 데비안 계열인 우분투는 .rpm 패키지를 기본적으로 실행할 수 없으며, alien 변환 유틸리티를 사용해 변환해야 합니다.
이러한 이유와 더불어 RPM을 통한 자동 설치는 제어권이 훨씬 적기 때문에, 아카이브 방식을 사용할 것을 권장합니다. 속도는 느리고 번거롭다고 알려져 있지만, 지금 무엇을 하고 있는지 훨씬 잘 이해할 수 있습니다.
패키지 구성
VMware Server는 세 가지 구성 요소로 이루어져 있습니다:
- VMware Server 본체 (tar.gz 패키지)
- 관리 인터페이스(MUI) (tar.gz 패키지)
- Server Console (.zip 파일 안에 Windows용과 Linux용 모두 포함)
반드시 이 순서대로 설치해야 합니다. 절차를 자세히 설명한 예전 VMware Server 가이드도 함께 참고하시면 좋습니다.
컴파일 환경 준비
설치 과정에서는 호스트에서 VMware 드라이버를 컴파일하게 됩니다. 따라서 컴파일 도구가 미리 설치되어 있어야 합니다. 우분투에서는 이 패키지를 아주 간단히 설치할 수 있습니다.
sudo apt-get install build-essential
이것으로 준비 끝입니다. 이제 설치를 시도할 수 있습니다.
설치 시작
VMware Server 아카이브의 압축을 풀고, 생성된 디렉터리로 이동한 뒤 sudo 권한으로 vmware-install.pl 스크립트를 실행합니다. .pl 확장자는 Perl을 의미합니다. 폴란드(Poland)와는 아무 상관이 없습니다.
설치 프로그램은 간단한 텍스트 기반 스크립트로, 실행 파일 위치, 문서 위치, 아이콘 등 수많은 질문을 던집니다. 꽤 표준적인 방식이라 특별히 복잡하지 않습니다. 진짜 변수는 설치 프로그램이 모듈 하나를 컴파일하려 할 때 등장합니다.
1. vmmon 모듈 빌드 실패
가장 먼저 마주하게 될 오류입니다.
온라인에서 검색해 보면 놀라울 정도로 많은 패치와 업데이트 목록을 찾을 수 있습니다. 어떤 것은 VMware Server 2에서만 작동하고, 어떤 것은 VMware Server 1에서만 작동하며, 모두 커널 버전에 의존합니다.
다행히도 필요한 업데이트를 모두 찾을 수 있는 곳이 하나 있습니다. 바로 insecure.ws입니다. 문서가 잘 정리되어 있고, 사용법도 매우 간단하며, 무엇보다 약속한 대로 작동합니다.
업데이트 다운로드
VMware Server를 다시 설치하기 전에 해당 업데이트를 내려받아 적용해야 합니다. 자신의 커널 버전에 맞는 것을 선택하세요. 커널 버전은 명령줄에서 uname -r을 입력하면 확인할 수 있습니다. 기본 명령줄 사용법에 대한 자세한 내용은 명령어 & 설정 튜토리얼을 참고하세요. 새로운 우분투나 VMware 제품이 출시되면 새 업데이트도 함께 나올 것으로 보입니다. 현재 기준으로는 다음과 같습니다:
- 커널 2.6.26~28용 — VMware Server 및 Workstation에서 작동
- 커널 2.6.29~30용 — VMware Server 및 Workstation에서 작동
- 커널 2.6.31용 — VMware Server 및 Workstation에서 작동
패치 적용
아카이브의 압축을 풀고 runme.pl 스크립트를 실행합니다. 이 스크립트는 VMware 패키지에 패치를 적용한 뒤 설치 프로그램을 다시 실행합니다. 이번에는 vmmon 모듈이 성공적으로 컴파일될 것입니다.
첫 번째 장애물을 통과했습니다. 설치를 계속 진행하다 보면 다음 오류를 만나게 됩니다.
2. Xinetd 슈퍼 서비스 누락 오류
오류 메시지에는 inetd라고 표시되지만, 현대 리눅스 시스템에서 해당 서비스는 Xinetd입니다. 우분투에는 기본적으로 Xinetd가 설치되어 있지 않습니다. Xinetd는 다른 서비스를 필요할 때(on-demand) 실행해 주는 일종의 슈퍼 서비스입니다. 우분투는 보안 강화를 위해 모든 포트를 닫은 상태, 즉 실행 중인 서비스 없이 배포하는 전략을 취하기 때문에, 개발자들은 더욱 탄탄한 보안 설정을 위해 Xinetd까지 제거한 것입니다.
그러나 VMware Server는 Xinetd가 설치되어 있어야 합니다. 이를 설치한 후 설치 프로그램을 다시 실행하면 됩니다… 또다시요. Synaptic(시냅틱) 패키지 관리자로 설치할 수도 있고, 명령줄에서 간단히 설치할 수도 있습니다:
sudo apt-get install xinetd
이것으로 두 번째 장애물을 넘었습니다. 세 번째 문제로 넘어가죠.
3. SSL 인증서 문제
VMware Server 설치는 다시 실패합니다. 호스트와 게스트 간의 내부 통신에 사용되는 SSL 인증서 생성에 필요한 rui.key와 rui.crt 파일을 설치 프로그램이 찾지 못하기 때문입니다.
해결책: rui.key와 rui.crt 파일 두 개를 직접 생성해야 합니다.
sudo touch /etc/vmware/ssl/rui.key
sudo touch /etc/vmware/ssl/rui.crt
네 번째 문제로 넘어가겠습니다.
4. 시리얼 넘버 등록 문제
다음으로, 설치 프로그램은 시리얼 넘버가 유효하지 않다고 불평할 것입니다. 실제로는 전혀 문제가 없는데도 말이죠. 이는 64비트 시스템에서 발생하는 문제로, 우분투에 설치 프로그램이 작동하는 데 필요한 특정 32비트 라이브러리가 포함되어 있지 않기 때문입니다.
해결책: 누락된 라이브러리를 설치하고 설치 스크립트를 다시 실행하면 됩니다.
sudo apt-get install ia32-libs
수많은 의존성이 자동으로 해결됩니다. 이 문제를 해결하고 나면 VMware 설치가 순조롭게 진행될 것입니다.
설치 성공!
드디어 여기까지 왔습니다. 다음 단계는 MUI와 Server Console을 설치하는 것입니다. Server 설치의 까다로운 네 단계만 통과하면 나머지 두 패키지는 식은 죽 먹기입니다.
몇 분 안에 Server가 정상적으로 가동되는 것을 확인할 수 있습니다.
요약: 한 번에 끝내는 설치 방법
업데이트(runme.pl) 스크립트를 실행하기 전에 누락된 항목들을 모두 미리 준비해 두면 절차를 훨씬 수월하게 만들 수 있습니다. 다음 작업을 먼저 수행하세요.
필수 패키지 설치
sudo apt-get install build-essential xinetd ia32-libs
SSL 파일 생성
sudo touch /etc/vmware/ssl/rui.key
sudo touch /etc/vmware/ssl/rui.crt
이 작업을 자동으로 처리해 주는 작은 스크립트를 만들 수도 있습니다. VMware 설치 자동화에 도움이 되도록 제가 직접 작성해 볼 의향이 있습니다. 관심이 있다면 연락 주세요. 수요가 게으름 임계값을 넘어서면 스크립트를 작성해서 여기에 공개하겠습니다.
세 가지 간단한 명령을 실행한 후, 업데이트 스크립트를 실행하고 네트워크 설정, 가상 머신 저장 위치 등 프롬프트에 답하면 됩니다. Server 설치를 마친 후 MUI와 Server Console을 설치하면 모든 준비가 완료됩니다.
결론
이 글이 도움이 되었기를 바랍니다. 이 가이드는 우분투에 VMware Server를 설치하는 단계별, 군더더기 없는 해결책을 제공합니다. 설치 중 발생하는 각 문제를 하나씩 짚어보고, 그에 맞는 간단한 해결책을 제시합니다.
우분투와 VMware Server는 원래 잘 어울리지 않지만, 약간의 애정 어린 격려와 인내심만 있으면 문제를 해결할 수 있습니다. 컴파일에 필요한 올바른 도구 확보부터, 누락된 패키지(xinetd, ia32-libs) 설치, SSL 파일 생성, VMware 소스에 패치를 적용해 설치를 가능하게 하는 업데이트 실행까지 말입니다.
물론 이 모든 것을 가능하게 해주는 업데이트를 제공한 insecure.ws에게 감사를 전해야 합니다. 저는 일반 사용자가 보기 좋도록 내용을 조금 다듬었을 뿐입니다. 즐거운 리눅스 되세요!