VMware '이진 변환이 긴 모드와 호환되지 않음' 오류 해결 방법 총정리

여러 Windows 사용자가 VMware Workstation에서 가상 머신을 실행하려고 할 때 "이진 변환이 긴 모드와 호환되지 않음(Binary translation is incompatible with long mode)" 오류 메시지를 마주하고 있습니다. 일부 사용자들은 호스트 PC가 절전 모드에 들어간 후에만 이 메시지가 나타난다고 보고하기도 했습니다.

오류의 주요 원인

동일한 오류를 경험한 다양한 사용자 사례를 분석한 결과, 이 문제를 유발하는 몇 가지 시나리오를 확인할 수 있었습니다:

• BIOS 설정에서 가상화 기술(Virtualization Technology)이 비활성화됨 – 대부분의 사용자는 BIOS 설정에서 가상화 기술(VT)을 활성화한 후 문제를 해결했습니다. 이것이 해당 오류가 발생하는 가장 흔한 원인입니다.
• 절전 모드 전환이 오류를 유발함 – 호스트 컴퓨터가 절전 모드에 진입할 때 문제가 발생한다는 보고가 있는 것으로 보아, 운영체제가 절전 모드에 들어가기 위해 수행하는 일부 작업이 오류를 촉발할 수 있습니다.
• 호스트 PC가 VT-X를 지원하지 않음 – 하드웨어 가상화를 지원하지 않는 호스트 PC에서도 이 메시지가 표시될 수 있습니다.
• 인텔 내장 그래픽 드라이버가 구버전임 – 일부 사용자는 Windows Update를 통해 인텔 내장 그래픽 드라이버를 최신 버전으로 업데이트한 뒤 문제가 해결되었다고 보고했습니다.
• 호스트 머신이 3D 그래픽 가속을 지원하지 않음 – 일부 사용자는 VMware 설정에서 '3D 그래픽 가속' 옵션을 비활성화한 후 문제가 해결되었다고 전했습니다.
• 서드파티 백신 프로그램이 VT-X를 비활성화함 – 사용자가 BIOS에서 명시적으로 활성화했음에도 Avast나 McAfee가 VT-X 기술을 비활성화한다는 사례가 보고되었습니다.

이 문제로 어려움을 겪고 있다면, 아래에서 소개하는 문제 해결 단계를 순서대로 따라 해보세요. 비슷한 상황에 놓인 다른 사용자들이 실제로 효과를 본 방법들을 정리했습니다. 가장 좋은 결과를 얻으려면 자신의 상황에 맞는 해결책을 찾을 때까지 아래 방법들을 순차적으로 시도해 보시기 바랍니다.

방법 1: 인텔 가상화 기술(VT) 활성화

"이진 변환이 긴 모드와 호환되지 않음" 오류가 발생하는 가장 큰 원인은 BIOS 설정에서 가상화 기술(VT)이 꺼져 있는 경우입니다. 많은 메인보드에서 이 옵션은 기본적으로 비활성화되어 있습니다. 또 다른 가능성은 Microsoft의 Hyper-V 기술이 활성화되면서 내장 가상화 기술을 비활성화했을 수도 있다는 점입니다.

어떤 경우든 BIOS 설정에 접근하여 가상화 기술(VT)을 활성화하면 문제를 해결할 수 있습니다. 이 과정은 대부분의 컴퓨터에서 유사하지만, 부팅 키는 메인보드 제조사마다 다릅니다.

BIOS 설정에 들어가려면 컴퓨터를 켜자마자 초기 부팅 과정 동안 BIOS 키를 반복해서 누르면 됩니다. BIOS 키는 보통 F2, F4, F5, F8, F10, F12 중 하나이거나 Delete(Del) 키(Dell 컴퓨터의 경우)입니다. BIOS 키를 모른다면, 전원을 켠 직후 첫 번째 검증 화면에서 힌트를 찾을 수 있습니다.

참고: 사용 중인 메인보드의 BIOS 키를 인터넷에서 검색해 확인할 수도 있습니다.

BIOS 설정에 진입했다면 Security 탭으로 이동하여 Virtualization 메뉴에 접근하세요. 그런 다음 Virtualization Technology 항목이 Enabled로 설정되어 있는지 확인합니다.

참고: 메인보드 제조사에 따라 이 옵션이 다른 위치에 있거나 다른 이름으로 되어 있을 수 있습니다. BIOS 버전에 따라 Advanced – Intel(R) Virtualization Technology 메뉴에서 VT 활성화 옵션을 찾을 수도 있습니다.

VT를 활성화한 후에는 반드시 변경 사항을 저장하고 컴퓨터를 재시작하세요. 재부팅이 완료되면 VMware에서 동일한 가상 머신을 다시 실행하여 문제가 해결되었는지 확인합니다.

여전히 같은 문제가 발생하거나 이 방법이 적용되지 않는다면, 다음 방법으로 넘어가세요.

방법 2: 호스트 컴퓨터의 하드웨어 가상화 지원 여부 확인

여기까지 진행했는데도 결과가 없다면, 사용 중인 컴퓨터가 애초에 하드웨어 가상화를 지원하지 않을 가능성이 있습니다. 모든 AMD 및 인텔 프로세서가 VT-x(인텔) 또는 AMD-V(AMD)를 지원하는 것은 아니라는 점을 기억하세요.

BIOS 설정에서 Virtualization 관련 항목을 찾을 수 없었다면, 호스트 머신이 이 기술을 지원하지 않을 가능성이 높습니다. 현재 시스템 구성에서 하드웨어 가상화가 지원되는지 확인하는 데 도움이 되는 무료 유틸리티가 있습니다. SecurAble을 사용하여 확인하는 방법은 다음과 같습니다:

1. SecurAble 공식 페이지에 접속하여 Download now 버튼을 클릭해 SecurAble 유틸리티를 다운로드합니다.
2. SecurAble을 실행한 후 Hardware Virtualization 항목을 확인합니다. Yes로 표시되어 있다면 호스트 머신이 VT-x 또는 AMD-V를 지원하는 것입니다.

   참고: CPU가 하드웨어 가상화를 지원하지 않는다면, 아래의 다른 방법들로는 "이진 변환이 긴 모드와 호환되지 않음" 오류를 해결할 수 없습니다.

검사 결과 시스템이 해당 기술을 지원하는 것으로 확인되면, 아래의 나머지 방법들을 순서대로 따라 하며 오류의 근본 원인을 찾아 해결하세요.

방법 3: 최신 통합 드라이버 설치 여부 확인

일부 사용자들이 지적했듯이, 이 오류는 호스트 시스템의 구형 또는 호환되지 않는 그래픽 드라이버로 인해 발생할 수도 있습니다. 이 문제는 주로 인텔 HD 그래픽 환경에서 보고되었습니다. 원칙적으로 내장 그래픽 카드의 최신 드라이버는 Windows Update를 통해 자동으로 배포 및 설치되어야 합니다.

그러나 비슷한 상황의 여러 사용자들이 내장 그래픽 하드웨어 업데이트를 위해 대기 중이던 Windows 선택적 업데이트가 있었음을 발견했다고 보고했습니다. 사용 중인 컴퓨터에서 이를 확인하는 방법은 다음과 같습니다:

1. Windows 키 + R을 눌러 실행(Run) 창을 엽니다. 그런 다음 "ms-settings:windowsupdate"를 입력하고 Enter 키를 눌러 설정 앱의 Windows Update 탭으로 이동합니다.

   참고: Windows 10 미만 버전을 사용 중이라면 "wuapp"을 대신 입력하세요.

2. Windows Update 화면에서 업데이트 확인(Check for Updates) 버튼을 클릭하고, 화면 안내에 따라 대기 중인 모든 WU 업데이트를 설치합니다.
3. 모든 대기 중인 업데이트 설치가 완료되면 컴퓨터를 재시작하고, 다음 부팅 시 문제가 해결되었는지 확인합니다.

VMware Workstation에서 가상 머신을 실행할 때 여전히 "이진 변환이 긴 모드와 호환되지 않음" 오류가 나타난다면, 다음 방법으로 넘어가세요.

방법 4: 3D 그래픽 가속 옵션 비활성화

많은 사용자들이 VMware 설정에서 3D 그래픽 가속(Accelerate 3D graphics) 옵션을 끈 후 "이진 변환이 긴 모드와 호환되지 않음" 오류 메시지가 더 이상 나타나지 않았다고 보고했습니다.

참고: 이 방법을 적용한 후에는 그래픽 성능이 중요한 작업을 가상화할 때 일부 성능 저하를 느낄 수 있습니다.

VMware Workstation에서 3D 그래픽 가속 옵션을 비활성화하는 방법은 다음과 같습니다:

1. 대상 가상 머신이 전원 꺼짐(Powered Off) 상태인지 확인합니다.
2. "이진 변환이 긴 모드와 호환되지 않음" 오류가 발생하는 가상 머신을 마우스 오른쪽 버튼으로 클릭하고 Settings(설정)를 선택합니다.
3. 하드웨어 탭으로 이동하여 Display를 클릭합니다. Display 메뉴에서 3D graphics 섹션으로 이동한 뒤 Accelerate 3D graphics와 연결된 체크박스의 선택을 해제합니다.
4. 가상 머신을 다시 시작하여 오류가 해결되었는지 확인합니다.

"이진 변환이 긴 모드와 호환되지 않음" 오류가 계속 발생한다면, 다음 방법으로 넘어가세요.

방법 5: Avast, McAfee(또는 기타 서드파티 보안 프로그램) 제거

여러 사용자들이 자신의 경우 문제의 원인이 외부 백신 프로그램이었다고 보고했습니다. McAfee와 Avast가 VT-X를 비활성화하는 범인이라고 지목한 신규 및 기존 사용자 사례를 상당수 확인할 수 있었습니다.

참고: 동일한 현상을 일으키는 다른 백신 프로그램도 있을 수 있습니다.

"이진 변환이 긴 모드와 호환되지 않음" 오류가 발생하고 방법 1이 일시적인 해결 효과만 있었다면, 서드파티 보안 솔루션을 사용 중인지 확인해 보세요. 사용 중이라면, 해당 백신을 시스템에서 제거한 상태에서도 오류가 발생하는지 테스트해 볼 필요가 있습니다.

여러 사용자들이 서드파티 백신을 완전히 제거한 후 문제가 영구적으로 해결되었다고 보고했습니다. 이를 수행하는 방법은 다음과 같습니다:

1. 백신 제거 가이드를 참고하여 보안 프로그램과 남아 있는 잔여 파일까지 완전히 제거한 후, 제거가 완료되면 컴퓨터를 재시작합니다.
2. 방법 1을 다시 수행하여 호스트 머신에서 VT-X가 활성화되어 있는지 확인합니다.
3. 가상 머신을 다시 열어 오류가 해결되었는지 확인합니다.