VMware vSphere(6.7) 환경에서 VMFS 데이터스토어에 ISO, VMDK, OVA/OVF 등의 파일을 복사(업로드)하려고 할 때 예상치 못한 문제가 발생할 수 있습니다. vSphere Client 화면에서 “파일 업로드(Upload Files)” 버튼을 클릭하면 “작업이 실패했습니다(The operation failed)”라는 오류 메시지가 나타나는 경우입니다.
오류 메시지 확인
오류 창에서 세부 정보(Details)를 클릭하면 다음과 같은 상세 메시지를 확인할 수 있습니다.
The operation failed for an undetermined reason.
일반적으로 이 문제는 브라우저가 신뢰하지 않는 인증서로 인해 발생합니다. 자체 서명(self-signed) 인증서 또는 사용자 지정 인증서를 사용 중이라면 아래 URL을 새 브라우저 탭에서 열어 인증서를 수락한 후 작업을 다시 시도하십시오.
https://my-vcenter
이 방법으로 문제가 해결되지 않으면 VMware KB 문서(https://kb.vmware.com/kb/2147256)에서 추가 해결 방법을 확인할 수 있습니다.
원인: 신뢰할 수 없는 SSL 인증서
오류 메시지에서 알 수 있듯이, 이 문제는 vCenter 서버에서 사용하는 SSL 인증서가 신뢰되지 않기 때문에 발생합니다. 즉, 인증서가 자체 서명(self-signed)되었거나 신뢰할 수 없는 인증 기관(CA)에서 발급된 경우입니다. 이 문제를 해결하려면 “vSphere SSL 인증서 보안 경고” 관련 절차를 따라야 합니다.
특히 vSphere 6.5 및 6.7에서는 브라우저에 vCenter 인증서만 추가하는 것으로는 부족합니다. 컴퓨터의 신뢰할 수 있는 루트 인증 기관 저장소(Trusted Root Certification Authorities)에 자체 서명 인증서가 등록되어 있지 않으면, vSphere Web Client에서 VMFS 데이터스토어로 파일을 업로드할 수 없습니다.
vCenter 인증서를 신뢰할 수 있는 인증서 목록에 추가하기
vCenter 인증서를 신뢰 목록에 추가하려면 vSphere 시작 페이지로 이동한 후, 화면 우측 하단의 “신뢰할 수 있는 루트 CA 인증서 다운로드(Download trusted root CA certificates)”를 클릭합니다.
다운로드한 압축 파일에서 ..\certs\win 폴더로 이동합니다(Windows, Linux, Mac용 인증서가 각각 별도의 폴더에 제공됩니다). *.crt 파일을 더블클릭하고 인증서 설치(Install Certificate) 버튼을 클릭합니다.
인증서 가져오기 마법사(Certificate Import Wizard)를 사용하여 vCenter 인증서를 컴퓨터의 신뢰할 수 있는 루트 인증서 저장소에 등록합니다. 이때 저장 위치는 로컬 컴퓨터(Local Machine) → 신뢰할 수 있는 루트 인증 기관(Trusted Root Certification Authorities)으로 지정합니다.
완료 후 확인 사항
vCenter 웹 인터페이스에 접속하여 더 이상 신뢰할 수 없는 인증서 경고가 표시되지 않는지 확인합니다. 정상적으로 적용되었다면 이제 VMFS 데이터스토어에 파일을 업로드할 수 있습니다.
Firefox 사용자를 위한 추가 설정
Firefox 브라우저를 사용하는 경우에는 vSphere 인증서를 브라우저 설정의 신뢰(예외) 목록에 직접 추가하거나, Windows 인증서 저장소의 인증서를 사용하도록 Firefox를 변경해야 합니다. 주소창에 about:config를 입력한 후 security.enterprise_roots.enabled = True로 설정하면 됩니다. 이 설정을 적용하지 않으면 “보안 연결 실패(Secure Connection Failed)” 오류가 계속 나타날 수 있습니다.
Firefox는 Chrome, Opera, IE와 달리 기본적으로 운영체제가 아닌 자체적인 신뢰 인증서 목록을 사용하기 때문에 이러한 추가 설정이 필요합니다.