Windows 10 업그레이드 시 '설치 프로그램이 제품 키의 유효성을 검사하지 못했습니다' 오류 해결 방법

'설치 프로그램이 제품 키의 유효성을 검사하지 못했습니다(Setup has failed to validate the product key)' 오류는 주로 Windows 7이나 Windows 8.1 같은 구버전 Windows에서 ISO 파일을 이용해 Windows 10으로 업그레이드를 시도할 때 발생합니다.

'제품 키 유효성 검사 실패' 오류의 주요 원인

서드파티 백신 프로그램의 간섭 – 과도하게 보안에 민감하게 작동하는 서드파티 백신이 업그레이드 도구와 외부 서버 간의 통신을 방해하는 것으로 확인되었습니다. 이 경우 실시간 보호 기능을 비활성화하거나 보안 프로그램을 완전히 제거하면 문제를 해결할 수 있습니다.
Temp 폴더에 이미 압축 해제된 설치 파일이 존재 – 업그레이드 도구가 Temp 폴더 안에서 이미 압축 해제된 설치 파일을 발견하면 이 오류를 표시할 수 있습니다. 이 경우 디스크 정리 유틸리티를 실행해 모든 임시 파일을 삭제하면 해결됩니다.
설치 미디어에 제품 키(Pkey)가 연결되지 않음 – 라이선스 키 없이 설치 미디어로 업그레이드를 시도할 때 setuperr.log 로그 파일로 인해 문제가 발생할 수 있습니다. 이 경우 CMD 명령어를 사용해 라이선스 키를 적용할 수 있습니다.
시스템 파일 손상 – 시스템 파일 손상 역시 이 오류의 원인이 될 수 있습니다. 손상된 종속성 몇 개가 업그레이드 유틸리티의 조기 종료를 유발하는 경우가 많습니다. 이 경우 전체 DISM 검사를 실행하면 해결할 수 있습니다.
구성 파일(Config) 누락 – 사용 중인 업그레이드 미디어에 설치에 필수적인 구성 파일이 없는 경우도 있습니다. 이 경우 메모장을 사용해 구성 파일을 손쉽게 만들 수 있습니다.

방법 1: 서드파티 백신 프로그램 비활성화 (해당하는 경우)

과도하게 보안에 민감하게 작동하는 서드파티 보안 프로그램을 사용 중이라면, 업그레이드 설치 프로그램과 외부 서버 간의 연결을 방해할 가능성이 충분히 있습니다.

이 시나리오에 해당한다면, 해당 백신 프로그램을 비활성화하거나 제거한 후 업그레이드를 다시 시도해 보세요.

먼저 실시간 보호 기능을 비활성화한 뒤 업그레이드가 성공하는지 확인해 보세요. 작업 표시줄에서 백신 프로그램 아이콘을 클릭하고 실시간 보호를 끄는 옵션을 찾으면 됩니다.

이 방법이 효과가 없거나 백신 메뉴에서 해당 옵션을 찾지 못했다면, 보안 프로그램을 완전히 제거하여 업그레이드 과정에 영향을 줄 수 있는 보안 규칙이 남지 않도록 하세요. 제거 시에는 잔여 파일까지 완전히 삭제해야 이후에도 같은 문제가 재발하지 않습니다.

이 방법이 해당하지 않거나 문제가 해결되지 않았다면, 아래의 다음 해결 방법으로 넘어가세요.

방법 2: 디스크 정리 유틸리티 실행

대부분의 경우 이 오류는 AppData\Local\Temp 폴더에서 비롯된 문제 때문에 발생합니다. 업그레이드 소프트웨어가 Temp 폴더에서 이미 압축 해제된 설치 파일을 발견하면 보안 위협의 증거로 판단하고 업그레이드 프로세스를 중단할 수 있습니다.

이 경우 Windows 드라이브에서 디스크 정리 유틸리티를 실행해 Temp 폴더를 확실히 비우면 문제를 해결할 수 있습니다. 정리 후 컴퓨터를 재시작하면 업그레이드가 문제없이 완료될 것입니다.

다음 단계를 따라 해 보세요:

Windows 키 + R을 눌러 실행 대화상자를 엽니다. 텍스트 상자에 'cleanmgr'을 입력하고 Enter를 눌러 디스크 정리 유틸리티를 실행합니다. 사용자 계정 컨트롤(UAC) 창이 나타나면 예를 클릭해 관리자 권한을 부여합니다.
디스크 정리: 드라이브 선택 단계에서 드롭다운 메뉴에서 OS 드라이브(일반적으로 C:)를 선택합니다. Windows 로고로 식별할 수 있습니다. 올바른 드라이브를 선택한 후 확인을 클릭합니다.
디스크 정리 창에서 임시 인터넷 파일과 임시 파일 확인란이 체크되어 있는지 확인합니다.
설정이 완료되면 시스템 파일 정리 버튼을 클릭하고 UAC 프롬프트에서 확인합니다.
다른 디스크 정리 창이 나타나면 다시 한번 임시 인터넷 파일과 임시 파일을 선택한 후 확인을 클릭합니다.
최종 프롬프트에서 파일 삭제를 클릭해 프로세스를 시작합니다.
작업이 완료될 때까지 기다린 후 컴퓨터를 재시작하고 다음 시스템 시작 시 문제가 해결되었는지 확인합니다.
재부팅이 완료되면 업그레이드 프로세스를 다시 진행해 오류 메시지 없이 완료되는지 확인합니다.

여전히 같은 오류가 발생한다면, 아래의 다음 방법으로 넘어가세요.

방법 3: 제품 키(Pkey) 수동 적용

문제가 로그 파일에 저장된 데이터와 관련이 있다면, 로컬에 저장된 설치 미디어를 사용한 업그레이드 시도에서 이 오류를 일으키는 것으로 악명 높은 setuperr.log 파일 때문일 가능성이 높습니다.

이 경우 명령 프롬프트를 열고 설치 미디어가 저장된 폴더에 라이선스 키를 추가하는 명령을 실행하면 문제를 해결할 수 있습니다.

같은 문제를 겪었던 여러 사용자들이 아래 지침을 수행한 후 문제가 완전히 해결되었다고 보고했습니다. 다음 단계를 따라 해 보세요:

Windows 키 + R을 눌러 실행 대화상자를 엽니다. 'cmd'를 입력하고 Ctrl + Shift + Enter를 눌러 관리자 권한 명령 프롬프트를 엽니다. 사용자 계정 컨트롤이 나타나면 예를 클릭해 관리자 권한을 부여합니다.
관리자 권한 명령 프롬프트에서 다음 명령을 입력해 미디어 설치 도구가 파일을 저장한 위치로 이동합니다:
```
CD: C:\ESD\
```
참고: 미디어 생성 도구를 사용자 지정 위치에 파일을 저장하도록 설정했다면 해당 위치로 이동하세요.
다음 명령을 입력하고 Enter를 눌러 업그레이드를 처리하는 미디어 설치 도구에 제품 키를 연결합니다:
```
Setup /pkey xxxxx-xxxxx-xxxxx-xxxxx-xxxxx
```
참고: *X*는 단순한 자리 표시자입니다. 업그레이드에 사용할 실제 라이선스 키로 교체하세요.
관리자 권한 CMD를 닫은 뒤 업그레이드 프로세스를 다시 시작하고 여전히 오류가 발생하는지 확인합니다.

같은 문제가 계속된다면, 아래의 다음 방법으로 넘어가세요.

방법 4: DISM 검사 실행

일부 사용자들은 컴퓨터에서 DISM(배포 이미지 서비스 및 관리) 검사를 실행한 후 문제를 해결했다고 확인했습니다. 이 방법의 성공은 근본적인 시스템 손상 문제가 업그레이드 프로세스에 영향을 미칠 수 있음을 시사합니다.

DISM은 최신 버전으로의 업그레이드와 같은 중요한 OS 작업을 방해할 수 있는 종속성을 수정하는 데 매우 효과적인 Windows 내장 유틸리티입니다.

다음은 이 오류를 해결하기 위해 DISM 검사를 실행하는 방법입니다:

Windows 키 + R을 눌러 실행 대화상자를 엽니다. 'cmd'를 입력하고 Ctrl + Shift + Enter를 눌러 관리자 권한 명령 프롬프트를 엽니다. UAC(사용자 계정 컨트롤)가 나타나면 예를 클릭해 관리자 권한을 부여합니다.
관리자 권한 CMD에서 다음 명령을 순서대로 입력하고 각 검사가 완료된 후 Enter를 눌러 전체 DISM 검사를 실행합니다:
```
Dism /Online /Cleanup-Image /CheckHealth
Dism /Online /Cleanup-Image /ScanHealth
Dism /Online /Cleanup-Image /RestoreHealth
```
모든 검사가 완료되면 컴퓨터를 재시작하고 다음에 업그레이드 유틸리티를 실행할 때 문제가 해결되었는지 확인합니다.

같은 오류가 계속 발생한다면, 아래의 마지막 방법으로 넘어가세요.

방법 5: ISO 파일용 EI.cfg 파일 생성

위의 방법 중 어느 것으로도 오류를 해결하지 못했다면, 사용하려는 업그레이드 미디어에 구버전 Windows에서 업그레이드할 때 필수적인 구성 파일이 포함되어 있지 않기 때문일 가능성이 높습니다.

이 경우 압축 해제 유틸리티를 사용해 Windows 10 ISO를 추출하고 이 문제를 해결할 .cfg 파일을 추가해야 합니다. 그런 다음 ISO를 다시 묶으면 같은 문제가 더 이상 발생하지 않을 것입니다.

다음은 전체 과정에 대한 단계별 지침입니다:

WinRAR, WinZip, 7-Zip 또는 유사한 유틸리티를 사용해 설치 미디어가 포함된 ISO 파일을 폴더에 추출합니다.
Windows 키 + R을 눌러 실행 대화상자를 엽니다. 'notepad.exe'를 입력하고 Ctrl + Shift + Enter를 눌러 관리자 권한 메모장을 엽니다.
메모장 창에 다음 내용을 붙여넣습니다:
```
[EditionID]
[Channel]
Retail
[VL]
0
```
내용을 추가한 후 파일 > 다른 이름으로 저장으로 이동합니다. 파일 형식을 모든 파일로 설정하고, 파일 이름을 ei로 지정하며 끝에 '.cfg' 확장자를 반드시 포함합니다. 저장을 클릭하기 전에 새 파일이 ISO 설치의 Sources 폴더 안에 저장되는지 확인하세요.
동일한 설치 미디어에서 setup.exe 파일을 실행하고 '설치 프로그램이 제품 키의 유효성을 검사하지 못했습니다' 오류 없이 프로세스를 완료할 수 있는지 확인합니다.