일부 사용자는 Windows 10에서 파일을 열거나 처리하려고 할 때 0x80071771 오류가 발생한다고 보고하고 있습니다. 이 오류는 주로 구버전 Windows에서 최신 버전으로 업그레이드한 이후에 나타나는 것으로 알려져 있으며, 경우에 따라 "지정된 파일을 해독할 수 없습니다(The specified file could not be decrypted)"라는 메시지가 함께 표시됩니다.
0x80071771 오류의 원인은 무엇인가요?
다양한 사용자 사례와 실제로 문제를 해결한 복구 방법을 분석한 결과, 이 오류 코드는 대부분 다른 컴퓨터에서 생성되고 암호화된 파일에 접근하려고 할 때 발생하는 것으로 확인되었습니다.
이 오류 메시지는 주로 EFS(Encrypting File System, 암호화 파일 시스템)로 암호화된 파일과 관련이 있습니다. EFS는 Windows에 내장된 암호화 기능으로, 파일과 폴더를 보호하여 허가되지 않은 접근으로부터 지키는 데 널리 사용됩니다.
이 암호화 시스템은 컴퓨터에 접근할 수 있는 위협이나 공격자로부터 기밀 데이터를 보호하기 위해 설계되었습니다. 다만 파일이 한 번 암호화되면, 다른 장치에서 해당 파일에 접근하려면 반드시 인증서가 필요합니다. 따라서 암호화된 파일은 별도의 추가 작업 없이는 암호화가 수행된 컴퓨터에서만 열 수 있습니다.
이를 고려할 때, 다른 컴퓨터에서 암호화된 파일에 접근하는 방법은 두 가지입니다.
- 새 컴퓨터로 옮기기 전에 파일의 암호를 해제(복호화)하는 방법
- 암호화된 파일을 인증서 또는 암호화 키와 함께 새 컴퓨터로 옮기는 방법
지금 0x80071771 오류를 해결하는 방법을 찾고 계신다면, 이 글에서 몇 가지 문제 해결 단계를 소개해 드립니다. 아래의 모든 방법이 사용자의 상황에 적용되는 것은 아닐 수 있습니다.
따라서 제시된 순서대로 방법을 진행하시고, 자신의 상황에 맞지 않는 방법은 건너뛰는 것을 권장합니다. 그러다 보면 문제를 해결할 수 있는 방법을 만나게 될 것입니다.
방법 1: 파일에 대한 전체 권한 획득
암호화된 파일에 접근할 수 있는 한 가지 방법은 시스템 파일에 대한 전체 권한을 부여한 후, 내장된 복호화 방법 중 하나를 사용해 파일 잠금을 해제하는 것입니다. 단, 이 방법은 파일이 원래 다른 컴퓨터에서 암호화된 경우에는 작동하지 않는다는 점을 유의하세요.
아래 단계는 파일이 처음 암호화된 컴퓨터에서 수행해야 합니다. 완료하면 파일을 다른 컴퓨터로 옮겨서 0x80071771 오류 없이 열 수 있게 됩니다.
실제로 여러 사용자가 아래 단계를 따라 0x80071771 오류를 성공적으로 해결했다고 보고했습니다. 절차는 다음과 같습니다.
- 파일 탐색기에서 문제가 발생하는 드라이브 문자를 마우스 오른쪽 버튼으로 클릭하고 속성(Properties)을 선택합니다.
- 속성 화면에서 보안(Security) 탭으로 이동한 후 편집(Edit) 버튼을 클릭합니다.
- 보안 탭에서 그룹 또는 사용자 이름(Group or user names) 아래의 추가(Add) 버튼을 클릭합니다.
- 사용자 또는 그룹 선택(Select Users or Groups) 창이 열리면 선택할 개체 이름 입력 상자에 Everyone을 입력하고 확인(Ok)을 눌러 변경 사항을 저장합니다.
- 권한(Permissions) 창으로 돌아오면 Everyone 그룹을 선택하고 Everyone의 사용 권한 아래 허용(Allow) 항목에 모두 체크합니다.
- 적용(Apply)을 눌러 변경 사항을 저장합니다. 그런 다음 해당 볼륨의 속성에 있는 보안(Security) 탭으로 돌아가, 이번에는 고급(Advanced) 버튼을 클릭합니다.
- 고급 보안 설정(Advanced Security Settings) 창에서 권한(Permissions) 탭으로 이동한 후 변경(Change)을 클릭합니다.
- 사용자 또는 그룹 선택 창에서 선택할 개체 이름 입력란에 Everyone을 입력하고 확인(Ok)을 눌러 저장합니다.
- 다음으로 하위 컨테이너 및 개체의 소유자 바꾸기(Replace owner on subcontainers and objects) 항목에 체크되어 있는지 확인합니다.
- 소유자가 Everyone으로 설정된 상태에서 감사(Auditing) 탭으로 이동한 후 추가(Add)를 클릭합니다.
- 해당 볼륨의 감사 항목(Auditing Entry)에서 보안 주체(Principal)를 Everyone으로 선택하고, 기본 사용 권한(Basic permission) 섹션에서 모든 권한(Full control)에 체크합니다. 마지막으로 확인(Ok)을 누른 뒤 적용(Apply)을 클릭해 변경 사항을 저장합니다.
위 단계를 완료하면 컴퓨터가 해당 파일에 접근할 수 있는 전체 권한을 갖게 됩니다. 이제 아래 단계에 따라 관리자 권한 명령 프롬프트를 사용해 파일을 복호화하세요.
- Windows 키 + R을 눌러 실행(Run) 대화상자를 엽니다. 그런 다음 cmd를 입력하고 Ctrl + Shift + Enter를 눌러 관리자 권한 명령 프롬프트를 실행합니다. UAC(사용자 계정 컨트롤) 창이 나타나면 예(Yes)를 클릭해 관리자 권한을 부여합니다.
- 관리자 권한 명령 프롬프트가 열리면 아래 명령어를 입력해 0x80071771 오류가 발생했던 파일을 복호화합니다.
cipher /d "확장자를 포함한 파일의 전체 경로"
참고: "확장자를 포함한 파일의 전체 경로"는 예시일 뿐이며, 실제 파일 경로로 바꿔야 합니다. 예: C:\Users\madro\Desktop\appuals\0x80071771.jpg - 파일을 열어 오류가 해결되었는지 확인합니다.
여전히 파일을 열 때 0x80071771 오류 – "지정된 파일을 해독할 수 없습니다" 문제가 발생한다면, 아래의 다음 방법으로 넘어가세요.
방법 2: Windows 10에 EFS 파일 암호화 인증서 및 키 가져오기
다른 컴퓨터에서 EFS로 암호화된 파일을 열 수 있는 유일한 방법은 인증서와 키를 함께 가져오는(import) 것입니다. 적절한 파일 암호화 키가 없는 응용 프로그램은 해당 파일을 열 수 없습니다.
단, 이 방법을 적용하려면 파일을 암호화하는 데 사용된 컴퓨터에 접근할 수 있어야 하며, 거기서 키와 인증서를 내보내야(export) 합니다. 절차는 다음과 같습니다.
EFS 인증서 및 키 내보내기
- Windows 키 + R을 눌러 실행(Run) 대화상자를 연 후, certmgr.msc를 입력하고 Enter 키를 눌러 인증서 관리자(Certificates Manager) 유틸리티를 실행합니다.
- 인증서 관리자에서 왼쪽 창의 인증서(Certificates) 아래 개인(Personal)을 클릭한 후, 오른쪽 패널에서 인증서(Certificates)를 더블클릭합니다.
- 새 컴퓨터로 가져올 인증서를 마우스 오른쪽 버튼으로 클릭하고 모든 작업 > 내보내기(All Tasks > Export)를 선택합니다.
- 첫 화면에서 다음(Next)을 클릭하고, 다음 화면에서 예, 개인 키를 내보냅니다(Yes, export the private key)를 선택합니다.
- 개인 정보 교환 – PKCS #12(Personal Information Exchange – PKCS #12)를 선택하고, 가능하다면 인증 경로에 있는 모든 인증서 포함, 확장된 모든 속성 내보내기, 인증서 개인 정보 사용 가능 항목에 체크되어 있는지 확인한 후 다음(Next)을 클릭합니다.
- PFX 파일의 암호를 설정하고 확인합니다. 암호화 방식은 TripleDES로 둔 상태에서 다음(Next)을 다시 클릭합니다.
- 찾아보기(Browse) 버튼을 눌러 PFX 파일을 저장할 위치를 지정한 후, 다시 다음(Next)을 클릭합니다.
- 마지막으로 마침(Finish)을 클릭해 과정을 완료합니다.
아래 단계는 파일 암호화 인증서 및 EFS에서 사용하는 키가 담긴 PFX 파일을 다른 컴퓨터로 가져오는 방법을 안내합니다. 인증서와 키를 가져오는 방법은 두 가지가 있습니다.
두 방법 모든 Windows 10 버전에서 작동하므로, 현재 상황에 더 편리한 방법을 선택해 진행하시면 됩니다.
옵션 1: PFX 파일을 통해 EFS 파일 암호화 인증서 및 키 가져오기
- 첫 번째 컴퓨터에서 PFX 파일을 확보한 후, 0x80071771 오류가 발생하는 컴퓨터로 옮깁니다.
- PFX 파일이 새 컴퓨터로 옮겨지면 해당 파일을 마우스 오른쪽 버튼으로 클릭하고 PFX 설치(Install PFX)를 선택합니다.
- 저장 위치(Store Location)에서 현재 사용자(Current User)를 선택하고 다음(Next)을 클릭합니다.
- 가져올 파일(File to Import) 창에서 올바른 PFX 파일이 선택되어 있는지 확인한 후 다음(Next)을 다시 클릭합니다.
- 다음 화면에서 파일을 암호화할 때 설정했던 암호를 암호(Password) 필드에 입력하고, 이 키를 내보낼 수 있도록 표시(Mark this key as exportable)와 확장된 모든 속성 포함(Include all extended properties) 항목에 체크합니다.
- 그런 다음 인증서 종류에 따라 인증서 저장소 자동 선택 옵션을 선택하고 다음(Next)을 클릭합니다.
참고: Windows가 인증서를 검증하지 못하면 보안 경고가 표시될 수 있습니다. 이 경우 파일의 출처를 신뢰한다면 예(Yes)를 클릭해 확인하세요. - 마침(Finish)을 클릭해 가져오기를 완료하고, 최종 확인 창에서 확인(Ok)을 클릭합니다.
옵션 2: 인증서 관리자를 통해 EFS 파일 암호화 인증서 및 키 가져오기
- Windows 키 + R을 눌러 실행(Run) 대화상자를 연 후, certmgr.msc를 입력하고 Enter 키를 눌러 인증서 관리자(Certificates Manager)를 실행합니다.
- 인증서 관리자 유틸리티가 열리면 왼쪽 창에서 개인(Personal) 폴더(인증서 – 현재 사용자 아래)를 마우스 오른쪽 버튼으로 클릭합니다.
- 모든 작업(All Tasks)을 선택한 후 가져오기(Import)를 클릭해 가져오기 마법사를 실행합니다.
- 첫 화면에서 현재 사용자(Current User)가 선택되어 있는지 확인한 후 다음(Next)을 클릭합니다.
- 다음 화면에서 찾아보기(Browse) 버튼을 클릭해 가져오려는 PFX 파일의 위치로 이동한 후, 열기(Open)를 누르고 다시 다음(Next)을 클릭해 마법사를 계속 진행합니다.
- 다음 화면에서 PFX 파일의 암호를 입력하고, 이 키를 내보낼 수 있도록 표시(Mark this key as exportable)와 확장된 모든 속성 포함(Include all extended properties) 항목에 체크합니다.
- 그런 다음 인증서 종류에 따라 인증서 저장소 자동 선택 옵션을 선택하고 다음(Next)을 다시 클릭합니다.
- 마침(Finish)을 클릭해 가져오기를 완료한 후, 최종 확인 창에서 확인(Ok)을 클릭합니다.
