Windows 10 백업 중 0x80780166 오류 발생? 원인과 5가지 해결 방법 총정리

Windows 10에서 시스템 백업을 진행하다가 0x80780166 오류 코드가 나타나면서 백업에 실패하는 사례가 많이 보고되고 있습니다. 이 문제는 특정 Windows 버전에만 국한되지 않으며, Windows 7, Windows 8.1, Windows 10 모두에서 발생하는 것으로 확인되었습니다.

0x80780166 오류의 주요 원인은 무엇일까?

다양한 사용자 보고와 실제로 문제를 해결한 사용자들이 추천한 복구 전략들을 분석한 결과, 이 오류 코드를 유발할 수 있는 몇 가지 시나리오를 확인했습니다. 주요 원인은 다음과 같습니다.

• VSS 서비스 시작 유형 문제 – 볼륨 섀도우 복사 서비스(Volume Shadow Copy Service, VSS)가 잘못된 상태로 설정된 경우입니다. 이는 백업 절차를 중단시키는 가장 흔한 원인으로, 시작 유형을 '수동'에서 '자동'으로 변경하면 해결할 수 있습니다.
• WindowsImageBackup 폴더 내 손상된 데이터 – 이전 백업이 실패한 후 다시 백업을 시도하는 경우, 남아 있는 잔여 데이터가 새로운 백업 작업을 방해할 수 있습니다. 이 경우 WindowsImageBackup 폴더의 내용을 비우면 문제가 해결됩니다.
• 시스템 파일 손상 – 백업 절차에는 여러 관련 서비스가 함께 작동하기 때문에, 파일이 손상되면 백업 과정 자체가 중단될 수 있습니다. SFC 및 DISM 같은 기본 제공 유틸리티로 시스템 파일 손상을 복구하는 것이 효과적입니다.
• 심각한 수준의 파일 손상 – 일반적인 방법으로 해결할 수 없는 심각한 시스템 파일 손상인 경우도 있습니다. 이런 상황에서는 시스템 복원 지점을 사용하거나 복구 설치(Repair Install)를 통해 OS 구성 요소를 초기화하는 것이 유일한 방법입니다.

방법 1: VSS 서비스 시작 유형을 '자동'으로 변경

0x80780166 오류의 가장 흔한 원인은 볼륨 섀도우 복사 서비스(VSS)가 비정상적인 상태로 설정되어 있는 것입니다. 대부분의 경우 VSS 서비스의 시작 유형이 '수동(Manual)'으로 되어 있어 백업 절차가 정상적으로 완료되지 못합니다.

실제로 동일한 문제를 겪었던 여러 사용자들은 VSS 서비스의 시작 유형을 '수동'에서 '자동(Automatic)'으로 변경한 뒤 문제를 해결했다고 보고했습니다. 이후 대부분의 사용자가 0x80780166 오류 없이 백업을 성공적으로 완료했습니다.

다음은 볼륨 섀도우 복사 서비스의 시작 유형을 자동으로 변경하는 방법입니다.

참고: 아래 안내는 어떤 운영체제 버전에서 문제가 발생했더라도 동일하게 적용됩니다.

1. Windows 키 + R을 눌러 실행(Run) 대화상자를 엽니다. 실행 창에 "services.msc"를 입력하고 Enter 키를 눌러 서비스(Services) 창을 엽니다.
2. 서비스 화면에서 목록을 아래로 스크롤하여 Volume Shadow Copy 항목을 찾습니다. 해당 항목을 마우스 오른쪽 버튼으로 클릭하고 컨텍스트 메뉴에서 속성(Properties)을 선택합니다.
3. 볼륨 섀도우 복사 서비스의 속성 화면이 열리면 일반(General) 탭으로 이동한 후 시작 유형(Startup type)을 자동(Automatic)으로 변경합니다. 그다음 적용(Apply)을 클릭해 변경 사항을 저장합니다.
4. 컴퓨터를 재부팅한 후, 이전에 0x80780166 오류를 발생시켰던 백업 작업을 다시 진행합니다.

동일한 문제가 계속 발생한다면 아래의 다음 방법을 시도해 보세요.

방법 2: WindowsImageBackup 폴더 정리

백업을 저장하려는 드라이브에 이전 백업의 잔여 파일이 이미 남아 있는 경우에도 이 오류가 발생할 수 있습니다. 대부분의 경우 이전 백업 절차가 중간에 중단되었거나 저장 공간 부족으로 완료되지 못했을 때 이런 상황이 생깁니다.

비슷한 상황에 처했던 여러 사용자들은 백업을 저장하려 했던 드라이브에 접근해 WindowsImageBackup 폴더의 내용을 삭제한 후 문제를 해결했다고 확인했습니다. 폴더를 정리하고 백업을 다시 시도한 결과, 더 이상 오류가 발생하지 않았다는 보고가 많습니다.

다음 단계를 따라 WindowsImageBackup 폴더를 정리하고 0x80780166 오류를 해결해 보세요.

1. 파일 탐색기를 열고 백업 생성을 시도했던 드라이브로 이동합니다.
2. WindowsImageBackup 폴더를 찾아 더블클릭하여 들어갑니다. 참고로 이 폴더는 기본적으로 숨김 처리되어 있으므로, 폴더가 보이지 않는다면 화면 상단의 보기(View) 탭에서 숨긴 항목(Hidden items)에 체크하세요.
3. 숨겨진 폴더가 보이면 WindowsImageBackup 폴더에 들어가 모든 파일을 선택한 뒤 폴더가 완전히 비워질 때까지 삭제합니다.
4. 백업 절차를 다시 한 번 실행하고 문제가 해결되었는지 확인합니다.

여전히 동일한 0x80780166 오류 코드가 발생한다면 아래의 다음 해결 방법으로 넘어가세요.

방법 3: SFC 및 DISM 검사 실행

여러 사용자 보고에 따르면, 시스템 파일 손상이 백업 절차를 방해하면서 이 문제가 발생하기도 합니다. 이런 경우에는 논리적 오류와 시스템 파일 손상을 복구할 수 있는 두 가지 유틸리티, 즉 DISM(Deployment Image Servicing and Management)과 SFC(System File Checker)를 실행하면 0x80780166 오류를 해결할 가능성이 높습니다.

두 도구 모두 시스템 파일 오류로 인한 문제에 유용하지만, 파일 손상에 접근하는 방식이 서로 다릅니다. SFC는 로컬에 캐시된 복사본을 활용해 손상된 파일을 교체하기 때문에 논리적 오류 수정에 더 적합합니다. 반면 DISM은 손상된 OS 구성 요소 복구에 더 강력하며, WU(Windows Update) 구성 요소를 통해 최신 정상 파일을 다운로드하여 손상된 파일을 교체합니다.

두 유틸리티는 각각의 장점이 있으므로, 0x80780166 오류가 발생했고 앞선 방법들로 해결되지 않았다면 둘 다 실행해 보는 것을 권장합니다. 절차는 다음과 같습니다.

1. Windows 키 + R을 눌러 실행 대화상자를 연 후, 텍스트 입력란에 'cmd'를 입력하고 Ctrl + Shift + Enter를 눌러 관리자 권한으로 명령 프롬프트를 엽니다. UAC(사용자 계정 컨트롤) 창이 나타나면 예(Yes)를 클릭해 관리자 권한을 부여합니다.
2. 관리자 권한 CMD 창이 열리면 아래 명령어를 입력하고 Enter 키를 눌러 DISM 검사를 시작합니다.

   Dism.exe /online /cleanup-image /scanhealth
   Dism.exe /online /cleanup-image /restorehealth

   참고: DISM은 교체가 필요한 파일의 정상 복사본을 다운로드하기 위해 Windows Update를 적극적으로 사용합니다. 따라서 이 절차를 시작하기 전에 안정적인 인터넷 연결이 되어 있는지 확인하세요. 첫 번째 명령어(scanhealth)는 시스템 불일치를 검사하는 용도이며, 두 번째 명령어(restorehealth)는 첫 번째 검사에서 발견된 불일치를 복구하는 용도입니다.

3. DISM 검사가 완료되면 컴퓨터를 재부팅하고 다음 시작 순서가 완료될 때까지 기다립니다.
4. 재부팅이 완료되면 1단계를 반복해 다시 관리자 권한 명령 프롬프트를 연 후, 아래 명령어를 입력하고 Enter 키를 눌러 SFC 검사를 시작합니다.

   sfc /scannow

   참고: SFC 검사를 시작한 후에는 프로세스를 중단하지 않는 것이 좋습니다. 중간에 강제 종료하면 향후 다른 논리적 오류에 시스템이 노출될 수 있습니다.

5. 컴퓨터를 다시 재부팅한 후 0x80780166 오류가 해결되었는지 확인합니다.

동일한 문제가 계속된다면 아래의 다음 해결 방법을 시도해 보세요.

방법 4: 시스템 복원 도구 활용

위의 방법으로도 0x80780166 오류가 계속되고, 특정 작업 도중 예기치 않은 종료(강제 종료, 치명적 오류 등)가 발생한 이후부터 문제가 시작되었다면, 시스템 복원(System Restore) 도구를 활용해 오류가 발생하지 않았던 건강한 시점으로 컴퓨터 상태를 되돌리는 방법을 고려해 볼 수 있습니다.

이 도구는 스냅샷을 활용해 컴퓨터 상태를 이전 시점으로 복원할 수 있습니다. 기본적으로 Windows는 중요한 PC 이벤트(앱 설치, 대규모 업데이트, 보안 검사 등)마다 새로운 스냅샷을 생성하도록 설정되어 있습니다. 기본 설정을 변경하지 않았다면 선택할 수 있는 복원 지점이 충분히 있을 가능성이 높습니다.

복원 지점을 사용하기 전에 주의할 점이 있습니다. 복원 지점을 생성한 이후에 적용된 모든 변경 사항은 사라집니다. 즉, 그 기간 동안 설치한 응용 프로그램, 사용자 환경 설정 등 모든 것이 이전 상태로 되돌려집니다.

시스템 복원을 진행하기로 결정했다면, 아래의 단계별 가이드를 따르세요.

1. Windows 키 + R을 눌러 실행 대화상자를 연 후, 텍스트 입력란에 'rstrui'를 입력하고 Enter 키를 눌러 시스템 복원(System Restore) 마법사를 엽니다.
2. 시스템 복원 마법사가 열리면 초기 화면에서 다음(Next)을 클릭해 다음 메뉴로 이동합니다.
3. 처음 백업을 시도하기 전 날짜의 복원 지점을 선택하고 다음을 클릭해 최종 메뉴로 진행합니다.
4. 마침(Finish)을 클릭한 후 확인 창에서 예(Yes)를 클릭하면 복원 프로세스가 시작됩니다.
5. 몇 초 후 컴퓨터가 재부팅되며, 다음 시스템 시작 시 새로운 상태가 적용됩니다.
6. 이전 상태로 복원이 완료되면 다시 백업을 시도하고 동일한 오류가 발생하는지 확인합니다.

백업 후반 단계에서 여전히 0x80780166 오류가 나타난다면 아래의 마지막 방법으로 넘어가세요.

방법 5: 복구 설치 또는 클린 설치 진행

위에서 소개한 모든 해결 방법으로도 문제가 해결되지 않았다면, 일반적인 방법으로는 해결할 수 없는 심층적인 시스템 파일 손상 문제를 겪고 있을 가능성이 큽니다. 이 경우 운영체제의 모든 구성 요소를 초기화하여 시스템 파일 손상을 완전히 제거하는 것이 효과적입니다.

0x80780166 오류 해결에 어려움을 겪었던 여러 Windows 사용자들은 복구 설치(repair install) 또는 클린 설치(clean install)를 진행한 후 문제가 완전히 사라지고 백업도 정상적으로 생성할 수 있었다고 확인했습니다.

가장 빠른 방법을 원하고 데이터 손실이 크게 걱정되지 않는다면 클린 설치가 좋은 선택입니다. 이 방식은 손상으로 인해 영향을 받을 수 있는 모든 Windows 구성 요소를 초기화합니다. 하지만 가장 큰 단점은 서드파티 유틸리티로 미리 데이터를 백업하지 않는 한 앱, 게임, 사용자 환경 설정, 개인 데이터까지 모두 삭제된다는 점입니다.

앱, 게임, 개인 데이터를 포함한 대부분의 파일을 유지하면서 진행하고 싶다면 복구 설치(in-place repair)가 더 좋은 방법입니다. 다만 이 방법은 시간이 더 걸리며, 설치 미디어가 필요하므로 미리 준비하지 않았다면 새로 만들어야 합니다.