Windows용 대부분의 백업 솔루션은 응용 프로그램이나 서비스 데이터의 백업 복사본을 생성할 때 VSS(Volume Shadow Copy Service)를 활용합니다. 그러나 특정 상황에서 VSS 서비스 또는 해당 구성 요소인 VSS Writer가 비정상적으로 동작하여 백업 과정에서 오류가 발생할 수 있습니다. Exchange, MSSQL, Hyper-V 서버 환경에서 이러한 문제를 자주 접하게 되는데, 이 경우 VSS와 관련 구성 요소를 신속하게 복구하기 위해 아래 절차를 활용하면 효과적입니다.
1. 실패한 VSS Writer 확인 방법
먼저 vssadmin 명령어를 사용해 시스템에 등록된 VSS Writer 목록과 각각의 상태를 확인합니다. 명령 프롬프트(관리자 권한)에서 다음 명령을 실행하세요.
vssadmin list writers
출력된 목록에서 Failed(실패) 상태로 표시된 구성 요소를 찾습니다. 정상적으로 동작 중인 구성 요소는 다음과 같이 표시됩니다: State: [1] Stable.
Writer name: 'Microsoft Exchange Writer'
Writer Id: {53da1ac4-4bab-404a-0917-ae23f8aacfb7}
Writer Instance Id: {61b56ab0-9588-432f-ae7b-3233753ffa38}
State: [7] Failed
Last error: Retryable error
위 예시에서는 Microsoft Exchange Writer가 Failed 상태로 표시되어 있으며, 이 경우 Exchange 백업을 정상적으로 완료할 수 없습니다. 일반적으로 이 문제를 해결하는 가장 간단한 방법은 서버를 재시작하는 것이지만, 운영 환경상 항상 가능한 것은 아닙니다.
2. 관련 서비스 재시작으로 VSS Writer 복구
서버 재시작 없이 문제를 해결하려면 해당 VSS Writer와 연관된 Windows 서비스를 재시작해 보세요. 아래 표는 주요 VSS Writer와 연결된 시스템 서비스 목록입니다. 서비스를 중지해도 해결되지 않는 경우, 프로세스가 멈춰 있는 상태일 수 있으므로 작업 관리자나 taskkill 명령으로 해당 프로세스를 강제 종료한 후 다시 시작해야 할 수도 있습니다.
| VSS Writer | 서비스 이름 | 서비스 전체 이름 |
| IIS Config Writer | AppHostSvc | Application Host Helper Service |
| BITS Writer | BITS | Background Intelligent Transfer Service |
| Certificate Authority | CertSvc | Active Directory Certificate Services |
| System Writer | CryptSvc | Cryptographic Services |
| DFS Replication service writer | DFSR | DFS Replication |
| DHCP Jet Writer | DHCPServer | DHCP Server |
| NPS VSS Writer | EventSystem | COM+ Event System |
| IIS Metabase Writer | IISADMIN | IIS Admin Service |
| Microsoft Exchange Writer | MSExchangeIS | Microsoft Exchange Information Store |
| Microsoft Exchange Replica Writer | MSExchangeRepl | Microsoft Exchange Replication Service |
| MSMQ Writer (MSMQ) | MSMQ | Message Queuing |
| NTDS | NTDS | Active Directory Domain Services |
| FRS Writer | NtFrs | File Replication |
| OSearch VSS Writer | OSearch | Office SharePoint Server Search |
| OSearch14 VSS Writer | OSearch14 | SharePoint Server Search 14 |
| SMS Writer | SMS_SITE_VSS_WRITER | SMS_SITE_VSS_WRITER |
| SPSearch VSS Writer | SPSearch | Windows SharePoint Services Search |
| SPSearch4 VSS Writer | SPSearch4 | SharePoint Foundation Search V4 |
| SqlServerWriter | SQLWriter | SQL Server VSS Writer |
| FSRM writer | srmsvc | File Server Resource Manager |
| TermServLicensing | TermServLicensing | Remote Desktop Licensing |
| Microsoft Hyper-V VSS Writer | vmms | Hyper-V Virtual Machine Management |
| ASR Writer | VSS | Volume Shadow Copy |
| COM+ REGDB Writer | VSS | Volume Shadow Copy |
| Registry Writer | VSS | Volume Shadow Copy |
| Shadow Copy Optimization Writer | VSS | Volume Shadow Copy |
| WDS VSS Writer | WDSServer | Windows Deployment Services Server |
| WIDWriter | WIDWriter | Windows Internal Database VSS Writer |
| WMI Writer | Winmgmt | Windows Management Instrumentation |
| WINS Jet Writer | WINS | Windows Internet Name Service (WINS) |
| MSSearch Service Writer | WSearch | Windows Search |
서비스 재시작 후 다음 명령을 다시 실행하여 상태를 확인합니다.
vssadmin list writers
문제가 되던 VSS Writer의 상태가 여전히 Stable로 변경되지 않았다면, VSS 구성 요소와 관련 DLL 라이브러리를 다시 등록(re-register)하는 방법을 시도해 볼 수 있습니다.
3. VSS 구성 요소 재등록 절차
먼저 system32 디렉터리로 이동합니다.
cd c:\windows\system32
다음으로 Volume Shadow Copy와 Microsoft Software Shadow Copy Provider 서비스를 중지합니다.
Net Stop VSS
Net Stop SWPRV
이제 VSS 관련 구성 요소들을 다시 등록합니다.
regsvr32 /s ole32.dll
regsvr32 /s oleaut32.dll
regsvr32 /s vss_ps.dll
vssvc /register
regsvr32 /s /i swprv.dll
regsvr32 /s /i eventcls.dll
regsvr32 /s es.dll
regsvr32 /s stdprov.dll
regsvr32 /s vssui.dll
regsvr32 /s msxml.dll
regsvr32 /s msxml3.dll
regsvr32 /s msxml4.dll
vssvc /register
등록이 완료되면 앞서 중지했던 서비스를 다시 시작합니다.
Net Start SWPRV
Net Start VSS
마지막으로 vssadmin list writers 명령을 실행하여 문제가 되던 VSS Writer의 오류가 사라졌는지 확인합니다.
정리
이처럼 VSS 서비스 재시작 및 구성 요소 재등록 방식은 Windows Server 2008 / 2012 / R2뿐만 아니라 Windows Server 2016 환경에서도 동일하게 적용할 수 있는 검증된 해결 방법입니다. 백업 실패의 원인이 VSS Writer 오류라면, 서버 전체 재시작 없이도 위 절차만으로 신속하게 복구할 수 있습니다.