하드웨어나 소프트웨어를 설치할 때 디지털 서명이 없는 파일이 포함되어 있으면 백신 프로그램과 Windows 자체가 이를 의심하게 됩니다. Windows 보안(Windows Defender)은 이런 상황에서 파일의 디지털 서명을 검증하지 못하면 오류 577을 표시하는 것으로 알려져 있습니다. 이 글에서는 해당 문제를 해결하는 방법을 단계별로 안내합니다.
Windows Defender 서비스를 시작할 수 없음
표시되는 전체 오류 메시지는 다음과 같습니다.
Windows Defender 서비스를 시작할 수 없습니다.
오류 577: Windows에서 이 파일의 디지털 서명을 확인할 수 없습니다. 최근의 하드웨어 또는 소프트웨어 변경으로 인해 잘못 서명되었거나 손상된 파일이 설치되었거나, 알 수 없는 출처의 악성 소프트웨어가 설치되었을 수 있습니다.
Windows Defender 오류 577, 디지털 서명을 확인할 수 없음
이 오류는 대개 Windows Defender를 켜려고 할 때 발생하며, 기존에 설치된 소프트웨어와의 충돌이 원인입니다. 특히 일반 프로그램보다는 서드파티 백신 등 보안 관련 소프트웨어가 문제를 일으키는 경우가 많습니다.
1] 잔여 파일·소프트웨어 확인
새로운 백신 프로그램을 설치했거나 최근에 프로그램을 제거했다면, 파일이 완전히 삭제되지 않고 남아 있을 가능성이 있습니다. 남은 파일을 직접 찾아 삭제하거나, 해당 프로그램 전용 제거 도구를 사용해 완전히 정리해야 합니다. 보안 소프트웨어라면 각 백신 업체에서 배포하는 전용 제거 도구(AntiVirus Removal Tool)를 사용하는 것이 가장 확실합니다. 목록에 없는 프로그램이라면 무료 언인스톨러 소프트웨어로 잔여 파일과 레지스트리 항목을 삭제해 볼 수 있습니다.
2] Webroot 제거 여부 확인
Webroot를 사용한 적이 있다면 제거 과정이 완전히 끝나지 않았을 수 있습니다. Webroot 공식 제거 도구를 다운로드해 제거를 마무리한 뒤, Windows Defender가 정상적으로 작동하는지 확인해 보세요.
3] 레지스트리 편집으로 Windows Defender 켜기
Windows Defender가 켜지지 않을 때 시도할 수 있는 방법은 여러 가지가 있으며, 레지스트리 편집에 익숙하다면 아래 단계를 따라 해볼 수 있습니다.
Win + R 키를 눌러 실행 창을 엽니다.
“regedit”를 입력하고 Enter 키를 누릅니다.
다음 경로로 이동합니다.
HKEY_LOCAL_MACHINE\SOFTWARE\Policies\Microsoft\Windows Defender
HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows Defender
‘DisableAntiSpyware’와 ‘DisableAntiVirus’ 값을 찾아 0으로 설정하거나, 해당 DWORD 값을 삭제합니다. 두 값이 존재하지 않는다면 같은 이름으로 DWORD(32비트) 값을 새로 만들고 0으로 지정하면 됩니다.
이후 Windows Defender를 다시 실행하면 정상적으로 작동할 것입니다.
참고로, 최신 Windows 10/11에서는 변조 방지(Tamper Protection) 기능이 활성화되어 있으면 레지스트리 변경이 무시될 수 있습니다. 이 경우 Windows 보안 앱 → 바이러스 및 위협 방지 설정 → 변조 방지 설정에서 일시적으로 끈 후 작업을 진행하세요.
위 방법 중 레지스트리 편집이 효과적이긴 하지만, 문제를 근본적으로 해결하려면 평가판 보안 소프트웨어와 남아 있는 레지스트리 항목·파일을 모두 제거해야 한다는 점을 유의하세요. 이 글이 도움이 되어 오류 577을 해결하고 Windows Defender를 정상적으로 켤 수 있기를 바랍니다.