오랜 경력의 소프트웨어 엔지니어로서 단언하건대, 악명 높은 블루스크린(BSOD, Blue Screen of Death)만큼 짜증나는 일은 드뭅니다. 특히 마감 시간에 쫓겨 새벽 두 시에 집중해서 코드를 작성해야 하는 상황에서 마주친다면 그 불쾌함은 이루 말할 수 없습니다.
이것은 개발자로서의 개인적인 경험일 수 있지만, 요즘 대부분의 직장인에게 컴퓨터는 필수품이라는 사실에는 변함이 없습니다.
요컨대 블루스크린은 어떤 상황에서든 마치 세계 챔피언 체스 대회의 체스판 위에 비둘기가 내려앉은 것처럼 환영받지 못하는 존재입니다.
이 글에서 다루는 내용
이번 글에서는 BSOD를 유발하는 특히 성가신 원인 중 하나인 '커널 보안 검사 실패(Kernel Security Check Failure)' 오류를 살펴봅니다. 그리고 이 문제가 발생했을 때 이를 해결할 수 있는 다양한 방법까지 단계별로 안내합니다.
커널 보안 검사 실패의 주요 원인
'커널 보안 검사 실패' 오류가 발생하는 대표적인 원인으로는 손상된 시스템 파일, 결함이 있는 하드웨어, 오래된(구버전) 드라이버 등을 꼽을 수 있습니다.
1. 손상된 시스템 파일
시스템 파일이 손상되는 가장 흔한 원인은 악성코드(멀웨어)입니다. '멀웨어(Malware)'는 'Malicious Software(악성 소프트웨어)'의 줄임말로, 사용자가 컴퓨터로 작업할 때 방해하고 침입하도록 고의적으로 설계된 프로그램을 의미합니다.
바이러스, 트로이 목마, 웜, 스파이웨어, 랜섬웨어 등의 용어를 들어본 적이 있을 것입니다. 이 모두가 악성 소프트웨어, 즉 멀웨어에 해당합니다.
2. 하드웨어 결함
RAM(메모리)의 불량 또는 손상되거나 결함이 있는 하드디스크 드라이브도 이 오류의 원인이 될 수 있습니다.
3. 구버전 드라이버
여러 원인 중에서 가장 가능성이 높은 것은 바로 오래된 드라이버입니다.
특히 예전 버전의 윈도우에서 윈도우 10으로 업그레이드한 경우 이런 문제가 자주 발생합니다. 기존 버전에서는 정상적으로 작동하던 드라이버가 윈도우 10과 호환되지 않아 충돌을 일으키는 것이죠.
블루스크린(BSOD)이란 무엇인가?
'커널 보안 검사 실패' 오류는 보통 윈도우 부팅 과정에서 나타납니다. 부팅 시 윈도우는 데이터 무결성을 확인하는 점검 절차를 수행하는데, 이 과정에서 중요한 데이터 구조에 손상이 감지되면 Kernel_Security_check_failure 오류가 발생하며 블루스크린이 나타나는 것입니다.
아래 스크린샷에서 볼 수 있듯이 화면에는 오류에 대한 세부 정보가 거의 표시되지 않습니다. 다행히 메시지에는 중지 코드(stop code)가 포함되어 있어, BSOD가 발생한 원인을 파악하는 데 도움이 됩니다.
커널 보안 검사 실패 오류 해결 방법
다행히도 이 오류를 해결할 수 있는 방법은 여러 가지가 있습니다.
문제의 원인을 정확히 찾으려면 하나씩 순서대로 점검해 보는 것이 좋습니다. 원인을 파악했다면 그에 맞는 해결책을 적용하면 됩니다.
하지만 의외로 간단한 방법부터 시도해볼 만합니다. 첫 번째 항목인 윈도우 10 최신 버전 업데이트만으로도 문제가 해결되는 경우가 많습니다.
이 글에서 다룰 해결 방법은 아래와 같으며, 각 항목별로 단계별 지침을 이어서 설명합니다.
- 윈도우 10 최신 버전으로 업데이트
- 필요한 드라이버 업데이트
- 바이러스 검사 실행
- 손상된 윈도우 시스템 파일 복구(SFC)
- 백신 프로그램 비활성화 후 테스트
- RAM(메모리) 문제 진단
- 하드디스크 드라이브 문제 진단
- 안전 모드로 PC 부팅
방법 1: 윈도우 10 최신 버전으로 업데이트
가장 간단하게 시도할 수 있는 방법입니다. 윈도우 10을 최신 버전으로 업데이트하려면 아래 단계를 따르세요.
- Windows 키 + I를 눌러 설정 앱을 실행합니다.
- '업데이트 및 보안' 항목을 클릭합니다.
- '업데이트 확인' 버튼을 클릭합니다. (다운로드 및 설치 진행 상황이 화면에 표시됩니다.)
- 업데이트가 완료되면 블루스크린 오류가 여전히 발생하는지 확인합니다.
방법 2: 필요한 드라이버 업데이트
문제가 있는 드라이버를 확인하는 가장 쉬운 방법은 장치 관리자를 이용하는 것입니다.
Windows 키 + X를 누르면 장치 관리자가 열리고, 트리 형태의 목록이 표시됩니다.
트리 구조의 노드를 모두 펼쳐보면 어떤 드라이버를 업데이트해야 하는지 한눈에 알 수 있습니다. 업데이트가 필요한 드라이버 옆에는 노란색 느낌표(!)가 표시됩니다.
드라이버를 업데이트하려면 해당 드라이버 노드를 마우스 우클릭한 후 '드라이버 업데이트' 메뉴를 선택하면 됩니다.
그러면 두 가지 옵션이 제공됩니다. 첫째, 윈도우 10이 자동으로 드라이버를 검색하도록 하는 방법, 둘째, 컴퓨터에 이미 저장되어 있는 새 드라이버 파일을 직접 지정하는 수동 방식입니다.
이후 드라이버 설치가 완료될 때까지 기다립니다.
설치가 끝나면 장치 관리자로 돌아가 느낌표가 표시된 다른 드라이버가 있는지 계속 확인합니다. 추가로 발견되면 같은 방식으로 모든 문제 드라이버를 업데이트할 때까지 반복합니다.
모두 완료되었다면 컴퓨터를 재시작하여 새 드라이버의 변경 사항이 적용되도록 합니다. 이 과정으로 블루스크린 문제가 해결되기를 바랍니다.
만약 문제가 계속된다면, 다음 해결 방법으로 넘어가 조사를 이어가야 합니다.
방법 3: 바이러스 검사 실행
PC에 최신 윈도우 업데이트가 설치되어 있는지 먼저 확인한 후, 백신 프로그램으로 바이러스 검사를 실시하세요.
바이러스가 하나 이상 발견되면 해당 악성코드를 제거하기 위한 적절한 조치를 취해야 합니다.
방법 4: 손상된 윈도우 시스템 파일 복구 (SFC)
시스템 파일 검사기(SFC, System File Checker) 도구를 사용하면 손상된 시스템 파일을 복구할 수 있습니다. SFC 도구를 실행하는 방법은 아래와 같습니다.
- 바탕화면에서 Windows + R 키를 눌러 '실행' 창을 엽니다.
- '실행' 창에 cmd를 입력한 후 Ctrl + Shift + Enter를 눌러 관리자 권한으로 명령 프롬프트를 실행합니다.
- '사용자 계정 컨트롤(UAC)' 창이 뜨면 '예' 버튼을 클릭합니다.
- 명령 프롬프트 창에 SFC /scannow를 입력하고 Enter 키를 누릅니다.
시스템 파일 검사기는 윈도우 시스템 파일의 무결성을 검사하고, 필요한 경우 적절한 복구 작업을 수행합니다.
검사가 완료되면 컴퓨터를 재부팅합니다.
방법 5: 백신 프로그램 비활성화 후 테스트
백신 소프트웨어는 선의의 목적으로 작동하지만, 의외로 해가 없는 서비스나 응용 프로그램의 실행을 차단하여 오류를 일으키는 경우도 있습니다.
이 방법은 백신 프로그램이 문제의 원인인지 확인해 보는 테스트입니다. 단, 백신 프로그램 없이 컴퓨터를 사용하는 것은 권장하지 않는다는 점을 유의하세요.
백신 프로그램을 임시로 비활성화하려면 작업 관리자를 실행하면 됩니다. 키보드에서 Ctrl + Shift + Esc를 누르세요.
작업 관리자가 간소화 모드로 열렸다면 '자세히' 옵션을 클릭합니다. 그런 다음 작업 관리자 창 상단의 '시작 프로그램' 탭을 선택합니다.
목록에서 사용 중인 백신 응용 프로그램 이름을 찾아 해당 항목을 클릭합니다.
이후 작업 관리자 창 오른쪽 하단의 '사용 안 함' 버튼을 클릭합니다.
마지막으로 컴퓨터를 재시작하여 블루스크린이 여전히 나타나는지 확인합니다.
다시 한번 강조하지만, 이 방법으로 문제가 해결되더라도 백신 프로그램 없이 컴퓨터를 계속 사용해서는 안 됩니다. 다른 보안 대책을 마련해야 합니다.
방법 6: RAM(메모리) 문제 진단
RAM(메모리) 문제를 확인하려면 윈도우 10에 내장된 메모리 진단 도구를 사용할 수 있습니다. 작업 표시줄의 돋보기(검색) 아이콘을 클릭하거나 Windows 키 + S를 누르세요.
검색창에 '메모리 진단'을 입력하고 검색 결과에서 첫 번째 항목을 실행합니다.
팝업 대화상자가 나타나면 '지금 다시 시작하고 문제 확인(권장)' 옵션을 선택하여 진단 프로세스를 시작합니다.
부팅 과정 동안 메모리 진단 도구가 RAM 관련 오류와 문제를 점검합니다. 문제가 발견되면 그 결과가 보고됩니다.
방법 7: 하드디스크 드라이브 문제 진단
체크 디스크(chkdsk) 도구를 사용하면 하드디스크의 불일치 및 오류를 검사할 수 있습니다.
체크 디스크 도구를 실행하려면 관리자 계정으로 윈도우에 로그인되어 있어야 합니다. 그런 다음 아래 단계를 따르세요.
- 바탕화면에서 Windows 키 + R을 눌러 '실행' 창을 엽니다.
- '실행' 창에 cmd를 입력한 후 Ctrl + Shift + Enter를 눌러 명령 프롬프트를 관리자 권한으로 실행합니다.
- '사용자 계정 컨트롤(UAC)' 창에서 '예' 버튼을 클릭합니다.
- chkdsk c: /f를 입력하고 Enter 키를 누릅니다.
'/f' 옵션은 발견된 오류를 수정하는 기능입니다.
추가로 '/r' 옵션과 '/x' 옵션을 함께 사용할 수도 있습니다. '/r' 옵션은 불량 섹터를 찾아 읽을 수 있는 데이터를 복구하고, '/x' 옵션은 검사가 시작되기 전에 해당 디스크 드라이브를 강제로 분리(dismount)합니다.
방법 8: 안전 모드로 PC 부팅
안전 모드로 부팅하면 윈도우 10이 최소한의 파일과 드라이버만으로 시작됩니다. 안전 모드로 부팅하려면 아래 단계를 따르세요.
- Windows 키 + I를 눌러 설정 앱을 실행합니다.
- '업데이트 및 보안' 항목에서 '복구' 탭을 선택합니다.
- 오른쪽 창의 '고급 시작' 항목에서 '지금 다시 시작' 버튼을 클릭합니다.
- PC가 재시작되며 '옵션 선택' 화면이 나타나면 문제 해결 > 고급 옵션 > 시작 설정 > 다시 시작을 선택합니다.
PC가 다시 시작되면 옵션 목록이 표시됩니다. '4'를 입력하거나 'F4' 키를 눌러 안전 모드로 시작합니다. 인터넷 연결이 필요하다면 '5'를 입력하거나 'F5' 키를 눌러 네트워킹이 포함된 안전 모드를 선택하세요.
안전 모드에서 문제가 발생하지 않는다면, 기본 설정과 기본 장치 드라이버는 문제의 원인이 아니라는 뜻입니다.
즉, 문제는 일반 모드에서 실행되는 추가 드라이버나 응용 프로그램 때문일 가능성이 높습니다.
이제 소거법을 활용해 관련 드라이버와 응용 프로그램에 집중할 수 있습니다. 가장 최근에 설치한 프로그램부터 시작하여 오래된 순서대로 하나씩 제거해 보세요.
각각 제거할 때마다 문제가 재현되는지 테스트하면, 원인이 되는 응용 프로그램을 좁혀갈 수 있습니다. 범인을 찾았다면 해당 소프트웨어를 삭제하여 문제를 해결하면 됩니다.
마무리
'커널 보안 검사 실패' 오류는 상당히 번거로운 문제지만, 이 글에서 소개한 단계들을 차근차근 따라 하면 충분히 해결할 수 있습니다. 각 방법을 순서대로 점검하면서 원인을 찾아내고, 쾌적한 윈도우 10 환경을 되찾으시길 바랍니다.