Windows 10 사용 중 특정 프로그램이 갑자기 종료되거나 오류가 발생한다면 DEP(데이터 실행 방지) 기능이 원인일 수 있습니다. 이 글에서는 문제가 되는 프로그램에 한해 DEP를 비활성화하는 방법과, 명령 프롬프트를 이용해 DEP를 항상 켜거나 끄는 방법까지 자세히 알려드립니다.
DEP(데이터 실행 방지)란 무엇인가?
데이터 실행 방지(Data Execution Prevention, DEP)는 바이러스와 각종 보안 위협으로부터 컴퓨터를 보호하는 Windows의 보안 기능입니다. 악성 프로그램은 Windows나 다른 정상 프로그램을 위해 예약된 시스템 메모리 영역에서 코드를 실행하려는 방식으로 공격을 시도할 수 있으며, 이러한 공격은 프로그램과 파일에 심각한 손상을 입힐 수 있습니다.
DEP는 프로그램들이 시스템 메모리를 안전하게 사용하고 있는지 지속적으로 감시함으로써 컴퓨터를 보호합니다. 만약 DEP가 메모리를 잘못된 방식으로 사용하는 프로그램을 발견하면 해당 프로그램을 강제 종료하고 사용자에게 알려줍니다.
아래 단계를 따라 하면 특정 프로그램에 대해서만 DEP를 손쉽게 끌 수 있습니다.
참고: DEP는 시스템 전체에 대해 끌 수도 있지만, 그럴 경우 컴퓨터의 보안이 크게 약화되므로 권장하지 않습니다.
Windows 10에서 DEP 비활성화하는 방법
1단계: 시스템 속성 열기
바탕화면 또는 파일 탐색기에서 '내 PC'(또는 '내 컴퓨터')를 마우스 오른쪽 버튼으로 클릭한 뒤 '속성'을 선택합니다. 이후 왼쪽 패널에서 '고급 시스템 설정'을 클릭합니다.
2단계: 성능 설정 창 열기
'고급' 탭에서 '성능' 항목 아래의 '설정' 버튼을 클릭합니다.
3단계: 데이터 실행 방지 탭으로 이동
'성능 옵션' 창이 열리면 상단의 '데이터 실행 방지' 탭을 클릭합니다.
여기서 두 가지 옵션 중 하나를 선택할 수 있습니다. 기본값은 "필수 Windows 프로그램 및 서비스에 대해서만 DEP 사용"이며, 두 번째 옵션을 선택하면 직접 제외한 프로그램을 제외한 모든 프로그램과 서비스에 DEP가 적용됩니다.
4단계: 문제가 있는 프로그램 제외 목록에 추가
특정 프로그램에서 오류가 발생한다면 두 번째 라디오 버튼인 "사용자가 선택한 프로그램 및 서비스를 제외한 모든 프로그램 및 서비스에 대해 DEP 사용"을 선택한 후, 문제가 되는 프로그램을 제외 목록에 추가합니다. 단, 이렇게 하면 Windows의 다른 모든 프로그램에도 DEP가 적용되므로, 다른 프로그램에서 같은 문제가 재현될 수 있다는 점을 유의해야 합니다. 그럴 경우 문제가 생긴 프로그램들을 하나씩 제외 목록에 추가해 주어야 합니다.
5단계: 실행 파일 추가
'추가' 버튼을 클릭한 뒤, DEP 보호에서 제외하려는 프로그램의 실행 파일(.exe)이 저장된 위치로 이동하여 선택합니다.
참고: 제외 목록에 64비트 실행 파일을 추가하려고 하면 "64비트 실행 파일에는 DEP 특성을 설정할 수 없습니다"라는 오류 메시지가 나타날 수 있습니다. 하지만 걱정할 필요는 없습니다. 이는 컴퓨터가 64비트 환경이며 프로세서가 이미 하드웨어 기반 DEP를 지원한다는 의미이기 때문입니다.
프로세서가 하드웨어 기반 DEP를 지원한다는 것은 모든 64비트 프로세스가 항상 보호된다는 뜻입니다. 따라서 64비트 응용 프로그램에 대한 DEP 보호를 해제하려면 DEP를 완전히 끄는 방법밖에 없습니다. 이 작업은 GUI에서는 불가능하며, 명령 프롬프트를 사용해야만 수행할 수 있습니다.
명령 프롬프트로 DEP 항상 켜기 / 항상 끄기
DEP 항상 켜기(Always On)는 Windows의 모든 프로세스에 대해 DEP가 항상 적용되며, 어떤 프로세스도 보호에서 제외할 수 없음을 의미합니다. 반대로 DEP 항상 끄기(Always Off)는 DEP가 완전히 비활성화되어 Windows를 포함한 모든 프로세스와 프로그램이 보호받지 못하는 상태가 됩니다. 두 가지 설정 방법을 순서대로 살펴보겠습니다.
- Windows 버튼을 마우스 오른쪽 버튼으로 클릭하고 '명령 프롬프트(관리자)'를 선택합니다.
- 명령 프롬프트(cmd)에 아래 명령어 중 원하는 것 하나를 입력하고 Enter 키를 누릅니다.
DEP 항상 켜기: bcdedit.exe /set {current} nx AlwaysOn
DEP 항상 끄기: bcdedit.exe /set {current} nx AlwaysOff
두 명령어를 모두 실행할 필요는 없으며, 원하는 동작에 해당하는 하나만 실행하면 됩니다. DEP 설정을 변경한 후에는 반드시 PC를 재시작해야 변경 사항이 적용됩니다. 또한 위 명령어 중 하나를 실행하면 DEP 설정을 조정하던 Windows GUI 인터페이스가 비활성화되므로, 명령줄 방식은 가급적 최후의 수단으로만 사용하는 것이 좋습니다.
함께 보면 좋은 글
- 0xc000007b 응용 프로그램 오류 해결 방법
- Windows 10 아이콘 캐시 복구 방법
- COM 서로게이트 작동 중지 오류 해결 방법
- 시스템 복원 지점 만드는 가장 쉬운 방법
지금까지 Windows 10에서 DEP(데이터 실행 방지)를 끄는 방법을 알아보았습니다. DEP의 개념부터 특정 프로그램 제외, 명령 프롬프트를 활용한 항상 켜기/끄기 설정까지 모두 살펴보았습니다. DEP 관련해 더 궁금한 점이 있다면 언제든지 댓글로 남겨주세요.