이 오류 메시지는 Windows 환경에서 여러 가지 상황에 따라 나타날 수 있습니다. 대표적인 경우는 사용자가 계정 로그인을 위해 비밀번호를 입력했는데 Windows가 이를 받아들이지 않는 상황입니다. 이때 비밀번호 재설정을 시도하면 바로 이 오류 메시지가 표시됩니다.
또 다른 경우는 네트워크와 관련된 것으로, 사용자가 호스트 컴퓨터에 연결을 시도할 때 동일한 오류 메시지가 나타나는 경우입니다. 이 문제는 여러 가지 방법으로 해결할 수 있으므로 아래의 해결 방법을 순서대로 따라 해 보세요.
'시스템이 보안 침해 시도를 감지했습니다' 오류의 원인
문제를 정확히 해결하려면 먼저 원인을 파악하고 그에 맞는 해결 단계를 따르는 것이 중요합니다. 아래의 가능한 원인들을 확인해 보세요.
- 서버/DC(도메인 컨트롤러) 컴퓨터에 문제가 있는 Windows 업데이트를 설치했을 수 있습니다. 해당 업데이트는 이 문제를 일으키는 것으로 알려져 있으니 제거를 시도해 보세요.
- 서버/DC의 Windows 방화벽에서 특정 포트가 닫혀 있어 연결이 차단되었을 수 있습니다.
- DNS 주소가 잘못 구성되어 클라이언트 컴퓨터의 연결에 문제가 생겼을 수 있습니다.
- 네트워크에서 IPv6 사용이 문제를 일으킬 수 있습니다.
- 클라이언트 PC의 네트워크 드라이버가 오래되었을 수 있으므로 업데이트를 고려해 보세요.
방법 1: 도메인 컨트롤러에서 KB3167679 업데이트 제거
Windows Server용 KB3167679 업데이트가 출시될 당시 Microsoft는 해당 업데이트가 동일한 도메인 컨트롤러에 연결된 컴퓨터들의 비밀번호 인증에 문제를 일으킬 수 있다고 공식 발표했습니다. 이 문제를 해결하는 가장 간단한 방법은 아래 단계에 따라 DC에서 이 업데이트를 제거하는 것입니다.
- 시작 메뉴 버튼을 클릭하고 검색창에 이름을 입력해 첫 번째 결과를 클릭하거나, 시작 메뉴에서 직접 항목을 찾아 제어판을 엽니다.
- 오른쪽 상단에서 보기 기준: 범주로 전환한 후, 프로그램 영역 아래의 프로그램 제거를 클릭합니다. 화면 오른쪽에 파란색으로 표시된 설치된 업데이트 보기 버튼을 클릭합니다.
- 이제 컴퓨터에 설치된 모든 Windows 업데이트 목록이 표시됩니다. 하단의 Microsoft Windows 섹션에서 KB3167679를 찾습니다.
- 목록을 왼쪽으로 스크롤하여 '설치 날짜' 열을 확인합니다. 이 열에는 업데이트가 설치된 날짜가 표시되므로, KB 번호가 KB3167679인 업데이트를 정확히 찾아냅니다.
- 해당 업데이트를 한 번 클릭하고 상단의 제거 옵션을 선택한 뒤, 화면에 나타나는 지침에 따라 업데이트를 제거합니다.
- Microsoft가 새로운 업데이트를 출시할 때까지 기다립니다. 자동 Windows 업데이트가 설정되어 있다면 새 업데이트는 자동으로 설치됩니다.
방법 2: Windows 방화벽에서 TCP 및 UDP 포트 열기
전체 네트워크가 정상적으로 작동하려면 서버 또는 DC에서 필요한 포트를 반드시 열어야 합니다. 기본 활성 방화벽(대부분 Windows 방화벽)에서 아래 단계에 따라 포트를 허용하고 문제를 해결하세요.
- 시작 메뉴에서 검색하여 제어판으로 이동한 후 시스템 및 보호 >> Windows Defender 방화벽을 클릭합니다. 보기 기준을 큰 아이콘 또는 작은 아이콘으로 전환하면 Windows Defender 방화벽을 바로 클릭할 수도 있습니다.
- 고급 설정을 선택하고 화면 왼쪽 영역에서 인바운드 규칙을 선택합니다.
- 인바운드 규칙을 마우스 오른쪽 버튼으로 클릭하고 새 규칙을 선택합니다. 규칙 유형에서 '포트'를 고른 뒤, 첫 번째 라디오 버튼에서 작업 중인 프로토콜에 따라 TCP 또는 UDP를 선택하고, 두 번째 라디오 버튼을 '특정 로컬 포트'로 설정합니다. 문제를 해결하려면 다음 포트를 추가해야 합니다.
TCP 포트: 80, 443
UDP 포트: 6672, 61455, 61456, 61457, 61458
- 마지막 포트까지 쉼표로 구분하여 입력한 후 다음을 클릭합니다.
- 다음 창에서 연결 허용 라디오 버튼을 선택하고 다음을 클릭합니다.
- 이 규칙을 적용할 네트워크 유형을 선택합니다. 네트워크 연결을 자주 전환하는 환경이라면, 다음을 클릭하기 전에 모든 옵션을 선택해 두는 것이 좋습니다.
- 규칙에 알아보기 쉬운 이름을 지정하고 마침을 클릭합니다.
- 아웃바운드 규칙에 대해서도 동일한 절차를 반복합니다(2단계에서 아웃바운드 규칙을 선택).
방법 3: 네트워크에서 IPv4 사용
IPv6는 다양한 네트워크 연결 문제의 원인이 되곤 합니다. 네트워크를 IPv6 대신 IPv4를 사용하도록 전환하는 것만으로도 이 문제를 해결할 수 있습니다.
- Windows + R 키 조합을 눌러 실행 대화 상자를 열고 'ncpa.cpl'을 입력한 후 확인을 클릭하면 제어판의 네트워크 연결 설정이 열립니다.
- 동일한 작업은 제어판을 직접 열어서도 할 수 있습니다. 창 오른쪽 상단의 보기 기준을 범주로 설정하고 네트워크 및 인터넷을 클릭한 뒤, 네트워크 및 공유 센터 버튼을 클릭합니다. 왼쪽 메뉴에서 어댑터 설정 변경 버튼을 찾아 클릭합니다.
- 네트워크 연결 창이 열리면 현재 사용 중인 네트워크 어댑터를 두 번 클릭합니다.
- 속성을 클릭하고 목록에서 인터넷 프로토콜 버전 6(TCP/IPv6) 항목을 찾습니다. 해당 항목의 체크박스를 해제하고 확인을 클릭합니다. 컴퓨터를 재시작해 변경 사항을 적용한 후 문제가 지속되는지 확인합니다.
방법 4: DNS 서버 주소 자동으로 가져오기
이 설정은 클라이언트 컴퓨터에서 변경해야 합니다. 과거에 서버가 특정 주소를 사용하던 시절 잘못된 값으로 설정해 두었다면, 동일한 설정을 다시 확인하고 DNS 주소가 자동으로 할당되도록 변경해야 합니다.
- Windows + R 키 조합을 눌러 실행 대화 상자를 열고 'ncpa.cpl'을 입력한 후 확인을 클릭하여 제어판의 네트워크 연결 설정을 엽니다.
- 네트워크 연결 창에서 현재 사용 중인 네트워크 어댑터를 두 번 클릭하고, 관리자 권한이 있다면 하단의 속성 버튼을 클릭합니다.
- 목록에서 인터넷 프로토콜 버전 4(TCP/IPv4) 항목을 찾아 클릭해 선택한 후, 하단의 속성 버튼을 클릭합니다.
- 일반 탭에서 속성 창의 두 라디오 버튼이 다른 값으로 설정되어 있다면 'IP 주소 자동으로 가져오기'와 'DNS 서버 주소 자동으로 가져오기'로 변경합니다.
- '종료할 때 설정 확인' 옵션은 선택한 상태로 유지하고, 확인을 클릭해 변경 사항을 즉시 적용합니다. 이후 동일한 오류가 계속 나타나는지 확인하세요!
방법 5: 클라이언트 PC의 네트워크 드라이버 업데이트
이 방법은 많은 사용자에게 효과가 있었습니다. 잘못된 드라이버는 다양한 문제의 원인이 되므로 드라이버를 업데이트하는 것은 확실히 시도해 볼 만한 가치가 있습니다.
- 먼저 현재 컴퓨터에 설치된 네트워크 드라이버를 제거해야 합니다.
- 시작 메뉴 버튼 옆의 검색 필드에 "장치 관리자"를 입력해 장치 관리자 창을 엽니다. 또는 Windows 키 + R 키 조합으로 실행 대화 상자를 연 후 devmgmt.msc를 입력하고 확인 또는 Enter 키를 눌러도 됩니다.
- "네트워크 어댑터" 섹션을 확장합니다. 현재 컴퓨터에 설치된 모든 네트워크 어댑터가 표시됩니다.
- 제거하려는 무선 네트워크 어댑터를 마우스 오른쪽 버튼으로 클릭하고 "디바이스 제거"를 선택합니다. 이렇게 하면 목록에서 어댑터가 제거되고 해당 네트워크 장치가 삭제됩니다.
- 장치 제거 확인 메시지가 나타나면 "확인"을 클릭합니다.
- 사용 중이던 어댑터를 컴퓨터에서 분리한 후, 제조사 공식 웹사이트로 이동해 운영체제에 맞는 드라이버 목록을 확인합니다. 가장 최신 버전을 선택해 다운로드하고, 다운로드 폴더에서 실행 파일을 실행합니다.
- 화면의 지침에 따라 드라이버를 설치합니다. Wi-Fi 동글처럼 외부형 어댑터라면 설치 마법사가 다시 연결하라고 요청할 때까지 분리된 상태를 유지하세요. 설치가 끝나면 컴퓨터를 재시작하고 문제가 해결되었는지 확인합니다.