해결 방법: '치명적인 경고가 생성되었습니다. 내부 오류 상태는 10입니다' Schannel 오류 수정

여러 사용자가 이벤트 뷰어(Event Viewer)에 동일한 오류 메시지가 반복해서 기록되는 Schannel 오류로 가득 차 있다고 보고하고 있습니다: "치명적인 경고가 생성되었습니다: 내부 오류 상태는 10입니다(The following fatal alert was generated 10: The internal error state is 10)". 이 오류는 주로 Windows Server 버전에서 발생하는 것으로 알려져 있습니다.

참고: Schannel은 보안 지원 공급자(Security Support Provider) 중 하나입니다. 모든 Windows 운영체제는 Schannel이라는 동적 링크 라이브러리(DLL)를 통해 TLS/SSL 프로토콜을 구현하도록 설계되어 있으며, 이 라이브러리는 운영체제에 기본 포함되어 있습니다. Schannel 오류는 매우 흔하게 발생하며, 대부분의 경우 시스템 고장이라기보다는 보안 기능의 일환으로 간주됩니다.

'치명적인 경고가 생성되었습니다: 내부 오류 상태는 10입니다' 오류의 원인은?

다양한 사용자 사례와 문제 해결 방법을 조사한 결과, 다음과 같은 여러 상황에서 이 오류 로그가 발생할 수 있는 것으로 확인되었습니다:

• 대량의 비-SSL 요청이 IIS(인터넷 정보 서비스) HTTPS에 유입 – 시스템이 많은 비-SSL 요청을 처리하면서 Schannel이 이를 오류로 기록하기 때문일 가능성이 높습니다.
• SSLv3 통신으로 인한 오류 발생 – 클라이언트가 네트워크에 연결을 시도할 때나 클라이언트와 RDP 서버 간에 네트워크 문제가 있을 때 발생하는 것으로 알려져 있습니다.
• 3389 포트를 통한 연결 실패 – 이 유형의 오류는 TCP 연결 재설정(reset)과 관련이 있습니다. 누군가 3389 포트를 통해 접속 및 로그인을 시도하다가 보안 검증에 실패했을 때 발생할 수 있습니다.
• 하나 이상의 인증서 만료 – 순수하게 도메인 컨트롤러 역할만 하는 서버에서 이 문제가 발생한다면, 보안 인증서를 갱신해야 하기 때문일 가능성이 있습니다.
• 보안 툴바가 Schannel의 TLS 트래픽을 검사 – 특정 보안 툴바, 안티멀웨어 프로그램, 일부 백신(AV) 제품에서 발생하는 것으로 알려진 시나리오입니다. 이 경우 해당 오류는 일시적인 것으로 간주됩니다.
• 사용자가 SSL 포트로 HTTP 프로토콜을 사용하여 웹 사이트에 접근 – 클라이언트가 잘못된 포트나 잘못된 프로토콜로 사이트에 접근하려고 할 때 이런 종류의 이벤트가 기록됩니다.

이 문제를 해결하고 이벤트 뷰어가 Schannel 오류로 가득 차는 것을 방지하는 데 어려움을 겪고 있다면, 아래의 단계별 가이드가 도움이 될 것입니다. 비슷한 상황에 처한 다른 사용자들이 성공적으로 문제를 해결한 여러 가지 방법을 소개합니다.

최상의 결과를 얻으려면 아래 방법들을 제시된 순서대로 따라 하시고, 본인의 상황에 맞는 해결책을 찾을 때까지 진행하세요.

방법 1: 오류를 유발할 수 있는 프로그램 제거

Outlook Anywhere를 사용하여 Outlook을 설정하는 도중 이 문제를 겪은 여러 사용자들은 '보안 툴바(security toolbar)'가 원인이었다고 보고했습니다. 실제로 이러한 프로그램들은 Schannel의 TLS 트래픽을 검사하면서 "치명적인 경고가 생성되었습니다: 내부 오류 상태는 10입니다" 오류를 유발할 수 있습니다.

이 시나리오가 현재 상황에 해당한다고 생각되면, 프로그램 추가/제거를 통해 서드파티 보안 소프트웨어나 백신 툴바를 제거함으로써 문제를 해결할 수 있습니다. 방법은 다음과 같습니다:

1. Windows 키 + R을 눌러 실행 대화 상자를 엽니다. 그런 다음 "appwiz.cpl"을 입력하고 Enter 키를 눌러 프로그램 및 기능 창을 엽니다.
2. 프로그램 및 기능에서 Schannel TLS 트래픽을 검사한다고 의심되는 보안 툴바를 찾아 마우스 오른쪽 버튼으로 클릭한 후 제거를 선택합니다.
3. 화면의 지시에 따라 제거 과정을 완료합니다. 완료 후 컴퓨터를 재시작하고 다음 부팅 시 문제가 해결되었는지 확인합니다.

여전히 동일한 Schannel 오류가 나타난다면 아래의 다음 방법으로 넘어가세요.

방법 2: 로컬 활성화 보안 검사 예외 허용 (해당되는 경우)

일부 사용자들은 그룹 정책 편집기(Group Policy Editor)를 사용하여 특정 정책을 활성화한 후 문제를 해결했다고 보고했습니다. 단, 그룹 정책 편집기가 포함되지 않은 Windows 버전에서는 이 방법을 적용할 수 없습니다.

참고: Windows 10 Home 버전에는 그룹 정책 편집기가 기본 포함되어 있지 않으므로, 필요하다면 별도의 설치 가이드를 참조하여 먼저 활성화해야 합니다.

그룹 정책 편집기를 사용할 준비가 되었다면 아래 단계를 따르세요:

1. Windows 키 + R을 눌러 실행 대화 상자를 엽니다. 그런 다음 "gpedit.msc"를 입력하고 Enter 키를 눌러 그룹 정책 편집기를 엽니다.
2. 그룹 정책 편집기에서 왼쪽 메뉴를 사용하여 다음 위치로 이동합니다:

   컴퓨터 구성 > 관리 템플릿 > 시스템 > Distributed COM > 응용 프로그램 호환성

3. "로컬 활성화 보안 검사 예외 허용(Allow local activation security check exemptions)" 정책의 상태를 사용(Enabled)으로 설정합니다.
4. 그룹 정책 편집기를 닫고 컴퓨터를 재시작합니다. 다음 부팅 후 이벤트 뷰어를 열어 문제가 해결되었는지 확인합니다.

여전히 Schannel 오류가 계속된다면 아래의 다음 방법으로 넘어가세요.

방법 3: Schannel 이벤트 로깅 비활성화

구버전 Windows에서는 Schannel 이벤트 로깅 값이 0x0000으로 설정되어 있어 어떠한 Schannel 이벤트도 기록되지 않습니다. 그러나 최신 Windows 버전에서는 명시적으로 비활성화하지 않는 한 운영체제가 모든 Schannel 이벤트를 자동으로 기록합니다.

이 오류를 겪은 여러 사용자들은 Schannel과 관련된 레지스트리로 이동하여 이벤트 로깅이 비활성화되도록 값을 변경한 후 문제가 완전히 해결되었다고 보고했습니다.

경고: 이 방법은 오류가 일시적인 것이라고 확신하는 경우에만 적용해야 합니다(Schannel 오류는 대개 일시적입니다). 아래 방법은 문제의 근본 원인을 치료하는 것이 아니라, 단순히 시스템이 이벤트 뷰어에 오류를 기록하지 않도록 지시하는 것임을 유의하세요.

Schannel 오류가 기록되지 않도록 하려면 레지스트리 편집기를 통해 Schannel 로깅을 비활성화해야 합니다. 방법은 다음과 같습니다:

1. Windows 키 + R을 눌러 실행 대화 상자를 엽니다. 그런 다음 "regedit"를 입력하고 Enter 키를 눌러 레지스트리 편집기를 엽니다.
2. 레지스트리 편집기에서 왼쪽 메뉴를 사용하여 다음 위치로 이동합니다:

   HKEY_LOCAL_MACHINE\System\CurrentControlSet\Control\SecurityProviders\SCHANNEL

3. 해당 위치에 도달하면 오른쪽 메뉴로 이동하여 EventLogging을 두 번 클릭합니다.
   참고: EventLogging 값이 없다면 편집 탭에서 새로 만들기 > DWORD(32비트) 값을 선택합니다. 그런 다음 이름을 EventLogging으로 지정하고 Enter 키를 눌러 새로 만든 값을 저장합니다.
4. 다음으로 EventLogging DWORD의 값 데이터(Value data)를 0 또는 0x0000으로 설정합니다(이렇게 하면 더 이상 오류가 기록되지 않습니다). 그런 다음 Base가 16진수(Hexadecimal)로 설정되어 있는지 확인하고 확인을 클릭하여 변경 사항을 저장합니다.
5. 레지스트리 편집기를 닫고 컴퓨터를 재시작합니다. 다음 부팅부터는 이벤트 뷰어에 "치명적인 경고가 생성되었습니다: 내부 오류 상태는 10입니다" 오류가 더 이상 쌓이지 않을 것입니다.