Outlook이 RPC 연결 또는 HTTPS 연결을 통해 서버에 접속하려고 할 때 '프록시 서버의 보안 인증서에 문제가 있습니다(There is a problem with the proxy server's security certificate)'라는 오류 메시지가 나타날 수 있습니다. 이 글에서는 해당 오류의 원인을 살펴보고, 문제를 해결할 수 있는 가장 효과적인 방법들을 소개합니다.

오류 메시지 확인
이 문제가 발생하면 다음과 같은 전체 오류 메시지를 볼 수 있습니다.
프록시 서버의 보안 인증서에 문제가 있습니다.
보안 인증서의 이름이 잘못되었거나 대상 사이트 webmail.domain.com의 이름과 일치하지 않습니다.Outlook이 프록시 서버에 연결할 수 없습니다. (오류 코드 0)
또한 상황에 따라 아래와 같은 변형된 오류 메시지와 오류 코드가 함께 표시될 수 있습니다.
- 프록시 서버 %s의 보안 인증서에 문제가 있습니다. Outlook이 이 서버에 연결할 수 없습니다.
- 프록시 서버 %s의 보안 인증서에 문제가 있습니다. 보안 인증서의 이름이 잘못되었거나 사이트 이름과 일치하지 않습니다. Outlook이 이 서버에 연결할 수 없습니다.
- 프록시 서버 %s의 보안 인증서에 문제가 있습니다. 보안 인증서가 신뢰할 수 있는 인증 기관에서 발급된 것이 아닙니다. Outlook이 이 서버에 연결할 수 없습니다.
오류 발생 원인
Microsoft 공식 문서에 따르면, 다음 조건 중 하나 이상이 해당될 경우 이 문제가 발생할 수 있습니다.
- 서버 연결에 인증 기관(CA)이 필요한 경우
- 루트 수준에서 인증 기관을 신뢰하도록 설정하지 않은 경우
- 인증서가 유효하지 않거나 취소된 경우
- 인증서가 사이트 이름과 일치하지 않는 경우
- 타사 애드인 또는 타사 브라우저 애드인이 접근을 차단하는 경우
프록시 서버 보안 인증서 오류 해결 방법
Windows 11/10 PC에서 이 문제를 겪고 있다면, 아래에서 소개하는 해결 방법들을 순서와 관계없이 하나씩 시도해 보시기 바랍니다.
- 프록시 서버 인증서 확인
- 신뢰할 수 있는 루트 인증서 설치
- Outlook 타사 애드인 비활성화
- 타사 브라우저 애드인 비활성화
- Outlook에서 Exchange 프록시 설정 수동 구성
각 해결 방법의 자세한 진행 과정을 살펴보겠습니다.
1. 프록시 서버 인증서 확인

먼저 인증서 상태를 직접 확인한 후, 문제가 있다면 시스템 관리자에게 문의하여 해결해야 합니다.
프록시 서버 인증서를 확인하려면 다음 단계를 따르세요.
- Windows 11/10 PC에서 Edge 브라우저를 엽니다.
- 아래 URL을 주소창에 입력하거나 붙여넣고 Enter 키를 누릅니다. server_name 부분은 RPC 서버 이름 또는 보안 서버 이름으로 교체하세요.
https://www.server_name.com/rpc
- 주소창의 자물쇠 아이콘을 클릭합니다.
- 팝업 창에서 연결이 보호됨(Connection is secure)을 클릭합니다.
- 보안 인증서(Security Certificate) 아이콘을 클릭하여 인증서 세부 정보를 확인합니다.
- 보안 인증서 속성 창에서 세부 정보(Details) 탭을 클릭합니다.
- 위 이미지에서 강조된 필드들의 정보를 기록해 둡니다.
유효 기간(Valid to) 필드에는 인증서가 유효한 만기 날짜가 표시되어야 하며, 주체(Subject) 필드의 데이터는 사이트 이름과 일치해야 합니다. 일치하지 않는다면 IT 관리자에게 문의하세요.
2. 신뢰할 수 있는 루트 인증서 설치
이 방법은 Windows 11/10 클라이언트 컴퓨터에 신뢰할 수 있는 루트 인증서를 설치하는 것입니다.
다음 단계를 진행하세요.
- 오류 발생 시 나타나는 인증서(Certificate) 대화 상자에서 인증서 설치(Install Certificate)를 클릭합니다.
- 다음(Next)을 클릭합니다.
- 모든 인증서를 다음 저장소에 저장(Place all certificates in the following store) 체크박스를 선택합니다.
- 찾아보기(Browse)를 클릭합니다.
- 신뢰할 수 있는 루트 인증 기관(Trusted Root Certification Authorities)을 선택합니다.
- 확인(OK) → 다음(Next) → 마침(Finish) → 확인(OK) 순서로 클릭하여 완료합니다.
3. Outlook 타사 애드인 비활성화
이 오류를 해결하는 또 다른 효과적인 방법은 Outlook의 타사 애드인을 비활성화하는 것입니다. 먼저 Outlook을 안전 모드로 시작해 보세요. 안전 모드에서 정상적으로 열린다면, 타사 애드인이 오류의 원인일 가능성이 높습니다.
Outlook에서 타사 COM 애드인을 비활성화하려면 다음을 수행하세요.
- Outlook을 안전 모드로 시작합니다.
- 파일(File) 메뉴에서 옵션(Options) > 애드인(Add-Ins)을 클릭합니다.
- 관리(Manage) 드롭다운에서 COM 추가 기능(COM Add-ins)을 선택하고 이동(Go)을 클릭합니다.
- 비활성화하려는 타사 애드인의 체크박스를 해제합니다.
- Outlook을 다시 시작합니다.
4. 타사 브라우저 애드인 비활성화
사용 중인 브라우저에 따라 타사 브라우저 애드인(확장 프로그램)을 비활성화한 후 문제가 해결되는지 확인해 보세요. 그래도 해결되지 않으면 다음 방법을 시도합니다.
5. Outlook에서 Exchange 프록시 설정 수동 구성

Outlook에서 Exchange 프록시 설정을 수동으로 구성하려면 다음 단계를 따르세요.
- Microsoft Outlook을 엽니다.
- 계정 설정(Account Settings) > 추가 설정(More Settings) > 연결(Connection) > Exchange 프록시 설정(Exchange Proxy Settings)으로 이동합니다.
- 인증서에 이 주체 이름이 있는 프록시 서버에만 연결(Only connect to proxy servers that have this principal name in their certificate) 필드에 아래 주소를 입력합니다.
msstd:webmail.domain.com
- 확인(OK)을 클릭합니다.
또는 PowerShell을 사용하여 동일한 결과를 얻을 수도 있습니다.
- Windows 키 + X를 눌러 고급 사용자 메뉴를 엽니다.
- 키보드에서 A를 눌러 관리자 권한으로 PowerShell을 실행합니다.
- PowerShell 콘솔에 아래 명령어를 입력하거나 붙여넣고 Enter 키를 누릅니다.
Set-OutlookProvider EXPR -CertPrincipalName:$null
- 명령 실행이 완료되면 PowerShell을 종료합니다.
이것으로 문제 해결이 완료됩니다!
관련 글: Outlook 오류 0x80004005, 작업 실패 문제 해결
자주 묻는 질문(FAQ)
Outlook이 신뢰되지 않는 이유는 무엇인가요?
Outlook.com 보안 인증서 오류 또는 '연결된 서버가 검증할 수 없는 보안 인증서를 사용하고 있습니다'라는 오류 메시지가 나타난다면, 가장 흔한 원인은 Microsoft Outlook에 잘못된 호스트 이름이 설정되어 있기 때문입니다. 계정 설정에서 서버 이름을 정확히 입력했는지 확인해 보세요.
보안 인증서 경고가 계속 나타나는 이유는 무엇인가요?
Windows 11/10 PC에서 보안 인증서 경고가 표시되는 주요 원인은 잘못된 날짜 및 시간 설정입니다. 웹 브라우저와 컴퓨터는 보안 인증서를 통해 특정 사이트가 안전한지 판단합니다. 따라서 컴퓨터의 날짜와 시간이 잘못되어 있으면 인증서가 유효하지 않은 것으로 판단되어 보안 경고가 발생할 수 있습니다. 컴퓨터의 날짜와 시간이 올바르게 설정되어 있는지 꼭 확인하세요.
보안 인증서 오류를 제거하려면 어떻게 해야 하나요?
Windows 11/10에서 보안 인증서 오류를 없애려면 인증서 주소 불일치 경고 옵션을 비활성화해야 합니다. 다음 지침을 따르세요.
- 제어판을 엽니다.
- 인터넷 옵션(Internet Options)을 선택합니다.
- 고급(Advanced) 탭을 클릭합니다.
- 아래로 스크롤하여 보안(Security) 섹션을 찾습니다.
- 인증서 주소 불일치 경고(Warn about certificate address mismatch) 옵션의 체크를 해제합니다.
- 적용(Apply) > 확인(OK)을 클릭하여 변경 사항을 저장합니다.
- PC를 재부팅합니다.
이메일 인증서가 신뢰되지 않는 이유는 무엇인가요?
이메일 인증서가 신뢰되지 않는 가장 유력한 원인은 잘못된 이메일 설정입니다. 이메일에서 '인증서가 안전하지 않음' 오류가 발생한다면, 본인 또는 조직 도메인의 이메일 계정을 동기화했지만 SMTP/IMAP 설정, 포트 설정 또는 도메인 이름 설정에 불일치가 있기 때문일 가능성이 큽니다. 각 설정값이 이메일 서비스 제공업체의 권장 값과 일치하는지 점검해 보세요.