일부 사용자들이 특정 웹사이트에 접속하려고 할 때 SSL_Error_Weak_Server_ephemeral_DH_key 오류가 발생한다고 보고하고 있습니다. 이 문제는 Firefox 브라우저에 국한된 현상으로, 여러 버전에서 나타나는 것으로 알려져 있습니다.
SSL_Error_Weak_Server_ephemeral_Dh_key 오류는 왜 발생할까?
이 오류는 흔히 디피-헬만(Diffie-Hellman) 오류라고 불리며, 널리 알려진 버그이자 호환성 문제입니다. Firefox가 특정 암호화 방식(암호 스위트)을 차단했는데 서버(UCCX 등) 쪽에서 대안을 제공하지 않거나, 제공된 대안이 Firefox에서 수락되지 않는 경우에 발생합니다.
쉽게 말해, 이 오류 메시지는 방문하려는 사이트가 Logjam 공격에 취약해지지 않도록 보안 인증서를 최신 상태로 업데이트해야 한다는 의미입니다.
문제가 사용자 측에 있는 것이 아니더라도, 해당 사이트에 꼭 접속해야 하고 보안 경고를 무시하고 싶은 경우가 있을 것입니다. 이는 비교적 간단한 방법으로 처리할 수 있습니다(자세한 내용은 아래에서 설명).
먼저 이 오류 메시지를 유발하는 대표적인 시나리오를 살펴보겠습니다. 다양한 사용자 사례와 해결 방법을 분석한 결과, 이 문제가 발생하는 주요 원인은 다음과 같습니다:
- Firefox 버그 – Firefox 31부터 존재해 온 잘 알려진 버그가 이 오류 메시지를 유발합니다. 이후 패치로 수정되었지만, 구버전 빌드를 사용 중이라면 여전히 마주칠 수 있습니다.
- Firefox 동작 방식의 변화 – Firefox 33부터 브라우저가 더 엄격한 libPKIS로 전환되면서, 더 이상 이 라이브러리를 비활성화하고 기존 NSS 코드로 되돌릴 수 없게 되었습니다. 이 때문에 예전처럼 "위험을 이해합니다(I Understand the Risks)" 버튼 클릭만으로는 문제를 우회하기 어렵습니다.
- 웹사이트의 키 크기가 Firefox와 호환되지 않음 – 접속하려는 웹사이트가 사용하는 키 크기도 원인이 될 수 있습니다. Firefox 33부터는 1024비트 미만의 키 크기를 지원하지 않습니다.
이 오류로 고민 중이라면, 아래에서 검증된 문제 해결 단계를 순서대로 소개합니다. 비슷한 상황의 다른 사용자들이 실제로 효과를 본 방법들이니, 자신에게 맞는 해결책을 찾을 때까지 차례대로 시도해 보세요.
방법 1: Firefox를 최신 버전으로 업데이트
가장 먼저 Firefox가 최신 버전인지 확인하세요. 최신 버전을 사용하면 버그로 인해 오류가 발생할 가능성을 배제할 수 있습니다. 실제로 브라우저를 최신 빌드로 업데이트한 후 문제가 해결되었다는 보고가 많습니다.
- Firefox를 열고 우측 상단의 메뉴 버튼을 클릭한 후, 도움말(Help) > Firefox 정보(About Firefox)로 이동합니다.
- Mozilla Firefox 정보 창에서 업데이트를 위해 Firefox 재시작(Restart to update Firefox)을 클릭하고 과정이 끝날 때까지 기다립니다. 업데이트 중 UAC(사용자 계정 컨트롤) 창이 나타나면 '예'를 선택해 관리자 권한을 부여하세요.
- Firefox가 재시작되면 이전에 문제가 발생했던 웹사이트에 다시 접속하여 오류가 사라졌는지 확인합니다.
여전히 SSL_Error_Weak_Server_ephemeral_DH_key 오류가 표시된다면 다음 방법으로 넘어가세요.
방법 2: 안전하지 않은 폴백 호스트(fallback hosts) 설정 추가
이 오류를 겪는 대부분의 사용자는 Firefox의 숨겨진 설정 메뉴(about:config)에서 security.tls.insecure_fallback_hosts 문자열 값에 오류가 발생하는 도메인을 추가하는 방식으로 문제를 해결했습니다.
- Firefox를 열고 주소창에 "about:config"를 입력한 후 Enter 키를 누릅니다.
- "보증이 무효화될 수 있습니다(This might void your warranty)!" 경고 화면이 나타나면 "위험을 감수함(I accept the risk!)"을 클릭합니다.
- 설정 메뉴의 검색창에 "security.tls.insecure_fallback_hosts"를 입력하고 Enter 키를 눌러 해당 항목을 찾습니다.
- 항목을 찾으면 두 번 클릭해 편집 창을 열고, 오류가 발생하는 도메인 주소를 입력한 뒤 확인(Ok)을 누릅니다.
- Firefox를 재시작한 후 동일한 오류가 계속 발생하는지 확인합니다.
그래도 같은 오류 메시지가 나타난다면 아래 방법 3을 시도해 보세요.
방법 3: SSL3 DHE 암호화 설정값 변경
about:config 메뉴에서 DHE 관련 설정값을 변경하여 보안 연결 실패(Secure Connection Failed / ssl_error_weak_server_ephemeral_dh_key) 오류를 해결한 사례도 많습니다. 특히 이 오류 때문에 공유기(라우터) 관리 페이지에 접속하지 못했던 사용자들에게 효과적인 방법이었습니다.
- Firefox를 열고 주소창에 about:config를 입력한 후 Enter 키를 눌러 설정 메뉴에 진입합니다.
- "보증이 무효화될 수 있습니다!" 화면에서 "위험을 감수함"을 클릭합니다.
- 검색 기능을 이용해 다음 boolean 항목을 찾습니다:
security.ssl3.dhe_rsa_aes_128_sha
- 이 값이 false가 아니라면 두 번 클릭하여 false로 변경합니다.
- 이번에는 두 번째 항목을 검색합니다:
security.ssl3.dhe_rsa_aes_256_sha
- 마찬가지로 값이 true라면 두 번 클릭해 false로 설정합니다.
- 두 가지 변경을 모두 마쳤다면 Firefox를 재시작하고 오류가 해결되었는지 확인합니다.
마무리 및 주의 사항
위 방법들은 오류를 일시적으로 우회하는 것이므로, 필요한 사이트 접속이 끝나면 변경한 설정값을 원래대로 되돌리는 것이 좋습니다. DHE 암호화 설정을 비활성화하거나 폴백 호스트를 허용하면 TLS 보안 수준이 낮아질 수 있기 때문입니다. 근본적인 해결을 위해서는 해당 웹사이트 운영자가 서버의 보안 인증서와 암호화 설정을 최신 상태로 업데이트하는 것이 가장 바람직합니다.