Mozilla Firefox로 특정 웹사이트에 접속하려고 할 때 화면에 'TLS 핸드셰이크 수행(Performing a TLS Handshake)'이라는 메시지가 표시되며 페이지가 오랫동안 멈추거나 아예 응답하지 않는 현상을 겪어본 적이 있으신가요? 이 메시지 자체가 곧 오류 메시지로, 브라우저가 웹사이트와 보안 연결을 맺는 과정에서 심각한 지연이 발생했음을 의미합니다.
TLS 핸드셰이크는 브라우저와 접속하려는 웹사이트 간에 보안상의 이유로 정보를 주고받는 과정입니다. HTTPS 프로토콜에서 사용되기 때문에 HTTPS로 보호된 사이트에 접속할 때 이 메시지가 나타날 가능성이 높습니다. 다행히 이 문제는 생각보다 어렵지 않게 해결할 수 있으며, 실제로 많은 사용자들이 다양한 방법을 통해 문제를 극복했습니다. 이 글에서는 검증된 해결 방법들을 하나로 정리해 소개하니 아래 내용을 참고해 보세요!
Windows용 Firefox에서 'TLS 핸드셰이크 수행' 오류가 발생하는 원인
브라우저 속도를 늦추고 TLS 핸드셰이크 중 멈춤 현상을 일으키는 원인은 여러 가지가 있습니다. 대표적인 원인들을 정리하면 다음과 같습니다.
- 최근에 추가한 확장 프로그램 – 확장 기능이나 플러그인이 이 문제를 일으킬 수 있으며, 특히 최근에 설치했다면 가능성이 더 높습니다. 악성 코드가 아니더라도 문제의 원인으로 확인되면 제거하는 것이 좋습니다.
- 설치된 백신 프로그램 – 대부분의 백신 소프트웨어에는 HTTP(S) 검사 기능이 있어 웹사이트를 열 때 기본 검증 외에 추가 검사를 수행합니다. 이로 인해 웹사이트 로딩 시간이 길어질 수 있으므로 해당 기능을 비활성화하는 것을 권장합니다.
- IPv6 및 DNS 문제 – IPv6 연결 또는 DNS 주소와 관련된 문제일 수 있습니다. 이 경우 IPv6를 비활성화하거나 DNS 주소를 변경하는 것만으로도 문제가 해결됩니다.
해결 방법 1: 최근 설치한 의심스러운 확장 프로그램 제거하기
최근 Mozilla Firefox에 새로운 플러그인이나 확장 프로그램을 설치했다면, TLS 핸드셰이크 과정에서 클라이언트 인증을 방해하여 연결 문제를 일으켰을 수 있습니다. 최근에 추가한 의심스러운 애드온을 모두 제거하면 문제를 해결할 수 있습니다.
- 바탕화면의 아이콘을 더블클릭하거나 시작 메뉴에서 검색하여 Mozilla Firefox를 실행합니다.
- 브라우저 창 오른쪽 상단의 메뉴 버튼을 클릭하고 애드온(Add-Ons)을 선택합니다.
- 오른쪽 패널에서 플러그인(Plugins) 옵션을 클릭해 브라우저에 설치된 플러그인 전체 목록을 확인합니다. 제거하려는 플러그인을 선택하고 옆의 점 세 개(⋮) 버튼을 클릭합니다.
- 나타나는 컨텍스트 메뉴에서 제거(Remove)를 선택하고 삭제를 확인합니다. '지금 다시 시작(Restart now)' 메시지가 표시되면 반드시 클릭하세요. 같은 과정을 반복하되, 이번에는 확장(Extensions) 또는 테마(Themes) 탭에서 진행합니다.
- 브라우저를 재시작한 후 문제가 해결되었는지 확인합니다.
해결 방법 2: Google DNS 사용하기
ISP(인터넷 서비스 공급자)가 제공하는 DNS 대신 Google에서 무료로 제공하는 DNS를 사용함으로써 문제를 해결했다는 사용자 보고가 많습니다. DNS 문제는 인증 오류를 일으켜 TLS 핸드셰이크가 제 시간에 완료되지 못하게 할 수 있습니다. 아래 단계에 따라 컴퓨터의 DNS 주소를 변경해 보세요!
- Windows + R 키 조합을 눌러 실행(Run) 대화상자를 열고 입력란에 'ncpa.cpl'을 입력한 후 확인을 클릭하면 제어판의 네트워크 연결 설정 창이 열립니다.
- 제어판을 직접 열어 진행할 수도 있습니다. 창 오른쪽 상단의 보기 기준을 범주로 변경하고 상단의 네트워크 및 인터넷을 클릭합니다. 이후 네트워크 및 공유 센터 버튼을 눌러 열고, 왼쪽 메뉴에서 어댑터 설정 변경을 찾아 클릭합니다.
- 네트워크 연결 창이 열리면 현재 인터넷에 연결하는 데 사용 중인 활성 네트워크 어댑터를 더블클릭하고, 관리자 권한이 있다면 하단의 속성(Properties) 버튼을 클릭합니다.
- 목록에서 인터넷 프로토콜 버전 4(TCP/IPv4) 항목을 찾아 선택한 후 아래의 속성 버튼을 클릭합니다.
- 일반 탭에 머무른 상태에서 라디오 버튼을 '다음 DNS 서버 주소 사용'으로 변경합니다(다른 값으로 설정되어 있던 경우).
- 기본 설정 DNS 서버에는 8.8.8.8을, 대체 DNS 서버에는 8.8.4.4를 입력합니다.
- '종료 시 설정 유효성 검사' 옵션은 체크한 상태로 유지하고 확인을 클릭해 변경 사항을 즉시 적용합니다. 이후 Firefox에서 'TLS 핸드셰이크 수행' 메시지가 여전히 오래 표시되는지 확인해 보세요!
해결 방법 3: 백신 프로그램의 HTTP/포트 검사 비활성화하기
가장 흔한 원인은 백신 프로그램이 웹사이트의 인증서를 불필요하게 검사하여 서버에서 파일을 요청하는 과정을 느리게 만드는 것입니다. 그 결과 'TLS 핸드셰이크 수행' 메시지가 Mozilla Firefox에서 오랫동안 표시될 수 있습니다.
이 오류는 다양한 백신 프로그램 사용자에게 나타나므로, 인기 있는 서드파티 백신 프로그램에서 HTTP 또는 포트 검사 옵션을 찾는 방법을 안내해 드립니다.
- 시스템 트레이(화면 하단 작업표시줄 오른쪽)의 아이콘을 더블클릭하거나 시작 메뉴에서 검색하여 백신 프로그램 사용자 인터페이스를 엽니다.
- HTTPS 검사 설정은 백신 프로그램마다 위치가 다릅니다. 대부분 큰 어려움 없이 찾을 수 있지만, 인기 있는 백신 프로그램별 빠른 가이드는 다음과 같습니다:
Kaspersky Internet Security: 홈 >> 설정 >> 추가 >> 네트워크 >> 암호화된 연결 검사 >> 암호화된 연결 검사 안 함
AVG: 홈 >> 설정 >> 구성 요소 >> Online Shield >> HTTPS 검사 사용 (체크 해제)
Avast: 홈 >> 설정 >> 구성 요소 >> Web Shield >> HTTPS 검사 사용 (체크 해제)
ESET: 홈 >> 도구 >> 고급 설정 >> 웹 및 이메일 >> SSL/TLS 프로토콜 필터링 사용 (끄기)
이제 파일을 다운로드할 때 'TLS 핸드셰이크 수행' 메시지가 오랫동안 표시되지 않는지 확인해 보세요! 그래도 오류가 계속된다면, 특히 문제를 일으키는 백신이 무료 버전이라면 다른 백신 또는 방화벽 프로그램으로 교체하는 것을 고려해 보세요.
해결 방법 4: IPv6 비활성화하기
컴퓨터에서 IPv6(Internet Protocol version 6) 연결을 비활성화하여 문제를 해결한 사용자가 많으며, 확실히 쉬운 방법 중 하나입니다. 그만큼 시도할 가치가 있으니 문제 해결 과정에서 이 방법을 건너뛰지 마세요.
- Windows + R 키 조합을 눌러 즉시 실행 대화상자를 열고 입력란에 'ncpa.cpl'을 입력한 후 확인을 클릭해 제어판의 네트워크 연결 설정을 엽니다.
- 제어판을 직접 열어 진행할 수도 있습니다. 창 오른쪽 상단의 보기 기준을 범주로 변경하고 네트워크 및 인터넷을 클릭한 후 네트워크 및 공유 센터 버튼을 눌러 엽니다. 왼쪽 메뉴에서 어댑터 설정 변경을 찾아 클릭합니다.
- 네트워크 연결 창이 열리면 현재 사용 중인 네트워크 어댑터를 더블클릭합니다.
- 속성을 클릭하고 목록에서 인터넷 프로토콜 버전 6(TCP/IPv6) 항목을 찾습니다. 해당 항목 옆의 체크박스를 해제하고 확인을 클릭합니다. 컴퓨터를 재시작하여 변경 사항을 적용한 후 문제가 지속되는지 확인합니다.
