VPN은 크게 두 가지 종류로 나눌 수 있습니다. 첫 번째는 인터넷 활동을 숨겨 보안과 프라이버시를 강화하는 용도의 VPN이고, 두 번째는 원격지에서 집 네트워크에 접속하기 위한 VPN입니다.
이 글에서는 공유기와 DD-WRT라는 펌웨어만으로 두 번째 유형의 VPN, 즉 개인 VPN 서버를 구축하는 방법을 소개합니다.
DD-WRT는 오픈소스 공유기 펌웨어로, 대부분의 기본 펌웨어보다 훨씬 많은 제어 권한을 제공합니다. 자체 VPN 서버 구축 과정이 아주 간단하진 않지만, 지나치게 복잡하지도 않습니다. 아래 단계별 가이드를 따라 해 보세요.
참고: 반드시 DD-WRT를 사용할 필요는 없습니다. 공유기가 VPN과 DDNS 기능을 지원한다면 충분합니다. 다만 이후의 일부 단계를 상황에 맞게 조정해야 합니다.
1. DD-WRT 설치하기
VPN을 설정하기 전에 먼저 공유기에 DD-WRT를 설치해야 합니다. 이미 DD-WRT가 설치되어 있다면 이 단계는 건너뛰어도 됩니다. 설치 방법은 공유기 모델마다 조금씩 다르기 때문에 여기서는 일반적인 흐름만 안내합니다.
쉬운 방법: DD-WRT가 미리 설치된 버팔로(Buffalo) 공유기를 구입하는 것도 좋은 선택입니다. 성능이 뛰어난 제품들이 많으며, 기가비트 Wi-Fi를 지원하는 모델도 있습니다.
먼저 공유기를 업데이트할 펌웨어를 받아야 합니다. DD-WRT 공식 사이트에서 공유기 모델명을 입력하세요. 호환되는 모델이라면 필요한 파일을 안내하는 펌웨어 페이지가 표시됩니다.
모든 파일은 명확하게 라벨링되어 있습니다. 예를 들어 공장 출고 펌웨어에서 업그레이드할 때 사용하는 파일은 factory-to-binary.bin 형태입니다.
공유기 페이지에 필요한 정보가 대부분 있지만, 하드웨어 지원 상태에 따라 문제가 발생할 수 있으니 위키 페이지도 함께 확인하는 것이 좋습니다.
초기 업데이트는 공유기의 내장 펌웨어 업데이터를 통해 진행됩니다. 실제 펌웨어 업데이트와 마찬가지로 로컬 컴퓨터에서 DD-WRT 바이너리 파일을 선택하면 됩니다. (일부 공유기는 본 펌웨어를 올리기 전에 준비 파일을 먼저 설치해야 하므로, 해당 기종의 안내문을 반드시 확인하세요.)
공유기가 재부팅되면 https://192.168.1.1로 접속해 초기 설정을 시작합니다. 이 화면에서 공유기 관리용 사용자 이름과 비밀번호를 생성하고, 완료하면 상태 페이지로 이동합니다.
Setup 메뉴를 클릭하고 앞서 만든 사용자 이름과 비밀번호를 입력합니다.
다음 페이지에서 공유기의 기본 설정을 진행합니다. 공유기 이름, IP 주소, DHCP 설정 등을 구성하고, 연결 방식 드롭다운은 'Automatic Configuration - DHCP'로 선택하세요. DHCP 설정은 기본값으로 두고, 시간대 설정만 현재 거주 지역에 맞게 변경합니다.
OpenDNS나 Google Public DNS 같은 커스텀 DNS를 사용하고 싶다면 이 페이지에서 함께 설정할 수 있습니다. 모든 설정을 마쳤으면 'Apply Settings'를 클릭합니다.
기본 설정이 끝나면 Wireless 탭으로 이동해 무선 네트워크를 취향에 맞게 구성합니다. 이때 흔히 저지르는 네트워크 설정 실수만 피하면 됩니다.
기본 설정을 마친 후에는 Wireless Security 메뉴에서 네트워크 암호화를 설정하세요.
2. 다이내믹 DNS 설정하기
다음 단계는 동적 WAN IP를 위한 DNS 포워더를 설정하는 것입니다. 고정 IP를 구독하지 않는 한 ISP는 언제든 IP를 변경할 수 있으며, 그때마다 VPN 설정도 수정해야 하는 불편함이 생깁니다.
이 문제를 해결하려면 다이내믹 DNS(DDNS) 서비스를 활용하면 됩니다. 이런 서비스는 ISP가 부여한 IP 주소를 가리키는 URL을 만들어 줍니다. DD-WRT는 다양한 DDNS 서비스를 지원하며, 이 튜토리얼에서는 무료로 이용할 수 있는 afraid.org 서비스를 사용합니다.
아쉽게도 이 부분에는 완벽한 자동화 방법이 없습니다. 외출 전에 공유기 관리 페이지에서 현재 WAN IP를 확인해 VPN 설정을 직접 업데이트하는 방법도 가능합니다. IP 변경 빈도는 ISP에 따라 다르지만, 짧은 휴가나 카페 출근 정도라면 이 방법으로도 충분합니다.
무료 계정만 만들면 되며, 계정을 통해 선택 가능한 주소 중 하나로 서브도메인을 받을 수 있습니다.
계정 생성 후 로그인하여 서브도메인 메뉴로 이동합니다. A 레코드를 생성해야 하는데, 이것이 기본값입니다. 원하는 서브도메인 이름을 입력하고 드롭다운에서 도메인을 선택하세요.
그다음 공유기의 WAN IP를 입력합니다. WAN IP는 DD-WRT 페이지 우측 상단에서 확인할 수 있습니다. Save를 클릭한 뒤 DDNS 항목으로 가서 새 서브도메인 옆의 Direct URL 링크를 복사해 둡니다.
계정과 서브도메인 생성이 끝나면 공유기 관리 페이지로 돌아갑니다. Setup 메뉴 아래 DDNS 탭을 클릭하고, 드롭다운에서 freedns.afraid.org를 선택한 후 사용자 이름과 비밀번호를 입력합니다.
호스트명 필드에는 앞서 복사한 URL을 붙여넣습니다. External IP Check는 Yes로 두고, Force Update Interval은 기본값인 10일로 설정합니다. 다만 IP가 더 자주 변경된다면 나중에 이 값을 조정해야 할 수 있습니다.
3. PPTP 구성하기
이 튜토리얼의 나머지 부분에서는 DD-WRT의 PPTP(Point to Point Tunneling Protocol) VPN 옵션을 사용하는 쉬운 방법을 다룹니다. 저장 용량이 적은 구형 공유기라면 PPTP가 유일한 선택지일 수도 있습니다.
PPTP는 마이크로소프트가 개발한 오래된 VPN 기술로, GRE(Generic Routing Encapsulation)를 이용해 기기와 홈 네트워크 사이에 터널을 만듭니다. 즉, 원격지의 웹 트래픽이 다른 패킷으로 감싸져 홈 공유기로 전송되고, 공유기가 요청을 처리한 뒤 결과 데이터 역시 패킷에 감싸서 되돌려주는 방식입니다.
여기서는 간편한 방법을 사용하지만, PPTP에는 심각한 보안 취약점이 있다는 점을 유의해야 합니다. DD-WRT에서 MPPE 암호화를 활성화할 수 있지만 이는 강력하지 않은 프로토콜입니다. 원격으로 로컬 리소스에 접근할 수는 있지만, OpenVPN만큼의 보안 수준은 기대하기 어렵습니다.
PPTP를 설정하려면 Services 탭을 클릭한 뒤 VPN 메뉴로 이동합니다. PPTP Server 영역에서 Enable 옵션을 선택하면 세부 설정이 확장됩니다. Broadcast Support는 비활성화 상태로 두고, MPPE Encryption은 활성화합니다. DNS 설정을 다시 한번 입력하고, WINS 서버는 건너뛰어도 됩니다.
MTU와 MRU 설정은 기본값으로 유지합니다. Server IP에는 공유기 주소를 입력하는데, 기본값은 192.168.1.1입니다.
클라이언트에게 할당할 IP 범위도 설정해야 합니다. 이 값은 xx.xx.xx.xx-xx 형식을 따라야 합니다. 예를 들어 10.0.25.150부터 10.0.25.214까지 지정하려면 10.0.25.150-214로 입력하면 됩니다. Max Associated Clients는 기본값인 64로 두어도 무방합니다.
다음은 CHAP-Secrets 섹션입니다. 여기에는 각 클라이언트가 사용할 사용자 이름과 비밀번호를 입력합니다. 형식은 Username * Password *이며, 텍스트와 별표 사이에 공백이 있어야 합니다. 특정 클라이언트가 접속 시 고정 IP를 갖게 하려면 두 번째 별표를 IP 주소로 대체하면 됩니다. 예: Laptop * Password 10.0.25.51
모든 필드를 작성한 후 Apply Settings를 클릭하면 서버 쪽 설정이 완료됩니다. 이제 클라이언트 기기를 설정할 차례입니다.
4. 기기 설정하기
VPN 서버가 인터넷에 열렸으니, 이제 노트북과 스마트폰에서 접속하는 방법을 알아보겠습니다. 여기서는 Windows, macOS(OS X), iOS에서 PPTP를 설정하는 방법을 다룹니다. Android 사용자라면 별도의 안내 가이드를 참고하세요.
다른 운영체제에서도 기본 정보는 동일하게 사용하며, 접속하려는 각 클라이언트마다 공유기에 사용자 이름과 비밀번호를 등록해 두어야 한다는 점만 기억하면 됩니다.
Windows 10
시작 메뉴를 열고 설정(Settings)을 클릭합니다. 그다음 네트워크 및 인터넷(Network & Internet)으로 이동해 VPN 메뉴를 선택합니다. 'VPN 연결 추가(Add a VPN Connection)' 화면을 열고 양식을 작성합니다. VPN 공급자는 'Windows(기본 제공)'로 선택하고, 연결 이름은 원하는 대로 지정하면 됩니다.
'서버 이름 또는 주소(Server name or address)' 필드에 afraid.org DNS 주소 또는 공유기의 WAN IP를 입력합니다. VPN 유형 드롭다운에서 PPTP를 선택하고, 로그온 유형은 '사용자 이름 및 암호'로 둡니다. 그다음 공유기 설정 시 만든 사용자 이름과 비밀번호를 입력합니다.
로컬 네트워크에 있지 않을 때는 VPN 메뉴에서 연결하면 됩니다. 새로 만든 VPN 프로필이 목록에 표시되며, 선택 후 '연결'을 클릭하면 됩니다.
macOS (OS X)
시스템 환경설정(System Preferences)을 열고 네트워크(Network)를 클릭합니다. 관리자 계정이 아니라면 좌측 하단의 자물쇠 아이콘을 클릭해 관리자 비밀번호를 입력해야 합니다. 그다음 플러스(+) 버튼을 눌러 새 인터페이스를 추가하고, 팝업에서 인터페이스 유형으로 VPN을 선택합니다. VPN 유형은 PPTP로 지정합니다.
서비스 이름을 원하는 대로 정한 뒤 '생성(Create)'을 클릭합니다.
서버 주소(Server Address)에 afraid.org DNS 주소를 입력하고, 계정 이름(Account Name)에는 공유기에서 설정한 사용자 이름을 넣습니다. 암호화 수준은 원하는 대로 선택하되, '128비트 전용'이 더 안전합니다. 그다음 '인증 설정(Authentication Settings)'을 클릭해 비밀번호를 입력합니다.
로컬 네트워크 밖에서는 네트워크 패널로 돌아가 설정한 VPN을 선택하고 '연결' 버튼을 누르면 됩니다.
iOS
설정 앱을 열고 일반(General)으로 이동한 뒤 아래로 스크롤해 VPN을 탭합니다. 'VPN 구성 추가(Add VPN Configuration)'를 탭하고 유형(Type)에서 PPTP를 선택한 후 뒤로 돌아갑니다. 설명(Description)은 원하는 이름으로 지정합니다.
서버(Server) 필드에 afraid.org DNS 주소 또는 공유기의 WAN IP를 입력합니다. 계정(Account) 필드에는 공유기에서 설정한 사용자 이름을 넣고, RSA SecurID는 꺼짐 상태로 둡니다. 비밀번호를 저장하거나, 매번 연결할 때 입력하도록 비워 둘 수도 있습니다.
암호화 수준은 기본적으로 '자동(Auto)'이지만, 탭해서 '최대(Maximum)'로 변경할 수 있습니다. 이는 macOS의 40/128비트 또는 엄격한 128비트 암호화와 동급이며, iOS 특유의 직관적인 메뉴로 구성되어 있습니다. '모든 트래픽 전송(Send All Traffic)'은 켜짐 상태로 유지하세요.
설정이 완료되면 기본 설정 화면에 VPN 스위치가 추가됩니다. 로컬 네트워크 밖에서는 이 스위치를 켜는 것만으로 VPN에 접속할 수 있습니다.
설정 완료! 다음은 무엇을 할까?
이제 기본적인 VPN 서버 구축이 끝났습니다. 동시에 훨씬 더 강력한 기능을 가진 공유기도 손에 넣은 셈입니다. DD-WRT의 다양한 설정 메뉴를 살펴보면 일반 공유기 펌웨어로는 불가능한 여러 기능을 발견할 수 있습니다.
또한 DD-WRT에서 OpenVPN을 구성하는 방법도 알아두면 좋습니다. 과정은 더 복잡하지만, 인증 기관(CA)을 구축하고 모든 기기에 클라이언트를 설치하는 방식으로 VPN 보안 수준을 크게 높일 수 있습니다.
여러분이 가장 자랑스럽게 여기는 DIY IT 프로젝트는 무엇인가요? 댓글로 알려주세요.