RSA(Rivest-Shamir-Adleman) 암호화 알고리즘은 다양한 제품과 서비스에서 폭넓게 사용되는 비대칭 암호화 방식입니다. 비대칭 암호화는 수학적으로 서로 연결된 키 쌍을 사용해 데이터를 암호화하고 복호화합니다.
공개키와 개인키의 기본 구조
RSA에서는 공개키(public key)와 개인키(private key)가 한 쌍으로 생성됩니다. 공개키는 누구나 접근할 수 있도록 공개되며, 개인키는 키를 생성한 사람만이 알고 있는 비밀 정보입니다. RSA의 핵심 특징은 두 키 중 어느 한쪽으로 데이터를 암호화하면 반드시 다른 쪽 키로만 복호화할 수 있다는 점입니다. 바로 이 특성 덕분에 RSA는 가장 널리 쓰이는 비대칭 암호화 알고리즘이 되었습니다.
공개키로 암호화하는 경우: 안전한 데이터 전송
공개키로 데이터를 암호화하면 해당 데이터는 오직 짝을 이루는 개인키로만 복호화할 수 있습니다. 이 방식은 네트워크나 인터넷을 통해 민감한 데이터를 주고받을 때 이상적입니다.
예를 들어, 데이터를 받을 사람이 자신의 공개키를 발신자에게 전달하면, 발신자는 그 공개키로 민감한 데이터를 암호화해 수신자에게 보냅니다. 데이터가 공개키로 암호화되었기 때문에 개인키를 소유한 수신자 본인만이 내용을 해독할 수 있습니다. 따라서 전송 도중에 데이터가 가로채이더라도, 의도된 수신자 외에는 아무도 내용을 열어볼 수 없습니다.
개인키로 암호화하는 경우: 발신자 신원 인증
RSA 비대칭 암호화의 또 다른 활용 방식은 개인키로 메시지를 암호화하는 것입니다. 이 경우 발신자는 자신의 개인키로 데이터를 암호화한 뒤, 암호문과 함께 자신의 공개키를 수신자에게 전달합니다.
수신자는 발신자의 공개키로 데이터를 복호화함으로써, 해당 메시지가 실제로 그 개인키의 소유자, 즉 발신자 본인이 보낸 것임을 확인할 수 있습니다. 이 방식에서는 전송 중에 데이터가 유출되어 읽힐 가능성은 있지만, 이 암호화 방식의 진짜 목적은 기밀성이 아니라 발신자의 신원 검증(전자 서명)에 있습니다.
또한 데이터가 전송 도중에 유출되어 변조되었다면, 변경된 메시지는 해당 공개키로 정상적으로 복호화되지 않습니다. 이를 통해 수신자는 데이터가 전송 과정에서 위변조되었음을 즉시 알아차릴 수 있습니다.
RSA 키는 어떻게 생성될까?
공개키와 개인키는 두 개의 숫자를 기반으로 생성되며, 그중 하나는 두 개의 큰 소수(prime number)의 곱으로 만들어집니다. 두 키는 동일한 두 소수를 사용해 각각의 값을 계산합니다. RSA 키는 일반적으로 1024비트 또는 2048비트 길이로 생성되어 소인수분해가 극도로 어렵습니다. 다만 컴퓨팅 성능이 발전함에 따라 1024비트 키는 조만간 깨질 수 있다고 평가되고 있으며, 현재는 2048비트 이상의 키 사용이 권장됩니다.
RSA의 실제 활용 분야
RSA는 TLS(Transport Layer Security)와 함께 사용되어 두 당사자 간의 연결을 안전하게 보호합니다. 그 외에도 PGP(Pretty Good Privacy) 같은 유명한 암호화 알고리즘과 제품들이 현재든 과거든 RSA를 활용해 왔습니다.
VPN(가상 사설망), 이메일 서비스, 웹 브라우저 등 다양한 통신 채널 역시 RSA를 사용하고 있습니다. 예를 들어 VPN은 TLS를 통해 데이터 교환 당사자 간의 핸드셰이크(handshake)를 수행하며 안전한 연결을 설정합니다.