암호 분석(Cryptanalysis)이란 무엇일까요?
암호 분석은 암호문(ciphertext), 암호 방식(cipher), 그리고 암호 시스템(cryptosystem)을 연구해 이들의 작동 원리를 정확히 파악하고, 나아가 이러한 시스템을 무력화할 수 있는 방법을 발전시키는 학문입니다. 요컨대 암호 기술 내부의 허점과 정보 누출 가능성을 찾아내는 과정이라 할 수 있으며, 네트워크 보안의 근간을 이루는 핵심 분야입니다.
암호 분석은 왜 사용될까요?
암호 분석을 활용하면 암호 키를 알지 못한 상태에서도 겉보기에 안전한 암호 시스템을 해독해 암호화된 메시지의 내용에 접근할 수 있습니다. 공격자에게는 침해 수단이 되지만, 보안 전문가에게는 자신의 시스템이 얼마나 튼튼한지 검증하고 보완하는 데 반드시 필요한 도구입니다.
암호 분석의 세 가지 기본 유형
암호 분석은 분석가가 어떤 정보를 알고 있는지에 따라 세 가지로 분류됩니다. 첫째, 암호문 단독(Ciphertext-only) 상황에서의 분석, 둘째, 이미 확보된 평문-암호문 쌍(Known plaintext/ciphertext pairs)을 이용한 분석, 셋째, 선택 평문/암호문(Chosen plaintext/ciphertext)을 활용한 분석입니다.
주요 암호 분석 공격 기법
암호문 단독 공격(COA: Ciphertext-Only Analysis)
공격자가 암호문만 확보한 상태에서 수행하는 분석입니다. 이용할 수 있는 정보가 가장 적지만, 실제 공격 환경에서 가장 흔히 발생하는 형태이기도 합니다.
기지 평문 공격(KPA: Known-Plaintext Analysis)
이미 알려진 평문과 암호문의 짝을 이용해 진행되는 공격입니다. 선형 근사(linear approximation) 기법으로 블록 암호의 작동 방식을 추론하며, 성공하려면 공격자가 암호문의 일부 또는 전부, 혹은 평문의 형식을 발견하거나 추측해야 합니다.
선택 평문 공격(CPA: Chosen-Plaintext Analysis)
공격자가 임의의 평문을 직접 선택해 그에 대응하는 암호문을 얻어낸 뒤 이를 분석하는 방식입니다.
적응형 선택 평문 공격(ACPA: Adaptive Chosen-Plaintext Analysis)
선택 평문 공격을 발전시킨 형태로, 이전 분석 결과에 따라 다음에 사용할 평문을 조정해 가며 반복적으로 공격을 수행합니다.
중간자 공격(MITM: Man-in-the-Middle)
통신 당사자들 사이에 공격자가 몰래 끼어들어 정보를 가로채거나 변조하는 공격 기법입니다.
차분 암호 분석(Differential Cryptanalysis)
블록 암호를 대상으로 하는 선택 평문 공격의 일종으로, 단일 평문이 아니라 평문 쌍(pair)을 비교 분석합니다. 이를 통해 분석가는 알고리즘이 서로 다른 데이터 입력에 어떻게 반응하는지 추론할 수 있습니다.
고전 암호학(Classical Cryptography)의 구조
고전 암호학은 큰 수의 곱셈 계산이 컴퓨터로도 매우 어렵다는 수학적 특성에 의존합니다. 고전 암호 시스템은 두 가지 기법으로 구성됩니다.
대칭키 암호(Symmetric Cryptography): 데이터를 암호화하고 복호화할 때 동일한 키를 사용하는 방식입니다.
비대칭키 암호(Asymmetric Cryptography): 암호화와 복호화에 서로 다른 키를 사용하는 방식으로, 공개키와 개인키의 짝으로 이루어집니다.
무차별 대입 공격(Brute Force Attack)이란?
무차별 대입 공격은 가능한 모든 경우의 수를 하나씩 시도해 메시지를 해독하는 방식입니다. 암호 체계를 깨기 위해 엄청난 수의 키 조합을 무작위로 시도하는 것이 대표적이며, 암호 분석 관점에서는 평문을 얻어낼 때까지 모든 가능한 키를 시도하는 공격이라 정의할 수 있습니다.
비밀번호가 길어질수록 시도해야 할 조합의 수가 기하급수적으로 늘어납니다. 따라서 길고 복잡한 비밀번호가 더 안전한 이유도 바로 여기에 있습니다.
사전 공격(Dictionary Attack)과의 차이
예를 들어 'guest12345'처럼 흔한 패턴의 비밀번호를 생각해 볼 수 있습니다. 공격자가 사전에 담긴 단어나 자주 쓰이는 비밀번호 후보를 골라 대상 계정에 시도하는 것을 사전 공격(dictionary attack)이라 하며, 가장 단순한 형태의 공격입니다.
두 공격의 핵심 차이는 탐색 범위입니다. 무차별 대입 공격은 방대한 키 조합 전체를 탐색하므로 시간이 매우 오래 걸리는 반면, 사전 공격은 성공 가능성이 높은 단어 위주로만 탐색하기 때문에 상대적으로 빠르게 결과를 얻을 수 있습니다.
암호 분석의 실제 사례
암호 분석가는 평문의 출처, 암호화 키, 암호화 알고리즘을 알지 못한 채 암호문을 해독하는 것을 목표로 삼습니다. 나아가 안전 해시(hashing), 디지털 서명 등 다양한 암호 알고리즘 역시 해독과 검증의 대상이 됩니다.
암호학(Cryptology)의 활용
암호학은 데이터를 안전하고 대개 비밀스럽게 통신·저장하는 과학입니다. 넓은 의미에서 암호학은 암호를 설계하는 암호화 기술과 이를 공략하는 암호 분석을 모두 포괄하며, 두 분야의 경쟁과 발전을 통해 현대 정보 보안이 함께 성장해 왔습니다.
마무리
암호 분석은 네트워크 보안의 근간을 이루는 학문으로, 공격 기법을 이해해야 더 강한 방어 체계를 만들 수 있습니다. 암호문 단독 공격부터 차분 암호 분석, 무차별 대입 공격까지 각 기법의 원리를 이해하면 시스템의 취약점을 사전에 점검하고 보완하는 데 큰 도움이 됩니다.