치환 암호의 기본 개념
치환 암호(Substitution Cipher)는 가장 오래된 암호화 알고리즘 중 하나로, 평문(plaintext) 메시지의 각 문자를 다른 문자로 대체하여 암호문(ciphertext)을 생성하는 방식입니다.
이 치환 과정은 결정적(deterministic)이면서 가역적(reversible)이기 때문에, 의도된 수신자는 암호문의 문자를 역으로 치환하여 원래의 평문을 복원할 수 있습니다.
모노알파벳 치환 암호의 정의
치환 암호의 대표적인 형태 중 하나가 바로 모노알파벳 치환 암호(Monoalphabetic Substitution Cipher)이며, '단순 치환 암호(Simple Substitution Cipher)'라고도 불립니다. 이 암호는 개별 키 매핑 함수 K를 기반으로 작동하며, 특정 문자 α를 항상 K(α)에 해당하는 문자로 일관되게 치환합니다.
모노알파벳 치환 암호는 평문의 동일한 글자가 항상 암호문의 같은 글자로 대체되는 치환 암호입니다. 여기서 '모노(mono)'는 '하나'를 의미하며, 즉 평문의 각 글자마다 암호문에는 단 하나의 대체 문자만 존재한다는 뜻입니다.
시저 암호와의 비교
시저 암호(Caesar Cipher)는 모노알파벳 암호의 한 종류입니다. 시저 암호 역시 각 평문 문자에 대해 동일한 치환 방식을 적용하여 암호문 문자를 얻습니다. 그러나 시저 암호는 전체적으로 25개의 키만 지원하기 때문에 해커가 키를 비교적 쉽게 무차별 대입(brute force)으로 알아낼 수 있다는 약점이 있습니다. 이러한 한계를 보완하기 위해 모노알파벳 암호가 활용됩니다.
모노알파벳 암호에서는 치환 문자 기호가 알파벳 26글자의 임의 순열(random permutation)을 지원합니다. 알파벳의 순열 경우의 수는 26!로 약 4×10²⁶에 달합니다. 이렇게 방대한 키 공간 덕분에 해커가 무차별 대입 공격으로 키를 찾아내는 것은 사실상 불가능에 가깝습니다.
모노알파벳 암호의 특징과 취약점
모노알파벳 암호는 평문의 기호와 암호문의 기호 사이 관계가 항상 일대일(one-to-one)로 유지되며, 암호화 과정 전반에 걸쳐 이 관계가 고정되는 것이 특징입니다.
하지만 이러한 암호들은 암호분석(cryptanalysis)에 상당히 취약한 것으로 알려져 있습니다. 예를 들어, 평문 메시지에서 'T'가 몇 번이든 등장할 때마다 'J'로 암호화된다면, 'T'는 항상 'J'로 암호화됩니다.
평문이 "TREE"라면 암호문은 "ADOO"가 될 수 있습니다. 이는 평문의 두 'E'가 암호문에서 모두 'O'로 암호화되었음을 보여주며, 해당 암호가 모노알파벳 방식일 가능성을 시사합니다.
통계적 공격의 위협
비록 해커가 무차별 대입 공격을 성공시키기 어렵다 하더라도, 강력한 통계적 공격(statistical attack)을 통해 키를 추론하는 것이 가능합니다. 해커가 어떤 치환 암호든 평문의 특성을 파악하고 있다면, 키 공간의 크기와 무관하게 통계적 공격으로 암호를 깨뜨릴 수 있습니다.
통계적 공격은 암호문에 나타난 문자들의 빈도 분포를 측정하고, 이를 영어 문장에서의 문자 빈도 통계와 비교하는 방식으로 수행됩니다. 이처럼 모노알파벳 암호는 넓은 키 공간에도 불구하고 빈도 분석에는 취약하기 때문에, 현대 정보 보안에서는 더욱 발전된 암호 방식이 요구됩니다.