베이즈 법칙이란 무엇인가?
베이즈 법칙(Bayes' Rule)은 새롭고 관련성 있는 증거가 도착했을 때, 우리가 가지고 있던 기존의 믿음(확률)을 체계적으로 갱신할 수 있는 방법을 제공하는 통계학의 핵심 원리입니다.
예를 들어, 어떤 사람이 암에 걸렸을 확률을 계산한다고 가정해 봅시다. 아무런 추가 정보가 없다면, 초기 확률은 단순히 '인구 전체에서 암 환자가 차지하는 비율'이 됩니다. 그러나 '그 사람이 흡연자라는 사실'과 같은 추가 증거가 주어지면 상황이 달라집니다. 흡연자일 경우 암에 걸릴 확률이 일반 인구보다 높기 때문에, 우리는 초기 확률을 더 높은 값으로 수정할 수 있습니다. 이처럼 베이즈 법칙은 사전 지식(prior knowledge)을 활용하여 확률 추정의 정확도를 향상시키는 강력한 도구입니다.
베이즈 법칙의 수식
베이즈 법칙은 다음과 같은 수식으로 표현됩니다.
P(C|D) = P(D|C) × P(C) ÷ P(D)
여기서 C는 확률을 구하고자 하는 사건(event)이며, D는 C와 어떤 방식으로든 관련된 새로운 증거(evidence)입니다.
1. P(C|D): 사후 확률(Posterior)
P(C|D)는 사후 확률이라고 불리며, 베이즈 법칙을 통해 최종적으로 추정하려는 값입니다. 위의 예시에서는 '그 사람이 흡연자라는 조건이 주어졌을 때 암에 걸릴 확률'에 해당합니다.
2. P(D|C): 가능도(Likelihood)
P(D|C)는 가능도라고 불리며, 초기 가설이 참이라고 가정할 때 새로운 증거가 관찰될 확률입니다. 예시로 들면 '암에 걸린 사람이 흡연자일 확률', 즉 가설이 참이라는 전제 하에 증거가 나타날 가능성을 의미합니다.
3. P(C): 사전 확률(Prior)
P(C)는 사전 확률이라고 불리며, 어떠한 추가 정보도 없는 상태에서의 가설의 확률입니다. 위 예시에서는 '암에 걸릴 확률' 자체, 즉 인구 전체에서의 암 발생 비율에 해당합니다.
4. P(D): 주변 가능도(Marginal Likelihood)
P(D)는 주변 가능도 또는 증거(evidence)라고 불리며, 증거가 관찰될 전체 확률입니다. 예시에서는 '흡연자일 확률'에 해당합니다. 흥미로운 점은, 베이즈 법칙의 여러 응용 분야에서 이 값은 주로 정규화(normalization) 역할만 수행하기 때문에 실제 계산 과정에서 생략되는 경우가 많다는 것입니다.
마무리
베이즈 법칙은 머신러닝의 나이브 베이즈 분류기(Naive Bayes Classifier), 스팸 필터링, 의료 진단 등 다양한 분야에서 활용되는 근본적인 개념입니다. 사전 확률에서 출발하여 새로운 증거를 반영해 사후 확률을 도출하는 이 과정은, 불확실한 세상에서 합리적으로 판단을 내리는 데 필수적인 사고방식이라 할 수 있습니다.