통계학에서 평균 제곱 오차(Mean Squared Error, MSE)는 통계 모델의 오류 크기를 측정하는 핵심 지표입니다. 특히 미래 값을 예측하는 모델의 정확도를 평가할 때 널리 활용됩니다.
이 글에서는 MSE가 무엇인지 자세히 살펴보고, 엑셀에서 MSE를 계산하는 실전 방법까지 단계별로 안내합니다.
평균 제곱 오차(MSE)란 무엇인가?
평균 제곱 오차(MSE)는 데이터셋에서 추정값(예측값)과 실제값 사이의 차이를 제곱한 후 평균을 구한 값입니다. 즉, 통계 모델에 얼마나 많은 오차가 포함되어 있는지를 나타내며, 회귀선이 데이터 포인트들에 얼마나 잘 적합(fit)되는지를 측정하는 기준이 됩니다.
예를 들어, 한 소프트웨어 회사가 연간 매출을 예측하는 모델을 운영하고 있다고 가정해 보겠습니다. 연말에 실제 매출 데이터를 입력한 뒤 MSE를 계산하면, 해당 모델이 결과를 얼마나 정확하게 예측했는지 객관적으로 확인할 수 있습니다.
MSE는 목표 변수의 예측값과 실제값 사이의 차이를 제곱한 값들의 평균으로 산출됩니다. 공식은 다음과 같습니다:
각 기호의 의미는 다음과 같습니다:
- Σ(시그마): 값들의 합을 의미합니다.
- n: 표본 크기 또는 관측치의 개수입니다.
- Yi: 실제 관측값입니다.
- Ŷi: 모델이 예측한 값입니다.
오차 값이 작을수록 모델의 표준 오차가 작고, 목표 변수를 더 정확하게 예측한다는 의미입니다. MSE는 통계 회귀 분석과 데이터 분석 전반에서 폭넓게 사용되며, 여러 모델의 성능을 비교하거나 예측 정확도를 높이기 위해 파라미터를 튜닝할 때도 유용합니다.
공식이 다소 복잡해 보일 수 있지만, 아래 섹션에서 단계별로 살펴보면 누구나 쉽게 따라 할 수 있습니다.
엑셀에서 MSE를 계산하는 두 가지 방법
엑셀에서 MSE를 계산하는 대표적인 방법은 SUMSQ 함수와 AVERAGE 함수를 활용하는 것입니다. 아래 예시 데이터를 통해 두 가지 방법을 모두 살펴보겠습니다.
이 간단한 예시에서는 월별 가상의 매출 데이터(A열)를 사용합니다. B열에는 예측값이, C열에는 실제값이 입력되어 있습니다.
방법 1: SUMSQ 함수로 MSE 계산하기
엑셀의 SUMSQ 함수는 지정된 범위 내 숫자들의 제곱합을 구하는 함수입니다. 이를 활용해 MSE를 계산하는 절차는 다음과 같습니다.
- D열에 '차이'라는 이름의 새 열을 만듭니다. 이 열에는 예측값과 실제값의 차이가 기록됩니다.
- '=C2-B2' 수식을 입력하여 각 행의 차이를 계산하고, 나머지 행에도 수식을 채워 넣습니다.
- 빈 셀을 선택한 후 다음 수식을 입력합니다: '=SUMSQ(D2:D13)/COUNT(D2:D13)'. 수식의 셀 참조는 본인의 스프레드시트에 맞게 변경하세요. 이 셀의 최종 결과값이 바로 MSE입니다.
방법 2: AVERAGE 함수로 MSE 계산하기
AVERAGE 함수는 숫자 범위의 평균을 계산하는 함수입니다. 이 방법은 SUMSQ 함수와 동일한 결과를 반환하지만, 제곱 과정을 직접 수행해야 한다는 점이 다릅니다.
- SUMSQ 방법의 1~2단계를 먼저 수행하여 예측값과 실제값의 차이를 구합니다.
- E열의 이름을 '제곱 차이'로 지정한 후, '=D2^2' 수식을 사용해 D열의 각 값에 대한 제곱을 계산합니다.
- 빈 셀을 선택하고 E열의 평균값을 계산합니다. '=AVERAGE(E2:E13)'을 입력한 후 Enter 키를 누르면, 앞서 구한 제곱 값들의 평균, 즉 MSE가 반환됩니다. 반드시 본인의 워크시트에 맞게 셀 범위를 조정하세요.
엑셀로 통계 분석 시작하기
마이크로소프트 엑셀은 오랫동안 가장 강력한 데이터 분석 도구 중 하나로 자리 잡아 왔습니다. 이 가이드를 따라 했다면 이제 엑셀에서도 몇 번의 클릭만으로 MSE를 손쉽게 계산할 수 있을 것입니다. 또한 구글 스프레드시트도 엑셀과 사용 방식이 매우 유사하기 때문에, 동일한 수식과 절차를 그대로 적용할 수 있습니다.