간격 척도(interval-scaled) 변수는 대체로 선형적인 척도를 갖는 연속형 데이터를 말합니다. 몸무게와 키, 위도·경도 좌표(예: 주택 데이터를 군집화할 때), 기온 등이 대표적인 예입니다. 흥미로운 점은 사용하는 측정 단위가 군집 분석 결과에 직접적인 영향을 미친다는 것입니다.
측정 단위가 군집 분석에 미치는 영향
예를 들어 키의 단위를 미터에서 인치로, 몸무게의 단위를 킬로그램에서 파운드로 바꾸면 군집 구조 자체가 달라질 수 있습니다. 일반적으로 변수를 더 작은 단위로 정의할수록 해당 변수의 값 범위(range)가 넓어지고, 결과적으로 최종 군집 구조에 미치는 영향력도 커집니다.
데이터 표준화가 필요한 이유
데이터 단위 선택에 대한 의존성을 없애려면 데이터를 반드시 표준화(standardization)해야 합니다. 측정값을 표준화하면 모든 변수에 동일한 가중치를 부여할 수 있으며, 이는 데이터에 대한 사전 지식이 없을 때 특히 유용합니다.
다만 일부 응용 분야에서는 사용자가 특정 변수에 의도적으로 더 큰 가중치를 부여하고 싶은 경우도 있습니다. 예를 들어 농구 선수 후보를 군집화할 때는 키(height) 변수에 더 높은 가중치를 두는 것이 합리적일 수 있습니다.
평균 절대 편차(Mean Absolute Deviation) 계산
데이터를 표준화하는 한 가지 방법은 원래 데이터를 무차원(unitless) 변수로 변환하는 것입니다. 변수 f의 측정값이 주어졌을 때, 먼저 평균 절대 편차 sf를 계산합니다.
$$\mathrm{s_{f}\:=\:\frac{1}{n}(|x_{1f}-m_{f}|+|x_{2f}-m_{f}|+\cdot\cdot\cdot+|x_{nf}-m_{f}|)}$$
여기서 x1f, …, xnf는 변수 f의 n개 측정값이며, mf는 f의 평균값입니다.
z-점수(Z-score) 계산
이어서 표준화된 측정값인 z-점수를 다음과 같이 구합니다.
$$\mathrm{z_{if}\:=\:\frac{x_{if}-m_{f}}{s_{f}}}$$
평균 절대 편차 sf는 표준편차 σf보다 이상치(outlier)에 더 강건합니다(robust). 평균 절대 편차를 계산할 때는 평균으로부터의 편차 |xif - mf|를 제곱하지 않기 때문에 이상치의 영향이 줄어듭니다. 물론 중앙값 절대 편차(median absolute deviation)처럼 더 강건한 산포 측도도 존재합니다. 그럼에도 평균 절대 편차를 선호하는 이유는 이상치의 z-점수가 지나치게 작아지지 않아 이상치를 계속 탐지할 수 있다는 장점 때문입니다.
표준화가 특정 응용 분야에서 항상 도움이 되는 것은 아닙니다. 따라서 표준화 여부와 적용 방식의 선택은 사용자의 판단에 맡겨져야 합니다. 표준화를 마친 후(또는 특정 응용에서는 표준화 없이), 간격 척도 변수로 정의된 객체들 간의 비유사성(dissimilarity) 또는 유사성(similarity)은 일반적으로 객체 간 거리를 기반으로 계산됩니다.
객체 간 거리 측정 방법
유클리드 거리(Euclidean Distance)
가장 널리 알려진 거리 측도는 유클리드 거리로, 다음과 같이 정의됩니다.
$$\mathrm{d(i, j)=\sqrt{(X_{i1}-X_{j1})^2+(X_{i2}-X_{j2})^2+...+(X_{in}-X_{jn})^2}}$$
여기서 i = (xi1, xi2, …, xin)과 j = (xj1, xj2, …, xjn)은 두 개의 n차원 데이터 객체입니다.
맨해튼 거리(Manhattan Distance)
또 다른 대표적인 측도는 맨해튼 거리(Manhattan distance, 또는 city block 거리)입니다.
$$\mathrm{d(i, j)=|X_{i1}-X_{j1}|+|X_{i2}-X_{j2}|+...+|X_{in}-X_{jn}|}$$
거리 함수가 만족해야 하는 수학적 조건
유클리드 거리와 맨해튼 거리는 모두 다음과 같은 거리 함수의 기본 조건을 만족합니다.
d(i, j) ≥ 0: 거리는 음수가 아닌(nonnegative) 값입니다.
d(i, i) = 0: 객체 자신과의 거리는 0입니다.
d(i, j) = d(j, i): 거리는 대칭(symmetric) 함수입니다.
d(i, j) ≤ d(i, h) + d(h, j): 객체 i에서 객체 j로 직접 이동하는 거리는 임의의 다른 객체 h를 경유하는 우회 거리보다 클 수 없습니다(삼각 부등식).