원점과 눈금을 다시 잡기
100점 만점 수학 점수와 50점 만점 물리 점수는 원점도 눈금도 달라. 원점수를 그대로 견주지 말고 각 집단 안에서 평균보다 얼마나 떨어졌는지 재면 돼. 그 값이 z점수야.
평균을 빼서 중심을 0으로 옮기고, 표준편차로 나눠 눈금 하나를 표준편차 1로 맞춰. 그래서 는 원래 단위와 상관없이 평균보다 1.5표준편차 높다는 뜻이야.
정규분포가 없어도 계산은 된다
z점수는 평균과 표준편차가 있는 자료라면 계산할 수 있어. 원자료가 정규분포를 따라야만 하는 건 아니야. 다만 을 매우 드문 값으로 해석하거나 백분위로 바꿀 때는 정규성 가정이 끼어들어. 계산과 해석의 조건을 갈라서 봐.
정규분포를 z점수로 바꾸면 평균 0, 표준편차 1인 표준정규분포가 돼. 예전 통계책의 표 하나로 여러 평균과 표준편차를 다룰 수 있었던 이유야.
머신러닝에서의 표준화
특성마다 단위가 크게 다르면 최적화 지형도 한쪽으로 길게 늘어져 학습이 까다로워질 수 있어. z점수 표준화는 특성의 중심과 크기를 비슷하게 맞춰 최적화를 돕곤 해. 하지만 모든 모델에 무조건 필요하진 않고, 이상치가 심하면 평균과 표준편차 자체가 흔들린다는 점도 기억해.
z점수는 단위를 없애고 상대적 위치를 남겨. 다만 같은 z점수가 언제나 같은 확률을 뜻하는 건 아니야. 그 해석에는 분포 모양이 필요해.