"가설검정은 귀무가설 아래에서 예상되는 변동과 관측된 차이를 비교하는 절차야. 귀무가설이나 대립가설의 확률을 직접 계산해 주지는 않아."
네 가지 구성요소
- 귀무가설 H₀: 검정통계량의 기준분포를 계산할 때 두는 구체적인 가정이야. 흔히 효과 없음이나 차이 없음이지만 언제나 그런 것은 아니야.
- 대립가설 H₁: 귀무가설과 대비할 가능성의 범위야. 한쪽 또는 양쪽 방향으로 정할 수 있어.
- 검정통계량: 자료가 귀무가설에서 예상되는 값과 얼마나 어긋나는지 요약한 숫자야.
- 결정 규칙: 데이터를 보기 전에 유의수준 α와 기각영역을 정해. p-value가 α 이하인 경우처럼 규칙을 만족하면 H₀를 기각해.
H₀를 기각하지 못했다는 말은 H₀가 참이라고 확인했다는 뜻이 아니야. 표본이 작거나 측정이 거칠어서 실제 차이를 잡아낼 검정력이 부족했을 수도 있어. 반대로 기각했다고 H₁의 특정 설명이 참이라고 증명되는 것도 아니지.
법정은 비유일 뿐이야
무죄추정과 기소 측의 입증책임은 '기본 판단을 뒤집으려면 증거가 필요하다'는 점에서 가설검정과 비교할 수 있어. 그러나 피고인의 유무죄는 통계 모수도 아니고, 합리적 의심은 보편적인 숫자 α로 정해지지 않아. 배심원 판단을 p-value 계산과 같은 절차로 취급하면 비유의 범위를 넘어가.
가설검정이 직접 주지 않는 것
p-value는 H₀가 참이라는 가정 아래에서, 선택한 검정통계량이 관측값만큼 또는 그보다 더 극단적일 확률이야. P(H₀ | 데이터)도 아니고, 관측된 데이터 한 점의 단순한 P(데이터 | H₀)도 아니야.
통계적 유의성만으로 효과 크기나 실질적 중요성을 알 수 없어. 큰 표본에서는 작은 효과도 유의할 수 있고, 작은 표본에서는 중요한 효과도 유의하지 않을 수 있어. 효과 추정치와 신뢰구간, 연구 설계를 함께 봐야 해.
유지할 프레임
가설검정은 미리 정한 오류 기준 아래에서 H₀와 자료의 불일치를 평가해. '어느 가설이 참일 확률이 얼마인가?'라는 질문과는 다르며, 기각 여부보다 효과 크기와 불확실성을 함께 보고해야 해.