"검정에는 두 종류의 실패가 있고, 어느 쪽이 더 비싼지는 수학만으로 정해지지 않아. 맥락과 행동의 결과를 함께 봐야 해."
정의
- 제1종 오류: H₀가 참인데 기각하는 오류야. 적절히 설계된 검정에서 유의수준 α는 H₀ 아래의 제1종 오류확률을 통제하는 기준이야.
- 제2종 오류: H₀가 거짓인데 기각하지 못하는 오류야. 특정 대립값에서 그 확률을 β라고 하고, 검정력은
1−β야.
표본 크기와 검정이 고정되어 있으면 α를 낮출수록 검정력이 줄어드는 경우가 많아. 하지만 더 많은 자료를 모으거나 더 정밀하게 측정하거나 효율적인 설계를 쓰면 두 오류를 함께 줄일 수도 있어. 둘 사이의 관계는 단순한 고정 합이 아니야.
오류 이름은 H₀를 어떻게 잡느냐에 달려
암 검진, 약물평가, 스팸필터, 재판에서 거짓양성과 거짓음성의 비용이 다르다는 비교는 유용해. 다만 이를 곧바로 동일한 α와 β에 대응시키면 안 돼. 선별검사의 민감도·특이도와 가설검정의 오류율은 관련된 의사결정 개념이지만 같은 정의가 아니고, 실제 정책은 유병률, 후속검사, 치료의 이익과 위해, 비용을 함께 고려해.
법정 비유의 경계
형사사법은 무고한 사람을 유죄로 판단하는 오류에 큰 비용을 둬. 블랙스톤의 "한 명의 무고한 사람이 고통받는 것보다 열 명의 죄인이 달아나는 편이 낫다"는 격언이 그 비대칭을 표현하지. 하지만 이 10:1은 통계적 손실함수나 보편적인 α를 계산한 결과가 아니야.
'합리적 의심을 넘어서'도 숫자로 고정된 유의수준이 아니고, 배심원은 반복표본의 장기 오류율을 계산하지 않아. 다음 트랙에서는 공통된 결정 구조를 비유로 사용하되, 법과 통계를 같은 절차로 취급하지 않을 거야.
운영 원칙
결정 규칙을 고를 때는 H₀와 행동을 먼저 적고, 제1종·제2종 오류가 각각 누구에게 어떤 비용을 주는지 비교해. 그다음 α, 표본 크기, 원하는 검정력, 최소효과크기를 함께 설계해야 해.