~11 min · galton, regression-to-mean, father-son-heights, noise
Level 0통계 초심자
0 XP0/55 lessons0/14 achievements
0/100 XP to next level100 XP to go0% complete
"극단적인 관측 뒤에 덜 극단적인 관측이 따라왔다고 해서, 곧바로 원인이 생겼다고 결론 내리면 안 돼. 먼저 평균으로의 회귀를 의심해."
관찰
프랜시스 골턴은 19세기 후반 부모와 성인 자녀의 키를 비교하다가 한 패턴을 발견했어. 키가 큰 부모의 자녀도 평균보다 큰 편이었지만 부모만큼 극단적이지 않았고, 키가 작은 부모의 자녀도 평균보다 작은 편이었지만 부모보다는 평균에 가까웠지. 골턴은 이를 '평균으로의 회귀'라고 불렀어.
이 현상은 키에만 붙어 있는 생물학 법칙이 아니야. 같은 대상을 두 번 측정할 때 상관관계가 완벽하지 않고, 첫 관측값이 극단적이라는 이유로 대상을 골랐다면 두 번째 관측은 평균적으로 덜 극단적인 경향을 보여.
왜 일어나나
관측값을 비교적 지속적인 신호와 매번 달라지는 잡음의 합으로 생각해 봐. 첫 관측이 아주 높았던 대상은 신호가 높았을 수도 있지만, 그날의 우연한 양의 잡음까지 보탰을 가능성이 커. 다음 관측에서는 신호가 비슷해도 잡음이 새로 생기므로, 평균적으로 첫 극단을 그대로 반복하지 않아.
회귀는 과거 성공에 대한 벌도, 모든 사람이 반드시 평균이 된다는 예언도 아니야. 두 측정의 상관관계가 1보다 작고 극단값으로 대상을 선택했을 때 나타나는 조건부 패턴이야. 측정이 완벽하게 반복되거나 두 시점의 값이 완전히 같다면 이런 회귀도 없어.
놓쳤을 때 생기는 오류
스포츠 슬럼프: 유난히 좋은 시즌 뒤의 평범한 시즌을 심리 변화 탓으로만 돌릴 수 있어.
교육 개입: 성적이 가장 낮았던 학교만 지원한 뒤 점수가 오르면, 대조군 없이 상승 전부를 개입 효과라고 착각할 수 있어.
치료 효과: 증상이 가장 심할 때 치료를 시작하고 나아졌다면, 개선에는 치료뿐 아니라 자연 변동과 평균으로의 회귀도 섞일 수 있어.
이 설명들이 치료나 개입의 효과가 없다는 뜻은 아니야. 효과를 알려면 무작위 대조군, 적절한 비교집단, 반복 측정처럼 회귀와 실제 인과효과를 구분할 설계가 필요하다는 뜻이지.
운영 원칙
극단값을 기준으로 대상을 골랐고 다음 측정이 덜 극단적이라면, 평균으로의 회귀를 후보 원인에 반드시 넣어. 그다음 비교집단과 연구 설계로 회귀만으로 설명되는 부분과 실제 변화를 갈라내야 해.
Code
Galton-스타일 평균 회귀, 시뮬레이션·python
import numpy as np
rng = np.random.default_rng(240)
# Galton-스타일 시뮬: 아버지 키 = 참 구성요소 + 노이즈.
# 아들 키 = 같은 참 구성요소 + 새 노이즈.
# 극단 아버지의 아들이 평균 쪽으로 회귀하는 걸 보임.
N = 100_000
true_signal = rng.normal(loc=170, scale=5, size=N) # 인구 평균 170, sd 5
noise_father = rng.normal(loc=0, scale=4, size=N)
noise_son = rng.normal(loc=0, scale=4, size=N)
father_height = true_signal + noise_father
son_height = true_signal + noise_son
# 키 bin 으로 아버지 그룹화하고 평균 아들 키 계산.
for lo, hi in [(155, 160), (165, 170), (170, 175), (180, 185), (190, 195)]:
mask = (father_height >= lo) & (father_height < hi)
if mask.sum() == 0:
continue
avg_father = father_height[mask].mean()
avg_son = son_height[mask].mean()
print(f"[{lo}, {hi}) 의 아버지: 평균 아버지 = {avg_father:.2f}cm 평균 아들 = {avg_son:.2f}cm")
# 극단-키 큰 아버지가 키 큰 아들 가지지만 아들이 평균에 더 가까움.
# 극단-키 작은 아버지가 키 작은 아들 가지지만 아들이 평균에 더 가까움.
# 그 격차가 평균 회귀: 아버지 극단성의 노이즈 구성요소가
# 아들에게 전달 안 됨, 아들이 새 노이즈 받음.