"보이는 성공은 성공의 조건만 보여줘. 같은 조건을 가졌지만 사라진 사례까지 봐야 무엇이 실제로 효과가 있었는지 알 수 있어."
Wald와 돌아온 비행기
제2차 세계대전 중 Statistical Research Group의 Abraham Wald는 전투에서 돌아온 항공기의 손상자료를 분석했어. 관측된 피격분포만 보고 장갑을 배치하면 살아 돌아온 항공기의 정보만 쓰게 돼. 돌아오지 못한 항공기는 표본에 없기 때문이야.
오늘날 널리 퍼진 색칠된 비행기 그림과 "장교들은 구멍 많은 곳을 보강하려 했고 Wald가 정반대를 말했다"는 장면은 후대의 교육용 재구성이 섞여 있어. 하지만 Wald의 분석이 담은 핵심은 분명해. 관측확률은 피격확률뿐 아니라 그 피격 뒤 귀환할 확률에도 달려 있었어. 생존이 자료수집의 문을 결정한 거야.
성공담의 보이지 않는 분모
성공한 창업가, 투자자, 운동선수의 전략을 모으면 성공에 조건을 건 표본이 돼. 같은 전략을 썼지만 실패한 사람이 얼마나 되는지, 다른 전략으로 성공한 사람이 얼마나 되는지 없으면 인과효과를 알기 어려워. 성공자가 자주 한 행동은 성공의 원인일 수도 있지만 업계의 흔한 행동, 성공 뒤 생긴 행동, 단순한 이야기일 수도 있어.
실패자를 몇 명 더 인터뷰하는 것만으로도 충분하지 않을 수 있어. 처음 시도한 전체 집단, 추적에서 사라진 사람, 성공을 어떻게 정의했는지까지 알아야 분모가 생겨.
운영 원칙
"성공한 사람들은 무엇을 했나?" 앞에 "누가 관측될 기회를 얻었나?"를 붙여. 시작한 전체 집단에서 전략별 성공률을 비교하고, 생존 여부가 측정과 어떤 관련이 있는지 확인해야 조언을 인과효과로 오해하지 않아.