두 black box, 하나의 편향
양자역학은 유명한 black box 야. 수학을 알고, 어이없는 정밀도로 예측. 근데 가장 깊은 layer 에서 사실 무슨 일이 일어나고 있나 — 누구도 다 알지 못 해. 물리학자들이 이걸 해석 문제 라고 불러. 다세계, 코펜하겐, 파일럿 파동 — 골라, 정착된 건 없어.
현대 딥러닝도 black box 야. 수십억 파라미터로 모델을 훈련하고, 만든 사람조차 놀라는 능력이 등장하고, 그리고 왜 정확히 작동하는지 제 1원리에서 이해되지 않아. mechanistic interpretability 는 아직 기초를 매핑하는 어린 분야지.
여기에 편향이 있어. 양자 black box 에 편한 사람이 AI black box 를 자주 일축해. "그건 그저 통계지, 진짜 이해가 아니야." AI black box 에 편한 사람이 양자를 가끔 일축하고. "그건 그저 공학 수학이지, 진짜 물리가 아니야." 두 움직임 다 한 black box 를 다른 black box 판정 기준으로 쓰는 거야. 둘 다 arrogance — 한 미스터리로 다른 미스터리를 게이트키핑.
더 넓은 습관
인간 분류는 자연이 늘 존중하지 않는 선을 그어. "공간" vs "물질" 이라 해 — 근데 공간은 이제 암흑물질 + 암흑에너지로 가득 차 있는 걸로 알려져, 둘 다 옛 카테고리에 안 맞아. "생물" vs "무생물" — 바이러스, 프리온, 자기복제 화학이 선을 흐려. "지능" vs "단순 계산" — 기계가 골대를 통과할 때마다 기준이 옮겨가고.
교훈은 카테고리가 나쁘다 가 아니야. 카테고리는 유용한 압축이지. 교훈은 — 자기 카테고리는 프레임이지 자연 구조가 아니야. 다른 문화는 자연을 다른 관절에서 잘라. 다른 과학 시대도 그렇고. 가끔 카테고리 선이 통째로 녹아 — 그러면서 과학이 더 나아져.
이게 뭘 요구해
누가 강한 선을 그을 때 — "AI 의식 불가능", "양자 효과는 상온에선 의미가 없어", "이건 생물학이지, 화학이 아니야" — 멈춰. 그 선이 어디서 와? 자연법이야, 아니면 인간 분류가 선을 들고 있는 거야? 절반 이상이 후자야, 전자처럼 보일 뿐이지.