두 개의 암흑상자, 하나의 편향
양자역학은 잘 알려진 암흑상자야. 수학은 알고 있고 믿기 어려울 만큼 정밀한 예측도 해. 하지만 가장 깊은 곳에서 실제로 무슨 일이 벌어지는지는 누구도 완전히 알지 못해. 물리학자들은 이를 해석 문제라고 불러. 다세계 해석, 코펜하겐 해석, 파일럿 파동 이론이 있지만 어느 하나로 결론이 나지는 않았어.
현대 딥러닝도 암흑상자야. 수십억 개의 매개변수로 모형을 훈련하면 만든 사람조차 놀랄 능력이 나타나지만, 왜 정확히 작동하는지를 제1원리에서 모두 설명하지는 못해. 기계론적 해석 가능성 연구도 아직 기초 지도를 그리는 젊은 분야야.
여기에는 묘한 편향이 있어. 양자역학의 암흑상자는 받아들이면서 AI의 암흑상자는 쉽게 깎아내리는 사람이 있지. "그건 그저 통계일 뿐, 진짜 이해는 아니야." 반대로 AI의 암흑상자는 받아들이면서 양자역학을 깎아내리는 사람도 있어. "그건 그저 공학을 위한 수학일 뿐, 진짜 물리가 아니야." 어느 쪽이든 한 암흑상자를 잣대로 삼아 다른 암흑상자를 심판하는 셈이야. 둘 다 자만이야. 하나의 수수께끼를 내세워 다른 수수께끼의 자격을 막는 것이지.
더 넓게 되풀이되는 습관
인간은 자연이 꼭 지켜 주지는 않는 선을 그어 분류해. "공간"과 "물질"을 나누지만, 이제 공간은 암흑물질과 암흑에너지로 가득하다고 알려져 있고 둘 다 옛 분류에 잘 맞지 않아. "생물"과 "무생물"의 경계는 바이러스, 프리온, 자기 복제 화학 앞에서 흐려져. "지능"과 "단순 계산"을 나누는 기준도 기계가 목표를 통과할 때마다 뒤로 옮겨 가고 있어.
그렇다고 분류가 나쁘다는 뜻은 아니야. 분류는 세상을 다루기 좋게 압축해 주는 도구야. 다만 우리가 쓰는 분류는 하나의 관점이지 자연 자체의 구조가 아니다라는 사실을 기억해야 해. 문화마다 자연을 서로 다른 마디에서 나누고, 과학의 시대마다 그 선도 달라져. 때로는 분류의 경계 전체가 녹아내리며 과학이 앞으로 나아가기도 해.
이 관점이 요구하는 태도
누군가 "AI는 의식을 가질 수 없어", "양자 효과는 상온에서 아무 의미가 없어", "이건 생물학이지 화학이 아니야"처럼 단단한 선을 그으면 잠시 멈춰 봐. 그 선은 어디에서 왔을까? 측정할 수 있는 자연법이 그은 선일까, 아니면 인간이 편의를 위해 만든 분류일까? 절반이 넘는 경우에는 후자가 전자처럼 보이고 있을 뿐이야.