창발의 스택을 다시 한 번 올라가 보자
이 퀘스트는 처음부터 하나의 스택을 따라 올라왔어. 입자 → 원자 → 분자 → 세포 → 생물 → 마음으로 이어지며, 각 단계에서는 아래 단계만으로 예측할 수 없던 새로운 성질이 창발했지. 확률 트랙은 그 스택의 바닥을 보여 줘. 바탕은 양자역학적이고 확률적이며 근본적으로 비결정적이야. 그런 바탕에서 수많은 사건의 평균으로 일상의 고전적인 세계가 창발해.
현대 AI도 같은 스택 위에 있지만 중간 경로가 달라.
- 입자 → 원자 → 실리콘 → 트랜지스터 → 논리 게이트 → 텐서 → 매개변수 → 창발한 능력.
중간 단계는 다르지만 기본 구조는 같아. 창발 위에 또 다른 창발이 쌓이지. 새 단계마다 아래 단계가 약속하지 않았던 무언가가 더해져. 트랜지스터는 논리를 약속하지 않고 논리 게이트는 텐서를 약속하지 않으며 텐서는 능력을 약속하지 않아. 그런데 규모가 커지면 능력이 나타나.
"규모 확장 법칙"이 놀랍지만 낯설지 않아야 하는 이유
현대 AI에서 가장 충격적인 발견 가운데 하나는 신경망의 매개변수와 훈련 자료의 규모를 키울 때 능력이 단순한 비례보다 더 크게 향상된다는 사실이야. 작은 모형에는 없던 추론, 번역, 코드 생성 같은 새로운 행동이 나타나. 복잡성이 더 높은 단계에서 생기는 새로운 성질이라는 점에서 각각 창발처럼 보여.
객체 지향과 창발의 관점에서는 아주 낯선 일이 아니야. 우주의 다른 단계에서도 똑같은 일이 벌어졌어. 원자에는 분자에 없던 성질이 나타나고, 세포에는 분자에 없던 성질이 나타나며, 뇌에는 뉴런 하나에 없던 성질이 나타나. 규모가 커진 신경망에도 같은 구조가 보이는 것은 신경망이 물질이라는 같은 바탕 위에서 캡슐화, 메시지 전달, 학습된 인터페이스라는 같은 객체 지향의 기본 요소를 사용하기 때문이야.
이 말은 오늘의 AI가 의식을 가졌거나 인간과 같다는 주장이 아니야. 창발의 모습은 보편적이고 AI가 그 모습을 보이는 이유는 우주 자체가 창발 위에 세워졌기 때문이라는 뜻이야. 여기서 놀라움이 드러내는 것은 우주의 이상함보다 우리가 미리 품었던 기대일지 몰라.
양자에서 AI로 이어지는 다리
두 세계를 잇는 작은 실 하나를 붙잡아 보자. 양자역학은 근본적으로 확률적이야. 현대 AI도 근본적으로 확률적으로 작동해. 신경망은 다음 토큰의 분포를 내놓고 그중 하나를 뽑아 글, 이미지, 결정을 만들어. 둘 다 서로 다른 단계에 놓인 확률 기계야. 양자적 바탕은 우주가 만든 확률 기계이고, 신경망은 인간이 더 높은 단계에 만든 확률 기계지. 인간이 하나를 만들었고 우주 자체가 또 하나라는 사실은 철학적으로 놀라워.
이 시리즈의 다음 퀘스트는 수학과 실험, 더 깊은 이상함을 갖춘 본격적인 양자역학을 다룰 거야. 이번 트랙은 예고편이었어. 여기서 가져갈 그림은 이것이야. 확률은 우주 설계의 결함이 아니라 우주가 세워진 바탕이야. 결정론은 엄청나게 많은 확률적 사건의 평균에서 창발한 높은 단계의 환상이지.