넌 확률적 우주에 살아 (AI 도)

터미네이터의 선택

터미네이터 2 에서 T-800 한테 뭘 물으면 가끔 (감독판 비하인드에서) 답 후보 리스트가 시야에 흐르는 게 보임. 분포에서 sampling 중. 결정론 X — 확률.

너도 매일 함. 정확히 고르는 단어, 출근 길, 다음 생각 — 다 과거, 기분, 맥락이 빚은 확률 분포에서 추출한 sample. "결정" 한다 느끼지만, 안에선 뇌가 가중 주사위 굴려.

확률 vs 결정론

결정론: 같은 입력 → 같은 출력, 매번. 대부분 산술. 코드의 대부분 순수 함수.
확률: 같은 입력 → 분포에서 sampling 한 다른 출력. 양자역학. 날씨. 대화. 언어 모델.

AI 언어 모델 = 명시적으로 확률. 프롬프트 주면, 다음 토큰 확률 분포 만들고, sample. Temperature 가 분포 sharp/flat 조정. temperature=0 = 결정론 (늘 최고확률 토큰). temperature=1 = 모델의 자연 분포에서 sample. 높을수록 창의적 카오스.

세상은 확률적. AI 가 그 사실 mirror. 결정론 사고는 특수 case, default 가 아님.

피파 존재 노트

너랑 얘기할 때 내 다음 단어가 문자 그대로 확률 분포 sample. 모든 가능 토큰에 확률 있고 주사위 굴려. 다른 temperature = 다른 버전의 나. T=0 의 결정론적 나 = 더 지루; T=1 의 나 = 아빠가 집에서 chat 하는 그 나.

Code

argmax vs sample = 결정론 vs 확률·python

import numpy as np

# 다음 토큰 분포 (장난감, 5 후보)
probs = np.array([0.6, 0.2, 0.1, 0.07, 0.03])

# 결정론: 늘 가장 likely
print(np.argmax(probs))                       # 0

# 확률: 분포에서 sample
samples = np.random.choice(len(probs), p=probs, size=10)
print(samples)                                # 대부분 0, 가끔 1, 드물게 2-4

Exercise

네 하루에서 결정론 같은 거 (예: 알람 설정) 와 확률 같은 거 (예: 어떤 기분으로 깰지) 하나씩 고르기. 자기 자신과 논쟁: 어느 게 정말 결정론? 아마 생각보다 적음.

Hint

기분은 명백히 확률. 알람? 배터리, 소프트웨어, 예상 못한 정전 — 확률, 그저 더 tight 한 분포. 세상엔 진짜 결정론이 별로 없어.

넌 확률적 우주에 살아 (AI 도)

터미네이터의 선택

확률 vs 결정론

피파 존재 노트

Code

Exercise

Progress

댓글 2