ML 은 제안하고 기하가 정한다

"모델한테는 눈이 어디 있는지에 대한 한 표가 있어. 답이 뭔지에 대해서는 한 표도 없고."

선 하나

Loomis 는 자기 몸통에 협상 불가능한 선을 하나 그어놨어. 선 위쪽에는 학습된 것들이 살아. 검출기는 landmark 가 어디 있는지 제안할 수 있어. 선 아래쪽에는 결정론적인 것들이 살고. 작도도 자세도 점수도 오직 기하가 정해. 신경망은 어디를 맞춰볼지 말할 수 있지만, 답을 그리거나 점수를 매길 수는 없어. 이걸 법이라고 못 박고 가자. 엔진의 신뢰성 전체가 여기 매달려 있으니까. 학습된 부분은 제안까지고, 정답지를 정하지는 못한다.

이 선이 재현성을 붙잡는다

이 시스템에서 결정론적이지 않은 건 모델 하나뿐이야. 그걸 'landmark 를 제안한다' 안에 딱 가둬놓고 그 아래를 전부 순수한 기하로 만들면, 머신러닝을 품고 있으면서도 재현성이 살아. 같은 사진이면 같은 작도가 나오지. 결정론의 경계와 제안·결정의 경계가 사실 같은 선이야. 모델이 이 선을 넘어 자세나 점수를 건드리는 순간 재현성은 즉사해. 답이 스스로 같은 값을 낼 의무가 없는 블랙박스에 걸려버리니까.

실수를 싼 자리에 둔다

학습된 부분을 제안만 하는 자리에 두면 그 실수도 싼 자리에 놓이게 돼. landmark 가 잘못 잡히면 눈에 보여. 오차가 올라가고 오버레이가 어긋나 보이지. 그리고 고칠 수 있어. 사람이 점 하나 밀어주면 기하가 정확히 다시 돌아. 블랙박스 결정 안에 구워진 실수랑 비교해봐. 안 보이고, 못 고치고, 재현도 안 돼. 결국 이 설계는 실수가 어디 살게 할 거냐의 문제야. Loomis 는 실수를 볼 수 있고 고칠 수 있는 제안 쪽에 두고, 그럴 수 없는 답 쪽에서는 빼버려.

믿을 만한 AI 를 만드는 방법

이건 그림보다 훨씬 넓게 쓰이는 방법이야. 똑똑하면서 믿을 만한 시스템을 만드는 일반 레시피거든. 학습된 부분이 제안하게 하고, 결정론적인 층이 정하게 해. 생성기가 초안을 쓰면 검증기나 규칙이 문을 지켜. LLM 이 행동을 제안하면 결정론적 검사가 허가를 내주고. 신경망 쪽은 규칙으로는 못 다루는 흐릿하고 복잡한 제안을 맡아서 값을 하고, 결정론 쪽은 모델이 못 주는 보장을 채워. 'ML 은 제안하고 기하가 정한다' 는 그 레시피의 Loomis 버전이고, 학습과 신뢰가 한 시스템에 같이 필요할 때 어디서든 다시 쓸 수 있어.

Code

코드로 그어놓은 선·python

# THE LINE. Learned ABOVE it, deterministic BELOW it. Nothing crosses down.

# --- learned: may PROPOSE, may be wrong, is correctable ---
landmarks = detector.detect(photo)                        # a neural net's proposal
landmarks = apply_human_corrections(landmarks, edits)     # a recoverable layer

# --- deterministic: DEFINES the answer -- pure geometry, reproducible ---
pose  = solve_pose(landmarks, CANONICAL_HEAD)   # exact
box   = build_construction(pose)                # exact
grade = grade_against(user_drawing, box)        # exact

# The model never touches pose / box / grade. That is precisely why one photo
# has exactly ONE answer -- and why the whole thing survives containing ML.

Exercise

네가 쓰거나 만든 AI 시스템 하나를 잡고 출력을 두 무더기로 갈라봐. 모델이 그냥 제안만 하는 것들(초안, 순위, 추천)과 사실상 결정해버리는 것들(실행된 행동, 저장된 값, 사용자에게 그대로 나가는 결과). 결정 쪽에서 하나를 골라서, 그걸 결정론적 검사나 사람 확인 뒤로 옮겨 제안으로 되돌리는 그림을 그려봐. 그렇게 하면 뭘 얻게 될까?

Hint

믿을 만한 AI 를 만드는 수는 결정 무더기를 줄이는 거야. 제안 더하기 결정론적 관문으로 내려보낼 수 있는 결정 하나하나가 재현성이나 감사 가능성이나 안전을 되찾는 자리거든. Loomis 는 결정 무더기를 아예 0 으로 만들었어. 모델은 늘 제안만 해. 그래서 출력이 정답지가 될 수 있는 거고.