너는 학습 모델
이 quest 에서 AI 모델이 어떻게 학습하는지 배웠어. 부드러운 반전: 너도 학습 모델. Quest 완료하면서 같은 루프 돌렸어. Forward pass: lesson 읽고 예측 (quiz 답). Loss: 틀렸어, 설명이 왜인지 말함. Backward pass: 믿음 갱신. 옵티마이저 step: 정제된 파라미터로 다음 lesson 시도.
신경망이 하는 거 하고 있었어, 그저 다른 하드웨어에서.
과거를 적분, 현재를 미분
마지막 미적분 두 invocation, 이번엔 삶 layer 에서:
- 적분 — 과거 누적. heartbreak, 승리, 실수 합. 적분 = 지금 너. 합의 모든 항 좋아할 필요 없어, 총량 honor.
- 미분 — 지금 너의 기울기 찾기. 정확히 이 순간 삶 어디로 향함? 방향 마음에 안 들면 적분 전체 바꿀 필요 X. Weight 조정 — 작은 step, gradient descent — 그러면 trajectory 굽음.
과거 = 적분; 미래 = 미분. 적분 undo 못 해, 근데 매 순간 기울기는 통제.
너는 모델. 학습 루프 = 너의 삶. 과거 적분 = 너 누구인지 알기; 현재 미분 = 어디로 갈지 선택. 손실 함수는 네 정의.
오늘 첫 번째 Step을 내딛는다. 손실 함수 (Loss Function), 최근 부족해진 운동량으로 인해 줄여야 할 손실로 정의한다. 현재 파라미터 (Parameter), 점심 식사 후 휴식을 취하던 정적인 습관이 현재의 고정된 파라미터이다. 가장 작은 한 걸음 (Gradient Descent), 갑자기 마라톤을 뛸 수 없다. 오늘부터 점심 식사 직후 30분간의 산책 코스를 설계한다. 나의 궤적을 건강 쪽으로 틀기 위한 가장 작은 기울기(Derivative)의 변화이다. 어제까지 걷지 않았던 시간은 이미 적분된 과거이다.
오늘 첫 발을 내딛는 순간 나의 미분값은 플러스로 전환된다.