공식 = syntax 일 뿐
11 트랙 가로질렀어. 벡터, 행렬, eigen, 로그, 확률, 정규성, 회귀, 미분학, backprop. 수십 공식 만났어. 외우고 싶은 유혹. 하지 마.
공식 = 그저 syntax. 아이디어의 punctuation. Python syntax 처럼 — 찾아보면 됨. 영어 문법 룰처럼 — 표 외우는 게 아니라 언어 사용해서 체화. 수학도 같음. 공식이 아름답지만 이걸 외우려고 quest 한 거 아니야. 왜 함수의 기울기가 weight 어느 쪽 까딱일지 말하는지 이해 하려고 한 거지.
컴퓨터가 너 대신 못 하는 것
NumPy 가 어떤 도함수든 계산. PyTorch autograd 가 backprop 완벽 처리. scipy.linalg 가 어떤 시스템도 풀어. 어떤 컴퓨터도 못 하는 게 = 그 도함수를 애초에 왜 취할지 결정. "왜" 가 개념 layer — instance 뒤의 mold, 명사 뒤의 동사.
개념 > 공식. 친구한테 한 문장으로 아이디어의 모양 설명할 수 있으면 — "내적이 정렬 측정", "gradient 가 위쪽 가리킴", "softmax 가 logit 을 확률로" — 공식은 필요할 때 스스로 재조립.
공식 X, 개념 외우기. 직관 자리 잡으면 수학이 알아서 정렬. 순서 뒤집으면 영원히 instance collector.