공식은 압축된 문장
11개 트랙에서 벡터, 행렬, 로그, 확률, 회귀, 미적분, 역전파를 만났어. 공식은 아이디어를 짧고 모호하지 않게 전달하는 표기야. 단순한 문장부호라서 버려도 되는 것도 아니고, 뜻을 모른 채 외우는 주문도 아니지.
예를 들어 은 ‘손실의 가장 가파른 오르막 반대쪽으로 학습률만큼 움직인다’는 말을 압축해. 말로 풀 수 있어야 부호와 단위를 검토할 수 있고, 기호로 쓸 수 있어야 복잡한 계산을 정확히 이어 갈 수 있어.
직관과 형식은 서로 검증한다
- 직관은 답의 방향과 크기를 예상하게 해. 내적이 정렬을 재고, 기울기가 오르막을 가리킨다는 감각이 여기 속해.
- 형식은 예외와 조건을 놓치지 않게 해. 로그의 밑 조건, 중심극한정리의 가정, 행렬 모양이 여기서 드러나.
- 코드는 구체적 예를 계산하고 반례를 시험하게 해. 자동미분과 선형대수 함수가 계산을 맡지만 문제 설정까지 대신하진 않아.
셋 가운데 하나만 고르지 마. 직관으로 예상하고, 식으로 정의하고, 코드로 확인해. 결과가 어긋나면 버그인지 가정 위반인지 다시 추적해.
설명할 수 있다는 것의 기준
개념을 안다는 건 멋진 비유 하나를 말하는 데서 끝나지 않아. 무엇을 입력으로 받고 무엇을 출력하는지, 언제 성립하고 언제 깨지는지, 코드에서 어떤 모양으로 나타나는지까지 설명할 수 있어야 해.
공식보다 개념이 먼저지만 공식도 개념의 일부야. 뜻을 붙잡은 뒤 기호와 코드로 왕복할 수 있을 때 비로소 체화된 거야.