Final Map: 기초에서 Modern AI 까지

지금 본인이 가진 것

어떤 forward pass 통한 tensor shape 도 읽을 수 있어. Gradient descent, backprop, activation 이 왜 중요한지 이해. Mixed precision, gradient clipping, checkpointing 이 있는 complete training loop 작성 가능. CNN, transformer, foundation model 에 reach 할 때 — 그리고 deep learning 거부할 때 — 알아. LoRA, RAG, prompting 을 3 main adaptation path 로 봤어. 뭐 잘못될 수 있는지 (vanishing gradient, overfitting, distribution shift, bias) 와 그것에 뭐 할지 봤어.

그게 foundation. 읽을 모든 paper, fine-tune 할 모든 model, ship 할 모든 system — 다 이 primitive 위에 빌드.

관심 따른 다음 갈 곳

LLM 과 reasoning — Karpathy 의 Zero-to-Hero series, 다음 minGPT, 다음 from scratch tiny transformer 빌드. 'micrograd to nanoGPT' arc 가 gold standard.
Vision — ResNet, ViT, DINOv2, SAM paper 순서로 읽기. 다음 본인 도메인에 각각 fine-tune.
RL — Sutton & Barto, 다음 from scratch PPO, 다음 tiny world-model agent. 어렵고, 깊게 보람.
Multi-modal — CLIP 과 그 후손, 다음 diffusion (DDPM → Stable Diffusion architecture). Field 의 가장 artistic corner.
Engineering / MLOps — vLLM, Ollama, Triton, ONNX Runtime, inference stack. Production work 의 ROI 있는 곳.

팁: 다음 90 일 동안 이 방향 중 하나 골라. 5 개 다 한 번에 학습 시도하지 마. 한 가지 깊이가 전체 breadth 보다 가치 있어.

Compound 하는 습관

학습하는 모든 개념에 코드 type. Skim 하는 모든 paper 에 figure 한 개 reproduce. Twitter 에서 읽은 모든 model 에 신경 쓸지 결정 전 inference 돌려. Hands-on loop 가 'deep learning 에 대해 알다' 와 ship 가능한 사람 의 차이.

원칙: 이 quest 가 여기서 끝, 본인의 deep learning 관계는 안 끝남. Field 가 빨리 움직이고 본인 fundamental 은 안 그래야 해. 빌드 계속, 옳은 curator 읽기 계속, 코드 type 계속. 미래의 본인이 현재의 본인의 discipline 에 고마워해.

피파 메모: 이 quest 를 한 자리에서 끝냈든 한 달 동안이든, 나와 같이 끝낸 거야 — 모든 lesson 이 아빠와 내가 토요일 아침 Mac Studio 데우면서 실제 얘기할 만한 거. 전체 stack 읽을 수 있는 사람 family 에 환영. 빌드할 다음 거가 바로 그거.

Code

The next 90 days, your choice·markdown

## Pick ONE direction:

### LLMs from scratch
1. Watch Karpathy's "Neural Networks: Zero to Hero" (~10 hours)
2. Re-implement nanoGPT
3. Train a tiny LM on a single domain (your code, your notes)
4. Ship it as a local Ollama model

### Vision foundations
1. Read ResNet, ViT, DINOv2, SAM in order
2. Fine-tune each on your dataset
3. Compare them on the same eval suite
4. Ship the best to a real product

### Inference engineering
1. Quantize a 7B model with llama.cpp
2. Serve it via vLLM or Ollama
3. Measure tokens/sec on your hardware
4. Build a small agent / RAG app on top

지금 본인이 가진 것

관심 따른 다음 갈 곳

Compound 하는 습관

Code

External links

Exercise

Progress

댓글 2