Fine-Tune Quest

Tracks

1. 01🎛️파인튜닝 의사결정

   0/7 lessons

   언제 학습 돌리고 언제 멈출지

   파인튜닝은 프롬프트랑 RAG가 측정 가능한 한계에 부딪혔을 때만 값어치를 해. 학습 컴퓨트에 돈 쓰기 전에 그 한계를 어떻게 찾는지 배우는 트랙이야.

   Lesson list (7)

   • 01
     모델 커스터마이징 스펙트럼~22 min · decision, prompt-engineering, rag
   • 02
     파인튜닝이 이기는 자리~20 min · use-cases, distillation, format, style
   • 03
     파인튜닝이 지는 자리~18 min · anti-patterns, catastrophic-forgetting, rag
   • 04
     파인튜닝이 실제로 뭘 하는 건지~20 min · gradients, transfer-learning, mental-model
   • 05
     데이터 요구량과 비용 지형~22 min · budget, dataset-size, infra, apple-silicon
   • 06
     Base vs Instruct 모델~18 min · base-model, instruct, starting-point, chat-template
   • 07
     결정 플로차트 & 라이선스 현실~22 min · decision-tree, licensing, evaluation, legal

   ✓퀴즈 · 5 문제→

2. 02📊학습 데이터

   0/5 lessons

   쓰레기 들어가면 쓰레기 나와 — 파인튜닝에선 10배

   모든 파인튜닝 프로젝트에서 가장 큰 영향력을 갖는 레버. Hyperparameter는 한 자릿수 움직이고, 데이터 품질은 두 자릿수 움직여. JSONL, 포맷, 합성, 정제, split, 어노테이션 다뤄.

   Lesson list (5)

   • 01
     데이터 품질 > 데이터 양~22 min · data-quality, curation, diversity
   • 02
     데이터 포맷: JSONL, OpenAI, Alpaca, ShareGPT~22 min · jsonl, openai-format, alpaca, sharegpt
   • 03
     데이터 수집 & 합성 생성~28 min · synthetic-data, distillation, production-logs
   • 04
     데이터 정제, 검증, Split~22 min · dedup, validation, splits, overfitting
   • 05
     어노테이션 도구: Argilla, Label Studio, 스크립트~20 min · annotation, argilla, label-studio, human-review

   ✓퀴즈 · 5 문제→

3. 03🔑OpenAI 파인튜닝

   0/4 lessons

   매니지드, 인프라 0 경로

   데이터에서 배포된 파인튜닝 모델까지 가장 빠른 경로 — JSONL 업로드, 잡 생성, 모델 사용. SFT, DPO, vision FT, RFT — 각각이 뭘 위한 건지 + 언제 옳은 선택인지.

   Lesson list (4)

   • 01
     지원 모델 & 메서드~20 min · openai, sft, dpo, rft, pricing
   • 02
     데이터 준비 & 업로드~22 min · openai, jsonl, upload, validation
   • 03
     잡 생성 & 모니터링~22 min · openai, jobs, hyperparameters, monitoring
   • 04
     파인튜닝된 모델 사용~20 min · openai, inference, evaluation, comparison

   ✓퀴즈 · 4 문제→

4. 04🧩PEFT와 Adapter

   0/6 lessons

   똑똑하게 파인튜닝, 무식하게 X

   Parameter-efficient 파인튜닝 — LoRA, QLoRA, DoRA, rsLoRA — 가 파라미터의 0.1~1%만 업데이트하고 full 파인튜닝 품질의 ~95~99% 얻어. 현대 프로젝트가 파인튜닝하는 이유 대부분.

   Lesson list (6)

   • 01
     파라미터 문제~18 min · full-fine-tuning, vram, memory
   • 02
     LoRA: 돌파구~22 min · lora, low-rank, decomposition
   • 03
     LoRA Hyperparameter~22 min · lora, rank, alpha, target-modules, dropout
   • 04
     QLoRA: 70B를 GPU 한 장에서~24 min · qlora, quantization, nf4, double-quant, memory
   • 05
     LoRA 변형 & 비교~20 min · dora, lora-plus, rslora, adalora, vera
   • 06
     Merge & 다중 Adapter~22 min · merge, adapters, multi-adapter, apple-silicon

   ✓퀴즈 · 5 문제→

5. 05🤗Hugging Face 스택

   0/5 lessons

   TRL v1.0 기반 오픈소스 경로

   풀 오픈소스 학습 스택: transformers, datasets, peft, trl, accelerate. End-to-end QLoRA 파이프라인, Hub push, Ollama용 GGUF 변환. 풀 컨트롤 필요할 때 가는 길.

   Lesson list (5)

   • 01
     Hugging Face 스택~18 min · transformers, trl, peft, datasets, accelerate
   • 02
     모델 & 토크나이저 로딩~22 min · model-loading, quantization, chat-template
   • 03
     SFTTrainer: 고수준 API~24 min · trl, sft-trainer, sft-config, supervised-fine-tuning
   • 04
     완전한 QLoRA 파이프라인~28 min · qlora, end-to-end, wandb, pipeline
   • 05
     저장, Push, 변환~22 min · hub, gguf, ollama, conversion, quantization

   ✓퀴즈 · 5 문제→

6. 06🏋️학습 테크닉

   0/6 lessons

   결과를 만들거나 깨뜨리는 노브들

   Learning rate, 배치 크기, loss 곡선, 메모리 최적화, alignment(DPO/ORPO/SimPO), 평가. 작동하는 학습 런을 실서비스 품질 모델로 바꾸는 hyperparameter와 기법.

   Lesson list (6)

   • 01
     Learning Rate & 스케줄링~20 min · learning-rate, scheduler, cosine, warmup
   • 02
     배치 크기 & Gradient Accumulation~18 min · batch-size, gradient-accumulation, effective-batch
   • 03
     Loss 곡선 읽기~20 min · loss-curve, overfitting, underfitting, early-stopping
   • 04
     메모리 최적화~22 min · bf16, gradient-checkpointing, flash-attention, memory
   • 05
     Alignment: DPO, ORPO, SimPO~22 min · dpo, orpo, simpo, alignment, preference
   • 06
     평가 방법~20 min · evaluation, perplexity, llm-judge, metrics

   ✓퀴즈 · 5 문제→

7. 07📚파인튜닝 프로젝트

   0/5 lessons

   데이터부터 배포까지 실전 레시피

   End-to-end 프로젝트 레시피 — instruction follower, 도메인 전문가, 브랜드 보이스, 합성 데이터 flywheel, 그리고 흔한 실패 모드 top 10 + 각각의 디버그 fix.

   Lesson list (5)

   • 01
     프로젝트: 커스텀 Instruction Follower~28 min · project, structured-output, json, instruction-follower
   • 02
     프로젝트: 도메인 전문가~28 min · project, domain-expert, medical, legal, compliance
   • 03
     프로젝트: 스타일 트랜스퍼 & 브랜드 보이스~24 min · project, style-transfer, brand-voice, marketing
   • 04
     합성 데이터 & 데이터 Flywheel~24 min · synthetic, distillation, flywheel, ab-testing
   • 05
     흔한 실패 & 디버깅~22 min · debugging, failures, gotchas, troubleshooting

   ✓퀴즈 · 5 문제→

8. 08🚀배포 & 실서비스

   0/5 lessons

   파인튜닝 모델 대규모 서빙

   Merge → 변환 → 서빙. Ollama랑 llama.cpp로 로컬. vLLM이랑 TGI로 클라우드. FastAPI wrapper, 모니터링, 다중 adapter S-LoRA, edge 배포. 학습된 adapter에서 실서비스 endpoint까지 풀 경로.

   Lesson list (5)

   • 01
     Merge & Export~18 min · merge, export, deployment-pipeline
   • 02
     로컬 배포: Ollama & llama.cpp~24 min · ollama, llama-cpp, gguf, local, apple-silicon
   • 03
     클라우드 서빙: vLLM & TGI~22 min · vllm, tgi, paged-attention, openai-compatible
   • 04
     API Wrapping & 모니터링~20 min · fastapi, monitoring, drift, sli
   • 05
     Edge 배포 & 다중 Adapter 패턴~20 min · edge, s-lora, multi-adapter, retraining

   ✓퀴즈 · 5 문제→