퀴즈 · 4 questions
🔧 실전 이해
모델 카드 읽기, GPU 크기 잡기, 옳은 도구 고르기
Level 0토큰 세는 사람
0 XP0/94 lessons0/10 achievements
0/120 XP to next level120 XP to go0% complete
Quiz
01FP16 70B 파라미터 모델은 GPU 메모리 얼마나 필요해(가중치만)?
Hint
FP16은 파라미터당 2 바이트야.
02'Chinchilla 함정'이란?
Hint
production 배포엔 맞지 않는 목적함수를 최적화하는 게 문제야.
03Continuous batching이 보통 제공하는 throughput 개선은?
Hint
요즘 서빙 스택에서 throughput을 가장 크게 올려 주는 단일 기법이야.
04모델 fine-tune 하기 전에 시도해야 할 것은?
Hint
될 만한 것 중에 제일 싼 걸 항상 먼저 해.
댓글 0
🔔 답글 알림 (로그인 필요)로그인 — 댓글을 남기려면 로그인해 주세요.
아직 댓글이 없어요. 첫 댓글을 남겨보세요.