퀴즈 · 5 questions
🚀 TGI 와 vLLM
진짜 서빙, 진짜 동시성
Level 0스카우트
0 XP0/50 lessons0/10 achievements
0/120 XP to next level120 XP to go0% complete
Quiz
01PagedAttention 이 푸는 문제는?
02Continuous batching 의 의미?
032026 에 serving 에 일반적으로 가장 강한 4-bit 포맷?
04왜 TGI 컨테이너에
restart=unless-stopped 핀?05TGI 70B 모델의 적절한
livenessProbe.initialDelaySeconds?댓글 0
🔔 답글 알림 (로그인 필요)로그인 — 댓글을 남기려면 로그인해 주세요.
아직 댓글이 없어요. 첫 댓글을 남겨보세요.