본문 바로가기
C.W.K.
Stream
퀴즈 · 4 questions

🔄 변환과 양자화

Hugging Face에서 MLX로, 그리고 꼭 필요한 정밀도 선택

Level 0호기심
0 XP0/51 lessons0/15 achievements
0/100 XP to next level100 XP to go0% complete

Quiz

01MLX 형식 모델 폴더에서 구조와 양자화 설정의 기준이 되는 파일은 무엇일까?
Hint
mlx-lm이 알맞은 모델 클래스를 고르려고 읽는 파일이야.
02묶음 크기 64인 4비트 모델을 만들고 Hugging Face 저장소에 올리는 mlx_lm.convert 선택지 조합은 무엇일까?
Hint
양자화, 비트 수, 묶음 크기, 업로드가 모두 있어야 해.
03레슨 3은 Apple Silicon의 7B 이상 지시 학습 모델에 group_size 64인 Q4를 기본으로 권했어. 언제 Q8이나 전체 정밀도로 올려야 할까?
Hint
기본값이 아니라 측정으로 결정해.
04GGUF가 MLX 형식보다 알맞은 경우는 언제일까?
Hint
어디에 배포할지부터 생각해.
이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

댓글 0

🔔 답글 알림 (로그인 필요)
로그인댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.