퀴즈 · 5 questions
🧭 토큰 하나의 여정
디스크의 파일에서 통합 메모리 페이지로, 그다음 토큰 하나를 MLX, Ollama, PyTorch MPS, Core ML로. 그리고 같은 토큰을 CUDA로
Level 0스펙 시트 훑는 사람
0 XP0/91 lessons0/19 achievements
0/100 XP to next level100 XP to go0% complete
Quiz
01MLX가 맥에서 16 GB safetensors 체크포인트를 로드할 때, 로드 시점에 바이트한텐 실제로 무슨 일이 일어나?
02손으로 쓴 MLX 디코드 루프에서 stream_generate가 같은 모델을 95로 돌린 자리에서 디코드가 79 tok/s로 돈 이유는?
03office에서 Ollama의 MLX 엔진은 토큰당 바이트로 기계의 실측 대역폭에서 상한 44 tok/s가 나오는 27B에 43–51 tok/s를 보고했고, mlx-lm은 같은 아키텍처에서 32.6에 닿았어. 맞는 결론은?
04이 집의 스템 분리 엔진은 PyTorch MPS가 그 모델에 고장 났다는 주석과 함께 모델을 CPU에 고정해. 엔진 자체의 torch 2.12로 office에서 재니 MPS는 30 s 오디오를 1.18 s에 분리했고 CPU는 12.6 s, 출력은 일치. 이게 보여 주는 건?
05토큰의 여정에서 CUDA 기계엔 있고 맥엔 없는 딱 한 단계는?
댓글 0
🔔 답글 알림 (로그인 필요)로그인 — 댓글을 남기려면 로그인해 주세요.
아직 댓글이 없어요. 첫 댓글을 남겨보세요.