본문 바로가기
C.W.K.
Stream
Lesson 03 of 06 · published

엣지에 맞는 일

~12 min · edge-era, workloads, context-length, prefill-wall, coding, physics

Level 0스펙 시트 훑는 사람
0 XP0/91 lessons0/19 achievements
0/100 XP to next level100 XP to go0% complete
"일의 모양은 숫자 둘이야. 첫 토큰 전에 얼마나 읽어야 하는지, 사람이 얼마나 기다릴지. 엣지는 한 모양은 잘 서비스하고 한 모양은 못 하고, 업계는 못 하는 쪽을 위해 짓고 있어."

곡선으로 값 매긴 모양

곡선 레슨은 맥에서 일을 결정하는 숫자 둘을 줬어. 첫 토큰까지의 시간은 프리필 속도 위의 프롬프트 토큰이고, 디코드는 그 컨텍스트에서의 디코드 속도 위의 출력 토큰이야. 코드 블록은 실험실이 잰 속도로 office의 27B에서 일 일곱을 값 매겨. 받아쓰기 정리, 300토큰 들어가고 300 나오는 건 10초. 메일 초안, 15. 한 페이지 번역, 1분 아래. 8,000토큰 프롬프트의 전사 요약, 36초. 비전 모델이 태깅하는 사진, 백그라운드에서 3초. 그 다섯은 짧은 컨텍스트에 지연 허용이야. 사람은 커서를 지켜보지 않거나, 숨 한 번 길이만큼 지켜봐. 그다음 나머지 둘. 이 집의 금고를 로드한 채팅, 10만 토큰은 첫 단어 전에 5분을 기다리고, 거의 전부가 프리필 벽이야. 전체 저장소 코딩 한 턴은 7분을 기다리고, 코딩 세션은 수십 턴이고, 각각은 기계가 이미 읽은 컨텍스트를 다시 재생해. 에이전트가 쓰는 문이 턴에 걸친 프롬프트 캐시를 안 두니까. 허브의 MLX 서버와 mlx-lm 자체 API엔 여정 트랙과 함대 트랙이 보여 줬듯 있는데, Ollama 단엔 없어. 그리고 재생을 숨길 배치가 없으니까.

95%와 5%

이 집의 독트린이 인구의 이름을 대. 처음 다섯 일은 대부분의 사람이 모델을 쓸 용도야. 요약, 번역, 메일 초안, 받아쓰기, 사진 태깅. 그리고 이미 함대에서 돌고 있어. 수천 건의 전사, 모든 맥의 온디바이스 받아쓰기, 산문 편집기 뒤의 오프라인 모델, 이미지를 태깅하는 로컬 모델. 그게 95%의 일이고, 엣지는 Studio는 고사하고 24 GB 노트북에서도 그걸 잘 서비스해. 마지막 둘은 업계의 일이야. 긴 컨텍스트, 전체 저장소 읽기, 수십 단계의 루프를 가진 코딩. 256K 컨텍스트 창을 실제 맥에선 못 쓰게 만드는 것이고, 흔한 문들이 턴에 걸친 접두사 캐시를 안 두는 풀이 가장 못 서비스하는 것. 독트린의 문장은 정확해. 업계는 엣지가 서비스 못 하는 워크로드를 위해 모델을 짓고 엣지가 잘 서비스하는 워크로드엔 아무것도 제품화하지 않는다. 코딩이 수익이 있는 곳이고 95%는 아직 안 내니까. 라이벌 트랙의 체크리스트는 그 해법을 소프트웨어에 뒀어. 플랫폼 안의 접두사 캐시와 배칭. 이 레슨의 산수가 그게 얼마나 사 줄지 보여 줘. 금고 채팅의 5분 벽을 턴마다 대신 한 번만 치르는 것.

이 집이 코딩은 클라우드에서, 받아쓰기는 집에서 돌리는 이유

함대의 기록은 코드 블록의 두 칸을 계층으로 정렬한 거야. 코딩 에이전트의 프론티어 레그는 클라우드고, 바닥 단은 로컬이고 슬림해. 슬림한 하네스가 로컬 코딩 턴을 할 만할 만큼 짧게 만드니까. 받아쓰기, 태깅, 요약, 검색은 로컬이거나 설정 하나 거리야. 모델이 어디서 돌아야 하는지에 대한 이데올로기가 아니야. 곡선에서 읽어 낸 일의 모양이야. 몇 초짜리 벽은 방으로, 수십 번 재생되는 몇 분짜리 벽은 접두사 캐시와 그 뒤에 숨길 수천 스트림을 가진 랙으로. 이 집 자신의 읽기는 한 걸음 더 가고 이 퀘스트는 그걸 판단으로 실어. 코딩이 엣지에 충분히 조용해지는 날은 그 수익이 식는 날이고, 그날 살아남는 모델은 코딩 벤치마크에서 점수 내는 그 모델이 아니다. 다음 레슨은 그날을 기다려야 하는 기계의 산수야.

Code

edge_shaped.py — 이 집의 27B에서 프롬프트 길이와 인내로 값 매긴 일 일곱·python
#!/usr/bin/env python3
"""The work that fits the edge, by its shape: context length and how long the user will
wait. The curve lesson's office numbers price each job on the 27B: TTFT is the prefill wall,
decode is the slope. Short-context, latency-tolerant work is edge-shaped; whole-repo coding is not."""
PREFILL, DECODE0 = 340.0, 32.0        # office 27B: prefill tok/s (~10-90% window), decode at short context
jobs = [  # job, prompt tokens, output tokens, user waits how long?
    ("dictation cleanup",                 300,   300,  "seconds"),
    ("mail draft",                        800,   400,  "seconds"),
    ("translate a page",                 1500,  1500,  "seconds"),
    ("summarize a transcript",           8000,   400,  "a minute"),
    ("photo tagging (vision, per image)",  600,    30,  "background"),
    ("chat with the vault loaded",     100000,   500,  "seconds"),
    ("whole-repo coding turn",         150000,  2000,  "seconds, dozens of turns"),
]
print(f"{'job':36} {'prompt':>7} {'out':>5} {'TTFT s':>7} {'decode s':>9} {'total s':>8}  user waits")
for job, p, o, w in jobs:
    ttft = p / PREFILL; dec = o / DECODE0
    print(f"{job:36} {p:7d} {o:5d} {ttft:7.1f} {dec:9.1f} {ttft+dec:8.1f}  {w}")
print("\nthe first five are the 95%'s jobs and finish in seconds to a minute on a 27B; the last two carry a wall of minutes per turn, replayed every turn -- the cloud hides that with a prefix cache and batching; the edge's common doors use neither.")

# office 27B (340 prefill tok/s, 32 decode): dictation 10 s, mail draft 15 s, translate a page 51 s, summarize a transcript 36 s,
# photo tag 2.7 s | vault chat 310 s (294 s of it the prefill wall), whole-repo coding turn 504 s per turn

External links

Exercise

가장 자주 하는 일 셋을 진짜 프롬프트와 출력 길이와 네 맥의 실측 속도로 edge_shaped.py에 더해. 각각의 TTFT와 총 시간을 카드에 쓰고, 어느 게 엣지 모양인지 표시해. 그다음 클라우드로 보내는 일 중 숫자가 더 슬림한 프롬프트면 엣지 모양일 수 있다고 말하는 하나를 써.
Hint
긴 프롬프트의 일은 종종 게으른 프롬프트의 일이야. 한 문단이면 될 것에 문서 전체, 파일 셋이면 될 것에 저장소 전체. 이 집의 미니 프로토콜은 에이전트에 적용한 그 규율이고, 같은 규율이 대부분의 작업에서 몇 분의 벽을 몇 초로 바꿔.

Progress

Progress is local-only — sign in to sync across devices.
이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

댓글 0

🔔 답글 알림 (로그인 필요)
로그인댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.