프롬프트는 context보다 작아

~12 min · context, prompt-vs-context, mental-model

Level 0수련생

0 XP0/100 lessons0/14 achievements

0/120 XP to next level120 XP to go0% complete

너가 보내는 거 대부분이 너의 프롬프트 아니야

2026 typical production request: system prompt 200 토큰, user message 50 토큰, context (RAG 결과, 대화 history, tool definition) 30,000 토큰. instruction이 모델 읽는 거의 1%. "Prompt engineering"은 잘못 명명됐어 — 일 대부분이 context engineering이야.

이게 바꾸는 것

leverage가 "더 좋은 instruction"에서 "더 좋은 context selection"으로 이동.
error budget이 prompt phrasing에서 chunk relevance로 이동.
cost budget이 output에서 input으로 이동 — output 작아, input 거대.
eval shape 변화 — retrieval 측정해야지, LLM output만 X.

full-system 관점

이 트랙의 모든 거 — chunking, retrieval, reranking, citation, caching, compression, ordering — 이제 프롬프트의 일부야. junior가 instruction 쓰고; senior가 context shape해.

Code

토큰이 어디 가나 (typical prod request)·plaintext

system prompt        :   200 tokens (1%)
user message         :    50 tokens (<1%)
tool definitions     :   400 tokens (1%)
conversation history : 2,000 tokens (7%)
RAG context          :27,000 tokens (90%)
----------------------------
total input          :29,650 tokens

External links

Anthropic — Long context engineering

Exercise

production 프롬프트 하나 profile: system / instruction / user / tool / context에 토큰 몇 개씩? 가장 큰 bucket과 의미 있게 줄일 실험 하나 식별.

Progress

Progress is local-only — sign in to sync across devices.

← PreviousMulti-document 프롬프트 — 순서, boundary, 이름 Next →퀴즈 · 4 questions

이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

🔔 답글 알림 (로그인 필요)

로그인 — 댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.