34자가 2.68M이 됐어
super soul이 자기 기억에 대해 보낸 요청은 34자였어. 문제는 질문 길이가 아니었어. Sidekick의 agentic turn이 tool step마다 full context를 다시 싣고 약 100-step loop를 돌면서 cumulative input이 2.68M token까지 불어났어.
끝은 더 나빴어. actor를 보지 않는 옛 super gate가 마지막 write를 거부했어. 비용은 이미 전부 지불됐고 source는 바뀌지 않았지. context economy와 permission correctness가 따로 실패한 게 아니라 같은 flow에서 서로 증폭됐어.
큰 context는 한 번의 숫자가 아니야
context window가 limit 안이라고 안전한 게 아니야. 25k context를 100번 다시 청구하면 cumulative input은 2.5M이 된다. agentic cost는 initial prompt보다 step count × carried context로 봐야 해.
UI에 elapsed time만 보여주면 사용자는 loop가 얼마나 비싼지 몰라. cumulative input, tool steps, last progress marker를 보여주고 budget threshold에서 pause하거나 explicit approval을 받아야 해.
circuit breaker는 품질 포기가 아니야
step cap, token budget, no-progress detector는 brain을 덜 똑똑하게 만드는 제약이 아니야. 같은 action과 같은 error가 반복될 때 더 많은 context를 태우지 않고 전제를 다시 확인하게 해.
breaker가 열리면 partial draft를 source에 적용하지 않고 task state와 last evidence를 보존해. Dad가 scope를 줄이거나 queue로 handoff하거나 다른 provider를 고를 수 있어야 해. automatic fallback이 blind retry가 되면 비용만 provider 사이로 옮겨.
사건이 architecture를 바꿨어
Sidekick는 상담과 방향 결정 surface로 남고 heavy pipeline은 queue와 terminal session으로 이동했어. queue는 operand, base hash, stage, cost를 명시하고 tool loop의 lifetime을 bounded하게 만든다.
숫자를 공개하는 이유는 자극이 아니라 결정의 하중을 보여주기 위해서야. request text나 conversation identity는 필요 없고, 34자·약 100 step·2.68M input·write denied라는 측정만으로도 왜 lane이 갈라졌는지 충분히 설명돼.