꽉 찬 context는 emergency state
window가 거의 꽉 찼을 때 모형은 수정 흡수, tool result 검토, 신중한 답변 만들 공간이 적다. 옛 instruction이 현재 instruction과 경쟁하면 더 취약해질 수도 — 사람이 redirect할 spare attention이 없으니까.
preempt하지 react하지 말고
맞는 move는 preemptive. margin 사라지기 전에 checkpoint. 모형과 사람 둘 다 summary verify할 working space 남아있을 때 결정 요약. reactive checkpoint — 첫 truncation이나 hallucination 후 — 는 이미 늦었다, 부패한 state가 이미 recent context에 들어왔어.
Checkpoint는 실패가 아니야
진지한 일에선 state 보존을 위해 멈추는 게 professionalism. 반대는 마지막 5% window가 가장 어려운 부분 어떻게든 carry해주리라 도박하는 거. 귀엽지. 버그가 번식하는 방식이기도 하고.
Context margin은 안전장비야. 다 쓰는 건 효율이 아니라 reckless해.