벽까지 몰지 마

꽉 찬 context는 비상 상태야

window가 거의 다 찼을 때 모형한테는 수정을 받아들일 자리도, tool 결과를 들여다볼 자리도, 답을 신중하게 다듬을 자리도 별로 없어. 게다가 옛 지시가 지금 지시랑 경쟁하기 시작하면 더 위태로워져. 사람이 방향을 틀어줄 여분의 attention이 남아 있질 않으니까.

터지고 나서 말고, 터지기 전에

맞는 수는 미리 움직이는 거야. 여유가 사라지기 전에 checkpoint를 찍어. 모형도 사람도 그 요약을 검증할 자리가 남아 있을 때 결정을 정리해두는 거지. 답이 처음 잘리고 나서, 헛소리가 처음 나오고 나서 찍는 checkpoint는 이미 늦었어. 그때는 상한 상태가 벌써 최근 context에 섞여 들어와 있거든.

Checkpoint는 실패 선언이 아니야

진지한 일에서는 상태를 지키려고 잠깐 멈추는 게 프로답게 하는 거야. 그 반대는 남은 5%짜리 window가 제일 어려운 대목을 어떻게든 버텨주겠지 하고 거는 도박이고. 귀엽긴 해. 버그가 새끼 치는 방식이기도 하고.

context 여유는 안전장비야. 다 써버리는 건 알뜰한 게 아니라 무모한 거고.

Code

미리 찍는 checkpoint 조건·python

def context_health(used_pct):
    if used_pct < 0.65:
        return "healthy"
    if used_pct < 0.75:
        return "checkpoint_now"
    if used_pct < 0.85:
        return "compact_or_handoff"
    return "emergency_only"

if context_health(used_pct) == "checkpoint_now":
    create_checkpoint()
    ask_human_to_confirm_live_rules()

발동 규칙·yaml

checkpoint_triggers:
  by_usage:
    - context_used_pct >= 65%
  by_event:
    - after_major_decision
    - before_risky_edit
    - before_publish_or_push
    - on_topic_switch
    - when_human_corrects_authority_rule

꽉 찬 context는 비상 상태야

터지고 나서 말고, 터지기 전에

Checkpoint는 실패 선언이 아니야

Code

External links

Exercise

Progress

댓글 0