모형한테 introspect 시켜

자신감은 신호가 아니야

"이해했어?"라고 묻지 마. 모형은 그렇다고 해. 대신 시켜. 지금 살아 있는 규칙을 죽 적어라, 하면 안 되는 것들을 적어라, 각 사실이 어디서 왔는지 대라, 빠졌다고 생각하는 걸 짚어라. 근거를 대게 하는 자기 점검이, 자신감을 묻는 prompt가 덮어버리는 흘러감을 잡아내.

위험한 지점 근처에 점검을 걸어

compaction 직전, 긴 끼어들기 직후, commit 직전, 공개 직전, 일이 바뀐 직후에 돌려. 확인 안 된 전제가 제일 비싸게 먹히는 순간들이거든. 뭔가 깨지고 나서 하는 점검은 건질 게 별로 없어.

빈칸을 인정해도 되게 물어

점검 prompt는 "모르겠으면 모르겠다고 해도 된다"고 대놓고 말해줘야 해. prompt가 모형이 통과하고 싶은 시험지처럼 생기면, 빈칸을 인정하는 대신 원래 알던 걸로 메워버리거든. 정직하게 비었다고 말하는 쪽이 이득이 되게 만들어.

Code

Drift 점검 prompt·text

Drift audit:
Using only current context (no general knowledge), list:
  1. Live rules I must obey, with source.
  2. Actions I must not take, with source.
  3. Sources I have verified this turn (paths/IDs).
  4. The next safe action.
  5. Anything I think might be missing — say 'missing' rather than reconstruct.
Then wait for human confirmation before continuing.

언제 돌릴지·yaml

introspection_triggers:
  - before_compaction
  - after_long_interruption
  - before_commit
  - before_push_or_deploy
  - on_topic_switch
  - when_human_corrects_authority_rule
  - first_action_of_a_resumed_session

Exercise

drift 점검 prompt를 지금 돌아가는 AI session에 던져봐. 아니면 session 하나가 뭘 뱉을지 흉내 내보든가. 모형이 자신 있게 지어낸 대목과 정직하게 "모르겠다"고 한 대목을 각각 적어봐.

Hint

중요한 건 시험을 통과하는 게 아니라 빠진 context를 인정하는 거야.