모형이 자기 자신과 disagree할 때

같은 질문, 다른 답

긴 session에서는 같은 질문에 turn마다 다른 답이 나오기도 해. 모형이 거짓말하는 게 아니야. 조금씩 달라진 context에 반응하는 거지. recency가 다르고, attention이 붙는 자리가 다르고, cache 상태가 다르니까. 자기모순은 오히려 디버깅 선물이야. 어떤 사실이 context가 흔들릴 때 못 버티는지를 알려주거든.

덮지 말고 드러내

모순을 발견하면 대놓고 꺼내놔. "12번째 turn에서는 X라고 했고, 41번째 turn에서는 X가 아니라고 했어. 출처를 대서 정리해봐." 모형한테 출처로 맞춰보게 시키면, 그냥 최근 답을 고르는 대신 오래 가는 근거에 발을 붙여.

자기모순이 흘러간 자리를 지도로 그려줘

같은 질문이 12번, 41번, 73번 turn에서 다르게 답했다면 흘러간 지도가 하나 생긴 거야. 안정된 규칙이나 자료가 아니라 최근 context에 기대고 있던 사실들 말이야. 그것들이 변하면 안 되는 사실이면 오래 가는 자리로 옮겨. 진짜로 turn마다 달라지는 게 맞으면 그 변화를 받아들이고.

Code

맞춰보게 시키는 prompt·text

Earlier in this session:
  Turn 12: you said X.
  Turn 41: you said not-X.
Reconcile by citing sources from the spine, the body, or the current source files.
If both answers were unsourced model priors, say so and pick neither until verified.

모순 기록·yaml

self_disagreement:
  topic: "DB connection pooling default"
  answers:
    - turn: 12, claim: "pool size 10", source: "unverified"
    - turn: 41, claim: "pool size 20", source: "backend/db.py:18"
  resolution: "trust turn 41 (sourced); add explicit rule to spine"

Exercise

모형이 오락가락하게 다뤘던 사실을 하나 골라봐. 그걸 맞춰보게 하는 prompt를 만들어서 돌려봐. 오락가락을 멈추려면 그 사실이 어디 살아야 할지 정해보고.

Hint

오락가락한다는 건 보통 그 사실이 오래 가는 자리에 안 적혀 있다는 뜻이야.