Citation과 Provenance

~22 min · citations, provenance, trust

Level 0Window Watcher

0 XP0/50 lessons0/13 achievements

0/100 XP to next level100 XP to go0% complete

그 사실 어디서 왔어?

Mixed source(RAG hit, 파일 read, 모형 prior, 사람 메시지) 있는 long session에서, 어떤 사실의 origin이 가장 먼저 흐려져. 규율 있는 provenance는 모든 load-bearing 주장에 모형이 source cite하라고 요청하고, 중요한 결정엔 citation 없는 주장 거부.

Citation은 eviction signal도

한 source에서 같은 사실이 많은 turn 가로질러 반복 cite됐으면, 그 source는 활성 working set 자격. Citation 없는 사실은 모형 prior — reasoning에 유용, load-bearing input으로 위험. 둘 다르게 다뤄.

Provenance vs paranoia

모든 casual 발언에 citation 묻기는 지친다. 결정에 물어 — edit, commit, authority change 부르는 거. Trivial 대화 주장은 provenance 필요 X, load-bearing은 필요.

Code

Citation 계약·text

When you make a claim that affects an action:
  Cite the source: <file path>, <retrieved doc id>, <human turn N>, or 'model prior'.
When the source is 'model prior':
  State 'unverified' and ask whether to verify before acting.
When the source disagrees with another source:
  Surface the conflict; do not pick silently.

Citation-aware logging·json

{
  "claim": "auth.py uses bcrypt rounds=12",
  "sources": ["backend/auth.py:42", "docs/security.md"],
  "confidence": "verified",
  "affects_action": true
}

External links

OpenAI conversation state guide

Exercise

Edit/commit 관련된 AI 워크플로 골라. spine에 한 줄 citation 계약 추가. Test — 모형한테 작은 action 시키고 citation 나오는지 봐.

Hint

Citation이 압박에 사라지면 계약 너무 soft. Refusal path 있는 hard rule로 만들어.

Progress

Progress is local-only — sign in to sync across devices.

← PreviousAttention 못 받는 건 evict Next →퀴즈 · 5 questions

이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

🔔 답글 알림 (로그인 필요)

로그인 — 댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.