매 차례는 이전 기록을 품은 새 프롬프트야
모델은 대화할 때마다 전체 메시지 기록을 다시 읽어 다음 출력을 계산해. 실제로 “이어서 생각하는” 상태가 남는 건 아니야. 그래서 시스템 프롬프트와 페르소나, 규칙은 여러 차례에 걸쳐 사용자가 밀어붙여도 계속 성립해야 해.
오래 버티는 계약의 조건
- 시스템 프롬프트는 대화의 구성적 틀이며 매 차례 다시 읽혀.
- 새 사용자 입력은 매번 믿지 않는 자료로 다뤄.
- 이전 어시스턴트 출력도 다음 맥락의 일부가 돼. 밖에서 가져온 주입 문구를 되풀이했을 수도 있어.
- 앞 차례의 중단 조건과 거절은 시스템이 다시 보장하지 않으면 저절로 이어진다고 믿을 수 없어.
여덟 번째쯤 갑자기 흔들리는 이유
첫 차례에서 잘되던 프롬프트가 몇 차례 뒤 어긋난다면, 대개 한 번의 요청만 가정해 시스템 프롬프트를 썼기 때문이야. 사용자 쪽 맥락이 쌓이며 모델을 원래 틀에서 밀어내는 거지.