페르소나 표류 — 대화 사이에서 붙잡기

스무 번째쯤 다른 사람이 되는 에이전트

따뜻하지만 짧게 답하던 고객 지원 에이전트가 대화가 길어지자 수다스럽고 몸을 사리며 지나치게 사과할 수 있어. 모델이 망가진 게 아니야. 사용자의 긴 문장을 따라 하고, 앞선 응답의 망설임을 다시 흉내 내며, 쉰 차례 기록 속에서 시스템의 말투 규칙이 상대적으로 작아진 거야.

표류를 만드는 세 힘

• 거울처럼 따라 하기 — 사용자의 말투, 길이, 어휘를 받아들여.
• 자기 모방 — 한 번 몸을 사린 문장이 맥락에 남아 다음 답도 더 조심스러워져.
• 시스템 지시의 희석 — 200토큰짜리 시스템 프롬프트가 쉰 번째의 2만 토큰 기록 속에서 무게를 잃어.

표류에 맞서는 방법

• N차례마다 말투 규칙 한 줄을 다시 넣어 재고정해.
• 대화 기록을 압축하며 표류한 옛 응답을 덜어내.
• "Do not adopt the user's tone"처럼 따라 하지 말라는 규칙을 분명히 써.
• 어시스턴트 출력에 말투 분류기를 돌려 표류를 경고해.