지시처럼 생겼지만 아무 일도 시키지 않는 문장
안내처럼 보이면서 모델의 행동은 거의 바꾸지 못하는 문장이 있어. 그런 문장은 토큰만 쓰고 중요한 지시를 흐려.
- "Be helpful." 모델은 이미 도움을 주려 해. 이 말은 새 기준을 더하지 못하고, 오히려 두루뭉술하고 몸을 사리는 답으로 밀 수 있어.
- "Think carefully." 일반 모델에서는 기록하지도 않을 생각 과정만 늘릴 수 있어. 추론 모델은 이미 추론 중이니 더 생각하라는 말은 비용만 보탤 뿐이야.
- "Take your time." 모델에게는 기다리며 숙고할 시간이 없어. 사람처럼 시간을 느낀다고 가정한 표현이라 품질 대신 글 길이만 늘기 쉬워.
- "You are an expert." 말투에는 가끔 도움이 되지만 정확도를 높여주지는 않아. 앞의 페르소나 수업에서 본 한계야.
- "Do not hallucinate." 환각은 끌 수 있는 스위치가 아니야. 더 노력하라는 말로는 막을 수 없고, 경계 조건과 근거 자료가 필요해.
원하는 행동으로 바꿔 써
나쁜 상투어마다 실제로 원하는 행동을 긍정형 기준으로 적어. "Think carefully"는 "Show your reasoning in <thinking> tags before answering."으로, "Be helpful"은 "Open with the actionable next step."으로, "Do not hallucinate"는 "Cite each claim with a source from <docs>. If no source exists, say so."로 바꿀 수 있어.