같은 말도 어느 계층에 놓느냐가 달라
- 시스템 — 운영자가 정하는 대화의 구성적 틀이며 계속 유지돼.
- 개발자 — 앱 차원의 지시야. OpenAI에는 별도 역할이 있고 다른 제공업체에서는 시스템 안에 넣기도 해.
- 사용자 — 사람이 보낸 믿지 않는 입력이야.
- 어시스턴트 — 모델이 앞서 한 말이며 다음 차례의 맥락으로 다시 쓰여.
- 어시스턴트 미리 채우기 — 답의 첫 부분을 애플리케이션이 써두고 모델이 이어서 완성하게 해.
미리 채우기가 잘 맞는 경우
- 엄격 모드 없이
{로 시작해 JSON 출력을 유도할 때. - 상투적인 머리말을 건너뛰고 바로 답으로 들어갈 때.
- 원하는 말투의 첫 문장을 주어 페르소나를 붙잡을 때.
- 표 머리글, 글머리표, 제목으로 출력 형식을 고정할 때.
원리는 같고 API가 달라
Anthropic은 대화의 마지막 어시스턴트 메시지로, OpenAI는 앞선 어시스턴트 차례로, Gemini는 model 역할로 구현해. 같은 원리를 서로 다른 API 표면에 드러낸 거야.