형용사 다섯 개보다 완성 사례 하나
입력과 출력을 짝지은 완성 사례는 눈으로 가리킬 수 있는 계약이야. “이 모양을 따라”라는 말과 실제 한 쌍을 함께 주면 형용사 한 단락보다 훨씬 많은 정보를 전해. GPT-3 시절부터 few-shot prompting이 살아남은 것도 이 때문이야. 사례는 형용사를 모델이 제멋대로 해석할 틈을 줄이고 목표 출력의 분포를 바로 보여줘.
몇 개를 보여줘야 할까
- 0개 — 최전선 모델에 익숙한 작업이고 스키마도 명확하다면 없어도 돼.
- 1개 — 새로운 출력 모양이나 특정한 말투를 가르칠 때 가장 효율이 좋아. 비용은 작고 효과는 커.
- 2~5개 — 입력과 출력의 모양이 여러 갈래일 때 써. 짧은 입력과 긴 입력처럼 꼭 다뤄야 할 차이를 각각 보여줘.
- 6개 이상 — 맥락 토큰은 계속 들지만 효과는 빠르게 줄어. 스키마가 정말 까다로운 경우에만 값어치를 해.
사례를 고르는 법
- 평균적인 입력만 모으지 말고 입력 공간의 가장자리를 덮어. 짧은 것과 긴 것, 정상 흐름과 실패 사례를 함께 골라.
- XML, JSON, 울타리 친 구역처럼 경계를 분명히 표시해 사용자 입력과 섞이지 않게 해.
- 생각 과정을 요구하는 작업이라면 사례 출력에도 추론을 넣고, 아니라면 빼.
- 틀린 사례는 사례가 없는 것보다 해로워. 모델을 잘못된 모양에 고정하거든.