"You are an expert" — 진짜 도움 돼?
Persona prompt ("You are a senior software architect with 20 years of experience…")는 진짜 뭔가 해 — 모델이 sampling하는 distribution을 shift시켜. 그리고 안 하는 게 하나 있어 — 모델한테 없던 지식을 안 줘. "Pretend to be a doctor"가 안전한 의학 조언을 만들지 않아 — 의사 스타일로 쓴 텍스트를 만들고, 그게 더 위험해, 안 안전해.
persona가 사주는 것
- Tone — formal vs casual, terse vs warm.
- vocabulary — domain term이 redundant하게 번역되는 게 아니라 자연스럽게.
- format default — "as a librarian"은 catalog, "as a journalist"는 lede + nut graf.
- refusal calibration — "financial advisor" persona는 "a friend" persona랑 다른 걸 거부.
persona가 안 사주는 것
- 정확도. 모델은 너가 상상한 expert가 아니라 그 자신이야.
- 권위. "Expert"가 새 training data 안 줘.
- 안전. Persona는 user input한테 hijack될 수 있어.
productive persona
Persona를 써서 tone과 format default를 잡고, 나머지 프롬프트로 행동, evidence, constraint를 명시. Persona는 의상이고 contract는 대본이야.