모델 커스터마이징 스펙트럼

다섯 기법, 하나의 스펙트럼

파인튜닝 손대기 전에 문제를 스펙트럼 어디쯤에 놓을지 정해야 해. 기법마다 노력 대비 컨트롤이 달라. 대부분의 프로젝트는 한 칸 너무 높은 데를 선택해서 시간 날려.

기법	비용	노력	빛나는 자리
프롬프트 엔지니어링	무료	몇 분	실무 케이스 90%. 무조건 여기서 시작.
Few-shot (인컨텍스트 예시)	무료	몇 분	출력 포맷 안정화, 구조화된 응답.
RAG	낮음	며칠	모델이 네 데이터/자주 바뀌는 문서를 알아야 할 때.
파인튜닝	중간	며칠–몇 주	스타일/포맷/거절 패턴 같은 행동을 일관되게 만들어야 할 때.
처음부터 사전학습	매우 높음	몇 달	파운데이션 모델 직접 만드는 팀. 거의 아무도 여기 안 와도 돼.

RAG vs 파인튜닝, 한 줄씩

RAG는 쿼리 시점에 새 컨텍스트를 주입해서 모델이 뭘 아는지를 바꿔. 파인튜닝은 가중치를 조정해서 모델이 어떻게 행동하는지를 바꿔. 둘은 대체재가 아냐 — 실서비스는 보통 둘 다 써.

정직한 의사결정 룰

파인튜닝 손대기 전에 강제로 답해봐: "내가 쓸 수 있는 가장 강한 프롬프트로 얻은 결과는 뭐고, 정확히 어디서 실패해?" 그 갭을 정확히 못 적으면 학습 돌릴 준비가 안 된 거야. 파인튜닝은 정의 안 된 목표를 구원해주지 않아.

Code

Baseline that has to exist before you train·python

from openai import OpenAI

client = OpenAI()
SYSTEM = """You are a JSON-only product-review classifier.
Output: {"sentiment": "positive|negative|mixed", "confidence": 0..1}.
No prose, no markdown."""

def baseline(review: str) -> str:
    r = client.chat.completions.create(
        model="gpt-4.1-mini",
        messages=[
            {"role": "system", "content": SYSTEM},
            {"role": "user", "content": review},
        ],
        response_format={"type": "json_object"},
        temperature=0,
    )
    return r.choices[0].message.content

# Run this against 200 labeled reviews FIRST.
# If it already hits 95%+ format compliance and your tolerated metric,
# do NOT fine-tune. The baseline is the gate.

Exercise

실제 작업 하나 골라. 그 작업에 쓸 수 있는 가장 강한 프롬프트 하나 작성하고, 대표 입력 50개에 대해 평가해. 포맷 준수율이랑 작업 정확도 기록. 그 다음에야 한 단락짜리 파인튜닝 브리프 써: 목표 지표, 현재 지표, 구체적인 갭, 그 갭을 메울 학습 데이터 형태.