본문 바로가기
C.W.K.
Stream
Lesson 10 of 10 · published

운영 성숙도의 사다리

~12 min · production, maturity

Level 0수련생
0 XP0/100 lessons0/14 achievements
0/120 XP to next level120 XP to go0% complete

지금 어느 칸에 서 있을까

  1. 시연 — 프롬프트가 코드 속 문자열이고 사례 하나에서 출력이 좋아 보여.
  2. 작동 — 프롬프트가 파일에 있고 기본 평가 모음은 있지만 모델 하나뿐이며 대체 경로가 없어.
  3. 신뢰 가능 — 버전, CI 평가 관문, 기록, 되돌리기 플래그, 주 모델의 대체 경로가 있어.
  4. 운영됨 — 전체 원격 측정, 비용 화면, 카나리 배포, 연습한 사고 절차, 실패를 시험으로 바꾸는 평가 발굴 흐름이 있어.
  5. 공학화 — 여러 제공업체 어댑터, 요청별 분기, 비용·품질·지연 보고, 레드팀 평가, 분기별 프롬프트 재작성, 문서화한 불변식이 있어.

한 칸씩 올라가

한 단계에는 한두 분기가 걸릴 수 있어. 모든 시스템이 마지막 칸까지 갈 필요는 없고 실패 비용에 맞춰야 해. 홍보 문구 생성기는 ‘작동’이면 충분할 수 있지만 환불 결정 에이전트는 ‘운영됨’이나 ‘공학화’가 필요해.

이 퀘스트가 남기는 것

모든 트랙과 연습을 마쳤다면 공학화에 필요한 부품 목록을 가진 셈이야. 이제 각자의 시스템에 연결해야 하고 일은 끝나지 않아. 시스템은 살아 있고 제공업체와 위협은 계속 움직이니까.

Code

자기 점검표·markdown
Demo:
  [x] prompt produces something

Working:
  [ ] prompts in source control
  [ ] eval set ≥ 20 cases
  [ ] documented sampler params

Reliable:
  [ ] versioned prompts with frontmatter
  [ ] CI eval gate
  [ ] log retention policy
  [ ] rollback flag tested
  [ ] fallback chain ≥ 2 providers

Operated:
  [ ] dashboards: health, quality, routing
  [ ] rollouts canaried
  [ ] incident runbook quarterly drill
  [ ] failures → eval cases pipeline

Engineered:
  [ ] adapter pattern; provider-neutral application code
  [ ] per-request model + reasoning routing
  [ ] red-team eval suite
  [ ] quarterly prompt rewrites against eval baseline
  [ ] invariants documented in CLAUDE.md / equivalent

External links

Exercise

가장 중요한 LLM 끝점에 자체 점검표를 적용해봐. 아직 갖추지 못한 다음 두 항목을 찾고 각각 언제 끝낼지 계획해.

Progress

Progress is local-only — sign in to sync across devices.
이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

댓글 0

🔔 답글 알림 (로그인 필요)
로그인댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.