단계적 배포와 카나리

~12 min · production, rollouts

Level 0수련생

0 XP0/100 lessons0/14 achievements

0/120 XP to next level120 XP to go0% complete

한 번에 갈아타지 마

새 프롬프트와 모델도 다른 운영 코드처럼 내보내야 해. 기능 플래그 뒤에 두고 적은 요청으로 카나리를 돌리며 관찰한 뒤 비율을 올려. 한 번의 전환은 퇴행까지 함께 배포하는 방법이야.

단계적 배포 순서

내부 카나리 — 팀과 골라낸 숙련 사용자에게 먼저 열어.
운영 카나리 — 실제 요청의 1~5%를 보내고 대시보드를 봐.
확대 — 위험에 따라 시간이나 하루 단위로 10% → 25% → 50% → 100%로 올려.
유지 — 100%가 되어도 즉시 되돌릴 수 있게 옛 버전을 남겨.
정리 — 적어도 일주일 안정된 뒤 옛 버전을 은퇴시켜.

확대 중에 볼 것

평가 표시와 불만 비율이 있는 품질 화면.
호출당 비용 급증.
p95 지연 시간.
거절률.
배포 전 검토에서 표시한 구체적인 실패 유형.

Code

기능 플래그를 이용한 단계적 배포·python

if growthbook.feature_value("prompt_v9", user_id, default=False):
    prompt = load("support.draft@9")
else:
    prompt = load("support.draft@8")

resp = call_model(prompt, request)

External links

Exercise

프롬프트 변경 하나를 기능 플래그 뒤에 두고 확대 일정을 정해봐. 각 단계마다 대시보드를 보고 진행 또는 중단을 결정해.

Progress

Progress is local-only — sign in to sync across devices.

← Previous속도 제한과 역압 Next →비용 공학 — 돈은 어디로 갈까

이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

🔔 답글 알림 (로그인 필요)

로그인 — 댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.