Rollout과 canary

~12 min · production, rollouts

Level 0수련생

0 XP0/100 lessons0/14 achievements

0/120 XP to next level120 XP to go0% complete

한 step에 switch X

새 prompt나 model이 다른 production code랑 같은 식으로 live: feature flag 뒤, low traffic에 canary, monitored, ramp up. Atomic switch가 regression ship하는 법.

Rollout 패턴

Internal canary — 너의 팀과 select power user.
Canary traffic — production의 1–5%. Dashboard 봐.
Ramp — 10% → 25% → 50% → 100% 시간이나 일 단위로, stake에 따라.
Hold — 100%에 instant rollback 위해 이전 version reachable 유지.
Cleanup — ≥1주 stable되면 이전 version retire.

Ramp 동안 watch할 것

Quality dashboard (eval flag, complaint rate).
Call당 cost spike.
Latency p95.
Refusal rate.
Pre-ship review에서 flag한 specific failure mode.

Code

Feature-flagged rollout·python

if growthbook.feature_value("prompt_v9", user_id, default=False):
    prompt = load("support.draft@9")
else:
    prompt = load("support.draft@8")

resp = call_model(prompt, request)

External links

Exercise

한 prompt 변경에 feature-flagged rollout setup. Ramp schedule 정의. 돌려. 각 ramp step에 dashboard에서 go/no-go 결정.

Progress

Progress is local-only — sign in to sync across devices.

← PreviousRate limiting과 backpressure Next →Cost engineering — 돈이 어디 가나

이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

🔔 답글 알림 (로그인 필요)

로그인 — 댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.