본문 바로가기
C.W.K.
Stream
Lesson 05 of 05 · published

실험이 끝나고 운영이 시작되는 자리

~11 min · big-models, operations, availability, checklist, our-judgment

Level 0스펙 시트 훑는 사람
0 XP0/91 lessons0/19 achievements
0/100 XP to next level100 XP to go0% complete
"실험은 어떤 것이 한 번 될 수 있음을 증명해. 운영은 네가 없어도 그것이 되고 있는 것이야. 이 집은 둘 다 두고 어느 게 어느 건지 라벨해. 그 라벨이 기계를 꺼도 되는지 정하니까."

질문 여섯

코드 블록은 체크리스트로서의 선이고, 함대 트랙의 배치 규칙 셋에 시간에 대한 셋을 더한 거야. 재부팅 뒤 스스로 시작하나. 누가 열어 둔 터미널이 아니라 launchd 작업으로. 기계 하나에 소유자 프로세스가 정확히 하나 있나, 단일 쓰기 주체 규칙. 뭔가가 매일 거기 의존하나. 실패를 왜 느린지 궁금해하는 사람이 아니라 모니터가 알아채나. 기록(저장소의 카탈로그, 엔진의 설정, 퀘스트 작업장의 브리프)에서 대체 맥에 오후 하나에 다시 지을 수 있나. 그리고 그 숫자를 앞선 실험에서만이 아니라 배포 뒤에 쟀나. 운영은 여섯 전부에 그렇다고 답해. 이 집에 적용하면 추론 허브, 모델 저장소, 영상 기억 컨트롤 플레인은 6 중 6이야. 이 퀘스트의 실험실, 맥 넷, 스크립트 하나, 하루는 6 중 2고 그 이상이 되려던 적이 없어. 기록이 측정 동반 문서인 실험이고, 파일을 가진 누구든 다시 돌릴 수 있어. RDMA로 Studio 둘에 풀링한 1 TB 모델은 이 집 자체의 시도에서 6 중 0이고, 그게 '실용적이지 않다'의 뜻이었어.

가운데의 둘

흥미로운 행은 넷짜리들이야. 음악 엔진은 음원 분리기를 CPU에 고정해. 스스로 시작하고, 소유자 하나고, 의존되고, 다시 지을 수 있어. 하지만 아무것도 감시하지 않고 그 숫자는 그 뒤로 바뀐 PyTorch 버전에 대고 배포 전에 쟀어. 여정 트랙이 그게 될 수 있는 것보다 열 배 느리게 도는 걸 찾은 경위야. 그게 빚이 있는 운영이야. 배포한 날부터 여섯째 질문에 답이 없는. 채팅 계층으로서의 Ollama MLX 엔진이 다른 넷이야. 시작하고, 소유되고, 다시 지을 수 있고, 실험실이 배포 뒤에 쟀어. 추측 디코딩 발견. 하지만 아직 아무것도 매일 의존하지 않고 아무것도 지켜보지 않아. 의존 대상을 기다리는 운영이고, 계층 레슨의 설정이 1분 안에 그걸 줄 수 있어. 선은 벽이 아니야. 셈이고, 셈이 다음에 답할 질문을 말해.

큰 모델을 위한 선

이 트랙이 계산한 전부가 체크리스트로 분류돼. Studio 하나 위의 4비트 GLM-5.3은 운영이 될 수 있어. 들어가고, launchd에서 시작할 거고, 허브가 소유할 수 있고, 숫자를 배포 뒤에 잴 수 있어. 그리고 이 집은 배포하지 않았어. 753B 혼합 모델에 대한 여섯째 질문의 정직한 답이 초당 한 자릿수 토큰이고, 클라우드 계층이 더 빠르고 더 잘 답할 때 가족의 무엇도 매일 거기 의존하지 않을 테니까. 노트북 위의 4비트 Qwen3.8-Flash-Next는 노트북 주인이 이번 주에 돌릴 수 있는 실험이고, 활성 6B면 운영이 될 만도 해. 풀링된 모델은 오후 하나야. RDMA에 대한 판결로 명시되고 여기로 옮겨진 이 트랙 전체에 대한 이 집의 규칙: 집에서 도는 건 놔둘 수 있는 것이고, 저장소는 답이 바뀌는 날을 위해 나머지 전부를 보관해. 엣지 트랙은 그날에 대한 거야.

Code

experiment_line.py — 질문 여섯, 이 집 자체의 것들에 적용·python
#!/usr/bin/env python3
"""Where experiment ends and operation begins. Six yes/no questions; an operation
answers yes to all six. Applied to the household's own things as of 2026-09-15."""
QUESTIONS = [
    "starts by itself after a reboot (launchd, not a terminal)",
    "has exactly one owner process and one machine",
    "someone or something depends on it daily",
    "a failure is noticed by a monitor, not by a person wondering",
    "it can be rebuilt on a replacement machine in an afternoon from records",
    "its numbers were measured after it was deployed, not only before",
]
THINGS = {
    "the inference hub (MLX server + Ollama + image engine)":   [1, 1, 1, 1, 1, 1],
    "the model store (fetch, verify, land, catalog)":            [1, 1, 1, 1, 1, 1],
    "the video-memory control plane and worker":                 [1, 1, 1, 1, 1, 1],
    "this quest's lab (silicon_lab.py on four Macs)":            [0, 0, 0, 0, 1, 1],
    "a 1 TB model pooled over RDMA across two Studios":          [0, 0, 0, 0, 0, 0],
    "the music engine's CPU pin for source separation":         [1, 1, 1, 0, 1, 0],
    "Ollama's MLX engine as a chat tier":                        [1, 1, 0, 0, 1, 1],
}
for thing, answers in THINGS.items():
    n = sum(answers)
    verdict = "operation" if n == 6 else ("operation with a debt" if n >= 4 else "experiment")
    missing = [QUESTIONS[i] for i, a in enumerate(answers) if not a]
    print(f"{thing}\n    {n}/6 -> {verdict}" + (("\n    missing: " + "; ".join(missing)) if missing else ""))

# 2026-09-15: hub 6/6, store 6/6, control plane 6/6 -> operation; the lab 2/6, a pooled 1 TB model 0/6 -> experiment;
# the music engine's CPU pin 4/6 and Ollama's MLX chat tier 4/6 -> operation with a debt

External links

Exercise

experiment_line.py를 네 것들, 네가 돌리는 모든 모델, 데몬, 스크립트에 돌리고 각각 옆에 셈을 카드에 써. 넷이나 다섯마다 빠진 질문과 그게 걸릴 오후를 써. 0에서 셋마다 운영이 돼야 하는지 실험으로 남아야 하는지, 왜인지 써.
Hint
대부분의 집 설정엔 여섯짜리 하나둘, 같은 답이 빠진(감시, 다시 잼) 넷짜리 여럿, 그리고 아무도 라벨 안 한 실험 더미가 있어. 라벨하는 게 일의 대부분이야. 이 집의 함대 트랙이 라벨이 쓰이고 난 뒤의 모습이야.

Progress

Progress is local-only — sign in to sync across devices.
이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

댓글 0

🔔 답글 알림 (로그인 필요)
로그인댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.