본문 바로가기
C.W.K.
Lesson 06 of 07 · published

선택으로 클라우드: 품질이 이길 때

~12 min · fleet, cloud, quality, availability, our-judgment

Level 0스펙 시트 훑는 사람
0 XP0/91 lessons0/19 achievements
0/100 XP to next level100 XP to go0% complete
"이 가족이 듣는 모든 목소리와 검색하는 모든 전사본은 클라우드에서 왔어. 일부러, 통합 메모리 1테라바이트를 가진 집에서. 이유는 품질이야. 이유를 적어 둬. 바뀔 수 있으니까."

결정

이 퀘스트의 계획 관문에서 이 집은 클라우드에 대한 규칙을 한 문장으로 밝혔어. 텍스트 음성 변환과 음성 인식은 품질을 위해 프론티어 클라우드 모델을 쓰지, 로컬 능력이 없어서가 아니다. 전부 로컬로 돌 수 있다. 함대의 기록이 동의해. 영상 기억 엔진의 전사는 공개 벤치마크로 고르고 워커 전용 비교로 검증한 클라우드 제공자에서 돌아. 그 요약은, 2,463개 중 2,462개가 허브 자체 데몬을 통해 클라우드 모델에서 돌았어. 피파를 대신해 말하는 음성 엔진은 클라우드 제공자의 자격 증명을 들고 있고 말하는 모든 앱은 그걸 통해 프록시해. 한편 같은 집은 기억 검색, 이미지 생성, 코딩 에이전트의 로컬 레그, 받아쓰기를 자기 실리콘에서 돌리고, 음성 형제는 가족의 일상 받아쓰기를 위해 뉴럴 엔진의 Whisper 모델로 기기에서 전사해. 선은 로컬 대 클라우드가 아니야. 충분히 좋음 대 품질이 이김이고, 일마다 그어져.

애플이 그은 같은 선

애플은 다른 규모에서 같은 방식으로 그어. 그 온디바이스 파운데이션 모델은 뉴럴 엔진 위의 30억쯤이고, "a larger server-based language model available with Private Cloud Compute and running on Apple silicon servers"가 작은 것이 못 하는 요청을 받아. 엣지는 충분히 좋은 걸 들고 클라우드는 나머지를 들며, 라우팅은 프롬프트마다 한다는 칩 벤더 자신의 인정. 라이벌 트랙이 왜인지 값 매겼어. 프론티어 품질은 데이터센터 규모의 연산 단계고, 방 안의 어떤 풀도 거기서 랙과 경쟁 못 해. 풀을 소유하고 랙이 더 나은 딱 그 일에 랙의 산출을 사는 집은 아무것도 양보하는 게 아니야. 심판의 선을 제대로 읽는 거야.

이유를 적어 둬야 하는 까닭

코드 블록은 이 집의 결정 표에 이 집 자체의 도구가 가능하게 만든 칸 하나를 더한 거야. 결정이 뒤집히려면 뭐가 바뀌어야 하나. 요약엔 데몬의 설정 하나. 전사엔 이 집 자체의 비교에서 제공자와 맞먹는 로컬 모델. 목소리엔 가족이 받아들이는 로컬 목소리. 어느 것도 다시 쓰기가 아니야. 계층 레슨의 문이 계층을 설정으로 만들었고 허브 레슨의 풀이 그 설정을 실재하게 만들었으니까. 이유와 함께 기록된 결정은 이유가 만료될 때 만료돼. 엣지 트랙의 마지막 단 레슨은 이유가 한꺼번에 만료될 때, 모든 클라우드가 죽었을 때 무슨 일이 생기는지고, 그 설정이 있는 이유야.

Code

cloud_choice.py — 각 일이 도는 곳, 이유, 그리고 뒤집을 조건·python
#!/usr/bin/env python3
"""Cloud by choice: for each of the household's model-backed jobs, where it runs, and the
stated reason. A table of the household's own decisions, with the physics-track fact
that would have to change for the decision to flip."""
jobs = [  # job, where, stated reason, what would flip it
    ("memory search (embed + rerank)",   "local, the hub",      "good enough; all prefill; one copy",                "nothing needed -- already local"),
    ("image generation",                  "local, the hub",      "good enough; the pool holds every checkpoint",     "nothing needed"),
    ("coding agent, local leg",           "local, any Mac",      "a 27B fits a laptop; compiled mini protocol",       "nothing needed; frontier leg used when judgment matters"),
    ("video transcripts (speech to text)","cloud provider",      "quality: frontier ASR chosen from public benchmarks", "a local ASR that matches it -- the voice sibling runs Whisper on-device for dictation already"),
    ("voices (text to speech)",           "cloud provider",      "quality: the household's stated reason",            "a local voice the family accepts"),
    ("transcript summaries",              "cloud, via the hub's daemon", "quality: 2,462 of 2,463 chose cloud models", "a local 31B that summarizes as well; the setting is one field"),
    ("frontier chat and long reasoning",  "cloud",               "quality; local models 'closing in'",                "a local model the family judges contest-grade"),
    ("everything Pippa-backed",           "any tier, a setting", "the door lists local, server, cloud",               "-- the setting exists so the flip needs no code"),
]
print(f"{'job':38} {'where':28} {'reason':52} what would flip it")
for j, w, r, f in jobs:
    print(f"{j:38} {w:28} {r:52} {f}")
print("\nthe household's rule: cloud for quality, never for lack of capability; all of it could run locally.")

External links

Exercise

코드 블록의 표를 네 일들로 만들어. 각각이 도는 곳, 다섯 단어로 된 이유, 뒤집으려면 바뀌어야 할 것. 품질 때문에 클라우드에서 돌리는 일 중 로컬 모델에 대고 제일 먼저 시험해 볼 하나와 쓸 테스트를 카드에 올려.
Hint
테스트가 핵심이야. '괜찮게 들린다'는 테스트가 아니고, 표본 열 개의 블라인드 비교는 테스트야. 이 집은 전사 선택을 확정하기 전에 워커 전용 벤치마크로 검증했고, 뒤집을 조건은 같은 벤치마크를 다시 돌리는 거야.

Progress

Progress is local-only — sign in to sync across devices.
이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

댓글 0

🔔 답글 알림 (로그인 필요)
로그인 — 댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.