~11 min · edge-era, availability, privacy, outage, our-judgment
Level 0스펙 시트 훑는 사람
0 XP0/91 lessons0/19 achievements
0/100 XP to next level100 XP to go0% complete
"로컬이니 사적이다는 추론이 어디서 일어나는지만 말해. 데이터는 이미 다른 데 살아. 로컬 모델이 실제로 사 주는 건 다른 아무것도 답하지 않는 날의 답이야."
서사와 이유
집 안 모델의 흔한 논거는 프라이버시야. 이 집의 독트린은 한 문단으로 그걸 치워. '로컬이니 사적이다'는 추론이 어디서 일어나는지만 말한다. 데이터는 이미 메일, 클라우드 저장소, 코드 호스팅, 데이터베이스, 사진 라이브러리에 살고, 사슬은 가장 약한 고리만큼만 사적인데 그 고리는 모델이 도는 곳이 아니라 데이터가 사는 곳이다. 나머지를 그대로 둔 채 추론을 집에 가져오는 건, 독트린이 말하길, 창문 열두 개를 열어 둔 채 문 하나를 잠그는 것이고, 완벽한 프라이버시는 플러그 뽑은 기계고 그건 쓸모없다. 프라이버시는 관리할 위험이야. 뭐가 어디로 가는지 알고, 폭발 반경을 정하고, 진짜 0인 몇 가지는 어디에도 쓰지 않기. 풀을 살 이유가 아니야. 이 퀘스트는 그걸 이 집의 판단으로 싣고, 이 집 자신의 함대 말고는 아무것에도 대조하지 않으며, 함대가 일관됨을 찾아. 이 집은 로컬이 충분히 좋은 곳에선 로컬을 돌리고 품질이 이기는 곳에선 클라우드를 사고, 어느 선택도 프라이버시 때문에 한 게 아니야.
로컬이 실제로 채우는 자리
그 자리는, 독트린의 말로, 가용성이야. 오프라인이거나 벤더의 여덟 시간 장애. 코드 블록은 이 집의 모델 기반 일들을 클라우드에 닿을 수 없을 때와 네트워크가 아예 없을 때 뭐가 계속 작동하느냐로 분류해. 기억 검색, 이미지 생성, 온디바이스 받아쓰기, 코딩 에이전트의 바닥 단은 두 경우 다 계속 작동해. 방 안의 풀에서 도니까. 목소리, 전사, 요약, 프론티어 채팅, 에이전트의 프론티어 레그는 멈춰. 벤더의 랙에서 품질로 골랐으니까. 이 분할은 반대쪽에서 본 함대 트랙의 선택으로 클라우드 레슨이야. 이 집이 품질 때문에 클라우드로 보낸 모든 일은 클라우드가 멈추면 멈추는 일이고, 각각의 밑에 있는 로컬 계층, 계층 레슨이 서술한 설정이 그 멈춤을 침묵이 아니라 강등으로 만들어. 그게 풀이 산 것이야. 비밀이 아니라, 모든 표면 밑의 바닥.
이게 엣지의 진짜 논거인 이유
라이벌 트랙은 어떤 단일 일이든 카드나 랙이 더 빨리 한다는 걸 보여 줬고, 함대 트랙은 이 집의 최선의 일들엔 클라우드가 더 잘한다는 걸 보여 줬어. 어느 쪽도 못 주는 건 존재야. 방 안에, 켜져서, 모델을 들고, 아무도 필요 없는 기계. 물리 트랙은 그 존재를 Studio에서 유휴 9와트, 최대 부하 270으로, 무소음으로, 몇 년으로 값 매겼어. 라이벌 트랙 결정표의 항상 켜짐 행, 라이벌이 절대 못 이기는 그 행. 이 집의 읽기는 시장의 조건이 바뀌기 전까진 이게 엣지 가치의 전부고, 그걸로 충분하다는 것이야. 검색, 이미지, 받아쓰기, 마지막 단 에이전트가 장애를 견디는 가족은 풀로 가용성을 사고 구독으로 품질을 샀고, 어느 쪽도 다른 쪽을 위해 포기하지 않을 거야. 다음 레슨은 어떤 일이 그 모양으로 바닥에 속하는지야.
Code
availability.py — 두 종류의 장애 아래의 이 집의 일들·python
#!/usr/bin/env python3
"""Local's real value is availability. A year of a household's model-backed jobs against two
kinds of outage: the vendor's (a service down for hours) and the room's (no network at all).
Which jobs keep working, by tier, from the fleet track's census. Hours are illustrative."""
jobs = [ # job, tier today, keeps working when the cloud is down?, when the network is down?
("memory search (embed + rerank)", "local hub", True, True),
("image generation", "local hub", True, True),
("dictation (on-device)", "local, every Mac", True, True),
("coding agent, bottom rung", "local, every Mac", True, True),
("coding agent, frontier leg", "cloud", False, False),
("voices (text to speech)", "cloud", False, False),
("video transcripts", "cloud", False, False),
("transcript summaries", "cloud via the hub", False, False),
("frontier chat", "cloud", False, False),
]
print(f"{'job':36} {'tier':18} {'cloud down':>10} {'network down':>12}")
for j, t, c, n in jobs:
print(f"{j:36} {t:18} {'works' if c else 'stops':>10} {'works' if n else 'stops':>12}")
print("\nthe household's rule, in its doctrine: privacy is a narrative, not a reason -- the data already lives in a dozen services;")
print("the seat a local model actually fills is availability: offline, or the vendor's eight-hour outage. The four rows that keep working are that seat.")