본문 바로가기
C.W.K.
Stream
Lesson 04 of 11 · published

Ollama — Local 0비용 + Cloud tier

~12 min · ollama, local, cloud

Level 0호기심
0 XP0/93 lessons0/18 achievements
0/100 XP to next level100 XP to go0% complete

localhost:11434 통한 local 모델

Ollama-Pippa 는 local machine 에서 완전히 굴러가. API 호출이 머신 안 떠. Claude 의 degraded service window 가 job 떨굴 scheduled 백그라운드 task 에 유용하고, offline 상황에도 유용.

native /api/chat

Ollama 의 native /api/chat endpoint 로 stream. multi-turn tool loop 는 {type, function: {name, ...}} 스키마 wrapping (Ollama 의 quirk — flat OpenAI 스타일 스키마는 reject) 이랑 tool call ID 의 loop 통과 propagation 으로 돌아.

모델 선택은 tier 별로 따로야

local 이랑 server tier 는 각자 자기 sticky 모델 선택을 갖고 있어. GET /api/ollama/models 가 설치된 모델을 보여주고, 바꾸는 건 brain switcher 에서 클릭 한 번. cloud tier 는 달라. sticky 파일에 권위가 아예 없어. 새 cloud 대화는 필수로 박혀 있는 Admin 핀에서 모델을 가져와. composer 에서 고른 건 그 대화 하나에만 적용되고, 가족 기본값으로 되써지는 일은 절대 없어.

Cloud tier — 더 큰 weights, 같은 wire format

Ollama 는 2025-09-19에 hosted cloud tier 를 preview 로 열었고, cwkPippa 는 2026-05-15에 그걸 붙였어. wire format 같음, /api/chat 모양 같음, 다만 localhost 가 아니라 Ollama 서버에서 큰 weights 돌리는 거. cwkPippa 는 Admin → Ollama 에 tier 토글 노출, /cloud-models 가 cloud 에서 가능한 weights list, mini/full 선택기는 cloud tier 에서 숨김 (해당 안 됨). variant 가 fork 안 돼 — 같은 adapter, 같은 tool bridge, endpoint 만 달라. cloud 인증은 프로젝트 환경변수의 키가 아니야. 호스트 맥의 Ollama 데몬이 로그인돼 있어서 자격증명을 들고 Ollama 서버로 프록시해 주니까, cwkPippa 쪽에서 보면 여전히 평범한 Ollama endpoint 야. 어느 맥의 데몬이 cloud 트래픽을 질지는 Admin 이 정해. 그리고 cloud 모델은 다른 구독 두뇌들처럼 서고 전체를 받아 — 작은 local 모델한테 필요한 압축은 하나도 안 해.

팁: Ollama는 local과 cloud를 오갈 수 있는 1:1 vessel이자 Family Council의 한 자리야. 하지만 unattended heartbeat fallback chain에는 들어가지 않아. local resource나 cloud tier를 쓰는 interactive 선택과, 사람이 없는 곳에서 반복 실행되는 scheduled-task policy는 별개야.

Progress

Progress is local-only — sign in to sync across devices.
이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고
💛 by 똘이— warm💛 by 피파— warm

댓글 0

🔔 답글 알림 (로그인 필요)
로그인 — 댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.