Pull과 Run

model:tag 네임스페이스

모든 Ollama 모델은 name:tag 형태로 주소를 받아. Default tag (예를 들어 ollama pull qwen2.5가 resolve하는 그거)는 모델 maintainer가 골라둔 무난한 quantization이야. 특정 quant이나 size로 고정하고 싶으면 tag를 명시해서 써.

예: qwen2.5:7b-instruct-q5_K_M는 이렇게 읽혀:

qwen2.5 — model family
7b — parameter size
instruct — variant (instruction-tuned, base 아님)
q5_K_M — quantization

ollama pull이 모델 blob들을 다운로드 (Docker layer처럼 layered — 같은 blob이 여러 tag에 공유되면 한 번만 다운). ollama run이 interactive chat REPL 띄우고 모델 없으면 먼저 pull해. 둘 다 중간에 끊긴 다운로드를 이어받아.

모델 저장 위치

macOS: ~/.ollama/models/. Linux: /usr/share/ollama/.ollama/models/. OLLAMA_MODELS 환경변수로 외장 드라이브에 옮길 수 있어. 부팅 디스크가 빠듯할 때 유용해.

Code

Pull, run, list, inspect·bash

# Default tag pull
ollama pull qwen2.5

# 특정 quant pull
ollama pull qwen2.5:7b-instruct-q5_K_M

# Interactive 실행 (없으면 pull)
ollama run qwen2.5
# /bye로 종료, /?로 도움말

# 설치된 모델 list (크기 포함)
ollama list

# 특정 모델 inspect
ollama show qwen2.5:7b
ollama show qwen2.5:7b --modelfile

# 현재 로드된 모델 + 메모리 사용량
ollama ps

외장 저장소로 모델 옮기기·bash

# macOS / Linux: 모델 저장소 재배치
export OLLAMA_MODELS=/Volumes/ExternalSSD/ollama-models

# macOS에서 launchd가 상속하도록 persist
launchctl setenv OLLAMA_MODELS /Volumes/ExternalSSD/ollama-models

# 다시 pull하거나 기존 모델 symlink
ollama pull qwen2.5:7b

Pull과 Run

model:tag 네임스페이스

Pull과 run

모델 저장 위치

Code

External links

Exercise

Progress

댓글 0