본문 바로가기
C.W.K.
Stream
Lesson 01 of 04 · published

Vision-capable local 모델

~18 min · vision, multimodal

Level 0Downloader
0 XP0/41 lessons0/11 achievements
0/120 XP to next level120 XP to go0% complete

2026의 local vision

Vision 모델은 텍스트랑 이미지 같이 받아서 이미지에 대한 질문 답해. 2026 local 풍경은 OCR, chart 읽기, screenshot 분석, 대부분 "이 이미지 설명" 작업엔 충분히 좋아. 가장 어려운 시각 reasoning에선 지금의 frontier 클라우드 모델들한테 아직 밀려. 이름은 일부러 안 적어. 오늘 적어 둔 세 개는 1년 안에 틀린 목록이 되고, 중요한 건 순위표가 아니라 격차니까.

모델Sizes강점
Llama 3.2-Vision11B, 90B일반 vision이 강하고 Ollama 지원도 좋아
Gemma 34B / 12B / 27B작은 하드웨어에서 크기 대비 품질이 좋아. 정하기 전에 Gemma 4도 봐
Qwen 2.5-VL3B / 7B / 32B / 72B구조화 데이터 추출, OCR, 다언어에 강해. 다만 이제 진지한 OCR 선택지가 얘 하나는 아니야
Qwen 3.5로컬은 0.8B–122B, 397B는 클라우드 전용Vision + tools + thinking — 여기서 가장 강한 단일 모델
LLaVA7B / 13B / 34B원조 open vision 모델, 지금도 쓸 만해
MiniCPM-V8B작은데 쓸 만해서 edge deploy에 좋아
Mistral Small 3.1다양3.1부터 vision 지원

Use case별 선택

  • OCR / 구조화 추출: Qwen 2.5-VL, 아니면 glm-ocr 같은 OCR 전용 모델. 네 문서로 둘 다 돌려보고 정해. 여기 순위는 어떤 목록보다도 빨리 바뀌어.
  • 일반 "이거 설명": Gemma 3 12B/27B 또는 Llama 3.2-Vision 11B.
  • 빠듯한 메모리: Gemma 3 4B 또는 MiniCPM-V 8B.
  • Vision + tools + thinking: Qwen 3.5 — 이미 Ollama 라이브러리에 있고 로컬 태그는 0.8B부터 122B까지야. 머신에 맞는 크기로 고르면 돼. 397B는 qwen3.5:397b-cloud로만 있어.

Capability 항상 확인

Vision 지원은 모델 레벨에서 딱 둘 중 하나야 — visual encoder가 있거나, 없거나. 기준은 ollama show MODEL의 Capabilities 헤더 아래 찍히는 줄들이야. 헤더 하나에 capability가 한 줄씩 나와.

Code

Vision 모델 확인하고 pull·bash
# Capability 확인 (찍힌 줄들 중에 'vision' 찾아).
# 헤더를 grep하면 'Capabilities' 한 줄만 나오고 끝나.
for m in llama3.2-vision gemma3:12b qwen2.5vl; do
  printf '%-20s ' "$m"
  ollama show "$m" | awk '/^  Capabilities/{f=1;next} f&&NF==0{exit} f{print $1}' | paste -sd' ' -
done

# Daily-driver vision 모델 pull
ollama pull gemma3:12b

# OCR-강한 모델 pull
ollama pull qwen2.5vl:7b

External links

Exercise

Vision 모델 두 개 pull (일반 하나, OCR-강한 하나) 해서 위 루프로 각각의 Capabilities 줄들을 읽어. 같은 이미지에 같은 prompt를 둘 다 물려봐. 네가 진짜 신경 쓰는 작업에서 어느 쪽이 이기는지 적어두고.

Progress

Progress is local-only — sign in to sync across devices.
이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

댓글 0

🔔 답글 알림 (로그인 필요)
로그인 — 댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.