01🏠Hub 활용
0/6 lessons레포, 카드, 토큰, 캐시
Hub는 Git을 바탕으로 움직이는 레지스트리야. 모델·데이터셋·Space를 각각 계약이 있는 저장소로 다루는 법부터 익혀.
오픈 모델 생태계, 처음부터 끝까지
Hub 저장소와 모델 카드부터 Transformers, Datasets, InferenceClient, TGI, vLLM, Trainer·PEFT, Spaces, Accelerate, Optimum, TRL, GGUF, ONNX, MLX까지 이어지는 오픈웨이트 운영 기반을 한 번에 다져.
8 tracks · 50 lessons · ~36h · difficulty: beginner-to-advanced
pipeline() 너머에서 제어하고, 큰 데이터셋을 스트리밍으로 다루고, InferenceClient로 provider를 바꿔 가며 추론해. 이어서 TGI와 vLLM으로 실제 트래픽을 받고, LoRA·QLoRA로 모델을 조정하고, Space에 결과를 보여 줘. 마지막에는 Accelerate, Optimum, TRL, GGUF, ONNX, MLX를 연결해 한 산출물이 다음 단계의 입력이 되는 전체 계보를 완성해. 각 수업은 실행 가능한 코드, 실제 실패 조건, 공식 문서로 배운 내용을 붙잡아.레포, 카드, 토큰, 캐시
Hub는 Git을 바탕으로 움직이는 레지스트리야. 모델·데이터셋·Space를 각각 계약이 있는 저장소로 다루는 법부터 익혀.
pipeline() 에서 generate() 로
Transformers의 백엔드와 Auto* 레지스트리, 생성 상태 기계를 익혀. `pipeline()`에서 시작해 직접 제어하는 계층까지 내려가.
Load, transform, stream, push
Arrow 기반 Datasets로 Hub·로컬·스트리밍 자료를 한 흐름에서 다뤄. 불러오기부터 변환, 분할, Hub 공개까지 이어가.
클라이언트 하나, 백엔드 여럿
InferenceClient 하나로 HF 호스팅, 외부 provider, 자체 TGI, OpenAI 호환 끝점을 연결해. 호출부를 유지한 채 백엔드를 바꾸는 법을 익혀.
진짜 서빙, 진짜 동시성
연속 배치, PagedAttention, 서빙 시점 양자화, 상태 점검과 재시작을 익혀. Flask 뒤의 `pipeline()`을 실제 트래픽용 서버로 바꿔.
SFT, LoRA, QLoRA, DPO
Trainer, TrainingArguments, collator, metric으로 표준 학습 루프를 만들고 LoRA·QLoRA·SFTTrainer로 작은 GPU에서도 큰 모델을 조정해.
Gradio, Streamlit, Docker
Space는 선언 파일로 앱을 실행하는 Git 저장소야. ML 데모는 Gradio, 상태가 있는 대시보드는 Streamlit, 맞춤 런타임은 Docker, 정적 화면은 Static으로 골라.
Safetensors, GGUF, MLX, DPO, E2E
Safetensors 보안, 양자화 형식, Accelerate·FSDP, Optimum, TRL을 묶어 Hub→학습→서빙→Space의 전체 운영 루프를 완성해.
아직 댓글이 없어요. 첫 댓글을 남겨보세요.