End-to-End: Hub → Train → Serve → Space

여덟 트랙을 저장소의 계보로 이어

Hub에서 base 모델을 고르고 카드를 읽은 뒤 커밋 SHA를 고정해.
Datasets에서 선별 자료를 받아 map으로 처리하고 private 데이터셋 저장소에 올려.
Training에서 SFTTrainer와 LoRA로 학습하고 adapter를 private 모델 저장소에 올려.
병합과 양자화에서 adapter를 base에 합치고 AWQ 변형과 정확한 모델 카드를 공개해.
Serving에서 TGI나 vLLM이 그 고정 모델을 읽게 해.
Space에서 Gradio나 Docker로 실제 서버를 호출하는 데모를 제공해.
반복 단계에서 사용자 피드백을 선호 데이터로 쌓고 DPO를 실행해.

각 단계의 산출물을 주소로 남겨

모든 산출물을 커밋 SHA로 가리키면 재현할 수 있고, Git 이력으로 누가 무엇을 바꿨는지 감사할 수 있어. 읽기 권한이 있는 다른 환경에서 같은 스택을 복원하고 각 계층을 독립적으로 되돌릴 수도 있어. 토큰과 GPU 시간도 단계별로 분리되어 비용 원인을 찾기 쉬워져.

Code

End-to-end skeleton (많은 디테일 생략)·python

# 1. Pin + base pull
from huggingface_hub import snapshot_download
base_path = snapshot_download("meta-llama/Llama-3.2-1B-Instruct",
                               revision="<sha>", local_dir="./base")

# 2. 데이터셋 process + push
from datasets import load_dataset
raw = load_dataset("HuggingFaceH4/no_robots", split="train")
processed = raw.map(my_preprocess, num_proc=4, remove_columns=raw.column_names)
processed.push_to_hub("yourname/no-robots-cwk", private=True)

# 3. SFT + LoRA (training 트랙 7번 레슨 참조)
# 4. Merge + 양자화
from peft import AutoPeftModelForCausalLM
m = AutoPeftModelForCausalLM.from_pretrained("./adapter")
merged = m.merge_and_unload()
merged.push_to_hub("yourname/llama-1b-cwk", private=True)

# 5. TGI / vLLM 통해 serve (serving 트랙)
# 6. Gradio Space 에 wrap (spaces 트랙)
# 7. Feedback 수집, preference 데이터셋 빌드, DPO, ...

루프의 Hub 레포·yaml

# Base (third-party): meta-llama/Llama-3.2-1B-Instruct
# Dataset (yours): yourname/no-robots-cwk
# Adapter (yours, private): yourname/llama-1b-cwk-adapter
# Merged (yours, public): yourname/llama-1b-cwk
# Quantized (yours, public): yourname/llama-1b-cwk-AWQ
# Demo Space (yours): yourname/llama-1b-cwk-demo

여덟 트랙을 저장소의 계보로 이어

각 단계의 산출물을 주소로 남겨

Code

External links

Exercise

Progress

댓글 0