실전 — Text classification fine-tuning

~8 min · keras-nlp

Level 0Keras 도제

0 XP0/97 lessons0/20 achievements

0/120 XP to next level120 XP to go0% complete

End-to-end NLP fine-tune: 자기 dataset 의 text classification (sentiment / topic / intent 등). 단계: data 준비 (csv 또는 json) → BertClassifier.from_preset → fit → evaluate → save.

data 준비 팁: balanced classes (앞 lesson 참고), validation_split=0.1, batch_size 적당히 (큰 모델 + 작은 GPU 면 8-16). epoch 3-5 만 — pretrained 라 빨리 수렴. learning_rate=2e-5 가 표준.

Code

import keras
import keras_hub

# Load pretrained classifier
classifier = keras_hub.models.BertClassifier.from_preset(
    "bert_base_en",
    num_classes=3,
)

# Enable LoRA for efficient fine-tuning
classifier.backbone.enable_lora(rank=4)

# Compile
classifier.compile(
    optimizer=keras.optimizers.AdamW(5e-5),
    loss="sparse_categorical_crossentropy",
    metrics=["accuracy"],
)

# Train
classifier.fit(
    train_ds,
    validation_data=val_ds,
    epochs=3,
)

# Save the fine-tuned model
classifier.save("my_classifier.keras")

External links

Exercise

domain text classification dataset 골라 또는 annotate (예: 제품 트윗 sentiment). BertClassifier fine-tune. .keras 로 저장. stdin 분류하는 작은 predict.py 빌드.

Progress

Progress is local-only — sign in to sync across devices.

← PreviousLoRA fine-tuning Next →퀴즈 · 3 questions

이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

🔔 답글 알림 (로그인 필요)

로그인 — 댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.