Pretrained Backbone

backbone 은 feature extractor

backbone 은 model 에서 마지막 task layer 를 뺀 부분 — raw pixel 을 풍부한 feature map 으로 바꿔주는 convolution (또는 transformer block) 스택이야. ImageNet 으로 사전학습돼서 edge, texture, shape, 객체 부분까지 이미 알아. downstream task 는 그 feature 를 *어떻게 읽을지*만 배우면 돼. 이게 transfer learning 의 레버리지 전부고, 2026 년에 vision model 을 random weight 부터 학습하는 사람이 거의 없는 이유야.

로드는 한 줄: backbone = ResNetBackbone.from_preset('resnet_50_imagenet'). preset 이 weight + config 한 번에 다운로드. CNN, mobile, dense, ViT 계열까지 메뉴가 깊어.

size 고르기

size suffix (B0 vs B7, ResNet18 vs ResNet152) 는 latency-vs-accuracy 다이얼 그 자체야. 큰 backbone 이 더 많이 보지만 inference 당 비용도 커. 작은 걸로 시작해. ResNet50 이나 EfficientNetV2-S 가 일꾼 기본값 — 대부분 문제에 충분한 capacity, iterate 하기 충분히 빠름. 거대 model 은 작은 게 진짜 capacity 부족인지 (data 부족 아니라) 확인한 다음에만 손 뻗어.

Code

from_preset 로 사전학습 backbone 로드·python

import keras_cv

# Load a pretrained backbone
backbone = keras_cv.models.EfficientNetV2Backbone.from_preset(
    "efficientnetv2_s_imagenet"
)

backbone 위에 classification head 부착·python

import keras

# backbone outputs a feature map; pool it, then classify
model = keras.Sequential([
    backbone,
    keras.layers.GlobalAveragePooling2D(),
    keras.layers.Dense(num_classes, activation="softmax"),
])

# Or skip the manual wiring: a task preset bundles backbone + head
classifier = keras_cv.models.ImageClassifier.from_preset(
    "efficientnetv2_s_imagenet", num_classes=num_classes
)

Exercise

ResNet18 / ResNet50 / ResNet152 backbone 으로 classifier 3 개 빌드. 작은 dataset (Oxford Flowers 102) 에 fine-tune. accuracy vs 학습 시간 vs param 수를 한 차트에 plot — capacity 더해도 효과 멈추는 knee 지점 찾아. 그 knee 가 이 data 의 진짜 기본값.

Hint

처음 몇 epoch 는 backbone freeze (head 만 학습), 그 다음 낮은 learning rate 로 unfreeze. 152 는 작은 dataset 에 50 보다 빨리 overfit 할 가능성 — 최종 accuracy 말고 val 곡선을 봐.

backbone 은 feature extractor

size 고르기

Code

External links

Exercise

Progress

댓글 0