Regularization 과 Reshape

~8 min · layers

Level 0Keras 도제

0 XP0/97 lessons0/20 achievements

0/120 XP to next level120 XP to go0% complete

Dropout — 가장 흔한 regularizer. rate=0.2~0.5 가 흔한 시작점. 학습 시만 켜져 (training flag 자동). 근데 너무 높으면 underfit, 너무 낮으면 overfit — validation curve 보고 튜닝.

Reshape / Flatten / Permute — shape 변환. Flatten 은 (batch, ...) 을 (batch, total) 로. Reshape 는 자유 형태. Permute 는 차원 순서 바꿈 (channels-first ↔ channels-last 마이그레이션 시).

Code

# Merge two branches
layers.Concatenate()([branch_a, branch_b])  # Concatenate along axis
layers.Add()([branch_a, branch_b])          # Element-wise addition
layers.Multiply()([branch_a, branch_b])     # Element-wise multiplication
layers.Average()([branch_a, branch_b])      # Element-wise average

External links

Exercise

동작하는 CNN 에 Flatten 후 Dropout(0.5) 추가. 학습하고 dropout 유/무 validation accuracy 비교. 적절한 rate 는 data 에 따라 달라 — 추측 말고 측정.

Progress

Progress is local-only — sign in to sync across devices.

← PreviousAttention 과 Normalization Next →Preprocessing layer

이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

🔔 답글 알림 (로그인 필요)

로그인 — 댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.