C.W.K.
Stream
Lesson 02 of 06 · published

Pooling layer와 현대적 대안

~10 min · pooling, max-pool, global-avg-pool

Level 0Level 0
0 XP0/78 lessons0/17 achievements
0/100 XP to next level100 XP to go0% complete

Spatial size 줄이고 invariance 만들기

Convolution 후 pooling이 feature map의 spatial 차원 줄여. 두 목적: 다음 layer 계산 비용 절감, 그리고 spatial invariance — feature의 정확한 위치가 덜 중요해짐.

MaxPooling2D는 각 pool window의 max 값. 가장 흔함; 강한 activation 보존. AveragePooling2D는 평균 — 일부 architecture에서 쓰지만 classification엔 일반적으로 약함.

GlobalAveragePooling2D는 Flatten + Dense의 현대적 대체. 각 feature map 전체를 단일 값으로 평균: (batch, h, w, channels) → (batch, channels). ResNet, EfficientNet, MobileNet 다 이거 써 — Flatten보다 파라미터 훨씬 적고 구조적 regularizer 역할.

현대적 대안: Conv → MaxPool 대신 stride=2 Conv로 학습된 다운샘플링. 네트워크가 spatial 정보 조합 방법 결정, 고정 max 연산 적용 대신.

Code

Pooling variants·python
from keras import layers

# MaxPooling — most common
max_pool = layers.MaxPooling2D(pool_size=2, strides=2)
# Input (batch, 32, 32, 64) → Output (batch, 16, 16, 64)

avg_pool = layers.AveragePooling2D(pool_size=2)

# GlobalAveragePooling2D — modern replacement for Flatten
# Input (batch, 8, 8, 256) → Output (batch, 256)
global_avg = layers.GlobalAveragePooling2D()
global_max = layers.GlobalMaxPooling2D()

# Flatten — only when GlobalAvgPool isn't appropriate
flat = layers.Flatten()
# Input (batch, h, w, c) → Output (batch, h*w*c)
Strided conv — alternative to pooling·python
from keras import layers

# Traditional: Conv + MaxPool
traditional = [
    layers.Conv2D(64, 3, padding='same', activation='relu'),
    layers.MaxPooling2D(2),    # halve spatial
]

# Modern: stride=2 conv (learned downsampling)
strided = [
    layers.Conv2D(64, 3, strides=2, padding='same', activation='relu'),
]

# Dilated conv — expand receptive field without downsampling
dilated = layers.Conv2D(64, 3, dilation_rate=2, padding='same',
                         activation='relu')

Progress

Progress is local-only — sign in to sync across devices.
이 페이지에서 버그를 발견하셨거나 피드백이 있으세요?문제 신고

댓글 0

🔔 답글 알림 (로그인 필요)
로그인댓글을 남기려면 로그인해 주세요.

아직 댓글이 없어요. 첫 댓글을 남겨보세요.