Hardware Encoding — VideoToolbox, NVENC, QSV

속도/품질 tradeoff 진짜야

모던 GPU + SoC 에 video encoding 전용 silicon: VideoToolbox (Apple Silicon), NVENC (NVIDIA), QuickSync (Intel iGPU), AMF (AMD), V4L2-M2M (Raspberry Pi). CPU encoder 보다 5–20배 빠름. 약간 덜 효율적 — 같은 bitrate 에서 hardware H.264 가 보통 libx264 -preset slow 보다 1–3 VMAF point 낮아.

Apple Silicon — 두드러짐

M-시리즈 Mac의 VideoToolbox 가 unusually good. M3 Pro에서 real-time 4K HEVC encode. H.264 encoder OK, HEVC encoder great, ProRes encoding도 hardware-accelerated. Mac 에서 'YouTube 오늘 밤에 업로드' workflow 대부분에 hardware가 right answer.

Flag 패턴

Hardware encoder가 거의 exclusive bitrate (-b:v) 사용 — CRF 무시하거나 loosely 만 존중. 일부가 'constrained quality' mode 지원 (h264_nvenc 와 최근 VideoToolbox 빌드의 -q:v). Bitrate-target 패턴 사용.

Code

Hardware encoder cheatsheet·bash

# Apple Silicon — H.264 (1080p)
ffmpeg -i in.mp4 -c:v h264_videotoolbox -b:v 6M \
  -c:a aac -b:a 192k -movflags +faststart out.mp4

# Apple Silicon — HEVC (1080p, 더 작은 파일)
ffmpeg -i in.mp4 -c:v hevc_videotoolbox -b:v 4M -tag:v hvc1 \
  -c:a aac -b:a 192k -movflags +faststart out_h265.mp4

# NVIDIA — H.264
ffmpeg -i in.mp4 -c:v h264_nvenc -preset p5 -cq 22 \
  -c:a aac -b:a 192k -movflags +faststart out.mp4

# NVIDIA — HEVC
ffmpeg -i in.mp4 -c:v hevc_nvenc -preset p5 -cq 24 \
  -c:a aac -b:a 192k -movflags +faststart -tag:v hvc1 out.mp4

순수-GPU pipeline (decode + encode hardware)·bash

# Frame 이 GPU memory 에 통째로 머물러. 가능한 가장 빠른 path.
ffmpeg -hwaccel videotoolbox -i in.mp4 \
  -c:v hevc_videotoolbox -b:v 4M -tag:v hvc1 \
  -c:a copy out.mp4

# NVIDIA 동일
ffmpeg -hwaccel cuda -hwaccel_output_format cuda -i in.mp4 \
  -c:v hevc_nvenc -preset p5 -cq 24 -tag:v hvc1 \
  -c:a copy out.mp4

# Caveat: 대부분 filter가 CPU memory 로 download 강제.
# 중간에 -vf scale=... 추가하면 속도 이득 erase.

Exercise

머신 에서 hardware H.264 encoder 식별, 60초 clip 을 세 encode 로: libx264 -preset slow -crf 20, libx264 -preset veryfast -crf 20, hardware_h264 -b:v 6M. 각각 시간 측정. Hardware 가 -preset veryfast 보다도 3–10배 빠름. 파일 사이즈 + 시각 quality 비교 — 어느 게 'right tool': (a) 마스터 한 개, (b) 일상 20 clip?