큰 메모리 Max는 비디오를 겨냥했어

"64 GB 노트북 보도자료를 읽어봐. 메모리에 대한 모든 문장이 토큰이 아니라 프레임 얘기야."

2021년 10월, 애플의 말로

M1 Pro와 M1 Max는 메모리와 대역폭 숫자가 나중에 추론에 중요해지는 첫 애플 실리콘 칩이었어. 2021년에 노트북에서 400 GB/s와 64 GB. 제일 큰 소비자 그래픽 카드가 24였을 때. 애플이 그 숫자가 뭘 위한 거라고 했는지 2021-10-18 발표문에서 인용하면 이래.

"M1 Max는 최대 400GB/s의 메모리 대역폭을 제공하며 — M1 Pro의 2배, M1의 거의 6배 — 최대 64GB의 통합 메모리를 지원한다."
"M1 Pro와 M1 Max는 전문 비디오 처리를 위한 전용 ProRes 가속기가 있는 향상된 미디어 엔진도 갖췄다."
"M1 Max는 그래픽 집약적 워크플로를 변화시킨다. 이전 세대 13인치 MacBook Pro 대비 Final Cut Pro에서 복잡한 타임라인 렌더링이 최대 13배 빠른 것을 포함해."
"…3D 아티스트와 게임 개발자 같은 창작자들이 이동 중에도 그 어느 때보다 많은 일을 할 수 있게."
"…아주 적은 전력으로 고품질 4K와 8K ProRes 비디오의 다중 스트림 재생을 허용."

그리고 발표문의 유일한 머신러닝 문장: "온디바이스 머신러닝 가속과 향상된 카메라 성능을 위한 16코어 뉴럴 엔진." 메모리는 편집자를 위한 거였어. 대역폭은 8K 스트림과 3D 장면을 위한 거였고. 뉴럴 엔진은 카메라를 위한 거였어. 13개월 뒤 ChatGPT가 그 두 숫자에 발표문의 누구도 염두에 두지 않은 뜻을 주게 돼.

비디오 피치가 왜 맞는 모양을 낳았는지

쥐 이야기에서 우연이라는 뜻의 운이 아닌 부분이 여기야. 다른 질문에 대해 도달한 맞는 답이라는 뜻의 운이지. 전문 비디오도 역시 대역폭과 용량 워크로드야. 8K ProRes 스트림은 초당 기가바이트고, 이펙트 걸린 색 보정 타임라인은 많은 프레임을 상주시키고, 3D 장면은 텍스처를 메모리에 두고 싶어 해. 공학 목표, 그러니까 복사 없이 크고 빠른 공유 풀에서 넓은 GPU를 먹여 살리기는 2년 뒤 언어 모델의 디코드 단계가 세울 목표와 같아. 애플은 프레임을 위해 그 모양을 만들었고, 프레임과 토큰은 같은 모양을 원하는 걸로 드러났어.

그 피치가 진심이었다는 제일 분명한 신호는 미디어 엔진이야. ProRes 가속기, 비디오 코덱 하나를 위한 고정 기능 실리콘은 특정 고객에 대한 비싼 헌신이고, AI 계획의 부작용으로 그걸 만드는 사람은 없어. CPU 트랙은 이 집의 Ultra가 그걸 네 개 싣고 있다는 걸 보여줬어. 큰 메모리 Max가 뭘 위한 거였는지의 화석 기록이야.

이렇게 읽으면 바뀌는 것

둘. 첫째, M1 Max의 대역폭은 'AI 기능'이 아니고 그런 적도 없어. AI가 물려받은 비디오 기능이야. 애플의 2021년 마케팅엔 책임을 물을 추론 주장 자체가 없는 이유고, 이 퀘스트의 벤더 주장 콜아웃이 2025년에 시작하는 이유야. 둘째, '인정할 건 인정해야' 조항엔 정확한 대상이 있어. 애플이 워크로드를 예견했다는 게 아니라, 애플이 다른 워크로드를 위해 맞는 모양을 만들었고 쥐가 보이자 진짜 실리콘을 들여 그걸 따라갔다는 것. 다음 세 레슨이 그 후속이고, 그게 고치지 못한 것이야.

Code

frames_vs_tokens.py — 워크로드 둘, 모양 하나: 초당 바이트와 상주 바이트·python

#!/usr/bin/env python3
"""An 8K ProRes stream and a 27B model's decode want the same two things from
memory: sustained bandwidth and a large resident set. Physics only."""

# Apple's ProRes white paper: 3840x2160 at 24p, ProRes 422 HQ = 707 Mb/s; 8K is 4x the pixels, 60p is 2.5x the frames
prores_4k_mbps = 707
prores_8k_gbs = prores_4k_mbps * 4 * 2.5 / 8 / 1000        # GB/s per 8K60 stream, compressed; decoded frames are far larger
frame_8k_bytes = 7680 * 4320 * 2 * 3                         # 16-bit RGB, one decoded frame
streams = 4

model_gb = 14.42                                              # Qwen3.5-27B 4-bit, bytes per token
tokens_per_s = 32.6                                           # measured, office

print(f"video: {streams} × 8K ProRes streams ≈ {streams*prores_8k_gbs:.1f} GB/s compressed in; "
      f"one decoded 8K frame = {frame_8k_bytes/1e6:.0f} MB; a 2-second scrub buffer at 30 fps ≈ {frame_8k_bytes*60/1e9:.1f} GB resident")
print(f"tokens: 27B decode at {tokens_per_s} tok/s reads {model_gb*tokens_per_s:.0f} GB/s; {model_gb:.1f} GB resident, always")
print("\nboth: a wide bus, a big pool, no copies. Apple built it for the first line; the second arrived later.")

Exercise

frames_vs_tokens.py를 돌려. 그다음 2021년 발표문을 직접 열어서 세어봐. 메모리나 대역폭을 언급하는 문장이 몇 개고, 그중 비디오, 3D, 렌더링 얘기가 몇 개고, 머신러닝 얘기가 몇 개야? 세 숫자를 카드에 적고, 2021년 10월의 독자가 64 GB가 뭘 위한 거라고 합리적으로 결론 내렸을지 한 문장으로 써.

Hint

숫자가 한쪽으로 충분히 기울어서 문장은 저절로 써져. 흥미로운 건 마지막 부분이야. 그 독자는 맞았을 거고, 2년 더 맞았을 거야.