퀄컴과 Arm PC

"Arm PC는 맥을 두 번 베꼈어. 명령어 집합, 그리고 풀. 그 마케팅은 맥의 디코드가 절대 나누지 않는 세 번째 숫자로 앞장서."

두 번째 수렴: 명령어 집합

CPU 트랙은 애플이 2020년에 맥을 자체 Arm 코어로 옮긴 이야기를 했어. 윈도우 PC는 더 긴 도화선으로 따라왔어. 2024년 퀄컴의 Snapdragon X Elite는 업계가 쌓아 온 x86 소프트웨어를 위한 변환 층을 가지고 윈도우 노트북에 대량으로 팔린 첫 Arm 칩이었어. 로제타의 문제, 4년 뒤, 다른 벤더에서. 제품 브리프는 8,448 MT/s의 LPDDR5x, "Up to 64 GB", "135 GB/s", 그리고 "45 TOPS"의 NPU를 적어. M4 급의 대역폭을 가진 128비트 버스, M4 급의 상한. 9B는 초당 30토큰, 27B는 돌릴 가치가 없어. 2026년의 X2 Elite는 메모리를 128 GB로 올리고, 최상위 부품 X2 Elite Extreme은 버스를 192비트로 넓혀 "228 GB/s"와 80 TOPS NPU. 하위 X2 SKU들은 128비트에 152를 유지해. 둘 다 풀이고, 둘 다 맥의 다이어그램이고, 둘 다 Max의 버스 폭의 몇 분의 일에 앉아 있어. AMD의 256비트보다 한 단 더 좁게.

마케팅이 앞세우는 숫자

모든 Arm PC 출시는 TOPS, 초당 수조 번의 NPU 연산으로 앞장서고, 그 숫자는 진짜고, 언어 모델의 디코드엔 틀린 숫자야. Core ML 레슨이 애플 자체의 유닛에서 왜인지 쟀어. 뉴럴 엔진은 풀로 가는 문이 좁은 연산 엔진이고, 디코드는 토큰마다 모든 가중치를 읽는 대역폭 단계야. X2 Elite Extreme의 80 TOPS는 같은 228 GB/s 위의 GPU와 같은 초당 51토큰 상한으로 9B를 디코드해. 상한은 대역폭 위의 바이트고 TOPS는 거기 절대 안 나타나니까. 코드 블록의 표를 대역폭 칸으로 정렬하면 Arm PC들은 M4의 행과 M4 Pro의 행 사이에 놓이고(Extreme의 228 대 120과 273), TOPS로 정렬하면 M4의 뉴럴 엔진을 앞서고, 그 순서는 토큰에 아무 의미 없어. 애플 자체의 M4 뉴스룸 문장, 뉴럴 엔진 "capable of up to 38 trillion operations per second"도 반대쪽에서 온 같은 종류의 주장이고, 이 퀘스트는 둘 다 연산 단계에 대한 벤더 지표로 다뤄. 거기가 그것들이 있을 자리야.

트랙을 바꾸는 데이터

언론은 2026년의 세 번째 Arm PC 벤더를 보도해. NVIDIA, 언론이 RTX Spark라 부르는 칩으로. "the consumer-oriented sibling of the GB10", NVLink-C2C 뒤에 "up to 128GB of unified memory"를 둔 Arm CPU와 Blackwell GPU, 주요 OEM들의 윈도우 노트북과 소형 데스크톱용으로 지어졌고, 퀄컴의 Windows on Arm 독점 계약이 만료되면서 도착한다고 보도돼. 이 퀘스트는 그중 어느 것도 재지 않았고 언론으로 라벨해. 서술대로 출하되면 이 트랙에서 가장 강한 데이터야. 맥의 모양(Arm 코어, 큰 GPU, 256비트 버스 위의 128 GB 풀)에 라이벌 트랙의 CUDA 플랫폼을 붙여서, DGX Spark와 같은 대역폭 지점으로 PC 시장에 파는 것. 중요한 복제품은 더 넓은 LPDDR 버스였던 적이 없어. 20년치 소프트웨어를 얹은 풀이고, 그래서 다음 레슨은 베끼는 게 쥐에 대해 뭘 증명하는지 물어.

Code

arm_pcs.py — 맥에 대한 Arm PC들, 디코드하는 숫자로 정렬·python

#!/usr/bin/env python3
"""Qualcomm and the Arm PC: the NPU number the marketing leads with, and the bandwidth
number decode actually divides by. Vendor briefs; RTX Spark from press. Ceilings for
a 9B at 4 bits (4.47 GB/token, the lab's figure) and a 27B (14.42)."""
chips = [  # name, year, GB/s, max GB, NPU TOPS, source
    ("Qualcomm Snapdragon X Elite",          2024, 135, 64,  45, "Qualcomm brief Rev C 2024-04: LPDDR5x 8448 MT/s, 135 GB/s, up to 64 GB, 45 TOPS"),
    ("Qualcomm Snapdragon X2 Elite",         2026, 152, 128, 80, "Qualcomm brief Rev C 2026-01: 128-bit, 152 GB/s, 128 GB"),
    ("Qualcomm Snapdragon X2 Elite Extreme", 2026, 228, 128, 80, "Qualcomm brief: 192-bit, 9523 MT/s, 228 GB/s, 128+ GB, 80 TOPS"),
    ("NVIDIA RTX Spark (N1X)",               2026, 273, 128, None, "press: 128 GB unified LPDDR5X, NVLink-C2C, 'a claimed 1 petaflop'; bandwidth assumed = GB10"),
    ("Apple M4 (MacBook Air)",               2024, 120, 32,  38, "Apple: 120GB/s; Neural Engine 38 TOPS"),
    ("Apple M4 Pro (Mac mini)",              2024, 273, 64,  38, "Apple: 273GB/s; the same 256-bit width as the widest copies"),
    ("Apple M5 Max",                         2026, 614, 128, None, "Apple: 614GB/s"),
]
print(f"{'chip':38} {'year':>4} {'GB/s':>5} {'max GB':>6} {'NPU TOPS':>8} {'9B ceiling':>10} {'27B ceiling':>11}")
for name, yr, bw, gb, tops, src in chips:
    c9 = f"{bw/4.47:10.0f}" if gb >= 8 else f"{'no fit':>10}"
    c27 = f"{bw/14.42:11.0f}" if gb >= 20 else f"{'no fit':>11}"
    print(f"{name:38} {yr:4d} {bw:5d} {gb:6d} {(str(tops) if tops else '—'):>8} {c9} {c27}")
print("\nTOPS is a compute figure for the NPU; decode divides bytes by GB/s and never sees it. Sort by the bandwidth column.")

# chip                                   year  GB/s max GB NPU TOPS 9B ceiling 27B ceiling
# Qualcomm Snapdragon X Elite            2024   135     64       45         30           9
# Qualcomm Snapdragon X2 Elite           2026   152    128       80         34          11
# Qualcomm Snapdragon X2 Elite Extreme   2026   228    128       80         51          16
# NVIDIA RTX Spark (N1X)                 2026   273    128        -         61          19
# Apple M4 (MacBook Air)                 2024   120     32       38         27           8
# Apple M4 Pro (Mac mini)                2024   273     64       38         61           19
# Apple M5 Max                           2026   614    128        -        137          43

Exercise

아무 AI PC의 출시 페이지를 가져와 처음 보이는 성능 숫자를 적어. 그다음 메모리 대역폭과 최대 메모리를 찾고, 9B 상한을 계산하고, 두 숫자를 카드에 나란히 적어. 벤더가 어느 걸 앞세웠고 어느 게 토큰을 정하는지 적어 둬.

Hint

첫 숫자는 거의 항상 TOPS야. 대역폭이 페이지에 없으면 메모리 스펙에서 폭 × 속도 ÷ 8이 그걸 줘. 메모리 스펙도 페이지에 없으면 그 기계는 이 워크로드를 염두에 두고 지어지지 않은 거고, 그게 발견이야.