현대 LLM의 네 축

나침반

현대 LLM은 모두 네 개의 독립된 축 위에 놓여 있어. 독립됐다는 건 한 축을 바꿔도 다른 축은 그대로 둘 수 있다는 뜻이야. DeepSeek-R1과 DeepSeek-V3는 백본이 같고 제품 표면도 거의 같지만 행동은 크게 달라. 이 차이는 후속 학습에서 나와.

축 1: 백본 아키텍처

네트워크가 실제로 어떻게 배선됐을까? Dense인가, MoE인가, 하이브리드인가? 파라미터는 모두 몇 개고 토큰 하나를 처리할 때 몇 개가 켜질까? 어텐션은 전체 어텐션, GQA, MQA, MLA 가운데 무엇을 쓸까? 위치는 RoPE, ALiBi, NoPE, YaRN 확장 가운데 어떻게 표현할까? 대체로 Hugging Face 저장소의 config.json에서 읽을 수 있는 정보가 이 축에 속해.

축 2: 후속 학습

대규모 자기회귀 사전 학습을 끝낸 다음 무엇을 했을까? RLHF, DPO, GRPO, RLVR, 증류, 추론 중심 강화학습이 여기에 들어가. 이 과정은 다음 토큰만 맞히던 기계를 조력자로 바꾸고, 2025~2026년 프런티어 모델의 성격과 능력 상당 부분을 결정해. DeepSeek-V3에서 DeepSeek-R1로 넘어갈 때 파일의 모양은 그대로고 학습법이 달라졌어.

축 3: 추론 전략

실행할 때 모델을 어떻게 부를까? 일반 자기회귀 생성, 생각 토큰을 쓰는 확장 사고, 테스트 시점 연산 확대, 추측 디코딩, 빔 탐색, 문법 제약 디코딩이 이 축에 있어. 가중치가 같아도 실행 방식은 달라질 수 있지. 확장 사고를 끈 Claude Sonnet과 켠 Claude Sonnet은 같은 체크포인트를 쓰고 추론 전략만 바꾼 사례야.

축 4: 제품 동작

모델 바깥을 무엇으로 감쌌을까? RAG, 도구 사용, 에이전트 반복문, 시스템 프롬프트, 안전장치, 메모리, 다단계 오케스트레이션이 여기에 속해. ChatGPT라는 제품은 o3라는 모델 위에 여러 계층을 얹은 것이고, 컴퓨터 사용 기능을 켠 Claude는 같은 모델에 다른 도구 표면을 붙인 거야. 제품 계층이지 백본 아키텍처가 아니야.

Code

모델 카드를 네 축으로 읽기·python

# Sample card text:
# "DeepSeek-R1, a 671B-A37B MoE model with MLA attention,
#  trained with GRPO reinforcement learning on top of V3,
#  served with extended thinking <think> blocks,
#  available with native tool use."

axes = {
    "backbone":       "671B-A37B MoE, MLA attention",   # axis 1
    "post_training":  "GRPO RL on top of V3",            # axis 2
    "inference":      "extended thinking <think> blocks",# axis 3
    "product":        "native tool use",                 # axis 4
}
# Each phrase belongs to exactly ONE axis — that's the test.

같은 가중치, 다른 축·python

# Same Claude Sonnet checkpoint, both modes:
fast_response   = call_claude(messages, thinking=False)
careful_response = call_claude(messages, thinking=True, budget=8000)
# Backbone, post-training, product — all identical.
# Only inference axis (axis 3) changed.

Exercise

실제로 쓰는 모델 하나를 골라. Claude, GPT, Gemini, Llama, Qwen 가운데 무엇이든 좋아. 축마다 한 행씩 네 줄짜리 표를 만들고 아는 내용을 적어 봐. 가장 모호하게 남은 축이 어디인지도 표시해. 바로 그 빈칸이 마케팅 문구에 끌려가기 쉬운 자리야.

나침반