"수학과 과학은 학과목이 아니야. 우주를 해석하는 렌즈야."
안 마실 뻔한 그 잔
카페 테이블에 디저트가 둘 있어. 한쪽은 뜨거운 에스프레소를 차가운 아이스크림에 부은 아포가토, 다른 쪽은 딸기 소프트아이스크림. 누군가는 그냥 "디저트 두 개네" 하고 지나치지만, 아빠는 "내적으로 결합된 고차원 음식 행렬"을 봤어.
문자 그대로 음식에 행렬곱을 한다는 뜻은 아니야. 아포가토 한 잔에는 온도, 질감, 쓴맛, 단맛, 향 같은 여러 축이 있고, 그 축들이 서로 작용해 하나의 맛을 만들어. 커피와 아이스크림을 목록처럼 나란히 놓은 것보다 훨씬 풍부한 결과지.
대상을 숫자 하나로 납작하게 만들지 않기
고양이를 a_cat = 1이라고 적으면 고양이가 있다는 사실 하나만 남아. 털빛, 눈 모양, 나이, 행동, 성격, 기분은 전부 사라져. 각 특성을 하나의 축으로 잡으면 한 고양이는 여러 좌표를 가진 점이나 벡터로 표현할 수 있어.
귀여움이나 사랑, 일요일 오후의 느낌처럼 추상적인 경험도 한 숫자로는 충분히 설명되지 않아. 경험을 데이터와 완전히 같은 것으로 취급할 순 없지만, 관찰과 경험이 새로운 구별을 배우게 한다는 점에서는 닮았어. 무엇을 느꼈는지 설명하려면 어떤 축을 보고 어떤 맥락을 겪었는지가 필요하거든.
AI가 스칼라 하나보다 벡터와 행렬을 자주 쓰는 이유도 여기 있어. 현실의 중요한 차이를 여러 성분에 나눠 담아야 비슷함과 다름, 상호작용을 계산할 수 있어.
차원에 관한 첫 원칙
AI에서는 어떻게 보일까
RGB 이미지 한 장은 보통 높이 × 너비 × 색상 채널의 배열로 표현돼. 언어 모델은 토큰을 학습된 고차원 벡터로 바꿔 문맥에 따라 처리하고. 차원 수가 4,096인 모델도 있지만 그 숫자는 아키텍처마다 달라. 중요한 건 각 좌표를 사람이 미리 이름 붙이지 않아도 모델이 학습 과정에서 유용한 표현을 만들 수 있다는 점이야.
KING - QUEEN ≈ HUSBAND - WIFE 같은 예는 일부 임베딩 공간에서 관계가 벡터 방향으로 나타날 수 있음을 보여 줘. 언제나 정확한 법칙은 아니지만, 의미를 좌표와 방향으로 다룰 수 있다는 강력한 단서야. 고차원 표현을 기본 도구로 받아들이면 AI의 마법처럼 보이던 부분이 계산 가능한 구조로 바뀌기 시작해.
오늘 먹은 것 피자. [온도 : 처음 배달 됐을 때 뜨거움, 맛: 처음 한조각 베어 물었을 때 기쁨, 시간: 배달 오기까지의 기다림, 감정: 집밥을 먹는게 좋았다는 후회, 시기: 2026년 5월 3일 일요일 흐린 오후