퀴즈 · 3 questions
⚡ 선형·효율형 어텐션 변형
Performer, Longformer, BigBird, sliding window, NSA, MoBA, Kimi Linear — 어텐션의 틀 안에서 비용을 줄이는 방법
Level 0관찰자
0 XP0/50 lessons0/14 achievements
0/100 XP to next level100 XP to go0% complete
Quiz
01Performer의 linear attention 접근이 실전에서 기대에 못 미친 이유는 무엇일까?
02Kimi Linear(Moonshot AI, 2025.10)는 무엇을 달성했다고 보고했을까?
03어느 정도의 시퀀스 길이 아래에서 최적화된 Transformer(FA3 + GQA + sliding window)가 보통 SSM·하이브리드보다 빠를까?
댓글 0
🔔 답글 알림 (로그인 필요)로그인 — 댓글을 남기려면 로그인해 주세요.
아직 댓글이 없어요. 첫 댓글을 남겨보세요.