arXiv cs.AI· Andrew Bistras, Marty Johnson·· 1 天前AI 评分29
The Router Already Knows:Gemma 4 26B-A4B 上利用 MoE 路由选择指导稀疏字典学习
The Router Already Knows
AI 导读
arXiv 论文提出 NR-SAE,让稀疏字典复用 Mixture-of-experts 模型中冻结 router 已有的专家选择,在 Gemma 4 26B-A4B 第 15 层、1000 万 C4 训练 token 和三个 seed 下验证。
来源:arXiv cs.AI · arxiv.org