arXiv cs.AI· Jakob Steimle, Thomas Elsken, Daniel Ehrhardt, Lukas Rinder, Daniel Cremers, Xi Wang·· 1 天前AI 评分49
论文解读：MoE 动态专家跳过方法的受控对比——别跳过静态基线
Don't Skip the Baseline: A Controlled Comparison of Dynamic Expert Skipping in MoEs
AI 导读
一项 arXiv 研究将四种动态专家跳过方法统一分类，并与静态减少每层专家数 k 的简单基线在 Gemma4-26B-A4B、Qwen3-30B-A3B 及多模态模型 Qwen3-VL 上按同等专家计算预算对比。
来源：arXiv cs.AI · arxiv.org