MoEResQ：面向MoE模型FP4强化学习的量化恢复方法
热点事件持续更新
MoEResQ：面向MoE模型FP4强化学习的量化恢复方法
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Hei Yi Mak 等研究者在 arXiv 论文（arXiv:2611.04376）中提出 MoEResQ，一种用于 MoE 大语言模型 FP4 强化学习后训练的量化恢复方法，要求训练端与推理端的校正对称部署。 研究称，FP4 强化学习在稠密模型上有效的恢复配方在 MoE 模型上失效，原因是路由器的离散专家选择使训练与推理对齐对恢复技术是否对称部署高度敏感：非对称配方会显著恶化 Pearson 相关系数与路由器选择匹配率。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 13:00
面向 MoE 大语言模型端到端 FP4 强化学习的训练与推理策略对齐研究报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv cs.AI面向 MoE 大语言模型端到端 FP4 强化学习的训练与推理策略对齐研究
一项 arXiv 研究提出 MoEResQ，一种用于 MoE 大语言模型 FP4 强化学习后训练的量化恢复方案。研究发现 FP4 RL 的稠密模型恢复配方在 MoE 上失效，根因是路由器的离散专家选择使训练与推理对齐对恢复技术是否对称部署高度敏感：非对称配方会显著恶化 Pearson 相关系数与路由器选择匹配率。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。