arXiv cs.AI· Guanzhi Deng, Zengyan Liu, Haibo Wang, Kuan Wu, Shing Yin Wong, Sichun Luo, Zhuoran Wang, Linqi Song·· 2 小时前AI 评分43
一个强 MoE 模型即可胜任过程监督：专家路由天然提供推理过程信号
A Strong MoE Is All You Need for Process Supervision
AI 导读
arXiv 论文提出利用 MoE 模型的专家路由统计作为过程奖励模型（PRM）的内在过程置信信号，与传统的输出 logit 置信度相当。作者结合总体路由质量、头部路由质量与步内路由变化构建路由置信度，并提出 RoCo-Rethink（识别最低置信推理步并选择性重生成后续轨迹）与 RoCo-PRM（用强 MoE 自动标注推理轨迹并蒸馏为独立 PRM）。
来源：arXiv cs.AI · arxiv.org