arXiv cs.AI· Yue Yu, Bowen Zuo, David Crandall, Yinglun Zhu, Dongruo Zhou·· 1 天前AI 评分40
StepRS-GRPO:步进式风险敏感 GRPO 改进扩散语言模型推理
Exploring More, Reasoning Better: Stepwise Risk-Sensitive GRPO for Diffusion Language Models
AI 导读
研究者提出步进式风险敏感 GRPO(StepRS-GRPO),在扩散大语言模型(dLLM)的去噪状态间调整组优势变换的风险系数,且保留原有训练器。在多个 dLLM backbone 和数学推理基准上,该方法相较 centered GRPO 同时提升 pass@1 准确率与 pass@k 覆盖率,并增加答案多样性;消融实验中质量匹配对照与优势 RMS 对齐后增益依然成立。
来源:arXiv cs.AI · arxiv.org