提出MPOPD：优化在线策略蒸馏的rollout策略

Sirui Chen 等研究者发布 arXiv 论文，提出 MPOPD（Mixture Proposal On-Policy Distillation），将在线策略蒸馏（OPD）中通常固定的 rollout 策略本身作为优化目标。该方法基于教师相对支持度的局部 trust-region 目标，得到学生锚定、教师引导的混合分布，并用提议策略在单次前向传播中生成 rollout。 据论文报告，在 16 个数学、知识和医疗推理基准上，MPOPD 相对 OPD 及近期变体取得一致提升；在数学推理任务中，Qwen3-4B-Base 上平均准确率比 OPD 提高 6.91，同时平均生成长度缩短 41%。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。