Yu Zhao等提出DEPO框架优化推理对齐效率
热点事件持续更新
Yu Zhao等提出DEPO框架优化推理对齐效率
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Yu Zhao 等人在 arXiv 发布论文提出 DEPO(Difficulty-Estimated Policy Optimization)训练框架,用于大推理模型的对齐。论文称,该框架在所测配置下 rollout 速度比 DAPO 快约 1.86 倍,并在相近训练成本下取得优于 GRPO 的基准表现。 DEPO 的做法是在 rollout 前用在线难度估计器动态筛选训练数据,缓解 GRPO 在过易或过难问题上梯度信号衰减的问题。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 12:00
DEPO:难度估计策略优化框架破解 GRPO 梯度信号衰减报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv cs.AIDEPO:难度估计策略优化框架破解 GRPO 梯度信号衰减
DEPO(Difficulty-Estimated Policy Optimization)是一种面向大推理模型对齐的训练框架,通过在线难度估计器在 rollout 前动态筛选训练数据,缓解 GRPO 在过易或过难问题上梯度信号衰减的问题。在所测配置下,DEPO 的 rollout 速度比 DAPO 快约 1.86 倍,并在相近训练成本下取得优于 GRPO 的基准表现。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。