研究者提出 Cord 解码策略,显著提升掩码扩散语言模型任务成功率
热点事件持续更新
研究者提出 Cord 解码策略,显著提升掩码扩散语言模型任务成功率
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Chengwei Zhou 等研究者提出 Cord,一种用于掩码扩散语言模型(dLLM)解码顺序的轻量级 prompt 条件策略。该方法以置信度解码为稳定参考,通过几何残差学习何时及如何偏离该参考,每个 rollout 仅采样一个低维系数矩阵即可诱导完整解码轨迹,并以 contextual-bandit 方式直接从序列级奖励训练。 论文报告称,在三个 dLLM 与五个推理、代码及约束满足基准上,Cord 将平均任务成功率从置信度解码的 32.0% 提升至 48.2%。据称该方法仅新增 0.53M 可训练参数,无需额外的骨干前向传播,推理延迟开销仅 5.39%。
AI 根据报道生成 · 1 小时前更新
最新进展10月31日 12:00
Cord:面向掩码扩散语言模型的置信度锚定残差解码方法报道时间线
沿着报道,了解事件的不同侧面。
10月31日
- arXiv cs.AICord:面向掩码扩散语言模型的置信度锚定残差解码方法
研究者提出 Cord,一种用于掩码扩散语言模型(dLLM)解码顺序的轻量级 prompt 条件策略,以置信度解码为参考,通过几何残差学习何时偏离该参考。在每个 rollout 中仅采样一个低维系数矩阵即可诱导完整解码轨迹,以 contextual-bandit 方式直接从序列级奖励训练。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。