研究提出耦合度测量改进扩散语言模型并行解码

Tal Oved 与 Lior Wolf 在 arXiv 发布论文，提出用耦合度测量替代均场解码的近似方法来加速扩散语言模型的并行解码：通过主前向传播中的低成本探针，测量提交一个 token 对其他位置模型置信度的影响，无需训练或额外模型。 在三个模型和四个基准上，该方法所需步数远少于均场解码，多数设置下（包括使用 key-value cache 时）速度更快，平均精度损失为 1.1 点；论文称打乱或替换耦合会失去该增益。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。