D3D扩散草稿模型实现异步投机解码提速

Baoyou Chen 等人在 arXiv 发布论文提出 D3D，一种独立的扩散草稿模型，去除了草拟与验证之间的轮间依赖，从而实现异步投机解码。 论文实验显示：以 Qwen3-8B 为目标模型时，剪掉 36 层中的 5 层仍能在三个基准上保留超过 99% 的平均接受长度；在七个基准上，D3D 以 Qwen3-8B 和 Qwen3-32B 为目标平均分别取得 5.00 倍和 5.71 倍解码加速，对比方法 DFlash 为 4.03 倍和 3.67 倍。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。