跳到正文
热点事件持续更新

B3:扩散语言模型块间并行去噪加速法

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Amir Mann 等研究者发布论文,提出名为 B3(Blurring the Block Boundaries)的扩散语言模型推理加速方法:在共享前向传递中并行精炼两个块,当前一块快就绪时即打开下一块。据论文评测,该方法在生成质量与基础模型持平的情况下实现 11.5%–14.5% 的加速,改进了时延-质量权衡。 据论文称,B3 无需训练、无需调超参数,可集成到任何自编辑块扩散模型中;评测覆盖 10 个数据集。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. arXiv cs.AI
    B3:重叠块去噪加速扩散语言模型推理的研究

    一项名为 B3(Blurring the Block Boundaries)的方法让扩散语言模型(DLM)在共享前向传递中并行精炼两个块,当前一块快就绪时即打开下一块。该方法无需训练、无需调超参数,可集成到任何自编辑块扩散模型中。在 10 个数据集上的评测显示,B3 在生成质量持平的情况下相对基础模型加速 11.5-14.5%,改进了 DLM 推理的时延-质量权衡。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。