Murmur长语音ASR推理系统论文发布，延迟平均降2.5倍

Wei-Tzu Lee 等在 arXiv 发布论文，提出基于分层分块的长语音识别（ASR）推理系统 Murmur，代码已开源。作者称该系统将长音频分成约五分钟的中间块，由长上下文模型并行解码，并用 30 秒窗口上的短窗 ASR 做无损结构感知投机解码加速。 在两个长上下文 ASR 模型和四个英语、中文会议数据集上，相比单次解码，Murmur 平均将端到端延迟降低 2.5 倍（1.9–2.9 倍），tcpWER 平均下降 1.9 点。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。