研究称功率上限对LLM解码无效,锁SM时钟可省32%能耗
热点事件持续更新
研究称功率上限对LLM解码无效,锁SM时钟可省32%能耗
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
埃尔朗根研究团队(Bole Ma 等)在 arXiv 论文《The Illusion of Power Capping in LLM Decode》(已被 PPAM 2026 接收)中指出,功率上限对 LLM 服务中占主导的自回归解码阶段几乎无效。他们提出改用锁定 SM 时钟,在不拖慢内存受限的解码的同时,可回收最多 32% 的解码能耗,吞吐损失很小。上述结果的条件是在 NVIDIA H200 上、vLLM eager 执行下,覆盖 GQA、MLA、Gated DeltaNet 和 Mamba2 四种注意力范式。
AI 根据报道生成 · 1 小时前更新
最新进展10月31日 12:00
研究揭示 LLM decode 阶段功率上限的假象:锁 SM 时钟能省最多 32% 能耗报道时间线
沿着报道,了解事件的不同侧面。
10月31日
- arXiv cs.AI精选研究揭示 LLM decode 阶段功率上限的假象:锁 SM 时钟能省最多 32% 能耗
一篇 arXiv 论文(arXiv:2605.11999,已被 PPAM 2026 接收)发现功率上限对主导 LLM 服务的自回归 decode 几乎无效。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。