跳到正文
热点事件持续更新

研究者发布SPARTA稀疏三值LLM边缘加速器论文

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

浙江大学等研究者(Weihong Xu 团队)在 arXiv 发布论文,提出面向长上下文边缘推理的稀疏三值 LLM 加速器 SPARTA(arXiv:2610.34824)。它统一了三值线性层与注意力的计算通路,采用相位感知稀疏数据流,以及页级 Top-k 加 token 级 Top-p 的两阶段注意力引擎。 论文称,相比全注意力,SPARTA 将 KV 传输量降低 4.1–4.8 倍,相比一种最先进的稀疏注意力方案降低 1.3–1.5 倍,但存在随任务变化的质量损失;与 NVIDIA Jetson AGX Orin 相比,生成吞吐量平均高 3.9 倍,端到端能效平均高 8.3 倍。

AI 根据报道生成 · 45 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI
    SPARTA:面向长上下文边缘推理的自适应注意力稀疏三值 LLM 加速器

    SPARTA 是一种用于长上下文边缘推理的稀疏三值 LLM 加速器,统一了三值线性层与注意力的计算通路,并采用相位感知稀疏数据流和页级 Top-k 加 token 级 Top-p 的两阶段注意力引擎。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。