研究者发布SPARTA稀疏三值LLM边缘加速器论文
热点事件持续更新
研究者发布SPARTA稀疏三值LLM边缘加速器论文
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
浙江大学等研究者(Weihong Xu 团队)在 arXiv 发布论文,提出面向长上下文边缘推理的稀疏三值 LLM 加速器 SPARTA(arXiv:2610.34824)。它统一了三值线性层与注意力的计算通路,采用相位感知稀疏数据流,以及页级 Top-k 加 token 级 Top-p 的两阶段注意力引擎。 论文称,相比全注意力,SPARTA 将 KV 传输量降低 4.1–4.8 倍,相比一种最先进的稀疏注意力方案降低 1.3–1.5 倍,但存在随任务变化的质量损失;与 NVIDIA Jetson AGX Orin 相比,生成吞吐量平均高 3.9 倍,端到端能效平均高 8.3 倍。
AI 根据报道生成 · 45 分钟前更新
最新进展10月27日 12:00
SPARTA:面向长上下文边缘推理的自适应注意力稀疏三值 LLM 加速器报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.AISPARTA:面向长上下文边缘推理的自适应注意力稀疏三值 LLM 加速器
SPARTA 是一种用于长上下文边缘推理的稀疏三值 LLM 加速器,统一了三值线性层与注意力的计算通路,并采用相位感知稀疏数据流和页级 Top-k 加 token 级 Top-p 的两阶段注意力引擎。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。