AMMA：面向百万上下文注意力推理的多芯粒内存中心架构

研究者在 arXiv 发表 AMMA 论文（已被 MICRO 2026 接收），提出一种面向百万级上下文低延迟注意力推理的多芯粒内存中心架构，用 HBM-PNM 立方体取代 GPU 计算核心，将可用内存带宽提升约一倍。 论文还包括逻辑核心微架构、两级混合并行和重排序集合通信流等设计。作者称评测显示，与 NVIDIA H100 相比，AMMA 的注意力延迟降低 15.5 倍，能耗降低 6.9 倍。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。