CAMP:3D-IMC 阵列上 LLM 权重映射算法
热点事件持续更新
CAMP:3D-IMC 阵列上 LLM 权重映射算法
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Orhun Görkem 等作者在 arXiv 提交论文,提出 CAMP(Context-Aware Mapping and Placement),一种面向 3D-IMC 阵列 LLM 加速器的推理上下文感知权重映射算法。据论文称,该方法将 3D-IMC 计算利用率从 42.4% 提升到 60.3%,相比现有最先进映射算法最高带来 2.0 倍 3D-IMC 吞吐提升和 1.74 倍端到端吞吐提升。 CAMP 通过冲突矩阵捕捉资源竞争,并借助性能剖析反馈循环优化权重映射。它是纯软件的离线方案,无需改动硬件。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 13:00
CAMP:面向 3D-IMC 阵列上 LLM 的上下文感知权重映射与放置算法报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- arXiv cs.AICAMP:面向 3D-IMC 阵列上 LLM 的上下文感知权重映射与放置算法
arXiv 论文提出 CAMP(Context-Aware Mapping and Placement),一种针对 3D-IMC LLM 加速器的推理上下文感知权重映射算法,通过冲突矩阵捕捉资源竞争并以性能剖析反馈循环优化映射。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。