跳到正文
热点事件持续更新

CAMP:3D-IMC 阵列上 LLM 权重映射算法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Orhun Görkem 等作者在 arXiv 提交论文,提出 CAMP(Context-Aware Mapping and Placement),一种面向 3D-IMC 阵列 LLM 加速器的推理上下文感知权重映射算法。据论文称,该方法将 3D-IMC 计算利用率从 42.4% 提升到 60.3%,相比现有最先进映射算法最高带来 2.0 倍 3D-IMC 吞吐提升和 1.74 倍端到端吞吐提升。 CAMP 通过冲突矩阵捕捉资源竞争,并借助性能剖析反馈循环优化权重映射。它是纯软件的离线方案,无需改动硬件。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. arXiv cs.AI
    CAMP:面向 3D-IMC 阵列上 LLM 的上下文感知权重映射与放置算法

    arXiv 论文提出 CAMP(Context-Aware Mapping and Placement),一种针对 3D-IMC LLM 加速器的推理上下文感知权重映射算法,通过冲突矩阵捕捉资源竞争并以性能剖析反馈循环优化映射。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。