跳到正文
热点事件持续更新

GateRQ 无需重训练压缩 DeepSeek Engram 记忆表显存

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

陈天奇等在 arXiv 论文中提出 GateRQ,对 DeepSeek-V4.1-Flash 的条件记忆表(Engram)逐行用量化梯级存储,由 gate 决定哪些查询读取更深层级,无需重训练即可压缩。论文报告:在 DeepSeek-V4.1-Flash 上 GPU 表显存减少 7.8 倍,vLLM 吞吐较 FP8 表提升 11%–31%,代价是在两次查询平均读取 1.50 bit 时 PopQA 约降 1 点、2.10 bit 时约降 0.2 点。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv cs.AI
    GateRQ:面向 LLM 量化条件记忆的逐查询精度方法

    一篇 arXiv 论文提出 GateRQ,将 DeepSeek Engram 等条件记忆层的每行以 1-bit 残差码梯级存储,用 gate 决定哪些查询读取更深层级,无需重训练即可压缩记忆表。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。