GateRQ 无需重训练压缩 DeepSeek Engram 记忆表显存
热点事件持续更新
GateRQ 无需重训练压缩 DeepSeek Engram 记忆表显存
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
陈天奇等在 arXiv 论文中提出 GateRQ,对 DeepSeek-V4.1-Flash 的条件记忆表(Engram)逐行用量化梯级存储,由 gate 决定哪些查询读取更深层级,无需重训练即可压缩。论文报告:在 DeepSeek-V4.1-Flash 上 GPU 表显存减少 7.8 倍,vLLM 吞吐较 FP8 表提升 11%–31%,代价是在两次查询平均读取 1.50 bit 时 PopQA 约降 1 点、2.10 bit 时约降 0.2 点。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 12:00
GateRQ:面向 LLM 量化条件记忆的逐查询精度方法报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv cs.AIGateRQ:面向 LLM 量化条件记忆的逐查询精度方法
一篇 arXiv 论文提出 GateRQ,将 DeepSeek Engram 等条件记忆层的每行以 1-bit 残差码梯级存储,用 gate 决定哪些查询读取更深层级,无需重训练即可压缩记忆表。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。