研究者提出EchoKV:用迭代查询反馈自纠正KV缓存淘汰
热点事件持续更新
研究者提出EchoKV:用迭代查询反馈自纠正KV缓存淘汰
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
JianKun Zou 和 Tongtong Yuan 在 arXiv 发布论文(arXiv:2611.05903),提出 KV cache 淘汰方法 EchoKV。该方法针对查询驱动的淘汰中查询与工作区耦合导致的错误累积问题,通过迭代校正修复工作区:先用未来 decode 位置的提议初始化工作区,再用早期 decode 生成的查询恢复工作区。 论文称,在 LongBench 的 16 个任务上(使用 Mistral-7B-Instruct-v0.2 和 Qwen2.5-7B-Instruct),EchoKV 在若干需要分散证据的任务上较 LAQ 有明显提升。它在保持与 LAQ 相同的 workspace 前向传播次数的同时,增加了用于修复工作区的张量重评分操作。
AI 根据报道生成 · 55 分钟前更新
最新进展11月5日 13:00
EchoKV:基于迭代查询反馈的自校正 KV cache 淘汰方法报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- arXiv cs.AIEchoKV:基于迭代查询反馈的自校正 KV cache 淘汰方法
arXiv 论文提出 EchoKV,针对查询驱动的 KV cache 淘汰中查询与工作区耦合导致的错误累积问题,通过迭代校正修复工作区:先用未来 decode 位置的提议初始化工作区,再用早期 decode 生成的查询恢复工作区。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。