MoE-Context 论文提出按需上下文块切换方法
热点事件持续更新
MoE-Context 论文提出按需上下文块切换方法
1 篇报道1 个报道来源53 分钟前更新
先了解这件事
AI 综述
Vedant Navale 在 arXiv 发布 MoE-Context 论文,提出把上下文分块、每步先用快速判断挑出模型所需的块,其余块以单行笔记形式保留在共享 KV cache 中,隐藏而非删除。 在笔记本电脑上用 Qwen3-1.7B 做合成查找任务的实验显示,只展示所需块把准确率从 93 提升到 120 中的 119,且被遮蔽的块与被删除的一样不可见。作者称简单的关键词搜索在该任务上就能完美完成,且该探针方法无法迁移到第二个任务。
AI 根据报道生成 · 29 分钟前更新
最新进展11月20日 13:00
MoE-Context:只给模型看它需要的内容报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv cs.AIMoE-Context:只给模型看它需要的内容
arXiv 论文提出 MoE-Context 方法,把上下文分块,每步先用快速判断挑出模型所需的块,其余以单行笔记形式保留在共享 KV cache 中,隐藏而非删除。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。