跳到正文
热点事件持续更新

MoE-Context 论文提出按需上下文块切换方法

1 篇报道1 个报道来源53 分钟前更新

先了解这件事

AI 综述

Vedant Navale 在 arXiv 发布 MoE-Context 论文,提出把上下文分块、每步先用快速判断挑出模型所需的块,其余块以单行笔记形式保留在共享 KV cache 中,隐藏而非删除。 在笔记本电脑上用 Qwen3-1.7B 做合成查找任务的实验显示,只展示所需块把准确率从 93 提升到 120 中的 119,且被遮蔽的块与被删除的一样不可见。作者称简单的关键词搜索在该任务上就能完美完成,且该探针方法无法迁移到第二个任务。

AI 根据报道生成 · 29 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    MoE-Context:只给模型看它需要的内容

    arXiv 论文提出 MoE-Context 方法,把上下文分块,每步先用快速判断挑出模型所需的块,其余以单行笔记形式保留在共享 KV cache 中,隐藏而非删除。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。