跳到正文
热点事件持续更新

新研究提出加速LOO上下文归因的草图算法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Christopher Liaw 等作者在 arXiv 发布论文(arXiv:2611.17313),提出一种草图算法,用于加速语言模型的 leave-one-out(LOO)上下文归因计算。论文称,在稳定性假设下,该算法只需 O(√log(1/ε)/ε) 次模型评估,即可估计全部 n 个 token 的 LOO 值,误差与 ε 成正比。 作者还证明了匹配的 Ω(√log(1/ε)/ε) 评估次数下界,并表示该结果优于直接适配前向微分草图所需的 O(log(n)/ε²) 次调用。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. arXiv cs.AI
    面向上下文归因的草图化语言模型算法研究

    一项 arXiv 研究提出草图算法,加速语言模型的 leave-one-out(LOO)上下文归因计算。在稳定性假设下,该算法以 O(√log(1/ε)/ε) 次模型评估估计全部 n 个 token 的 LOO 值,误差与 ε 成正比,并证明匹配的 Ω(√log(1/ε)/ε) 下界,优于直接适配前向微分草图所需的 O(log(n)/ε²) 次调用。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。