新研究提出加速LOO上下文归因的草图算法
热点事件持续更新
新研究提出加速LOO上下文归因的草图算法
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Christopher Liaw 等作者在 arXiv 发布论文(arXiv:2611.17313),提出一种草图算法,用于加速语言模型的 leave-one-out(LOO)上下文归因计算。论文称,在稳定性假设下,该算法只需 O(√log(1/ε)/ε) 次模型评估,即可估计全部 n 个 token 的 LOO 值,误差与 ε 成正比。 作者还证明了匹配的 Ω(√log(1/ε)/ε) 评估次数下界,并表示该结果优于直接适配前向微分草图所需的 O(log(n)/ε²) 次调用。
AI 根据报道生成 · 2 小时前更新
最新进展11月14日 13:00
面向上下文归因的草图化语言模型算法研究报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- arXiv cs.AI面向上下文归因的草图化语言模型算法研究
一项 arXiv 研究提出草图算法,加速语言模型的 leave-one-out(LOO)上下文归因计算。在稳定性假设下,该算法以 O(√log(1/ε)/ε) 次模型评估估计全部 n 个 token 的 LOO 值,误差与 ε 成正比,并证明匹配的 Ω(√log(1/ε)/ε) 下界,优于直接适配前向微分草图所需的 O(log(n)/ε²) 次调用。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。