研究诊断归因修补误差源并提出HVP二阶校正

Luyang Zhang 与 Jialu Wang 发布论文（arXiv:2606.09899），指出 attribution patching 作为 activation patching 的一阶梯度近似，其误差主要来自下游网络的非线性，而非被修补组件处的局部曲率；他们据此提出基于 Hessian-vector product（HVP）的二阶校正方法，并给出可靠性评分与误差界。 在覆盖五个模型家族（1.24亿至90亿参数）、随机词元与自然（换名）两类扰动的评估中，研究者称 HVP 是在较大规模下唯一可行的二阶校正；其多步变体以显著更低的计算量达到或超过 Integrated Gradients 的精度。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。