arXiv 研究指可解释性指标在玩具模型中对扰动和阈值敏感

Ali Tajfar 与 Behnam Tajfar 在 arXiv 发表论文，分析可解释性研究中两个常用指标——Elhage 等人的 feature dimensionality 和带 cosine 阈值的 feature recovery rate（FRR）——证明这些指标在玩具模型中对小扰动、训练种子或阈值变化敏感，因此基于它们做出的可解释性结论未必稳定可信。 研究同时在已知真值的合成字典上给出这些测量的稳定性证书。需要注意，论文的实验仅使用玩具模型，结论是否适用于真实模型尚未验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。