研究审计Gemma模型SAE特征对多选问答的因果影响

论文作者在 Gemma 3 1B 和 4B 模型上用 Gemma Scope SAE 分析选择题问答的内部特征，覆盖八个数据集。他们提出流程过滤与提示排列、答案排列等伪影高相关的特征，再用因果干预评估剩余特征。 结果显示，筛选后的特征相比随机特征产生更大的绝对 margin 偏移和更高的错误转正确率。但答案翻转罕见、效应方向也不稳定，作者据此认为这些特征反映的是情境相关的答案竞争，而非错误答案的形成机制。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。