研究提出免训练框架 SYNAPSE 分析神经元并扰动模型预测

论文作者在 arXiv 提出免训练框架 SYNAPSE，无需重训练基础模型即可分析 Transformer 的内部行为并施加扰动。该框架提取逐层 [CLS] 表示，训练轻量线性探针得到全局和逐类神经元排名，并在推理时通过 forward-hook 进行干预。 实验显示，任务相关信息编码在宽泛重叠的神经元子集中，这种冗余带来功能稳定性；但对权重或 logit 空间的小幅结构化操纵即可改变模型预测结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。