arXiv cs.AI· Jes\'us S\'anchez Ochoa, Enrique Tom\'as Mart\'inez Beltr\'an, Alberto Huertas Celdr\'an·· 2 小时前AI 评分36
SYNAPSE：用于序列编码中神经元分析与扰动的免训练框架
SYNAPSE: Framework for Neuron Analysis and Perturbation in Sequence Encoding
AI 导读
SYNAPSE 是一个无需重训练基础模型的系统性框架，用于理解和压力测试 Transformer 模型的内部行为。它提取逐层 [CLS] 表示、训练轻量线性探针获得全局和逐类神经元排名，并在推理时施加 forward-hook 干预。实验显示任务相关信息编码在宽泛重叠的神经元子集中，这种冗余带来功能稳定性，但对权重或 logit 空间的小幅结构化操纵即可改变预测结果。
来源：arXiv cs.AI · arxiv.org