研究揭示LLM拒答机制的不对称性
热点事件持续更新
研究揭示LLM拒答机制的不对称性
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Yiqi Liu 等研究者在 arXiv 论文（arXiv:2608.15772）中发现，大语言模型的拒答与答案释放机制存在不对称性：通过受控保留设置和双向激活修补实验，他们发现模型生成干净拒答时，正确答案仍可从隐状态中线性恢复；要让模型释放答案，只需修补单个位置，而要重新施加抑制、恢复拒绝，则需跨多个位置的更广泛干预。 论文将这一现象称为 broken symmetry（对称性破缺），指出拒答并非一个简单的对称开关，且探针可恢复性会高估对模型行为的真正控制能力。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 12:00
arXiv 论文揭示 LLM 拒答中的对称性破缺：答案释放比恢复拒绝更局部报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- arXiv cs.AIarXiv 论文揭示 LLM 拒答中的对称性破缺：答案释放比恢复拒绝更局部
arXiv 论文（arXiv:2608.15772）通过受控保留设置与双向激活修补，发现 LLM 在生成干净拒答时正确答案仍可从隐状态线性恢复，释放答案只需单位置修补，而重新施加抑制需跨多位置的更广泛干预。论文提出 broken symmetry 概念，指出拒答不是简单对称开关，探针可恢复性会高估真正的行为控制能力。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。