研究者提出Addition by Subtraction增强安全对齐
热点事件持续更新
研究者提出Addition by Subtraction增强安全对齐
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Hamid Dashtbani与Alexandra Dmitrienko在arXiv论文（arXiv:2611.06553）中提出Addition by Subtraction方法：在微调中逐步移除已识别的安全关键神经元，并通过偏好优化让模型其他部分重建安全对齐行为，使对齐不再依赖稀疏组件。 实验覆盖三家机构的四个模型。据论文报告，部分攻击的成功率最高降低90%，方法对剪枝攻击、拒绝方向消融及多种黑盒越狱攻击均更鲁棒，同时模型真实性提升、通用能力基本保留。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 13:00
Addition by Subtraction：削弱大语言模型脆弱安全对齐的新方法报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv cs.AIAddition by Subtraction：削弱大语言模型脆弱安全对齐的新方法
一项arXiv研究提出Addition by Subtraction方法，在微调中逐步移除安全关键神经元，并通过偏好优化在模型其他部分重建安全对齐行为，使对齐不再依赖稀疏组件。实验覆盖三家机构的四个模型，部分攻击的成功率最高降低90%，对剪枝攻击、拒绝方向消融及多种黑盒越狱攻击均更鲁棒，且模型真实性提升、通用能力基本保留。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。