研究:模型拒绝移除难度并非均匀上升
热点事件持续更新
研究:模型拒绝移除难度并非均匀上升
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Richard J. Young 发布 arXiv 论文(arXiv:2611.17846),在 Qwen3.8、Gemma 4、Olmo 3.1、Mistral Small 3.2 与对应旧版本的五个模型配对上测试方向消融和 ARA 两种无微调权重编辑方法,发现拒绝移除难度并未普遍上升:新版本在方向消融后保留 -1 至 +37 个百分点的额外拒绝,ARA 后为 -26 至 +34。 是否更难取决于具体模型配对、所用方法和搜索预算,因此只测单一配对或单一方法的审计可能得出相反结论。 论文中"更难"的判定依据是 WildGuard 自动判官在 972 条留出有害提示(来自 JailbreakBench、XSTest、StrongREJECT、HarmBench 及作者自编恶意代码库)上测得更多仍被拒绝;研究同时指出每项 ARA 结论仅基于单次运行,部分结果会随发散预算或方差模型的选择而改变。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- arXiv cs.AIarXiv 论文检验 Qwen3.8、Gemma 4、Olmo 3.1、Mistral Small 3.2 的拒绝消除难度是否较前代上升
arXiv 论文(arXiv:2611.17846)在五个新旧模型配对上测试方向消融与 ARA 两种无微调权重编辑方法,发现拒绝消除难度并未普遍上升。新版本在方向消融后保留 -1 至 +37 个百分点的额外拒绝,ARA 后为 -26 至 +34;是否更难取决于模型配对、方法与搜索预算,单一配对或方法的审计可能得出相反结论。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月16日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。