跳到正文
热点事件持续更新

研究:模型拒绝移除难度并非均匀上升

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Richard J. Young 发布 arXiv 论文(arXiv:2611.17846),在 Qwen3.8、Gemma 4、Olmo 3.1、Mistral Small 3.2 与对应旧版本的五个模型配对上测试方向消融和 ARA 两种无微调权重编辑方法,发现拒绝移除难度并未普遍上升:新版本在方向消融后保留 -1 至 +37 个百分点的额外拒绝,ARA 后为 -26 至 +34。 是否更难取决于具体模型配对、所用方法和搜索预算,因此只测单一配对或单一方法的审计可能得出相反结论。 论文中"更难"的判定依据是 WildGuard 自动判官在 972 条留出有害提示(来自 JailbreakBench、XSTest、StrongREJECT、HarmBench 及作者自编恶意代码库)上测得更多仍被拒绝;研究同时指出每项 ARA 结论仅基于单次运行,部分结果会随发散预算或方差模型的选择而改变。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. arXiv cs.AI
    arXiv 论文检验 Qwen3.8、Gemma 4、Olmo 3.1、Mistral Small 3.2 的拒绝消除难度是否较前代上升

    arXiv 论文(arXiv:2611.17846)在五个新旧模型配对上测试方向消融与 ARA 两种无微调权重编辑方法,发现拒绝消除难度并未普遍上升。新版本在方向消融后保留 -1 至 +37 个百分点的额外拒绝,ARA 后为 -26 至 +34;是否更难取决于模型配对、方法与搜索预算,单一配对或方法的审计可能得出相反结论。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月16日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。