研究:阿拉伯语模型安全对齐中仅拒答SFT导致全面拒答
热点事件持续更新
研究:阿拉伯语模型安全对齐中仅拒答SFT导致全面拒答
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
研究者发布一项基于 AraSafe 数据集的实证研究,考察阿拉伯语大模型对有害提示的选择性拒绝对齐,涵盖 5 个阿拉伯语能力模型、130 次运行,比较 SFT、DPO 与守卫模型校准的效果。 结果显示,仅以拒答为目标的 SFT 会使模型走向全面拒答;而精选的混合 SFT 配置可在良性拒答率 14%–23% 下达到有害提示拒答率 90%–93%。研究指出单一拒答率指标会掩盖有害拒答与过度拒答之间的权衡。
AI 根据报道生成 · 28 分钟前更新
最新进展11月18日 13:00
阿拉伯语安全对齐的选择性拒答研究:SFT、DPO 与守卫校准的实证分析报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AI阿拉伯语安全对齐的选择性拒答研究:SFT、DPO 与守卫校准的实证分析
一项涵盖 5 个阿拉伯语能力模型、130 次运行的实证研究显示,仅拒答目标的 SFT 会导致模型走向全面拒答,而精选混合 SFT 配置可在良性拒答率 B = 14%–23% 下达到有害提示拒答率 H = 90%–93%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。