跳到正文
热点事件持续更新

研究:阿拉伯语模型安全对齐中仅拒答SFT导致全面拒答

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

研究者发布一项基于 AraSafe 数据集的实证研究,考察阿拉伯语大模型对有害提示的选择性拒绝对齐,涵盖 5 个阿拉伯语能力模型、130 次运行,比较 SFT、DPO 与守卫模型校准的效果。 结果显示,仅以拒答为目标的 SFT 会使模型走向全面拒答;而精选的混合 SFT 配置可在良性拒答率 14%–23% 下达到有害提示拒答率 90%–93%。研究指出单一拒答率指标会掩盖有害拒答与过度拒答之间的权衡。

AI 根据报道生成 · 28 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    阿拉伯语安全对齐的选择性拒答研究:SFT、DPO 与守卫校准的实证分析

    一项涵盖 5 个阿拉伯语能力模型、130 次运行的实证研究显示,仅拒答目标的 SFT 会导致模型走向全面拒答,而精选混合 SFT 配置可在良性拒答率 B = 14%–23% 下达到有害提示拒答率 H = 90%–93%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。