DACE:多样性驱动的对抗共进化安全对齐框架
热点事件持续更新
DACE:多样性驱动的对抗共进化安全对齐框架
1 篇报道1 个报道来源46 分钟前更新
先了解这件事
AI 综述
Peng Yu 等人在 arXiv 发布论文,提出多样性驱动的对抗共进化框架 DACE,针对 LLM 安全对齐中的攻击策略坍缩与防御对抗遗忘问题,称在标准安全、自动化攻击和通用能力基准上提升对分布外攻击的鲁棒性并保留通用能力。
AI 根据报道生成 · 22 分钟前更新
最新进展11月18日 13:00
DACE:多样性驱动的对抗协同演化框架,提升 LLM 安全对齐鲁棒性报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AIDACE:多样性驱动的对抗协同演化框架,提升 LLM 安全对齐鲁棒性
arXiv 论文提出 DACE,一种多样性驱动的对抗协同演化框架,针对 LLM 安全对齐中的攻击策略坍缩和防御对抗遗忘两类问题。攻击端引入风险类别×攻击风格二维策略空间和归一化边际覆盖增益奖励,防御端维护基于 Beta–Bernoulli 后验与 Thompson 采样的贝叶斯对抗回放池。在标准安全、自动化攻击与通用能力 benchmark 上,DACE 提升对分布外攻击的鲁棒性并保留通用能力。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。