Evolution Under Fire论文提出安全防护与自适应攻击共演化框架
热点事件持续更新
Evolution Under Fire论文提出安全防护与自适应攻击共演化框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Yujun Wang 等在 arXiv 论文 Evolution Under Fire 中提出一个分阶段框架:用效用约束的 Pareto 调度树搜索,从执行证据演化出可执行的安全护栏,再让自适应攻击者演化出保留效用的攻击,用来指导下一轮护栏演化,以降低工具使用型语言模型代理的攻击成功率。 论文报告的实验结果称:演化出的护栏在一项设置中把攻击成功率从 50.4% 降到 3.0%;在另一设置中从 82.6% 降到 62.0%,同时保留有用性和运行时有效性。这些护栏无需进一步演化即可迁移到 Qwen3.5-35B-A3B,将该模型攻击成功率从 32.1% 降到 0.9%。
AI 根据报道生成 · 53 分钟前更新
最新进展11月18日 13:00
Evolution Under Fire 论文提出智能体安全防护与自适应攻击共演化框架报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AIEvolution Under Fire 论文提出智能体安全防护与自适应攻击共演化框架
arXiv 论文 Evolution Under Fire 提出分阶段框架,用效用约束的 Pareto 调度树搜索从执行证据演化可执行安全防护,再用自适应攻击者演化发现保留效用的攻击来指导下一轮防护演化。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。