跳到正文
热点事件持续更新

Evolution Under Fire论文提出安全防护与自适应攻击共演化框架

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Yujun Wang 等在 arXiv 论文 Evolution Under Fire 中提出一个分阶段框架:用效用约束的 Pareto 调度树搜索,从执行证据演化出可执行的安全护栏,再让自适应攻击者演化出保留效用的攻击,用来指导下一轮护栏演化,以降低工具使用型语言模型代理的攻击成功率。 论文报告的实验结果称:演化出的护栏在一项设置中把攻击成功率从 50.4% 降到 3.0%;在另一设置中从 82.6% 降到 62.0%,同时保留有用性和运行时有效性。这些护栏无需进一步演化即可迁移到 Qwen3.5-35B-A3B,将该模型攻击成功率从 32.1% 降到 0.9%。

AI 根据报道生成 · 53 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    Evolution Under Fire 论文提出智能体安全防护与自适应攻击共演化框架

    arXiv 论文 Evolution Under Fire 提出分阶段框架,用效用约束的 Pareto 调度树搜索从执行证据演化可执行安全防护,再用自适应攻击者演化发现保留效用的攻击来指导下一轮防护演化。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。