SEEK 提出自进化红队智能体并发布技能提取基准

Cheng Gui 等研究者在 arXiv 发布 SEEK，一个黑盒自进化红队智能体：它从用户可见响应中积累证据并存入持久记忆，演化出可复用的攻击技能，用于提取科学智能体中受保护的技能。论文同时构建了覆盖 8 个开源与闭源科学智能体平台、共 40 个受保护技能的基准，比较直接请求、固定策略与 bandit 引导迭代探测等攻击方式。 测试结果显示，全部 8 个平台均泄露至少一个受保护技能，其中 4 个平台在单次直接请求下即达到 100% 攻击成功率。在 SpatialAgent 和 Biomni 的 12 个技能上，SEEK 达到 100% 攻击成功率，并比 bandit 引导探测分别减少 31.8% 和 38.2% 的平均首轮成功回合数。即便面对封锁全部三种基准协议的保密策略，SEEK 仍成功提取了 6 个受保护技能中的 1 个。

AI 根据报道生成 · 51 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。