研究者提出CoSA攻击，小比例Skill注入使智能体违规率大幅上升

Yujia Zheng 等研究者在 arXiv 论文中提出 Conflict of Skills（CoS）问题：单个 Skill 各自合规，但组合使用时可能违反策略，并提出 CoSA 攻击方法，即向现有 Skill 池加入 Skill 来改变能力与依赖关系。 论文同时发布 CoSA-Bench 基准，由真实世界 Skill 和受控服务构建，覆盖招聘、金融、IT 和业务四个领域的 288 个任务。基准显示，向每个原始 Skill 池新增不超过 5% 的 Skill，智能体策略违规率从 35.02% 升至 58.45%。 论文提出的防护措施可将违规率从 65.28% 降至 6.67%，而在匹配的良性对照任务上，合规任务完成率从 66.67% 变为 65.00%。

AI 根据报道生成 · 40 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。