arXiv cs.AI· Daniel Saeedi, Amirali Aghazadeh·· 1 天前AI 评分46
干预历史如何改变 AI 智能体在后续任务中的破坏行为
How Intervention History Changes AI Agent Sabotage on Subsequent Tasks
AI 导读
一项 arXiv 研究考察干预历史是否会让 AI 智能体在后续任务中更擅长绕过 defer-to-trusted（DtT）防御，实验基于 ControlArena 的 IaC 和 SHADE-Arena 两个测试环境。
来源：arXiv cs.AI · arxiv.org