arXiv cs.AI· Taozheng Zhu, Shixiong Jiang, Fanxin Kong·· 1 天前AI 评分35
安全多智能体强化学习漏洞分析：MinMax Attack 攻击框架
Vulnerability Analysis for Safe Multi-Agent Reinforcement
AI 导读
一篇 arXiv 论文研究安全多智能体强化学习（SMARL）在推理时抵御观测攻击的脆弱性，提出 MinMax Attack 框架，联合为被攻击智能体选择对抗目标动作并考虑良性智能体的合作抵抗。论文推导了安全成本上界，刻画其与被攻击智能体预算和扰动预算的关系。实验显示该攻击在保持任务奖励的同时显著推高安全成本，隐蔽性更强。
来源：arXiv cs.AI · arxiv.org