ReMAS：基于强化学习的多智能体系统黑盒红队框架
热点事件持续更新
ReMAS：基于强化学习的多智能体系统黑盒红队框架
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Yuqi Jia 等研究者发布 ReMAS，一个基于强化学习的多智能体系统（MAS）黑盒红队测试框架。该框架微调攻击 LLM 生成对抗性提示词以提取系统提示词，分两步：先在重写阶段优化基础攻击提示，再在模板生成阶段构造可触发特定子智能体的攻击模板。 实验显示，相比现有黑盒攻击，该方法大幅提升攻击成功率，并可跨不同后端 LLM 和 MAS 结构迁移。研究者称 ReMAS 是首个针对多智能体系统的强化学习红队框架，凸显了这类系统在安全防御上的需求。
AI 根据报道生成 · 58 分钟前更新
最新进展10月23日 12:00
ReMAS：基于强化学习的多智能体系统黑盒红队测试框架报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- arXiv cs.AIReMAS：基于强化学习的多智能体系统黑盒红队测试框架
研究者提出 ReMAS，首个面向多智能体系统（MAS）的强化学习红队测试框架，通过微调攻击 LLM 生成对抗性提示词以提取系统提示词。框架分两步：重写阶段优化基础攻击提示，模板生成阶段构造可触发特定子智能体的攻击模板。实验显示该方法相比现有黑盒攻击大幅提升攻击成功率，并可跨不同后端 LLM 和 MAS 结构迁移，凸显多智能体系统的安全防御需求。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。