研究团队提出ARMs自适应红队代理并开源ARMs-Bench

ARMs 研究团队在 arXiv 发布论文，提出面向视觉语言模型的自适应红队智能体 ARMs，论文已被 ICLR 2026 接收。该系统通过推理增强的多步编排自动优化攻击策略，经 MCP 集成 17 种红队算法，并提出 11 种新的多模态攻击策略。 据论文报告，ARMs 的攻击成功率平均超基线 52.1%，在 Claude-4-Sonnet 上超过 90%。团队同时构建并开源了大规模多模态安全数据集 ARMs-Bench，包含超过 3 万个红队实例，覆盖 51 类风险，可用于评估视觉语言模型的安全风险。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。