arXiv cs.AI· Ren-Jian Wang, Ke Xue, Zeyu Qin, Ziniu Li, Sheng Tang, Hao-Tian Li, Shengcai Liu, Zhi Yu, Yuanpeng Tan, Chao Qian·· 2 小时前AI 评分37
Quality-Diversity Red-Teaming（QDRT）：面向大语言模型的高质量多样化自动化攻击生成框架
Quality-Diversity Red-Teaming: Automated Generation of High-Quality and Diverse Attackers for Large Language Models
AI 导读
arXiv 论文提出 Quality-Diversity Red-Teaming（QDRT）框架，通过行为条件训练和行为回放缓冲实现目标驱动的攻击多样性，并训练多个专门攻击模型以覆盖不同攻击风格和风险类别。实验显示 QDRT 生成的攻击对 GPT-2、Llama-3、Gemma-2、Qwen2.5 等开源模型以及 GPT-4.1、GPT-5-Chat 等商业模型更具多样性和有效性。代码已开源。
来源：arXiv cs.AI · arxiv.org