RoleFUZZER：用模糊测试检验大模型角色遵循能力

Kshitish Ghate 等研究者提出 RoleFUZZER 框架，把软件测试中的覆盖引导模糊测试引入大语言模型的角色规范评估：通过对用户行为进行引导式搜索，检测模型是否会被诱导违背其角色设定。 该框架对导师、财务顾问、AI 面试官等 5 种角色规范进行测试。研究者在 15 轮模拟与验证对话的测试活动中报告，对所测的每个模型和角色，框架对 64 格行为网格的覆盖率达到 89% 以上。

AI 根据报道生成 · 49 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。