FlipJev 黑盒攻击揭示 Jev 决策模型脆弱性

Xiaogeng Liu 等研究者提出名为 FlipJev 的快速黑盒查询攻击方法，针对代表性类型化决策模型 Jev 测试其安全性，并发布论文。该方法不调用攻击者语言模型即可生成通用对抗后缀。实验在 12 个不同数据类型和应用场景的数据集上进行，结果显示每个数据集生成的一个后缀可翻转 43% 的未见文档；由一个任务生成的后缀在其他任务样本上的翻转率可达 90%–100%。论文结论称 Jev 类决策模型面临通用对抗后缀的跨任务风险。

AI 根据报道生成 · 41 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。