Amazon 研究者提出任务篡改式间接提示注入基准
热点事件持续更新
Amazon 研究者提出任务篡改式间接提示注入基准
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Amazon 研究者 Rongting Zhang 等在 arXiv 论文中提出用"权限"而非指令措辞定义间接提示词注入，并发布包含 90 个验证案例、覆盖三个工具使用环境的任务篡改攻击基准，代码与数据已公开。 在 5 个大语言模型上的评测显示，针对决策规则、可用动作和状态的攻击平均成功率高于针对目标的攻击。防御方面，检测-移除方法可将目标类攻击降至 2.4%，但观察类和状态类攻击仍有 9.5% 和 12.1% 成功率；工具策略防御下整体攻击成功率仍有 15.4%（无防御时为 17.0%）。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 13:00
超越指令覆盖：用任务篡改攻击基准测试间接提示词注入报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- arXiv cs.AI超越指令覆盖：用任务篡改攻击基准测试间接提示词注入
arXiv 论文提出以“权限”而非指令措辞定义间接提示词注入（IPI），并发布包含 90 个验证案例、覆盖三个工具使用环境的任务篡改攻击基准。在 5 个 LLM 上，针对决策规则、可用动作和状态的攻击平均成功率高于针对目标的攻击；检测-移除防御将目标类攻击降至 2.4%，但观察和状态类攻击仍有 9.5% 和 12.1%，工具策略防御下仍有 15.4% 成功率（无防御为 17.0%）。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。