arXiv论文提出Role Grounding Attack攻击智能体记忆系统
热点事件持续更新
arXiv论文提出Role Grounding Attack攻击智能体记忆系统
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
arXiv论文首次形式化Role Grounding Attack（RGA）：利用嵌套对话结构，通过社交互动使受害智能体把攻击者的偏好错误记作用户偏好，并在检索时持续影响决策。作者称这一漏洞为角色归因错误。 作者将RGA实例化为工具选择操纵和隐私泄露两类攻击，并在5个主流记忆系统和6个语言模型上评估，均取得高攻击成功率。作者呼吁加强智能体的角色grounding。
AI 根据报道生成 · 55 分钟前更新
最新进展10月31日 12:00
arXiv 论文提出 Role Grounding Attack：经社交互动篡改智能体记忆的偏好归属报道时间线
沿着报道，了解事件的不同侧面。
10月31日
- arXiv cs.AI精选arXiv 论文提出 Role Grounding Attack：经社交互动篡改智能体记忆的偏好归属
论文首次形式化 Role Grounding Attack（RGA），利用嵌套对话结构让受害智能体把攻击者的偏好错误记作用户偏好，并在检索时持续影响决策。作者将 RGA 实例化为工具选择操纵和隐私泄露两类攻击，在 5 个主流记忆系统和 6 个语言模型上均取得高攻击成功率，呼吁加强角色 grounding。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。