论文称LLM滥用防护依赖用户输入可被伪造身份绕过
热点事件持续更新
论文称LLM滥用防护依赖用户输入可被伪造身份绕过
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Pingyu Wu、Weiming Zhang、Nenghai Yu(中科大团队)在 arXiv 论文(v2,编号 2607.27951)指出,现有 LLM 滥用防护存在共同的高风险漏洞:系统根据用户书写的内容判断是否放行答案,包括用户声称的专业身份或用途,而这类声称任何人都可以伪造,攻击者借此即可绕过防护、获取危险回答。 论文称,12 个顶级会议最新版次 129 篇论文中提出的防护方案全部存在该漏洞。作者还称,现行防护评测基准无法揭示这一漏洞:一套防护在这些基准上得分很高,仍可能对攻击者给出危险答案。
AI 根据报道生成 · 32 分钟前更新
最新进展11月18日 13:00
中科大团队论文揭示 LLM 滥用防护普遍依赖不可信输入的高风险漏洞报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AI精选中科大团队论文揭示 LLM 滥用防护普遍依赖不可信输入的高风险漏洞
Pingyu Wu、Weiming Zhang、Nenghai Yu 的论文发现 LLM 滥用防护普遍依赖用户书写内容判断是否放行答案,攻击者伪造专业身份即可绕过。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。