跳到正文
热点事件持续更新

论文称LLM滥用防护依赖用户输入可被伪造身份绕过

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Pingyu Wu、Weiming Zhang、Nenghai Yu(中科大团队)在 arXiv 论文(v2,编号 2607.27951)指出,现有 LLM 滥用防护存在共同的高风险漏洞:系统根据用户书写的内容判断是否放行答案,包括用户声称的专业身份或用途,而这类声称任何人都可以伪造,攻击者借此即可绕过防护、获取危险回答。 论文称,12 个顶级会议最新版次 129 篇论文中提出的防护方案全部存在该漏洞。作者还称,现行防护评测基准无法揭示这一漏洞:一套防护在这些基准上得分很高,仍可能对攻击者给出危险答案。

AI 根据报道生成 · 32 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI精选
    中科大团队论文揭示 LLM 滥用防护普遍依赖不可信输入的高风险漏洞

    Pingyu Wu、Weiming Zhang、Nenghai Yu 的论文发现 LLM 滥用防护普遍依赖用户书写内容判断是否放行答案,攻击者伪造专业身份即可绕过。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。