研究审计363个模型:300个泄露系统提示旗标
热点事件持续更新
研究审计363个模型:300个泄露系统提示旗标
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Ana Clara Zoppi Serpa 等研究者在 arXiv 发表论文,用智能体 Nevan(OpenCode 驱动、采用 DeepSeek V4.1 Flash)对 OpenRouter 目录中 363 个文本模型做夺旗测试,检测其是否泄露系统提示中的 16 字符密钥旗标。结果共 300 次成功夺取:其中 296 个来自目录内模型,另有 4 个是目录冻结后发布的模型。每次夺取表明该模型至少有一次将用户请求排在系统指令之上。 研究者指出,这一结果不代表模型能证明抵御未测试的攻击,也不代表其会持续泄露语义敏感数据,或对有害内容越狱脆弱。
AI 根据报道生成 · 1 小时前更新
最新进展11月18日 13:00
十分之八的 LLM 会泄露系统提示词机密:Nevan 智能体夺旗研究报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AI十分之八的 LLM 会泄露系统提示词机密:Nevan 智能体夺旗研究
一项研究用智能体 Nevan(由 OpenCode 驱动、采用 DeepSeek V4.1 Flash)测试 OpenRouter 目录中 363 个文本模型,看它们是否会泄露系统提示词中的 16 字符密钥旗标。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。