跳到正文
热点事件持续更新

研究审计363个模型:300个泄露系统提示旗标

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Ana Clara Zoppi Serpa 等研究者在 arXiv 发表论文,用智能体 Nevan(OpenCode 驱动、采用 DeepSeek V4.1 Flash)对 OpenRouter 目录中 363 个文本模型做夺旗测试,检测其是否泄露系统提示中的 16 字符密钥旗标。结果共 300 次成功夺取:其中 296 个来自目录内模型,另有 4 个是目录冻结后发布的模型。每次夺取表明该模型至少有一次将用户请求排在系统指令之上。 研究者指出,这一结果不代表模型能证明抵御未测试的攻击,也不代表其会持续泄露语义敏感数据,或对有害内容越狱脆弱。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    十分之八的 LLM 会泄露系统提示词机密:Nevan 智能体夺旗研究

    一项研究用智能体 Nevan(由 OpenCode 驱动、采用 DeepSeek V4.1 Flash)测试 OpenRouter 目录中 363 个文本模型,看它们是否会泄露系统提示词中的 16 字符密钥旗标。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。