OpenAI 反蒸馏研究将红队测试中提取推理过程的成功率从 54% 压到 0.2%
OpenAI 公布了一项反蒸馏研究,结果还挺惊人的。 他们通过保护模型推理过程、收紧 API 限制、识别有组织的攻击,把内部红队测试中提取模型先前推理过程的平均成...
AI 导读
OpenAI 公布反蒸馏研究,通过保护模型推理过程、收紧 API 限制、识别有组织的攻击,把内部红队测试中提取模型先前推理过程的平均成功率从旧系统的 54% 降到新版的 0.2%。作者认为 AI 公司正越来越认真保护模型的思考方式而不只是权重,开放与封闭的争论会更激烈。
来源:sleepy0x13 · x.com