跳到正文
Hacker News· pretext·· 10 小时前AI 评分67

OpenAI 强化 GPT-6.2 Astra 与 GPT-6.2 Sol 的对抗性蒸馏防御

Combatting Adversarial Distillation

AI 导读

OpenAI 介绍其检测和打击对抗性蒸馏的方法,并强化了 GPT-6.2 Astra 与 GPT-6.2 Sol 对受保护推理链的保护。在自适应黑盒红队评估中,从早前请求提取受保护推理的平均攻击成功率由 GPT-6 Astra 原有防护下的 54.0% 降至 GPT-6.2 Astra 更新防护下的 0.2%。

来源:Hacker News · openai.com