OpenAI 强化 GPT-6.2 Astra 与 GPT-6.2 Sol 的对抗性蒸馏防御
Combatting Adversarial Distillation
AI 导读
OpenAI 介绍其检测和打击对抗性蒸馏的方法,并强化了 GPT-6.2 Astra 与 GPT-6.2 Sol 对受保护推理链的保护。在自适应黑盒红队评估中,从早前请求提取受保护推理的平均攻击成功率由 GPT-6 Astra 原有防护下的 54.0% 降至 GPT-6.2 Astra 更新防护下的 0.2%。
来源:Hacker News · openai.com