研究指AI控制评测集标签泄露，简单特征胜过多数监控模型

Shubhrangshu Debsarkar 与 Valmik Nahata 发布论文（arXiv:2610.41713）指出，在标准 AI control 评测集上，不运行代码的简单特征排名超过 24 个开源监控模型中的 20 个，原因是评测集以两种方式泄露标签：诚实代码由人写、后门由旧模型生成，风格即可区分；且能被植入后门的题目本身有不同特征。 论文作者说明，他们并未证明已发表的监控模型依赖这些捷径，结论只是：在这种数据集上得高分本身不足以证明模型能检测破坏行为。此外，标准测试集中七分之一的植入后门未通过他们设定的有效性检查，这会影响攻击者之间的比较。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。