简单特征胜过多数 AI Control 监控模型：arXiv 论文揭示评测集标签泄露
Simple Features Beat Most AI Control Monitors
AI 导读
arXiv 论文（2610.41713）发现，在标准 AI control 评测集上，不运行代码的简单特征胜过 24 个开源监控模型中的 20 个，原因是评测集以两种方式泄露标签：诚实代码由人写、后门由旧模型生成，风格即可区分；且能被植入后门的题目本身有不同特征。
推荐理由
论文指出常用 AI control 监控评测集存在标签泄露，简单特征即可胜过多数监控模型，提醒高分不等于真正的破坏检测能力。
正文 · AI 翻译
摘要：AI 控制依赖于监控器来捕捉破坏自身工作的强大模型。这些监控器根据其区分诚实代码与后门代码的能力来评估。我们表明，在一个标准评估数据集上，简单的特征无需运行代码就能击败大多数监控器，在以监控器身份被提示的 24 个开放权重模型中超过 20 个。该数据集以两种方式泄露其标签。诚实解由人类编写而后门由较旧的语言模型生成，因此代码风格会暴露类别。此外，LLM 能够植入后门的题目具有不同的特征，因此关于题目的基本信息也会暴露类别。每次将一类替换为 Claude Sonnet 5 的代码表明，这些特征奖励了作者之间的对比，因为人类代码对 Sonnet 5 的后门比原始配对更容易区分，0.95 对 0.79。标准测试集中七分之一的后门未通过我们的有效性检查，这扭曲了攻击者之间的比较。一个 Sonnet 5 监控器似乎能捕捉较旧模型后门的 77%，但只能捕捉 Sonnet 5 后门的 37%，而两者都经核验后为 78% 对 61%。我们并未证明已发表的监控器依赖这些捷径，但我们的发现表明，在此类数据集上的高分本身并不构成破坏检测的证据。我们发布了重建的数据集和检查工具。
| 评论： | 19 页（正文 5 页加附录），7 幅图，10 个表。已被 NeurIPS 2026 的 EvoRobust 研讨会接收。代码与数据：此 https URL |
| 学科： | 密码学与安全 (cs.CR)；人工智能 (cs.AI) |
| 引用格式： | arXiv:2610.41713 [cs.CR] |
| （本版本为 arXiv:2610.41713v1 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2610.41713 arXiv 通过 DataCite 签发的 DOI（注册中） |
提交历史
来自：Shubhrangshu Debsarkar [查看邮件]
[v1]
2026 年 10 月 30 日 星期五 13:21:03 UTC (536 KB)
来源：arXiv cs.AI · arxiv.org