arXiv 论文证明有限规则手册无法认证所有安全的 AI 智能体

一篇 arXiv 论文（arXiv:2611.13367，事实条件中署名 Tomas Perez-Acle）证明：用固定规则给 AI 智能体程序做安全门控时，不存在既完备、又能被机器有限验证的允许与禁止规则手册。也就是说，有限规则无法判定所有安全程序，这是论文声称的结论。 论文的论证是：可检验的证据只能确立有限记录所能确定的内容，而“永不”和“最终会回答”这类性质无法由有限记录确立——违规可以被监控捕捉，但安全程序无法被永久放行；任何 n 比特的可靠规则手册都会遗漏约 n 比特的合规程序。 论文还报告了对 220 万个随机程序及自指对手的模拟，称显示这一障碍是对抗性而非典型情况，且在机密性场景中更长的测试始终无法消除活性错误部分。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。