研究者提出认证AI部署前未知故障概率的测试算法

Rachel Li、Chris Hays 等研究者在 arXiv 论文（arXiv:2611.15835）中提出一种部署前测试算法，用于认证 AI 系统未见故障模式的出现概率已足够小。 该算法构建 anytime-valid 置信上界序列，开发者可反复测试系统并查看上界，在低于所选阈值时停止，且不破坏统计保证。算法还可扩展处理从不同任务分布采样和自动故障标注不完美的情况。 在真实编码代理轨迹数据集 SWE-Chat 上，论文称该方法取得比经多重检验校正的简单 Good-Turing 基线更紧的上界。

AI 根据报道生成 · 33 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。