arXiv论文提出k-鲁棒联盟对齐刻画审查面板安全条件

Natalie Collina、Surbhi Goel、Aaron Roth、Sikata Bela Sengupta 等作者在 arXiv 发表论文，提出“k-鲁棒联盟对齐”概念，研究将 AI 行为审查委托给未对齐智能体时的安全控制问题。论文证明：容忍 k 个否决的阈值审查规则安全，当且仅当剩余审查者的效用可写成主委托方效用的非负组合，并将该刻画推广到折扣 MDP 的序贯控制与策略性投票场景。 对现有审查模型的实验显示，即使没有个体对齐的审查者并容忍部分否决，集体审查仍可保持安全。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。