用威慑经济学建模AI对齐并提出奖励优化方法

Rohit Agarwal 等作者在 arXiv:2605.01643 论文中，将 AI 对齐形式化为法学经济学中的求解者-审计者威慑模型，并提出 bandit 外环奖励搜索方法。论文将求解者可能给出有说服力但错误的答案或隐藏不确定性、审计者需权衡监督成本的情境，建模为不动点问题。 作者称，在一个 LLM 编程流水线上的实验显示，与静态手工设计的奖励相比，自适应奖励配置能维持有效的监督压力并改善符合委托方目标的结果。v4 版新增了可扩展监督筛查协议、弃答抑制和更小审计者的消融实验。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。