arXiv cs.AI· Ida Mattsson, Ratip Emin Berker, Emanuel Tewolde, Ioannis Anagnostides, Kiriaki Fragkia, Xinyu Liu, Alexander Heckett, Jiayuan Liu, Eden Hartman, Vojt\v{e}ch Kova\v{r}\'{i}k, Sven Neth, Maria-Florina Balcan, Tuomas Sandholm, Vincent Conitzer·· 1 天前AI 评分28
AI 安全的根本不可能性结果：安全目标之间的权衡
Fundamental Impossibility Results in AI Safety: Trading Off between Desiderata
AI 导读
一篇 arXiv 论文（arXiv:2610.27373）将 AI 系统与用户的交互形式化为一个三方博弈：计算或信息受限的防御者、攻击者，以及提供公开建议、受约束更少的 AI。研究证明存在一个根本性权衡：在建议必须公开的前提下，AI 难以给出既帮助防御者又不被攻击者利用的建议；论文还探讨了 AI 共享信息能否做到只惠及防御者，并讨论了这些结果对设计更安全 AI 系统的意义。
来源：arXiv cs.AI · arxiv.org