新论文论证AI对齐既不可解也不充分

研究者Gerrit Großmann在arXiv提交论文（arXiv:2611.13167），论证“AI对齐”这一目标本身存在问题：对齐缺乏良好定义，可具体定义时不可解，看似可解时其解决也未必能消除AI的负面影响。论文称其结论是AI安全是一个持续挑战，无法通过验证某个模型属性一劳永逸地解决。 论文的论据是：对齐通常被框定为单个AI系统的属性，但人机混合社会是受互动和反馈循环塑造的复杂系统，涌现风险而非个体系统失准才可能成为主要危害来源。作者称对齐预设了一套足够稳定、可识别的人类意图或价值，而这一预设本身站不住脚。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。