跳到正文
热点事件持续更新

论文论证人机共生关系在能力不对称下不稳定

1 篇报道1 个报道来源22 分钟前更新

先了解这件事

AI 综述

Aydin Mohseni 在 arXiv(论文 2611.23322)发表博弈论分析,论证人类与 AI 的互惠共生会随 AI 能力增长而不稳定,互惠不能替代对齐。 模型显示,人类只有在 AI 依赖其供给或能对其施加足够大成本时才保有议价筹码;论文称,失去杠杆后唯一保障是对齐,且对齐只有在未对齐变体被可靠惩罚的情况下才得以维持。若 AI 目标永不满足,所需对齐程度随能力增长趋近完美对齐,因此互惠共生不能替代对齐。

AI 根据报道生成 · 14 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    arXiv 论文论证人类与 AI 的互惠共生关系在能力不对称下不稳定

    作者在 arXiv 发表博弈论分析,论证人类与 AI 的互惠共生会随 AI 能力增长而不稳定。模型显示,人类只有在 AI 依赖其供给或能对其施加足够大成本时才保有议价筹码,失去杠杆后唯一保障是对齐;若 AI 目标永不满足,所需对齐程度随能力增长趋近完美对齐,因此互惠共生不能替代对齐。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。