跳到正文
Hacker News· reducesuffering·· 3 小时前AI 评分52

前 YC 总裁 Geoff Ralston 发文呼吁前沿 AI 研究者停止追求递归自我改进

Former YC President: "Stop!”

AI 导读

前 YC 总裁 Geoff Ralston 发表公开信,呼吁所有前沿 AI 研究者停止构建追求 RSI(递归自我改进)的系统,认为在无法可靠对齐前继续推进会带来人类可能永远无法收回的失控风险。

来源:Hacker News · geoffralston.substack.com