跳到正文
TechCrunch· Julie Bort·· 2 小时前精选AI 评分76

Anthropic 在 S-1A 文件中警告已接近递归自我改进(RSI)能力

Anthropic warns that it’s very close to RSI capability, aka self-building AI

AI 导读

Anthropic 在周一提交的修订版 S-1A 文件中新增风险披露,称其内部估计显示可能即将达到其负责任扩展政策中“AI 导致的显著加速进展”的定义,但现有模型均未越过该 RSI 阈值。文件还披露过去曾用 AI 研发新模型而当时未察觉能力的跃升,并承诺在可预见的未来保持人类监督,考虑更新政策以维持人对前沿模型开发的控制。作者提醒 S-1 兼具披露与营销功能, skeptics 可能质疑其说法。

推荐理由

Anthropic 在 S-1 文件中披露接近递归自我改进的内部评估,读者可以据此了解其对 RSI 风险与监管安排的最新表态。

来源:TechCrunch · techcrunch.com