arXiv cs.AI· Alan Chan, Christoph Winter, Andrew Barto, Jakub Pachocki, Geoffrey Hinton, Eric Horvitz, Yoshua Bengio, Dawn Song, Jack Clark, Hilary Greaves, Anton Korinek, Samuel Hammond, Thore Graepel, Ben Bariach, Philip H. S. Torr, Sheila A. McIlraith, Jeff Clune, Sam Manning, Girish Sastry, Tom Davidson, Daniel Eth, S\"oren Mindermann·· 5 小时前精选AI 评分62
Alan Chan、Hinton 等学者发文探讨自动化 AI 研发是否触发智能爆炸
What if automating AI R&D triggers an intelligence explosion?
AI 导读
Alan Chan、Geoffrey Hinton、Yoshua Bengio 等学者发布论文，评估自动化 AI 研发（R&D）可能触发智能爆炸的证据、影响与政策应对。
推荐理由
多位知名学者系统评估自动化 AI 研发引发智能爆炸的证据、风险与政策应对，为理解这一前沿议题提供框架。
正文 · AI 翻译
作者：Alan Chan, Christoph Winter, Andrew Barto, Jakub Pachocki, Geoffrey Hinton, Eric Horvitz, Yoshua Bengio, Dawn Song, Jack Clark, Hilary Greaves, Anton Korinek, Samuel Hammond, Thore Graepel, Ben Bariach, Philip H. S. Torr, Sheila A. McIlraith, Jeff Clune, Sam Manning, Girish Sastry, Tom Davidson, Daniel Eth, Sören Mindermann
摘要：与哪怕一年前相比，如今构建 AI 的公司内部的大部分代码都由 AI 系统编写。随着人工智能研发（R&D）流程中越来越多的环节被自动化，AI 进展会不会在一场“智能爆炸”中急剧加速——把数年的进步压缩到几个月甚至更短？初步证据表明这是可能的。在本工作中，我们评估了这些证据，分析了智能爆炸的潜在影响，并提出政策应对建议。AI 系统正朝着在几年内自动化大部分 AI 研发工作的方向前进，甚至可能是全部。如果这引发智能爆炸，它可能极大提前 AI 带来的益处，但也构成极端风险：能力增长可能加速到社会远跟不上的地步，人类可能失去对超人 AI 系统的控制，国家内部与国家之间、公司之间以及政府各部门之间的权力制衡可能被严重侵蚀。尽管这些可能性仍存在很大不确定性，但利害攸关，值得进一步认真关注。政策制定者应紧急获取对 AI 研发自动化更多的可见性，发展引导和约束智能爆炸的方法，并让社会准备好适应智能爆炸的影响。
| 学科分类： | 计算机与社会 (cs.CY)；人工智能 (cs.AI) |
| 引用格式： | arXiv:2609.36054 [cs.CY] |
| （本版本为 arXiv:2609.36054v2 [cs.CY]） | |
| https://doi.org/10.48550/arXiv.2609.36054 arXiv 通过 DataCite 签发 DOI |
提交历史
来自：Alan Chan [查看邮件]
[v1]
2026年9月28日 周一 18:13:31 UTC（1,076 KB）
[v2]
2026年10月26日 周一 09:06:37 UTC（664 KB）
来源：arXiv cs.AI · arxiv.org