Hinton co-authors first paper on recursive self-improvement and intelligence explosion
Geoffrey Hinton, Yoshua Bengio, Andrew Barto, Jakub Pachocki, and 18 other researchers co-authored a paper titled "What if automating AI R&D triggers an intelligence explosion?" The paper examines whether automating AI research and development could close the loop of recursive self-improvement, potentially compressing years of AI progress into months or even about five weeks. It argues that an intelligence explosion might not require superintelligence first, but could start if the automation efficiency of AI R&D is high enough.
Coverage timeline
量子位量子位
刚刚，Hinton发了首篇RSI论文 梦瑶 2026-10-05 12:42:52 来源： 量子位 AI已经开始真正进入「造下一代AI」的流水线 梦瑶 发自 凹非寺 量子位 | 公众号 QbitAI 当AI开始参与研发下一代AI，人类可能已经站到「智能爆炸」前夜。 亏贼！最近超超超超火的递归自我改进（RSI），连AI教父 辛顿 都亲自下场了？？ 咱诺贝尔物理学奖、图灵奖得主Hinton的 首篇RSI的论文 ，上来就研究一个相当炸裂的问题： 如果AI开始大规模参与造下一代AI。 然后，下一代AI再回来继续加速研发。 这么一轮轮滚下去…会不会直接跑出一条智能爆炸曲线啊？ 论文名叫 《What if automating AI R&D triggers an intelligence explosion?》 。 参与撰写论文的作者也堪称AI学界全明星阵容： 22位作者里，包括两位AI教父Geoffrey Hinton、Yoshua Bengio，强化学习先驱Andrew Barto，OpenAI首席科学家Jakub Pachocki等一众研究者。 这么多AI大牛凑在一起，讨论的正是AI领域最古老科幻的「智能爆炸」问题，论文核心观点咱先来一睹为快—— 一旦AI能完整参与 造下一代AI ，递归自我改进就可能真正闭环。 AI研发自动化一旦越过某个临界点，几年才能完成的AI进步，有可能被压缩到 几个月 ，甚至更短。 未来AI实验室的研发规模，理论上可能从几千人直接跳到数 百万 研究员。 今天一年完成的AI进步，极端情况下，未来可能只需要约 5周 。 智能爆炸未必需要AI先变成超级智能，只要AI研发的 自动化效率 足够高，反馈循环就可能先启动。 所以…辛顿…老爷子…大牛们…到底围绕RSI都说了点啥…急… AI已经开始真正进入「造下一代AI」的流水线 智能爆炸 这个词，其实蛮古早了。 早在1965年的时候，数学家I.J. Good就设想过一种超智能机器。 如果一台机器已经比人更擅长设计机器，那么它可以继续设计一个更聪明的版本。 新的版本继续参与下一轮改进，一轮接一轮，最后形成一个自我强化的反馈回路。 Good当年的核心判断其实很简单—— 如果「改进机器」这件事本身，也能被机器做得越来越好，能力增长就可能反过来继续加速能力增长。 这套设想后来成了「智能爆炸」最经典的理论源头，和今年大火
