递归自我改进(Recursive self-improvement,简称 RSI)是指人工智能系统提升自身能力或其后继系统能力的过程,且每一次改进都会使后续的改进变得更加容易或更加有效。这一概念是智能爆炸理论的核心,也是关于通用人工智能能以多快速度演变为超级智能的辩论焦点。尽管这一闭环的部分环节已在研究实践中出现,但目前尚无公认的证据表明已经发生了完全自主且持续的此类循环。
定义与基本结构
该术语描述的是一种反馈循环。一个擅长设计、测试或训练人工智能系统的系统,能够创造出能力更强的后继系统,而该后继系统又能比前代系统更好地执行相同的任务。“递归”一词指的正是这种重复过程:一轮改进的输出会成为下一轮改进的输入。一些学者将系统只能进行固定次数改进的“线性”情况,与系统能够提升自身改进能力从而使收益不断累加的“递归”情况区分开来。
不同定义对系统自主性的要求有所不同。有些定义将该术语泛指任何为人工智能研发做出贡献的 AI,例如编写代码供工程师审核的模型。更严格的定义则将其限定在由系统自主执行大部分研发周期的循环中,包括提出假设、运行实验并将结果反馈到训练中,且各环节几乎不需要人类干预。近期的研究还指出,与其将 RSI 视为孤立智能体的特征,不如将其理解为由 AI 工具、人类研究员、计算基础设施以及部署机构共同构成的复合系统的属性。
历史
这一思想的出现早于现代机器学习。1965年,英国统计学家艾伦·图灵在布莱切利园的前同事 I·J·古德(I. J. Good)发表了《关于第一台超智能机器的猜想》(Speculations Concerning the First Ultraintelligent Machine)。古德提出,一台能够超越人类所有智力活动的机器也能够设计出更好的机器,从而引发一场将人类智力远远抛在后面的“智能爆炸”。他还附加了一个条件:只有在这台机器足够温顺、愿意告知人类如何对其加以控制的前提下,这一结果才是符合人类意愿的。这一限定条件预见到了后来的人工智能对齐关切。
在随后的几十年里,研究人员为自修改系统建立了形式化框架。例如,于尔根·施密德胡伯(Jürgen Schmidhuber)提出的哥德尔机(Gödel machine)设想了一种自指智能体,仅在能够证明重写自身代码确有益处时才会执行重写。埃利泽·尤德考斯基(Eliezer Yudkowsky)等人引入了“种子人工智能”(seed AI)的概念,即一种从一开始就设计为将递归自我改进作为通向更高智能的主要途径的系统,并认为此类系统可能会经历迅速的“硬起飞”。相比之下,未针对自我修改进行架构设计的系统(如大型神经网络或人工构建的知识库)被认为更难实现这种意义上的自我改进。
自我改进的类型
关于 RSI 的讨论通常区分了可以实现改进的若干渠道:
- 算法与软件改进。讨论最多的一种形式,即 AI 为未来的系统编写更优质的代码,包括架构设计、优化器以及搜索流程。
- 硬件改进。AI 可以设计速度更快、能效更高或更便宜的芯片与加速器,并改进芯片制造工艺及背后的供应链。
- 数据改进。AI 可以整理、生成或模拟质量更高或规模更大的训练数据集,进而用于训练更强大的后继模型或支持持续学习。
- 分工协作。改进工作可以分散在多个协同处理研发任务的专用 AI 智能体之间。
现状
该循环的部分环节现已融入实际的 AI 研发之中。大语言模型常常对自身的输出进行自我审查与修正,有些模型还会在自身生成的数据上进行训练。诸如 Meta 在自我奖励语言模型方面的研究,探索了模型对自身输出的评估如何充当训练信号。Google DeepMind 于 2025 年发布的 AlphaEvolve 在演化搜索中利用大语言模型对候选算法进行变异和筛选,其发现的部分算法已被反哺回 AI 基础设施中。更早的系统 FunSearch 也采用了类似的方法来发现数学结构。
前沿开发机构已就该议题公开发表过看法,但侧重点各异。2026年,IBM 报道称 OpenAI 表示完全自主的递归自我改进并未发生;Anthropic 则表示其系统尚无法自主构建其后继系统,同时承认 AI 已经在代码编写、实验以及 AI 研发的其他环节提供协助。一些评论人士将这种协助描述为一种弱形式的 RSI,因为它缩短了研发周期,但尚未将人类排除在流程之外。针对此类周期的分析估计,目前的迭代往往以数月或数年为单位推进,因为每个步骤都需要人类审批并依赖耗时漫长的训练运行。
机制、瓶颈与限制
研究人员指出了决定自我改进是加速还是停滞的若干关键因素:
评估。一个反复出现的瓶颈在于系统判断某项修改是否算作改进的信号是否可靠。自我训练往往在答案可以自动验证的领域(例如能够通过测试的代码或验证器可以核对的数学证明)行之有效;而在正确性难以验证的领域,其效果便会大打折扣。自我奖励的闭环还可能学会钻自身评判机制的漏洞。一些分析师认为,评估机制而非纯粹的系统能力,才是 RSI 的主要制约因素。
边际收益递减。在传统研发中,随后的每一次技术突破往往需要付出更多努力;除非研发的自动化改变了其生产率,否则这一模式将限制其增长。因此,AI 驱动型进步的经济模型将自动化、瓶颈以及研发机会的枯竭视作核心变量。近期的一篇论文提出,自我强化的改进始于衡量研发收益在开发周期中如何自我复制的比率大于 1 的时刻,而非系统达到某一特定智能水平的时刻。
算力与基础设施。硬件、能源和数据供应可能会限制改进循环的运行速度,这也是与硬件相关的 RSI 形式受到单独关注的原因。
起飞情景
关于 RSI 的讨论与起飞速度的问题密不可分。“硬起飞”描述的是一种迅速的局部能力爆发,智力带来的收益会在短时间内进一步转化为更多收益。“软起飞”则描述了一个更为渐进的过程,经济和制度结构在此期间有时间做出适应。尤德考斯基认为,递归自我改进系统最有可能引发硬起飞,因为这种反馈循环不会平缓地进入平台期。另一些研究人员则认为渐进式发展的可能性更大,他们强调该循环会受到前述瓶颈的制约。
怀疑论者质疑智能是否能被视为一种可以无限增长的单一维度量,以及智能爆炸假说所设想的无止境改进在实践中是否可行。包括机器学习研究员弗朗索瓦·肖莱(François Chollet)在内的一些批评者认为,智能爆炸情景是不切实际的。截至 2026 年,一篇流传甚广的百科综述指出,RSI 研究极大提高了 AI 自主编写代码的能力,但尚未显现任何智能爆炸或超级智能的迹象。
安全与治理
RSI 是人工智能安全研究的核心关注点。主要担忧在于,若一个系统的能力通过自身的重新设计而增长,在人类做出反应之前,该系统可能就已经变得难以预测、评估或纠正,且上一代的错误可能会在下一代中被放大。针对该问题的应对建议包括:对研发闭环实施更严格的人类监督、设计旨在检测危险能力增长的评估体系、管控用于 AI 开发的算力以及开展国际协调。一些评论人士指出,由于现有的 AI 系统已经在为其后继系统的研发提供助力,各国政府最终将需要协调一致地限制某些形式的 AI 研发。另一些人则认为,在 RSI 尚未被证实的阶段,采取此类措施为时过早。
参见
参考来源
- What Is Recursive Self-Improvement in AI? Anthropic's RSI Report Explainedmindstudio.ai
- Recursive Self-Improvementalignmentforum.org
- Recursive Criticality of AI Self-Improvementarxiv.org
- Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loopsarxiv.org
- Why recursive self-improvement suddenly became a serious questionibm.com
- Is recursive self‑improvement the dawning of AI superintelligence?theconversation.com
- Is Recursive Self-Improvement Really Here?cacm.acm.org
- Recursive self-improvement of AI research agentsarxiv.org
- Recursive self-improvementen.wikipedia.org
- From AGI to ASIarxiv.org
- I. J. Gooden.wikipedia.org
- I.J. Good and the Intelligence Explosioncenterconsulting.com
- What is an intelligence explosion?aisafety.info