如果 AI 不只会回答问题，还能写训练代码、设计实验，再帮人造出更强的下一代 AI，研发就可能像滚雪球一样加速。9月28日发布的白皮书《What If Automating AI R&D Triggers an Intelligence Explosion?》讨论的正是这种“递归自我改进”：更强的系统扩大自动化研究力量，再推动下一轮升级。论文有20多名作者，包括 OpenAI、Anthropic、Microsoft 和 Meta 的研究负责人，部分企业作者以个人身份署名。
据 Cambridge Programme on AI Science & Policy 介绍，作者把“智能爆炸”定义为：AI 驱动的研发加速，将原本数年的能力进展压缩到数月或更短。他们认为已有初步迹象表明这种情景可能发生，但不确定性仍很大。据 Axios 报道，论文提出一个极端但具体的尺度：一旦 AI 达到专家级研发能力，单个开发者理论上可能部署相当于数百万名顶尖研究者的 AI 研究力量。
因此，监管重点不能只看某个模型此刻有多强，还要看实验室用 AI 自动化了多少研发工作、能力增长有多快。作者建议建立这种“监管可见性”，同时预先研究约束加速过程的机制与社会应急方案。核心担忧是：如果迭代快过人类评估和决策，社会可能来不及反应。