AI researchers debate how close we are to recursive self-improvement

出处

Dwarkesh Patel（博客/播客）

链接

www.dwarkesh.com/p/john-beren-charlie

采集

2026.09.12

Dwarkesh Patel 发布与 Zyphra CTO Beren Millidge、Thinking Machines 首席科学家 John Schulman、Baseten 模型训练负责人 Charlie O'Neill 的对谈，讨论递归自我改进（RSI）还有多远。三位研究者的分歧集中在：Millidge 认为 2035 年一切如常的最可能原因是严厉监管而非技术停滞；Schulman 强调「新模型发布→惊叹 AGI→用一个月嫌它笨」的循环会重复多次，瓶颈在模型判断力，且人类最后的工作是定义目标；O'Neill 担心当前 transformer+RL 配方可能无法发现下一次范式级不连续创新。关于中国实验室为何快速追近，O'Neill 认为前沿实验室在 RL 环境上已无优势、router 服务数据是完美蒸馏分布；Schulman 指出蒸馏的 prompt 分布至关重要，并把 GLM-5.3/Kimi K3 的进步归因于大模型在难度/真实性两轴上的泛化优势。快速问答环节给出的时间线从 2 年到 10 年不等。

这场对谈的价值在分歧而非共识：三位一线研究者对「RSI 何时到来」给出 2 到 10 年的离散答案，且对「瓶颈是监管还是范式缺位」各执一词，说明前沿圈内并不存在传闻中的乐观共识。最扎耳的是关于中国模型追近的判断——前沿实验室自认在 RL 环境上已无护城河，追近靠的是蒸馏加可购买的数据，这条解释链把「模型领先」从技术壁垒降格为执行速度问题，也顺手解释了近期 GLM、Kimi 的基准表现。O'Neill 的「Moravec 悖论变体」值得记住：自主自循环（自己决定做什么并去做）对 AI 可能像运动控制对机器人一样反常地难。