Former OpenAI and Google AI leads launch Core Automation, target next-gen architecture beyond Transformer
Jerry Tworek, former OpenAI reasoning lead, and Rohan Anil, former Google Gemini pretraining lead, co-founded Core Automation, arguing that large-scale reinforcement learning has not led to AGI and that current models lack the ability to continue learning after deployment. Separately, the Shanghai AI Laboratory's Mobius team proposed a knowledge-reasoning decoupled architecture as a potential path beyond Transformer's scaling limits.
Coverage timeline
机器之心机器之心
曾经最相信强化学习的人之一，如今却认为：强化学习没有把我们带到 AGI。 Jerry Tworek 曾是 OpenAI 内部坚定的「强化学习最大主义者」。在 GPT-3、GPT-4 之后，他一直相信，大模型缺少的最后一块拼图就是大规模强化学习。只要把这条路线真正推到极致，剩下的问题或许都会被解决。2024 年时，他甚至判断，AGI 可能会在 2025 年到来。 后来，他真的站到了这场实验的中心。 模型一代代变强，评测分数不断上涨，复杂推理能力也迅速提升。但 Jerry 看到的另一个事实是：实验室里的进展，并没有完整转化为现实世界中的可靠能力。训练任务越来越难，模型越来越会考试，却仍然无法适应大量模糊、变化且从未被预先定义的问题。 这让他开始怀疑，问题可能不只是强化学习还不够大，而是今天的模型根本缺少一种更基础的能力： 它们不会在进入真实世界后继续学习。 带着这个判断，Jerry 与 Rohan Anil 共同创办了 Core Automation。Rohan 曾是谷歌 Gemini 的预训练负责人之一，也长期研究优化算法、模型架构和底层计算系统。一个来自大规模强化学习，一个来自预训练与优化，两人的经历几乎覆盖了当前大模型的两条核心路线。 但他们决定不再沿着这两条路线继续加码。 当整个行业仍在扩大 Transformer、增加推理算力、追逐更强的编程智能体时，他们选择追问一个更根本的问题：如果模型只能在实验室中完成学习，需要人类不断收集数据、重新训练和发布新版本，它真的能够走向 AGI 吗？ 在最近的一次对话中，两位创始人系统解释了他们对当前 AI 路线的判断：为什么大规模强化学习没有成为通往 AGI 的最后一块拼图？为什么从经验中学习不等于强化学习？Transformer 真正缺少的能力是什么？以及，一个能够在部署后持续学习的下一代架构，可能是什么样子？ 视频地址：https://www.youtube.com/watch?v=2RJiaf0SY8s 模型一代代变强 问题却出在实验室之外 强化学习确实让模型变得更强。它提升了复杂推理和任务执行能力，也让模型能够掌握越来越多预先定义好的工作流程。 但 Jerry 逐渐意识到，训练任务和标准评测往往只是「一枚硬币的两面」：研究人员根据希望模型掌握的能力设计训练数据，再用相近的任务检验效果。只要持续训练，模型自然可以在这些
Transformer 的上限在哪里？这个问题从 2022 年 ChatGPT 问世起，就开始被广泛讨论。 最近一两个月，这个问题的答案初见端倪。前 OpenAI 推理负责人 Jerry Tworek 与前 Google Gemini 预训练负责人 Rohan Anil 公开表态，Transformer 已经走到尽头，并成为走向 AGI 的最大瓶颈[1]。 国内头部基础大模型也在积极尝试改进版的 Transformer 架构，但进行这些改进的一部分原因是算力瓶颈，并不完全是为了提升架构的能力上限。通过稀疏/线性注意力来降低架构复杂度，这些方案大幅提升了训推效率，在资源受限的情况下成功实现了更大的参数规模，并让模型能力逐渐趋近国外闭源模型。然而，半年后，这些复杂度更低的架构是否同样会碰壁，还需要打一个问号。 那么，随着 Transformer 上限触顶，AI 的下一代模型架构应该具备哪些特质？来自上海人工智能实验室的书生 Mobius 团队给出了一条可能的路径——通过知识与推理分离，探索在持续学习、组合泛化等方向上能力上限更高的架构，并顺带用更高的能力上限倒逼训推效率的提升。 在这个思路下，团队提出的 Mobius 系列架构，有望在未来赋能商用落地、持续自进化、科学发现等多个关键问题或领域。 论文标题：Intern-S2-Mobius: Foundation Model with Decoupled Knowledge and Reasoning GitHub 链接：https://github.com/InternLM/Intern-S2-Mobius Hugging Face 链接：https://huggingface.co/internlm/Intern-S2-Mobius Technical Report 链接：https://github.com/InternLM/Intern-S2-Mobius/blob/main/Technical_Report_Intern_S2_Mobius.pdf Arch Space 链接：https://github.com/InternLM/archspace/issues/9 Transformer 的「三宗罪」 自从 Transformer 问世以来，工业界通过不断 Scaling 数据量、参数量，以一种 ROI 非常
