站在无限的开端：K2、缸中之脑与一座没有顶的山

一、一座无限的山

访谈从一年前的那个标题开始——《向延绵而未知的雪山前进》。杨植麟还在爬那座山，但他对山的理解变了。他最近反复读一本书：David Deutsch 的《The Beginning of Infinity》（无穷的开始）。

"它说有两句话要刻在石头上：一句话叫问题是不可避免的，第二句话叫问题是可以解决的。"

启蒙运动之前，社会是静态的——打雷是雷公，下雪是神的心情不好，只有极少数人在创造知识。启蒙运动之后，社会变成动态的：每产生一个知识就解决一个问题，而每个解决又展开新的问题，因为知识边界在拓展。研发 AI 恰好也是这样一个过程：强化学习的问题解决了，评估、验证的新问题又冒出来。

"也许这座雪山没有尽头，我希望它一直没有尽头——这样的话，它就是一座无限的山。你一直在往上爬，甚至爬到后来，不一定是自己在爬，而是用 AI 来爬。"

"也许这座雪山没有尽头，我希望它一直没有尽头"

如果雪山没有尽头，追求的是什么？答案是攀登本身：每往上几百米，看到的景色就不一样。而 AGI 不再是"终点"。

"AGI 可能是个方向，不是某一级台阶——不是爬到这级台阶，一夜之间就达到了。虽然我们用'登月'命名公司，但它跟登月有一个区别：登月是你站上月球那一刻就是终点，但 AGI 不是。"

二、两种 test-time scaling：缸中之脑 vs 与世界交互

回望过去一年，杨植麟认为全球大模型最重要的范式级变化有两个，而它们指向同一个东西。

第一个是基于长思考的强化学习，o1 是第一个代表。它的本质是"猜想—验证"的循环：

"反思本质上是两种能力：提出一个新的猜想，然后自我验证。你本来只能做一次，直接给出一个答案；现在可以不断提出猜想去验证，等于等价地尝试了好几次——把 pass@k 变成 pass@1。这跟人在做科研或解题的过程很像。"

"但它还是一个缸中之脑——想象一个鱼缸，你把一个脑子放在里面，跟外界没有联系。它不需要跟外界产生任何交互，就能解一道题。"

第二个范式是多轮 Agent 的强化学习：边思考边操作，一会调用搜索，一会用浏览器，一会写几行代码，通过多轮交互解决一个问题。下一步行为取决于外界反馈的状态更新——它不再是缸中之脑。

"这两个东西都指向同一个东西：test-time scaling。不管是把轮数打得更多，还是每一轮里有更多思考的 token，都是在推理时规模化 token 的方式，让你能完成更复杂的任务——伴随的是完成时间更长，可能连续工作几个小时，把一个代码仓库克隆下来、翻译成另一种语言、调试、修完所有 bug，端到端完成。"

缸中之脑长出了"手"：从封闭思考到操控数字世界

还有一个他眼中"很有意思的趋势"：越来越多模型公司去做一方的 Agent 产品。第三方 Agent 本质上是在逆向工程模型的训练过程——猜 Anthropic 内部的工具和脚手架长什么样，什么样的 system prompt、什么样的 context engineering 效果好。而模型公司自己做一方产品，逻辑完全相反：

"你是正向的做法：先把工具和 context engineering 设计好，然后就在这个环境里面训练模型，你的模型天然在你的环境里表现更好。第二种的上限也许更高——模型解决不好的地方，你可以调整工具设计，同时又可以端到端地训练。"

三、L1 到 L5 不是串行的：用 L4 的技术解决 L3 的问题

OpenAI 的 L1–L5 分级（Chatbot → Reasoner → Agent → Innovator → Organizer）常被理解为一条串行升级路线。杨植麟不这么看。

"Agent 的上限取决于很强的 reasoning 能力，但并不是说必须先做完狭义上的 reasoning 再做 Agent——换个顺序我觉得也成立。Claude 就 bet 这一点：它在 reasoning 上做得不是特别多，但在 Agent 上做得非常好。因为它们背后是两种不同的 test-time scaling 范式：一种 scale 的是多轮交互的轮次，一种 scale 的是纯粹的思考。"

"但如果你想做最好的 Agent、解决最复杂的任务，最终还是需要 reasoning 也很强。研发上不是必然的顺序，但要往山顶再爬几步，两个都要。"

Innovation（L4）的标志是什么？杨植麟给了一个非常具体的判据：

"最关键的一个点是：你的模型到底什么时候能参与到模型本身的开发。我们希望 K2 能够参与到 K3 的开发里面——提出新想法、做实验、分析结果、迭代下一版，或者优化某个 infra 的性能。这需要很强的 Agentic 能力才能做。"

而 Organization（L5）也不一定在最后——multi-agent 系统的雏形已经在出现：从一个 Agent fork 出多个，分工写测试、写文档、设计框架，再合并起来。这个非线性的视角，反过来成了月之暗面的方法论：用 L4 的技术解决 L3 的问题。

"今天 Agent 泛化不够，所以你要用 innovation 的方式解决它——用 AI 去训练 AI、用 AI 对齐 AI。没有这条路，Agent 很难做到特别好的泛化。所以 L1 到 L5 真的不是线性的。"

四、K2 是乔戈里峰：token efficiency 之战

K2 的研发有两个重点。第一是做一个非常好的基础模型，而突破口是 pre-training 的真实瓶颈：

"高质量数据的增长确实很缓慢，多模态数据又没办法很好地提升文本的智商——你可以认为高质量数据接近是一个常数。所以我们希望最大化使用每一份数据，所谓 token efficiency：喂一样多的数据，'脑子'长得更多。"

他特意区分了两个概念：compute efficiency（训得更快）并不能提升智能上限——token 只有这么多，训得再快模型效果也不一定更好；而 token efficiency 是把一份数据当成好几份来用。主力武器是 Muon 优化器：

"Adam 已经用了十年，大部分模型都在用，但它的 token efficiency 并不好。Muon 不是把每个元素独立考虑，而是考虑矩阵参数之间的 dependency，学习效率更高。早期实验里，compute optimal 情况下基本是两倍的提升——你学一份数据等于别人用 Adam 学两份。假设你有 30T 高质量 token，就等价于 60T。数据还是那么多，但吸收得更好，loss 降得更快。"

"Muon 是 Keller Jordan 提出来的，我们在上面做了很多优化，让它能适配很大规模的语言模型——之前的 Moonlight 工作第一次让它在有一定规模的模型上训练。至少在公开资料里，我们是第一个用非 Adam 的、基于矩阵正交化的优化器在这么大规模上训练的。"

第二条路是数据改写（rephrase）：同一份数据学很多次会过拟合，改写让它有一定程度的泛化。主持人追问了一个尖锐观点——改写扩充是不是没用？知识本来就在里面，没有新知识？杨植麟承认这取决于改写方式："理论上就是看你有没有新的熵的输入。今天的改写方式不一定是最好的，这里面还有很多探索空间。"

第二个重点是 Agentic 能力，这指向 K2 的名字。乔戈里峰（K2）不是最高的山，却是世界上最难攀登的山峰之一。

"它不是终点——因为它不是最高的山峰；它可能是最难的。现在有很多范式转变：从对话到 Agent，base model 的 scale 进一步变大，本身存在难度，刚好跟这个名字有点关联。"

五、"Muon 你去训的时候，它会炸"

K2 的立项不是拍脑袋。像 Muon clip 这样的技术，从早期实验到放进万亿模型，要经过很长的 scaling 验证周期——而 K2 训练过程中最大的坑，恰恰来自这里。

"Muon 你去训的时候，它会炸。max logit 会长得非常高，我们认为这对训练稳定性有影响——内核指标不正常，对模型的上限是有害的。我们回过头去 revisit 这个问题，提出新的 clipping 方式去解，让它在非常大规模下仍然能很好训练。"

"这个问题在小规模实验上没办法预测——小规模复现不了爆炸。其他技术我们都在小规模做了很多实验、基本可以迁移，唯独这个要在 scale 过程中临场解决。"

这也塑造了他对训练方法论的态度：

"训一次模型一要周期、二要成本，所以我们希望在早期尽可能把所有能预测的都预测到。所有东西都验证清楚再 scale，成功率就比较高。结果没有什么惊喜或惊讶——模型训得怎么样，过程中就已经知道了。"

至于最重要的 know-how？"写在 paper 里了。我们都很 open，想跟社区分享。"

六、Agent 最大的挑战是泛化

怎么定义 Agent？杨植麟的答案回到"缸中之脑"的反面：

"Agent 最重要的特征是多轮地使用工具。多轮，是一种 test-time scaling 的方式；工具，是连接这个脑跟外部世界的方式——用搜索引擎，就把模型跟整个互联网连起来；能写代码，就拥有了数字世界的自动化能力，因为数字世界几乎所有自动化都可以用代码描述。"

"人每天的工作，本质上就是一个多轮使用工具的序列。但说它'模拟人'不太准确——人也是通用的，人是所谓的 universal constructor（万能构造器）。这个系统设计的目标是通用，跟人的做法类似只是一个刚好相似的结果——就像设计飞机是为了当交通工具，不是为了像鸟一样飞。"

而通用 Agent 最大的短板，他认为是泛化：

"现在的 RL 技术，训练任务和评价指标很多时候都是单点的——你训练 SWE-bench 就提升 SWE-bench，但指标上去并不意味着泛化变好。我们不希望模型过拟合到某些工具、某些环境、某些具体任务上。Agent 训练里，这个问题比对话模型更严重。"

"你今天人工定义一些 task 然后 fit 它，在你看不见的 task 上就可能表现没那么好。只刷那几个 task 的分，用户在更 OOD 的场景里体感就是不好。现在整个行业面临的是 benchmark 不够用、benchmark 失效的阶段。"

解法之一是他反复提到的 AI native 训练：

"有一种潜在思路，是用更 AI native 的方式去训练 AI——让模型参与到更多的训练过程里。如果你的 AI 能做很好的 alignment research，理论上就会有更好的泛化，而不只是优化一些单点任务。整体来说，post-training 需要更多 AI，摆脱'种瓜得瓜、种豆得豆'。"

任务难度上，K2 选择了中等难度任务而非"足够有挑战的任务"，背后是课程学习的逻辑：

"你不能一上来就让它去证明一个还没人证明过的数学问题——sample efficiency 会非常非常低。强化学习搭配好的 sample 策略，本质上是一个隐式的课程学习机制：从合适难度开始，学完逐渐提升难度，否则算力都会被浪费掉。"

数学和代码相对容易泛化吗？也没有——"在某一种数学竞赛上做到 99 分，别的数学问题可能提升五个点，但很难直接也做到 99 分。"而世界模型可能是通往更好泛化的一条路："做世界模型是造世界，做 Agent 是造人。你有一个很好的世界模型去模拟这些东西，就是用 AI 训练 AI，泛化会好很多。"

七、为什么从闭源转向开源

主持人翻出了去年访谈里的"合订本"：杨植麟当时说，大模型时代的开源跟以前不一样——以前所有人都能贡献，现在开源的贡献没有经过算力验证，闭源有人才聚集和资本密集，是对市场的整合；领先者不会开源，只有落后者才会。但你今天开源了呀？

"因为我们还没有做到非常完全的领先。模型出来之后，社区确实能贡献一些东西：推理侧可以做很多事情，让更多人免费给你 serve，更多人去用。但要把模型本身变得更好，好像还只能是原厂自己做。"

"不过，如果基于开源模型做 post-training——特别是 Agentic 的 post-training——会产生新的机会。比如一个创业公司想做法律相关的 Agent，完全可以基于 K2，在自己定制的工具集合下训出一个 specialized agent。它更多是赋能下游应用，很难反过来变成 base model 的提升。"

长期会坚持开源吗？"这是我们希望长期去做的事情，但不一定是只做开源。"是技术信仰还是市场博弈？"客观地说，都有，而且可能都有好处。开源的公司会形成一个生态，互相借鉴，加速做到 SOTA——大家可以不完全只是竞争。这样你的雪山可以爬得更好。"

开闭源的终局？"不会很多家。过去两年的趋势很明确：市场逐渐收敛、聚焦，从几百个到几十个到几个。几个，可能是最终比较稳定的数。"至于"中国公司为什么都开源了"——他笑着纠正："也不是都开，字节就没开。"

八、模型即产品：一个既简单又复杂的系统

一年前杨植麟说，AI 时代的开发方式变成了"做一个巨大的系统"，就像 Google 当年做信息检索系统。今天他的判断更进了一步——模型即产品依然成立，而且更加彻底：

"你在训练模型的时候，基本上已经要把工具、context 这一整套全部搭好才有办法训。所以当你模型训完，你的产品已经做完了——在上面做交互上的改进当然有价值，但那是锦上添花的最后一步。"

这个系统的复杂性在哪？他的回答是一个悖论：既简单又复杂。

"简单在于：你只要把所有东西都放在同一个模型里，不需要维护那么多模型，不需要搞一堆 routing 策略。复杂在于：你希望它通用，就要它在各种场景下都能工作——不只在你的工具集下，在别人没见过的工具、不同的定义和实现方式下都能工作。Coding Agent、Search Agent 放在同一个通用模型里，会有'打架'的问题。越到 post-train、越到 RL，这个问题越严重。"

多模态是最好的例子。K2 之后下一代模型确定会加多模态，但原则只有一条：

"多模态不损伤'脑子'已经很好了。你希望多模态模式和文本模式共用一个脑子——在多模态模式下也能把文本的智商激发出来，而不是进入另外一部分参数、丢掉文本里学的东西。否则你可能训出来一个'傻的多模态'——我们希望它是个'聪明的多模态'。"

交互方式则跟着模型能力走：Chat 曾是一种新交互，Agent 异步执行任务、人看中间结果又是一种。Coding 的交互从 GitHub Copilot 到 Cursor 再到 Claude Code，每一代都在变。

"基本上当你有新一代模型、能力提升很多，交互就可以改了——你不再需要单个人去点要不要 accept 每一个修改，而是多步执行一个 agentic coding 任务。Claude Code 的交互也不是终极形态，模型还会提升，交互会持续变化。"

九、数据飞轮为什么还没转起来

Scaling Law 放缓了吗？杨植麟的回答很直接：

"Scaling Law 遇到数据墙了，这是客观事实。突破数据墙就要提高 token efficiency，同时 scale 更多 compute 到 RL 上。但我们观察的是：模型变好的速度并没有在减少，我觉得甚至是在加速。"

那为什么 AI 产品至今没有形成互联网式的数据飞轮？他的解释有两层：

"第一，基于算力的 scaling 太强大了。RL 是 on-policy、带梯度的训练，scaling 效率比 pre-training 高很多。当你直接 scale FLOPs 带来的提升非常大，其他东西带来的提升就显得很小。"

"第二，数据飞轮很依赖外部环境的 feedback，而大模型的学习对噪声很敏感——跟推荐系统不太一样。我们不希望 feedback 有很多噪声，但现在没有把这个问题解决得非常好。现在看起来，基于 FLOPs 的 scaling 是更有效的路径——但这个平衡什么时候会发生变化，也许要靠新的交互让收集到的信号噪声减少。交互要适配模型能力，不能超越模型能力。"

那"用户数据无法提供智能，干脆别做 To C"的论调呢？他不认同："你没法直接把用户反馈拿去训练，但有用户量的好处是你知道需求的分布——哪些用得好、哪些不好，再抽象成 evaluation 去优化模型。完全没人用，你都不知道往哪优化。而且现在到了新的分水岭：Agent 产品能端到端产生价值，专业用户本身就是生产力价值。"

十、商业模式：API 与一方产品

怎么思考商业模式？杨植麟的答案是两条路都会试：

"明确的商业模式，一个是 API，一个是一方产品。但今天最主要的还是继续把模型做得更好——市场其实已经被一定程度上验证，而且在快速增长：头部公司有几十亿、上百亿美元的 ARR，每一两个季度就能翻两三倍。如果模型真能做到 Opus 的水平甚至更好，空间会更大。"

主持人转述了一个用户的担心：很喜欢 Kimi，但担心 Kimi 赚不到钱。

"能不能赚到钱，取决于模型效果做得怎么样。市场已经被验证、在快速增长，所以还是专注把技术做得更好——剩下的东西，确定性反而是更高的。"

模型公司和 Agent 应用公司的边界在哪？他承认没有明确答案，但给出了框架：一方产品的优势是垂直整合（模型在工具环境里训练，融为一体）；而应用公司的机会在于那些"一方产品考虑不过来"的空间——需要大量领域 know-how 的工具实现、独特的 evaluation，或者掌握线下服务入口这类"别人根本做不出来"的工具。

"Manus 这样的公司，短期内合作大于竞争。有点像 Claude 和 Cursor 的关系——Cursor 也要动态调整产品策略：一方面能不能有一些模型能力，另一方面能不能有别人做不到的工具或环境。"

他还给出了一个更长期的判断："通用 Agent 之所以能工作，是因为它整体的商业化效率会更高。很多内容平台最终接到通用 Agent 里，商业化效率会比今天更高——但要花很长时间，在这个时间窗口内，专有 Agent 也有空间。"

十一、用 RL 的方式管理团队

访谈最出圈的一段，是杨植麟把强化学习搬进了管理。

"Tim（周昕宇）天天跟我讲——要用 RL 的方式去管理，而不是用 SFT。SFT 是直接告诉他这个东西应该这样做；RL 是给他一个奖励：做成这样是好的，更多反映在目标上。"

"好的技术做法里，RL 也希望加一部分 SFT——SFT 是很好的先验，你不希望模型飞太远。但你又要管住自己的手：SFT 太多，同学就会失去主观能动性，没有办法创新。核心就是掌握 SFT 和 RL 的平衡，以 RL 为主，用一部分 SFT 防止飞太远。"

这套方法最大的风险，和所有 RL 系统一样：

"用 RL 管理团队最大的问题是容易被 hack——reward hacking。如果你只定'把所有 benchmark 做高'，所有人都会不择手段把分弄上去，弄完之后模型并没有变好。所以奖励的定义很重要，你需要很了解具体细节怎么运作，建立更多观测指标，尽可能不过拟合。"

为什么他觉得这套类比不是文字游戏？因为知识创造本身就是 RL 式的：人类在地球上几十万年，"经验"并没有直接给出知识——三百多年前没人知道地球是个球。知识来自提出猜想，再设计实验验证。训练神经网络也一样：观察到几十万个内核指标里有异常，直接观测并不给你新知识，你要提出猜想为什么会这样，再设计实验去验证。

"做科研是这个过程，管理团队也是这个过程，RL 好像是一个很本质的东西。我对 CEO 这个身份最新的理解就是：怎么去把握 RL、SFT 和 reward hacking 之间的平衡。"

十二、在自己的故事里面

过去一年，Kimi 在舆论的波峰波谷间来回震荡。心态怎么平衡？杨植麟的回答简单得近乎固执：

"做时间的朋友。你会有高点和低点，但重要的是你喜欢做这个事情，想把它做好——所以也不用想别的东西。很多复杂性都是人为强行加上去的，实际上并没有那么复杂。"

为什么是做 AI？这个问题他问过 Kimi 本身。

"Kimi 跟我说，AI 是'人类文明的放大器'。我觉得很有道理。从启蒙运动到现在，人类一直在找新的方法突破知识的边界，下一个突破边界的可能就得靠 AI——它是一个巨大的杠杆。今天你在任何前沿学科要花二三十年才能学到最前沿，AI 可能一夜之间就学会。AI 会成为一种 meta-science。"

它会摧毁人类文明吗？"风险你不能说不存在，但我们有很多事情可以去做——更安全的对齐、更好的社会机制。Kimi 跟我说的是：虽然有风险，但不能放弃这个事情，因为放弃了，就等于放弃了人类文明的上限。"

相比一年前，成功概率增大了还是减小了？

"增大了。因为你只要往上爬，成功概率都会变大——会有一些人不再继续爬了。"

恐惧掉下去吗？"肯定有恐惧。但更多要关注的是你当前这一步能做什么——想这个问题更重要。"走过弯路吗？"肯定有。组织的进化、公司的发展是动态的过程，任何中间点在某些时间是对的、某些时间是错的。这也是 Kimi 告诉我的——任何中间状态都有可能成为被批评的对象。重要的是两样东西：投入一些一定不变的，比如人才和技术的积累；然后针对反馈信号和环境变化去做调整。"

快问快答里的杨植麟：最喜欢的食物是拉面；必读的书就是讲了一整场的《The Beginning of Infinity》；影响 AI 进程最重要的论文——Backpropagation、Transformer、GPT-3，还有 ResNet（"泛化的基础"）、Adam，"当然现在还有 Muon"；基于当下认知最关键的一个 bet？

"泛化的 Agent——用 L4 做 L3。"

访谈的最后，主持人问他最近的顿悟是什么。他想了想说："不知道，我脑子已经糊了，我已经把一年的话都讲了——碳基生物的局限性。"

本文基于「张小珺商业访谈录」第 113 集《和杨植麟时隔1年的对话：K2、Agentic LLM、缸中之脑和"站在无限的开端"》的完整转录整理，清理了口语赘词并做了结构化编排，尽量保留嘉宾原话的语气。个别术语（如 SWE-bench、Keller Jordan、Moonlight）已按事实校订。完整内容请观看原视频。
原始发布：2025-08-27 · 视频观看：YouTube · Zhang Xiaojun Podcast