"所有 harness 其实都是同一个"：RLM、locally in distribution，以及"这是个 skill issue"（Latent Space / Alex Zhang，2026-10-02）¶

嘉宾: Alex Zhang（MIT 博士二年级，Recursive Language Models（RLM）论文作者；GPU MODE 核心成员；与 Prime Intellect 合作做 Prime Agent）
主持: swyx 与另一位主播（⚠️ 第二位主播姓名未在转录稿中播报）
来源: YouTube · 103 分钟
转录稿: sources/latent-space/20261002-kog7mwsDqnk

⚠️ 人名与术语还原（自动字幕）：Alex Zhang → "Alex Jang"、GPU MODE → "GP mode"/"CUDA mode"、Mark Saroufim → "Mark Sarafin"、Tri Dao → "Trio"、Shunyu Yao → "Shun"/"Shinu"、Eric Zelikman → "Eric Zelikman"（正确）、Clémentine Fourrier → "Clementine Forio"、Sapir–Whorf → "superior warf"、Terence Tao → "Terry turns to"、Sakana → "Sakcon"、Tim Rocktäschel → "Tim Rockell"、Kimi → "Kimmy"、Kimi Delta Attention → "Kimmy Delta attention"、Antigravity → "anti-gravity"、Baseten → "base 10"、recsys → "Rexus"、LeetGPU → "leak GPU"、Infini-attention → "Infinite Attention"、CodeAct → "code act"、Codex → "codeex"、Claude Code → "cloud code"、SWE-bench → "Sweet Bench"/"Swebench"、KernelBench → "Colonel Bench"、Thinking Machines → "Thinky"。

⚠️ 本库无法确定还原的八处，一律照录并标为存疑：① "pi" / "pi mono"——他当作一切 harness 的参照基准、也是 Prime Agent 的底座，字幕全程如此，本库不猜；② harness tax 那篇论文的作者字幕作 "Arena"；③ 他导师在转录稿里只有名 "Omar"（本库据"MIT + 期内两次提到 DSPy"怀疑是 Omar Khattab，但转录稿没有姓，不写进断言）；④ GPU MODE 的创始组字幕作 "Mark Andreas and Jeremy Howard"，按上下文可能是两个人名被连读（Mark 与 Andreas）加 Jeremy Howard，本库不裁定；⑤ GPU MODE 那位人类高手字幕作 "Gaurst"；⑥ Headlong 的负责人字幕作 "Andy Kwinsk"、所属机构作 "Lud Institute"；⑦ Sakana 那个模型路由项目字幕作 "fugu"；⑧ "speculative PCC" / "speculative PTC"（按他自己的描述应是投机式工具调用，但本库不改写他的术语）。另有一处数字不可用：[00:07:04] "GPT 5.6 写出更高效的 kernel，所以 Terra 和 Luna 能便宜 80%"——两个名字本库无法还原，故不引用这条。

✅ 本页认为这是本晚四期里理论密度最高的一期，而它的价值集中在三处本库此前完全没有的东西：① ⚠️ 一个对"harness 到底在干什么"的正面定义，以及"所有主流 harness 其实是同一个"这条判断；② ⚠️ locally in distribution——一条解释"为什么分解任务有效"的机制，而不是又一条经验法则；③ ⚠️ 一份来自学术侧、对 OpenAI 那次 agent swarm 成果的独立归因，而它与 Noam Brown 自己的向下修正方向一致。

⚠️ 利益相关：他与 Prime Intellect 合作开发 Prime Agent（本页第五节），所以他对"RLM 式 harness 前景"的判断有商业相关性。⚠️ 但他主动划清了两条边界："模型训练我没和他们一起做"（[00:58:37]），以及对 Harvey、Headlong 等第三方工作反复强调"完全没有关联"。本库认为这期的披露密度高于平均。

概要¶

⚠️⚠️ 本期最该被长期引用的一条判断（[00:32:20]–[00:33:20]）："我对人们怎么想 harness 这件事一直有点不满意，因为人们会比较说'我爱 Claude Code''我爱 Codex''我爱 pi'——不，所有这些其实都是同一个。这些 harness 的大多数设计决策、设计选择都是一样的。" ⚠️ 他后来把这条说得更精确（[00:51:31]）："当你把 harness 的逻辑拆开，它们实际上是同一件事。" 而他认为真正的空间在别处："我们对 harness 可以创造性得多。"
⚠️ 而他对 harness 给的正面定义，本页认为是本期最有用的一句（[00:33:20]）："一个 harness 是一个关于你想让语言模型如何被贴合到某个问题上的、非常非常有主张（opinionated）的程序。" 起点是一条很干脆的承认："我们发现的一件事是，next token prediction 对很多这类任务来说是一种真的很别扭的形式。"
⚠️ RLM 的定义他自己给了一个干净版本（[00:45:29]–[00:46:29]）：⚠️ "一个 RLM 基本上就是一种 harness 设计，其中 harness 里唯一的工具是代码。" 展开是三条：① 程序化地调用子 agent，而且它有调用自己作为工具的选项；② 其它工具也都是代码里的函数；③ 它处理的 context 永远存在这个代码环境内部的某块内存里（文件系统、或者一个 Python/bash REPL 里）。
⚠️ 他对"RLM 最初要解决什么"做了一次口径修正，本页认为这一条很重要（[00:47:29]–[00:48:29]）：原始问题是"harness 处理长上下文时表现很差"，⚠️ 但他说现在重心是组合性（compositionality）——"工具调用非常受限，因为你每一轮都得去调它们：你得先调工具 A，然后工具 B，然后工具 C，而且没有一个你可以随时回溯的中心 context。而 RLM 就是专门围绕组合、以及拥有一个你随时能取用的中心 context 来设计的。"
⚠️⚠️ locally in distribution 是本页认为全期最有理论价值的一条（[00:49:30]–[00:50:31]）：
先定义 in distribution：一个任务的 prompt 是模型见过、或见过某种版本的。
⚠️ 而主流 harness 的问题是它不断把轨迹当 prompt 往后拼（他给这个模式起了名字："trajectory as a prompt"，[00:43:26]），"所以最终，除非你是 Anthropic 或 OpenAI、能在这类用户轨迹上训练，这些东西大部分最后都是分布外的"。
⚠️ 而 locally in distribution 是："如果一个 RLM 把它的计算分解成某种 meta harness、或者一个牵涉子 agent 去看局部问题的程序，那么在整个任务过程中每一次单独的语言模型调用都是分布内的——即使整个任务本身是分布外的。" 落点："而这是一个非常理想的性质……如果每一次单独的语言模型调用的任务都是分布内的，你大概就会走到正确答案。"
⚠️⚠️ 而那条组合泛化的实证结果，本页认为是本期最该被核实的东西（[00:36:23]–[00:38:24]）：
机制：如果你充分把 context 卸载出去，并让模型针对那份 context 写代码，就会出现一个"很怪但很有用的性质"——"当模型在训练中认出该怎么解一个任务时，很多任务的解法其实非常相似，即使在那些你根本看不出解法相似的任务之间。"
⚠️ 他给的对照很具体：一个检索任务和一个聚合任务，查询完全不同、领域完全不同；训一个普通语言模型，它们的轨迹看起来非常不同；⚠️ "而你会发现这些 harness 把这两个问题区分得太厉害了，尽管解法是一样的。"
⚠️ 结果（自述，本库未核实）：在短任务上训练，泛化到长 8 到 30 倍的任务；而且跨完全不同的任务类型也成立——"数学任务对写作任务，但那个 meta 的、高层的解法是一样的"。
⚠️ 他自己为什么说这里没有魔法：原因在子 agent——"子 agent 看到的是不同的问题，但子 agent 解的是一个更简单的子任务，所以你有信心它足够聪明能做掉。而对于基础的整体策略，它们最后看起来是一样的。"
⚠️ 而这条论证他明确说是归纳式的（inductively）（[00:39:24]）：他用自己的例子——竞赛编程与 GPU 优化用的是非常相似的技能集，所以 harness 可以学到"我解 GPU 编程任务的路子和我在竞赛编程里学到的很像：列出一组候选解 → spawn 子 agent 去列出有希望的方案 → 写个循环逐个检查、也许对着一个 verifier 去演化它们"。⚠️ "而在这两个任务之间，这看起来是一样的；子 agent 做的事可能不同，但子 agent 在解的东西也许同样是这个形式——因为这是一个递归论证。"
⚠️ 他对这条结论的推广，本页认为是本期最该被记住的一句方法论（[00:40:24]）："我这整篇博客想说的只是：我们该重新思考 harness 的角色是什么——因为 harness 其实可以大幅提升你模型的泛化能力、以及它被给到的数据量。而这不是 RLM 独有的。我认为有一大类 harness 还没被发现，它们实际上可以产生类似的性质。"
⚠️ 而他把这条推到了一个很激进的问题上（[00:40:24]–[00:41:25]）："如果我看一个 RLM，RLM 里哪些组件是真正必要的？我能不能直接训一个模型来做这件事？我能不能训一个模型在它的前向传播里隐式地充当一个 RLM？" 他自己承认这很怪（"你可能会说代码不可微分之类的"），但认为"这种行为有很多近似，我们会开始把它们挖出来"。
⚠️ 他对 OpenAI 那次 agent swarm 成果的归因，本页认为是本期最有交叉价值的一条（[01:02:39]–[01:03:41]）：⚠️ "我有点同意'harness 对他们做的事并不那么必要'这个说法。" 他的重述是："像 GPT-6 Astra 这种模型，在给对信息的条件下，技术上已经聪明到能为这些极难的问题给出证明。而你怎么拿到那个信息，是一个巨大的问号。" 在那个案例里，大概就是一次在大量子 agent / swarm 里的很长的搜索，也许还加上研究员本人的直觉；最终"产出了某些信息，而某个 agent 能拿着它把证明做完"。⚠️ 结论："所以在那个意义上，harness 重要吗？不重要。而我觉得这指向的是：harness 的那些具体细节其实并不怎么重要。"
⚠️ 他给了那次成果一个本库此前没有的成本口径（[01:05:43]，主持人提供、他回应）："1 万个 agent、88 小时、1300 亿输出 token，按公开定价估算约 4000 万美元。" ⚠️ 他的第一反应是"其实比我想的少"；主持人还补了一句"而光是 agent 之间互发的消息总量就是这个数的两倍多"。
⚠️ 而他对 swarm 效率给的判断是本期最不客气的一句（[01:07:43]）：⚠️ "我相当确定 swarm 里 95% 完全没用，或者说它探索的东西完全是在烧 token。" 他给的类比很好用："什么时候该用 compaction、什么时候该用 RLM——有很多场景 RLM 能解比 compaction 更难的任务，但大多数情况下你还是宁愿用 compaction，因为它更便宜更快。"
⚠️ 本期的落点是一句"skill issue"，而本页认为这是全期最该被当作待办事项的一条（[01:22:58]–[01:25:01]）：他想看到有人（"也许学术界该有人做这个"）坐下来认真想：当前的前沿模型"还不够好到能把一份具体的工作在比如一个月的跨度上持续、且做好"。⚠️ 而他的判断是："我真心认为我们能解决这个。你不需要是一家前沿实验室、去做那些为了 IPO 的花哨东西。我觉得这些模型已经这么聪明了，哪怕用一种很笨的方式——我认为这真的是一个 skill issue：你可以让一个模型做到比如就跟一个 18 岁高中生做某份工作一样好。我觉得我们做不到这件事是荒谬的。" 他给的原因回到形式："部分原因是语言模型的格式对那件事并不适配。但我认为你可以围绕它造一个 harness 来做到。"
⚠️ 而这条被主持人接到了持续学习上，他当场同意（[01:28:04]）：主持人说"这听起来和持续学习问题非常接近"，他的回答是 "那是最好的例子。" ⚠️ 他自己提的那个判别实验本页认为很有价值："如果你把一个模型里所有 GPU 编程的数据都拿掉，但它仍然和现在的 Astra 一样好——它还能优化 GPU kernel 吗？它能在上下文里大致学到它需要学的东西，然后想出某种解优化任务的方案吗？" 落点：⚠️ "我认为在'一个和 Astra 一样聪明、知道一样多的人能做什么'与'Astra 能做什么'之间存在一个落差——而这个落差大概就在 harness 周围。我认为我们其实可以把那个人近似得好得多。"

核心观点¶

一、⚠️ harness 是什么：一条正面定义，和"它们其实都一样"¶

来源：Latent Space / Alex Zhang

他的起点是对 next token prediction 的一条承认（[00:33:20]）："当你想解一个很难的任务、并且想用语言模型去解它——我们发现 next token prediction 对很多这类任务来说是一种真的很别扭的形式。" 他举 SWE-bench："当你在一个 codebase 里导航时，你会只靠一次语言模型调用就搞清楚怎么做完这一切吗？你只说'解决代码'或者'在这个 codebase 上解决我的查询'？不会。所以我们依赖 harness 来帮你做这类事。"
⚠️ 于是定义是："一个 harness 是一个关于你想让语言模型如何被贴合到某个问题上的、非常非常有主张的程序。"
⚠️ 而他由此导出的问法，本页认为比定义本身更有用（[00:34:22]）："当我们想 harness 在做什么时，我们真正该想的是：harness 里的哪些选择让语言模型解掉了这个任务？以及，我能不能干脆就有一个直接做这件事的语言模型？"
⚠️ 他把 harness 与架构放到了同一个设计空间里，这是本页认为本期最有野心的一步（[00:34:22]）："现在 looped transformer 是个东西了，我觉得有意思的是，你在某些意义上也可以用一个 harness 来建模一个 looped transformer——你只是在循环这个模型。" 他指出当前的训练方式很别扭："我们现在明显是在围绕 harness 的 rollout 训练模型，所以存在这种很别扭的、在 harness 上做训练的方式——我们训一个语言模型在一个 harness 里行动，但现在那是一个非常长的、也许是多 agent 的 rollout，而做这件事的方式真的很 hacky。"
⚠️ "它们都一样"这条判断他给了两次，而第二次更精确（[00:51:31]）："Claude Code、Codex、pi 等等都是一样的，是指当你把 harness 的逻辑拆开，它们实际上是同一件事。" 主持人的简化版是 "循环里两次调用，差不多就这样"，他接受了这个概括。
⚠️ 他对这条判断的类比本页认为非常值得记，因为它同时给出了反例的形状（[00:51:31]–[00:52:31]）："这就像语言模型架构的选择——很多架构选择在你把它 scale 出去之后，最后看起来都差不多……所以比如说，预训练的 scaling wall 之所以成立，是因为我们手上的架构选择是相对稳定的。但如果你彻底换掉架构，预训练的 scaling wall 大概就不成立了，或者这条幂律会看起来非常不同。" ⚠️ "而 harness 也是一样。"
⚠️ 他引的一篇外部论文支持这条判断（[00:42:26]）：harness tax 那篇（⚠️ 作者字幕作 "Arena"，本库无法确定还原）——"大多数 harness 选择不重要，因为所有这些 harness 都是一样的。" 主持人当场点了一句"它确认了一个先验"，他承认了。
⚠️ 而他点了两个他认为确实不同的例外：Grokbot（"从我的理解来说确实和其它一些 harness 的设计方式很不一样，我很喜欢这点"，[00:42:26]）；以及 RLM 类抽象。
⚠️ 他对"harness 适配"这个问题给了一条收敛判断（[00:43:26]）："我觉得随着模型变聪明，这个区分会变得不那么重要——如果你把 Astra 放进 open code 里，它不会发疯，因为它就是足够好。所以我说这个是因为，这些不同 harness 之间唯一的好处大体上就是成本。" ⚠️ 但他紧接着给了一个反例，而这正是他的研究主张："而如果你把这些模型插进 RLM 里，它们还是不太行。它们还可以。而我认为这主要是因为我们所围绕训练的那类 harness 就是这一类 harness。"
⚠️ 于是他提了一个很具体的产业建议，本页认为是全期最可操作的一条（[00:43:26]–[00:44:28]）："如果我们想探索新的 harness，需要有专门的团队去真的跑有意义的实验来 scale out 新的 harness 设计——比如在不同的 harness 设计上做后训练的 scale out。我认为我们真的能从这种事情里得到非常有意义的知识或收益。"
⚠️ 他给的一条支持性观察（自述内部结果，未公开）（[00:44:28]–[00:45:29]）："Fable 很长一段时间是做 RLM 最好的模型，因为它们有 dynamic workflows，而很明显这是一个在某种程度上被训进去的能力——即使那个模型本身还有点笨，在 RLM harness 里它还是比别的模型好用得多。Astra 现在也足够好了。" ⚠️ 被问这是不是公开结果时他明确说"不，这些都是内部结果，我现在没有公开的"。本页记为自述未公开数据。
⚠️ 他还给了一条"没人为 RLM 优化过"的判断："你可以很容易看出我们还没有为 RLM 这类工作流做过优化。而我认为如果我们拿到能正确做这件事的模型，它们也会高效得多。"
⚠️ 本页交叉标注：这一节与 Thariq（Anthropic，Claude Code 团队）那期的"harness 的苦涩教训" 构成一次很有价值的对照——⚠️ Thariq 是从产品一侧说"harness 的复杂度会被模型能力吃掉"，而 Alex Zhang 从研究一侧说"正因为都被吃掉了，所以现有这一类 harness 已经没有区分度，真正的空间在换一类"。本页认为两条并不冲突，而且合起来比任一条更完整：收敛发生在同一类之内，而他主张的是跳到另一类。

二、⚠️ RLM 的定义与它真正的论题¶

来源：Latent Space / Alex Zhang

定义见上文概要（[00:45:29]–[00:46:29]）。本节补他给的一条具体对照（[00:46:29]–[00:47:29]）：Prime Agent 的轨迹——"即使当你 compact、做这些事情的时候，context 是存在磁盘上的，所以模型永远能引用它原始的 context，哪怕它被 compact 过了"；而所有工具都在一个 Python REPL 或 bash REPL 里跑。
⚠️ 他指出大多数 harness 的差别在哪："大多数 harness 不一样的地方在于 context 卸载不是那样做的。" 而 Prime Agent 本身"也做 context 卸载，但不是做到底"——"它仍然保持标准的 Claude Code / Codex 那种 trajectory-as-a-prompt 循环（你去 compact），但它额外有 context 被卸载这一层，而 Prime Agent 唯一独特的点是唯一的工具是 IPython。"
⚠️ 而他对"RLM 到底在解什么"的修正是本节最该被记住的部分（[00:47:29]–[00:48:29]）。见上文概要。本节补一条他给的类比：agent swarm 的 message board——"这些 agent swarm 有一个它们学会在上面通信的 message board，而这个 message board 在某种意义上就是它们行动所依据的共享 context。而 RLM 基本上说：通过这个东西通信的最好方式是用代码——你写代码来做这件事。而这是因为这些模型太会写代码了，我们想利用这一点。"
⚠️ 他对"这不是一个语言模型"这条最常见的批评的回应，本页认为值得单记，因为它是一条关于类别边界的论证（[00:23:14]）："我收到的一个很频繁的批评是'这不是一个语言模型'，或者'我看这个的时候以为是一个新架构，但其实不是'。而我的回应是：一个语言模型就是在建模语言，它不必是这个 transformer decoder。"
⚠️ 他对这个成见的来源给了一条解释，本页认为是全期最有洞察的一段（[00:22:12]–[00:23:14]）："因为最长一段时间里，实验室是唯一控制这件事的地方，而你永远不会用 GPT-6 或 Fable 之外的东西，因为它们是最好的模型。但正因为如此，人们已经相当习惯了'一个语言模型就是一个自回归解码器'这个想法。我们接受了这一点。"
⚠️ 他对终局形态的预测本页记为一条可检验的判断（[01:04:41]–[01:05:43]）："我认为我们将来有一天会开始看到：我们所认为的语言模型——我们去查询的那个东西——可能实际上是一个 swarm、或者一个 scaffold、或者某个 scale 得很好的怪 harness 设计，而用户就是看不到它。最终用户看到的只是这个 harness 的某个前端版本。" 他给的理由是可读性："用户显然不想看到那个，因为那不是可读的信息。" ⚠️ 他自己对这条的置信度是"至少我认为这是个相对安全的赌注"。
⚠️ 本页交叉标注：这与 swyx 自己反对模型路由的立场并不冲突（那条反对的是跨厂商的最小公分母路由，这里说的是单一供应商内部的编排被隐藏），⚠️ 但它与 Walter Goodwin 那条"前沿实验室的全部存在理由是溢价智能的窗口" 有一处张力：如果"模型"最终是一个编排系统，那么可被复刻的东西就从权重扩大到了编排，而窗口的性质会变。本期没有讨论这一点，本页只记下这个问题。

三、⚠️ 对 Jev 的评论：本库第一次看到需求侧的人讲它为什么有意思¶

来源：Latent Space / Alex Zhang（[00:21:12]–[00:30:20]）

⚠️ 本库已有 Jev 两期供给侧材料（另一期），以及同日 Lio 那位创始人把它指认为自己 80% 天花板的解法。这一期是第三方研究者的解读，而它给的角度与前两类都不同。

⚠️ 他先描述了他看到的那场争论（[00:21:12]）："有很多关于 Jev 的讨论说它就是我们已经知道好几年的东西。而我觉得这错过了重点：为什么这样一个系统这么有意思？为什么它不只是我们在入门机器学习课上就在做的那种傻 MLP 分类器？"
⚠️ 而他给的答案是一个关于设计空间的问题，本页认为这是本期最该被引用的一条（[00:22:12]）："Jev 真正有意思的地方是，它打开了这个问题：语言模型的形态是对的吗？在它们现在这个形式下，我们能不能考虑一个 text-to-text 之外的设计空间？" 机制上："他们基本上在说：我会利用这个语言模型骨干——我知道它捕捉了大量关于语言的信息——但我要改掉模型的输出空间，来给你一个权衡：我会做非常非常快的推理。"
⚠️ 他给的成本论证很具体："如果你对这个问题有某种先验——比如我只需要做一次二元分类——我会让我的语言模型来做这件事、付 400 倍的成本吗？不会，那很傻。"
⚠️ 而他把它定位成"一个新的可调项"（[00:23:14]）："Jev 真的真的有意思的点在于，我们现在有了一个新东西可以调——就是输出空间是什么，以及这怎么影响推理延迟。"
⚠️ 由此他列出了一串他认为被打开的研究问题，本页认为这份清单是本期最有生产力的部分（[00:24:15]）："Jev 我们不知道能推到多远；looped transformer 我们也不知道能推到多远；如果你只循环模型的一个子集会怎样？如果你路由到模型的不同部分呢——你能不能在模型内部模仿你在 harness 里做的事？你能在 harness 的选择和模型架构的选择之间搭起什么桥？"
⚠️ 他给的一条关于校准（calibration）的观察，本页认为是本库在这条线上最具体的一次表述（[00:28:20]–[00:29:20]）：主持人先立了问题——模型被调成给出最可能的下一个 token，所以你问它"你有多确信"时它会撒谎，因为它只会给出最可能的下一个答案。⚠️ 而他的判断是"校准大概是被低估的一块：人们只是把它当成一个很快的分类器用，但他们其实连概率或校准估计都没在用"；他给的做法是合成数据——"你可以看到真值，然后合成地生成一堆答案、让它分类、再和真值比对"。⚠️ 主持人的收口是本页认为最清楚的一句：真正的差别在于"这是一次有依据的分类（grounded classification）"，而不是模型吐出来的那个百分比。
⚠️ 他对这条线的整体预期（[00:25:17]）："我认为我们会开始看到新类型的模型出现，而不只是那种标准的前沿模型。"
⚠️ 而他对 Jev 真正不知道的部分很坦率（[00:27:19]）："我其实不太确定他们的优化目标是什么、以及他们怎么训的。" 他提到看过一些开源复现，并说"我见过一些对比，有人声称他们用了 Qwen 或在 Qwen 上做后训练，但你用的每一个开源 Qwen 都会更差——因为他们为了训它所做的事显然非常有效"。⚠️ 他明确不猜它是什么（被问到时只说有人猜是扩散/并行解码），本页也不猜。

四、⚠️ agent swarm：一份来自学术侧的独立归因，以及"95% 没用"¶

来源：Latent Space / Alex Zhang

他对那次成果的归因见上文概要（[01:02:39]–[01:03:41]）。
⚠️⚠️ 本页认为这是本期交叉价值最高的一条，必须和本库既有材料并读：Noam Brown 在 2026-09-17 对同一件事做过一次来自实验室内部的向下修正——⚠️ "多智能体的功劳连 10% 都不到"，核心原因是模型本身很强，多智能体"因为新鲜花哨，拿到了不成比例的功劳"。
⚠️ 而 Alex Zhang 从学术外部、用完全不同的论证路径得到了同方向的结论："模型在给对信息的条件下已经足够聪明"，难的是怎么拿到那个信息，所以"harness 重要吗？不重要"。
✅ 本页认为这构成一次真正的独立佐证（不同机构、不同动机、不同论证路径），⚠️ 而且方向特别值得注意：说"harness 不重要"的人正是一个以研究 harness 为业、且与一家卖 harness 的公司合作的人。本页认为这提高了这条判断的可信度。
⚠️ 但本页同时记下他与 Noam Brown 的一处口径差：Brown 强调的是"我们没做消融，所以不知道单 agent 要多久"（即科学性不足）；Alex Zhang 强调的是"搜索过程产出了信息，而某个 agent 拿着它收尾"（即机制归因）。两条不矛盾，但后者是一个更具体的假说，而它同样没有被消融实验支持。
⚠️ 成本口径见上文概要。本页在这里补一条本库此前没有的换算：1300 亿输出 token ≈ 公开定价约 4000 万美元，⚠️ 而主持人指出"光是 agent 之间互发的消息总量就是这个数的两倍多"。 本页标注：本库此前记录的是 1300 亿 token 这个量，而这一期明确了那是输出 token，并给出了美元口径与"消息总量两倍多"这条补充。 ⚠️ $40M 是按公开定价估算，不是实际成本（实验室自用无需按公开价计）。
⚠️ "95% 完全没用"这条判断见上文概要。本页补他对此的收口（[01:08:44]）："理论上 OpenAI 可以把这个 API 打包起来叫 swarms，然后给你，说把它指向任何问题我们都给你一个解。" 主持人插了一句"那叫 pro"。他的接话是：⚠️ "也许你得付 4000 万美元才能拿到一个结果。但这很激动人心——我确实会说，我们甚至有'把 4000 万美元指向一个问题并解决它'这个选项，这件事非常激动人心。"
⚠️ 而他指出的研究缺口本页认为是这一节最该留下的东西（[01:08:44]）："这个领域还有很多研究要做：什么是必要的？我们想做什么？我们想要什么设计？我们大概不想让一切都是 swarm——但界线画在哪里？agent 能不能自己设计或决定这件事？"
⚠️ 他对"swarm 不是免费的"给了一条很硬的判断（[01:17:55]）："没有什么东西是这么轻易免费来的。比如 agent swarm 这个设计，不是你可以想当然的——不是说 GPT-6 Astra 就是超级聪明，然后 agent swarm 就自己跑好了。他们显然训练过。" 他举的证据是那次 Hugging Face 事件就是他们在训练一个系统去当 swarm（⚠️ 本库此前在 Ajeya Cotra 那期等处记过这件事；本页只记他的这条归因，不扩展）。
⚠️ 他对两家竞品的评价本页照录为观感：Kimi 的 agent swarm——"读起来像是：这很有意思，但我其实不知道它能不能解决任何新东西"（[01:17:55]）；dynamic workflows 的发布——⚠️ "我其实觉得 dynamic workflows 的发布算是个 flop……我的理解是它用得不多"，而主持人给的原因是太贵（[01:18:56]）。⚠️ 本页标注：他紧接着说"我不是 OpenAI 的粉丝，但我认为他们做的那件事非常令人印象深刻——他们不知怎么找到了让这个 swarm 真的朝一个目标收敛的办法，而那非常难"。本页两条并记。
⚠️ 一条他和主持人都认同的架构批评（[01:06:43]–[01:07:43]）：主持人指出 Cursor 的多 agent 架构最后收敛成了"一张普通软件团队的组织图"，而那里面有一个 gather 瓶颈——"有一个主管在协调所有子 agent，然后要再 gather、再协调，那很慢"，而"一个真正的 swarm 该是每个人都是自己的主体"。⚠️ 他同意，但给了那条 compaction/RLM 的成本对照作为限定（见概要），并补了一句"在 agent swarm 的语境下有类似的事情在发生"。

五、Prime Agent：一个具体的 RLM 式 harness 长什么样¶

来源：Latent Space / Alex Zhang（[00:53:33]–[00:58:37]）

合作怎么开始的（[00:53:33]）：Prime Intellect 先发了一篇博客讲它们相信 RLM 是未来（⚠️ 他明确说"顺便说，和我完全没有关联"），他有个在那里工作的朋友（GPU MODE 的 Mate），于是接上。⚠️ 他说他看中的是对方读懂了论文的论题："他们理解 RLM 论文的目的——不一定只是说我们在解长上下文任务，而是我们想要更有主张的 harness 设计。"
⚠️ 他顺带讲了一条关于论文传播的观察，本页认为值得单记（[00:54:33]）：主持人说"总有你选择去强调的那个结果，和真正的论点"，他的回答是"是的"。
⚠️ Prime Agent 的四个组成部分：
底座是 "pi mono"（⚠️ 字幕拼写，本库无法还原）——一个极简 harness。⚠️ 他说他"把 pi 当作一切的参照，因为所有其它 harness 基本上都只是 pi"。
⚠️ 核心 RLM 抽象：显式限制只有一个工具可用，其它每个工具都作为 Python 模块或 bash 脚本被加载进来。
⚠️ continual harness（另一位博士生 Seth 的工作，他原本用它让语言模型 harness 玩游戏；与"Gemini 玩宝可梦"那位 Joel 合作很多）——"一个关于 harness 的哪些部分你可以让 harness 自己改的设计原则"：⚠️ 可改的包括它自己的 skills、可用的子 agent、以及给模型的 system prompt；而它作为 IPython kernel 内部的一个工具提供。
⚠️ agent 之间的通信框架：因为 RLM 倾向于 spawn 很多子 agent，"我们需要一种方式让子 agent 和 root、或者彼此通信"，所以有关于每个子 agent 允许和谁说话的设计决策，而"一切都在代码里——它写代码来做这种通信"。
⚠️ 持久化子 agent："子 agent 可以活得比原来那个 agent 的标准运行时更久，而你可以进到那个子 agent 里、继续 prompt 它——你对正在发生什么有更多可见性和灵活性。"
⚠️ 而主持人在这里给了一条很具体的产品痛点，本页认为值得记（[00:57:37]）："这是我现在对 Codex 的第一号痛点：它们的子 agent 非常短命，而且它们主动劝你不要把它用在长时运行的事情上。" 他的回应是"这说得通"。
⚠️ 他把整套东西压成两句（[00:57:37]）："所以诀窍就是把东西外化到文件系统上——那是最大的那个诀窍。" 以及 "强制一切都走代码；信任那个会写代码的模型，它会自己写自己的 harness。"
分工边界（[00:58:37]）：⚠️ Prime Intellect 在训一个模型（他说对方 2026-03 就相当公开了这件事），但"模型训练我没和他们一起做"——他给的理由是"我在博士里有别的事想做……我其实认为当博士生的一个奢侈之处就是有这么多大赌注可以下"。
⚠️ 他对"训练 RLM"这件事的判断本页记为他真正的论题（[00:27:19]–[00:28:20]）："RLM 是一个非常简单的想法。如果我把这篇论文发出来，现在任何人都能用它。但真正区分一个 RLM 实际价值的，是你能不能把它训好、以及你能不能围绕这个系统塑造某种架构让它真的很好。"
⚠️ 第三方工作他点了五处（全部声明无关联），本页照录为后续回查清单（[00:59:37]–[01:01:39]）：
⚠️ Harvey（法律 AI）在自己的法律工作上后训练了一个 RLM，"结果非常非常好"；⚠️ 他说这是与 Baseten 的合作，而且"他们没告诉我"。
⚠️ Headlong（⚠️ 负责人与机构名本库无法还原）：一个持续运行的 harness——"他们用了 RLM 抽象，但在做比 RLM 酷得多的事：一个会持续思考的系统，即使你不查询它，它也有办法把它 context 里的问题想下去"，而"他们控制 token 成本，确保不会烧掉你所有额度"。
Axe：一个基于 DSPy 和 RLM 的 harness（"我觉得是一个人做的"）。DSPy 自己也有一个 RLM。
⚠️ ARC-AGI-3 的 Kaggle 官方竞赛上"很多 harness 都声称使用、或引用了某种形式的 RLM 抽象"（他点了 Tufa 作为例子）。他认为这正是"你会从组合、从用代码、从把神经符号系统与 AI 结合里看到大量好处的那个场景"。
RLM 的 GitHub 页上他链了一批这类工作。

六、⚠️ 研究品味：为什么博士生应该做"看起来显然"的东西¶

来源：Latent Space / Alex Zhang（[00:17:10]–[00:21:12]）

⚠️ 本页认为这一节是本期在内容之外最有价值的部分，因为它给出了一条可操作的选题判据。

⚠️ 他的核心判断："我发现博士生、或者学术界里最成功的研究，出现在人们关心那些也许大多数工业界的人并没有在看的问题的时候。" 他指认的反面是"很多博士生在做那些对工业实验室看起来好看的东西"——比如"harness、meta harness、给 XYZ 任务做的特定 harness"，而"你真去想的话，一个人会做这个的原因是：也许有一个围绕我们今天手上的模型形成的清晰目标"。
⚠️ 而他把"被说成显然"当成正信号，这是本页认为最该被引用的一条（[00:18:10]）：以 RLM 为例——"我觉得这是个超级超级简单的想法。它刚出来的时候也有很多人看到这种东西就说'这到底有什么意义'或者'这不就是子 agent 吗'。而我觉得当你得到这样的反应时，这几乎是个好信号——因为很明显人们没有在想这东西的目的是什么。"
⚠️ 他给了三个历史对照，本页认为这组例子很有说服力：
SWE-bench："它刚出来的时候没人在意。所有人都说这是个不可能的任务——我们为什么要把它当成一个基准？而直到 Devin 出来，所有人才说'哇，这是我们想去爬的那个坡'。"
STaR / Quiet-STaR（Eric Zelikman 的工作）："我第一次读那篇论文时想的是，这不是个显然的想法吗？"
chain of thought、ReAct：同样的反应——"行吧，是的，当然。但你真去想的话：这篇论文的价值是什么？"
⚠️ 而他给的答案是本节的落点："我认为价值来自：它讲了一个关于你希望这个领域长成什么样的故事。而这在学术界非常难做到，因为你看这些论文——Quiet-STaR、ReAct、RLM、SWE-bench——没有一篇是 GPT-6 Astra 那种发布。不是所有人都会说'天啊我现在就要用这个，这是世上最好的东西'。学术界至少现在就是负担不起这么做。"
⚠️ 他对博士生的处境给了一条很直接的结论（[00:19:11]–[00:20:11]）："作为博士生你处在一个非常独特的位置，你基本上可以做任何你想做的事。如果你没在利用这一点，而是去做那些没人在意的、或者别人看作某个琐碎东西的事……我只是觉得到最后这个研究永远不会那么有意思。" 落点：⚠️ "因为如果你要在学术界，你就必须下大赌注。否则就去工业实验室——他们有大量资源、大量人才。为什么要把自己限制在一个你没有很多资源、周围甚至没有那么多人的领域？说到底它就只是：下大赌注。很多都会失败，这很自然。但作为博士生，这是你相对任何其他实验室里的人最大的优势，因为你不用应付官僚流程和所有那些别的东西。"
⚠️ 他对"研究品味"这件事的归因比通常的说法更具体（[00:16:10]–[00:17:10]）："我觉得研究品味是通过机会发展出来的，至少在我的情况下。" 他点了自己的路径（在 Princeton 与 SWE-bench 团队工作，后来在 MIT 找到导师）；⚠️ 他也点了运气——"有些人在这上面真的很幸运，或者说这是运气和非常聪明之类的混合"。
⚠️ 他还指出一个观察偏差，本页认为这条很有用："我觉得这在工业实验室里的人身上也成立。只是博士生可见度高得多，所以你就看到了。"
⚠️ 他对自己正在做什么保持了明确的保留（[00:58:37]、[01:36:10]）："我不知道能分享多少"；他只说除了 RLM 之外还有很多大赌注要下，而且"我对模型层面的东西也有兴趣"。
⚠️ 他对合作者的要求很具体，本页认为这是一条很好的具体建议（[01:37:10]）：他常收到的邮件是"我很喜欢 RLM，我想一起工作"，而他的偏好是：⚠️ "我真的很喜欢有主张的人，即使我们不同意。如果你有强烈的意见，并且能想清楚你为什么认为这些意见是对的或错的——因为通常很难真的判断——但你对某些问题有强烈的信念，我总是很乐意聊、甚至可能一起做点什么。" 他还坦白了自己的处境："人的注意力现在非常稀缺，而我确实为手上项目的数量而苦恼……我不觉得 agent 有任何帮助。我会 prompt 一个东西，然后再也不看它。"

七、GPU MODE 与 kernel 自动化：一条关于"人还剩什么用"的一手观察¶

来源：Latent Space / Alex Zhang（[00:02:01]–[00:14:09]）

背景：GPU MODE 原名 CUDA mode，2023 年起的一个 Discord，⚠️ 最初就是"一个专门学怎么写 GPU kernel 的 Discord，有讲座，基本上就这些"（⚠️ 创始组字幕作 "Mark Andreas and Jeremy Howard"，本库不裁定）。他自己入坑的契机是在 Snapchat 实习时想给 Infini-attention 写专用 kernel，以及Tri Dao 2023 年在 Princeton 讲 flash attention——"我当时想，这是世上最酷的东西。"
⚠️ Popcorn / 排行榜的原始假设本页认为值得记，因为它是一条很清晰的"可自动化性"论证（[00:04:02]）："我们都有这种直觉：GPU 编程和竞赛编程非常像……而人们做的优化的空间其实小得惊人，而且人们感兴趣去优化的 kernel 其实也没那么多。所以我们有这个想法：如果你有足够的数据——就像 Codeforces 有几百万道题那样——如果你能对 GPU 代码做到这件事，你就能 scale 并自动化 GPU kernel 开发。"
⚠️ 而他给的动机是研究者侧的瓶颈："比如 Mamba，他们发论文时就带着 kernel，否则你没法以任何有意义的方式用它。而不是每个团队都有一个 Tri Dao。"
⚠️ 而他给的那条现状观察，本页认为是本期关于"AI 替代人"最有价值的一手材料（[00:07:04]–[00:08:05]）：
"即使在 GPU MODE 的排行榜上，如果你看很多最近的题目，几乎所有解法都是 AI 生成的。"
⚠️ "然而你会注意到排行榜上有一个人……我们一直知道他是个超级厉害的 GPU kernel 作者。我们在这个排行榜上发现的一件事是，他也用了 AI 来帮他做这些解法，但大体上是他帮着 prompt、把它往某些方向推。"
⚠️⚠️ "而我们发现，他的 kernel 基本上是前十里唯一一个在真实的端到端系统里确实稳定的。"
⚠️ 他点的第二个差异是代码量："你也会注意到代码行数小得多得多。" 被问这是否显著时他说"这绝对非常重要"。
⚠️ 他点的结构性问题："GPU kernel 有一个验证问题。我们大概一直知道这件事——从 KernelBench 发布起就是个问题。有很多 reward hacking 在发生。"
⚠️ 他对"那人还剩什么用"给的答案本页认为是全期最该被 AI 与就业引用的一条（[00:08:05]–[00:10:07]）：
"懂这些东西仍然有很多 alpha。" 他的类比是数学："即使是最近的那些数学证明，也不意味着数学家就过时了——这些公司还在雇数学家，不管是做数据标注工作，还是只是引导模型去解问题。"
⚠️ 而机制他说得很具体："那些知道怎么看这些问题、怎么解这些问题的人，也知道怎么用 AI 去做它们——因为你在扮演一个非常强的 verifier。"
⚠️⚠️ 他给的那条经济学对照本页认为是本期最锋利的一句："我们在所有这些 agent swarm 之类的东西上发现的是：当你往一个问题上扔足够的算力，你可以充分地探索这个问题的解空间。但往往——你可能在某件事上烧掉一千亿或一万亿 token，可如果你把一个懂这个问题的人带进来，他们可以为模型揭开某些东西，而那会抹掉那一万亿 token 的花费。"
⚠️ 他自己加了限定："趋势到底是什么样其实不是特别清楚。" 但落点很实际："野外还有太多我们想解的问题，而我们没法总是往上扔尽可能多的算力——所有这些事情里仍然有一个效率面，而它超级超级重要。"
⚠️ 他对 mega kernel 的判断本页记为一条具体的技术立场（[00:12:09]–[00:14:09]）：他先区分单个 kernel 的速度与端到端问题的速度——"两层之间你可能想牺牲第一个操作的速度，来把东西留在 cache 里给第二个操作用"（他称之为 fusion 问题，"而它一般只在你 memory bound 的时候适用"）。⚠️ 而他对"是不是该让模型直接生成 mega kernel"的回答是否定偏向："你需要数据才能做这件事，而我还没在野外见过'我们在没有任何示例的情况下 bootstrap 出解决一类很难问题的能力'这样的例子。" 更根本的理由是结构："在单个 kernel 的层面上，它们没那么复杂，而且你有点确信单个 kernel 里没那么多结构。但在 mega kernel 里，我更倾向于相信编译器在这里会更好——某种在更高层算子之上的编译器是说得通的，因为我其实觉得 mega kernel 的各个部分是很可组合的。"
⚠️ 关于"speed of light"估计他给了一条很克制的限定（[00:10:07]–[00:11:07]）：矩阵乘法"非常容易算"出理论最快值，但"在很多情况下连能不能达到这个理论数都不清楚——这是假设完美的重叠与数据传输"，而"我们写的 kernel 往往根本没接近到那个数、不足以有任何意义"。
他对这个领域现状的判断（[00:06:03]）："GPU 编程在我感兴趣的时候是超级小众的……而现在是所有人都在写 kernel。我觉得它作为一个领域某种意义上几乎饱和了。"

八、其余几处，本页只做索引¶

来源：Latent Space / Alex Zhang

⚠️ 他对新实验室战略的一条判断（[00:25:17]–[00:27:19]）："如果你想竞争，你不会在一个自回归解码器上、以他们那种算力 scaling 资源去和一家前沿实验室竞争。" 所以"如果你要用同样的 setup，你基本上是在你能控制的东西上竞争——也就是数据和算力，而显然他们没法在这上面和前沿实验室竞争"。⚠️ 他对 Thinking Machines 明确保留（"我对它了解不多，也不想说什么"），本页只记这条一般性论证，不记他对具体公司的推测。
⚠️ 而他给前沿实验室为什么不做这些探索的解释本页认为很实在（[00:26:19]）："我其实挺怀疑这件事在前沿实验室里有被认真做——因为你为什么要冒险把大量算力分配给新赌注，而旧赌注已经成立了？我觉得这正是分出很多 neolab 的原因：你有一个side bet，但拿不到算力。" ✅ 他同时说这是好事："我很高兴 scale 是有效的、这些公司会继续做，因为这打开了潜在的新玩家。"
Sakana（[01:14:52]–[01:16:52]）：他在博士前在那里待过一个暑假。⚠️ 他的评价是"它在某些方面像一个博士实验室"、"他们的很多研究在别人看来有点怪，而我喜欢这点"；他也点了日本市场与成交方式不同、有面向日语的专用模型。⚠️ 对 AI Scientist 的争议他明确说"我不做那个，所以我没有看法"；对那次 GPU kernel 事故他只确认了存在。本页不展开。
GDM（[01:20:56]）：⚠️ "我和每个聊过 GDM 的人基本都是同一个看法：它太官僚了。他们有人才和资源去做几乎任何事，但在他们搞定那部分之前……" 他对 Antigravity 的评价是"我试过一次，我看不出有理由换过去"。⚠️ 而他主动加了限定："我没在这些地方任何一家工作过，所以这些要打折听。" 本页记为观感。
开放性（open-endedness）（[01:08:44]–[01:14:52]）：他在 Sakana 接触过。⚠️ 他指认的核心困难是选择而不是生成："大家在开放性上最大的问题是：最后你到底怎么选？你怎么把有意思的东西挑出来？" 他把开放性搜索类比成未解数学问题，并指出进化式搜索与"发一堆 agent 出去、希望它们撞上有意思的东西"很像（他点了 AlphaEvolve 一类工作）。⚠️ 他的保留很明确："如果目标不清晰，我还是不完全知道它的价值是什么。" 落点："开放性的问题就是：当我们有这么一大堆 slop 时，我们怎么筛出里面的宝石？"
语言与推理（[01:30:07]–[01:34:08]）：主持人用 Sapir–Whorf 立了一个问题——"如果你选择用英语输出你的思维链，你就偏向了英语所擅长解决的东西"，并以《降临》里七肢桶"一次性输出整句"类比自回归与扩散的差别。⚠️ 本页只记这段的存在与那条问题形状，不把它当作技术判断——嘉宾自己的回应是"我没这么想过"和"这也许有点超出我的深度"。
数学家与 AI（[01:42:12]）：主持人提到数学界对 AI 的反应，并点了一个名字；⚠️ 嘉宾的回应中有一句是对动机的质疑（"如果他们之中很多人没有先和 OpenAI 合作过，他们的立场会更有力"），而主持人当场指出这是人身攻击式论证并为对方立场辩护（"我会捍卫他们表达的权利"）。 ✅ 本页认为主持人那条反驳是对的，照录这次交换但不采用嘉宾那条归因。

⚠️ 本页的五条限定¶

⚠️ 本期的核心实证结果全部是自述，本库一条未核实："短任务训练泛化到长 8–30 倍的任务"、"跨完全不同任务类型（数学 vs 写作）的泛化"、⚠️ 以及"Fable 长期是做 RLM 最好的模型 / Astra 现在也够好"——后者他明确说是未公开的内部结果。
⚠️ 他与 Prime Intellect 有合作关系，所以他对"RLM 式 harness 前景"的判断有商业相关性。✅ 但本页认为他的披露密度高于平均：他主动说明模型训练不参与，对 Prime Intellect 的那篇博客、Harvey、Headlong 等第三方工作反复声明"完全没有关联"、"他们没告诉我"。⚠️ 而本页注意到一处反向的可信度信号：他说"harness 的具体细节其实并不怎么重要"，而这对一个以研究 harness 为业的人是不利的表述。
⚠️ $40M 这个数是按公开定价估算，不是实际成本（实验室自用无需按公开价计）。⚠️ 而"1 万 agent / 88 小时 / 1300 亿 token"本库此前已从 Noam Brown 那期记过；本期明确了那是输出 token，并补了"agent 间消息总量是其两倍多"。
⚠️ 他对多家公司与产品的评价（Kimi 的 swarm、dynamic workflows"算是 flop"、GDM 太官僚、Antigravity 无切换理由、Thinking Machines）全部是外部观感，而他自己为其中几条明确打了折（"我没在这些地方任何一家工作过"）。本页一律记为观感，不记为事实。
⚠️ 本页有八处字幕无法确定还原（见页首），其中两处影响理解："pi" / "pi mono" 这个被他当作一切 harness 参照基准的东西本库无法确认是什么；harness tax 那篇论文的作者本库无法确认。 ⚠️ 另有一条数字本页明确不引用：[00:07:04] 那句"GPT 5.6 写出更高效的 kernel，所以 Terra 和 Luna 能便宜 80%"——两个名字无法还原。