跳转至

Alex Zhang

  • 背景: MIT 博士二年级，Recursive Language Models（RLM）论文作者。此前在 Princeton 与 SWE-bench 团队工作（他说自己和 Michael Tang（现在 Anthropic）是那个实验室里的两个本科生；⚠️ 实验室负责人在转录稿里只有一个无法还原的拼写，本库不写），在 Snapchat 实习时因想给 Infini-attention 写专用 kernel 而入了 GPU 这条线，博士前在 Sakana 待过一个暑假。GPU MODE（原 CUDA mode）核心成员，参与过 KernelBench 与 Popcorn 排行榜。现与 Prime Intellect 合作开发 Prime Agent。
  • ⚠️ 导师在转录稿里只有名 "Omar"。本库据"MIT + 他在期内两次提到 DSPy"怀疑是 Omar Khattab，但转录稿没有姓，故不写进任何断言。
  • 首次收录: Latent Space，2026-10-02
  • 本库中的位置: ⚠️ 本库第一个以"harness 本身就是研究对象"为业的人。 本库此前关于 harness 的材料来自产品侧（Thariq / Claude Code、Ari Weinstein / OpenAI）、应用侧（Decagon、Vladimir Keil / Lio）或模型侧（Diogo Almeida / Jev）；⚠️ 而他把 harness 和模型架构放进了同一个设计空间，并主张"现有这一类 harness 已经没有区分度"。

⚠️ 利益相关：他与 Prime Intellect 合作做 Prime Agent，所以他对"RLM 式 harness 前景"的判断有商业相关性。✅ 但本页认为他的披露密度高于平均：他主动说明模型训练不参与，对 Prime Intellect 那篇讲 RLM 的博客、以及 Harvey、Headlong 等第三方工作反复声明"完全没有关联"。⚠️ 另有一处反向的可信度信号：他说"harness 的具体细节其实并不怎么重要"，而这对一个以研究 harness 为业的人是不利的表述。

立场与关注点

来源：Latent Space / RLM

一、⚠️ "所有主流 harness 其实是同一个"，以及 harness 的正面定义

  • ⚠️ 他最该被引用的一条（[00:32:20]）："人们会比较说'我爱 Claude Code''我爱 Codex''我爱 pi'——不，所有这些其实都是同一个。这些 harness 的大多数设计决策、设计选择都是一样的。" 更精确的版本（[00:51:31]）："当你把 harness 的逻辑拆开，它们实际上是同一件事。"
  • ⚠️ 而他给的正面定义是本页认为最有用的一句（[00:33:20]）："一个 harness 是一个关于你想让语言模型如何被贴合到某个问题上的、非常非常有主张（opinionated）的程序。" 起点是一条干脆的承认："next token prediction 对很多这类任务来说是一种真的很别扭的形式。"
  • ⚠️ 他由此导出的问法（[00:34:22]）："harness 里的哪些选择让语言模型解掉了这个任务？以及，我能不能干脆就有一个直接做这件事的语言模型？"
  • ⚠️ 他把 harness 与架构放进同一个设计空间（[00:34:22]、[00:51:31]）："现在 looped transformer 是个东西了……你在某些意义上也可以用一个 harness 来建模一个 looped transformer。" 而类比给出了反例的形状："预训练的 scaling wall 之所以成立，是因为我们手上的架构选择是相对稳定的。但如果你彻底换掉架构，这条幂律会看起来非常不同。而 harness 也是一样。"
  • ⚠️ 他引的外部支持（[00:42:26]）：harness tax 那篇论文（⚠️ 作者字幕作 "Arena"，本库无法还原）——"大多数 harness 选择不重要，因为所有这些 harness 都是一样的。" 他点的两个例外是 Grokbot 与 RLM 类抽象。
  • ⚠️ 而他真正的产业建议（[00:43:26]–[00:44:28]）："如果我们想探索新的 harness，需要有专门的团队去真的跑有意义的实验来 scale out 新的 harness 设计——比如在不同的 harness 设计上做后训练的 scale out。"
  • ⚠️ 本库交叉标注：这与 Thariq 的"harness 的苦涩教训" 并不冲突——Thariq 从产品侧说 harness 的复杂度会被模型能力吃掉；他从研究侧说正因为都被吃掉了，现有这一类 harness 已无区分度，真正的空间在跳到另一类。 详见 把 LLM 用在实践中。

二、⚠️ RLM 的定义，以及它真正的论题不是长上下文

  • ⚠️ 定义（[00:45:29]）："一个 RLM 基本上就是一种 harness 设计，其中 harness 里唯一的工具是代码。" 三条展开：程序化调用子 agent（含调用自己作为工具的选项）；其它工具都是代码里的函数；context 永远存在代码环境内部的某块内存里（文件系统、或 Python/bash REPL）。
  • ⚠️ 口径修正，本页认为这一条最该被记住（[00:47:29]）：原始问题是"harness 处理长上下文表现很差"，而现在重心是组合性——"工具调用非常受限，因为你每一轮都得去调它们：先调工具 A，然后 B，然后 C，而且没有一个你可以随时回溯的中心 context。RLM 就是专门围绕组合、以及拥有一个你随时能取用的中心 context 来设计的。"
  • ⚠️ 他对"这不是一个语言模型"这条批评的回应（[00:23:14]）："一个语言模型就是在建模语言，它不必是这个 transformer decoder。" 他对这个成见的来源给了一条很好的解释："因为最长一段时间里，实验室是唯一控制这件事的地方……正因为如此，人们已经相当习惯了'一个语言模型就是一个自回归解码器'这个想法。"
  • ⚠️ 他对终局形态的预测（自评"相对安全的赌注"）（[01:04:41]）："我们所认为的语言模型——我们去查询的那个东西——可能实际上是一个 swarm、或者一个 scaffold、或者某个 scale 得很好的怪 harness 设计，而用户就是看不到它。" 理由是可读性："用户显然不想看到那个，因为那不是可读的信息。"
  • ⚠️ 他对"RLM 的价值在哪"的自我定位（[00:27:19]）："RLM 是一个非常简单的想法……但真正区分一个 RLM 实际价值的，是你能不能把它训好、以及你能不能围绕这个系统塑造某种架构让它真的很好。"

三、⚠️⚠️ locally in distribution：本页认为他最重要的理论贡献

  • ⚠️ 定义（[00:49:30]–[00:50:31]）："如果一个 RLM 把它的计算分解成某种 meta harness、或者一个牵涉子 agent 去看局部问题的程序，那么在整个任务过程中每一次单独的语言模型调用都是分布内的——即使整个任务本身是分布外的。" 落点："如果每一次单独的语言模型调用的任务都是分布内的，你大概就会走到正确答案。"
  • ⚠️ 而它要对治的那个毛病他给了名字（[00:43:26]、[00:49:30]）："trajectory as a prompt"——主流 harness 不断把轨迹当 prompt 往后拼，"所以最终，除非你是 Anthropic 或 OpenAI、能在这类用户轨迹上训练，这些东西大部分最后都是分布外的"。
  • ⚠️ 组合泛化的实证结果（自述，本库未核实）（[00:36:23]–[00:38:24]）：在短任务上训练，泛化到长 8 到 30 倍的任务；而且跨完全不同的任务类型也成立（"数学任务对写作任务，但那个 meta 的、高层的解法是一样的"）。
  • ⚠️ 他给的机制："很多任务的解法其实非常相似，即使在那些你根本看不出解法相似的任务之间"；而"子 agent 看到的是不同的问题，但子 agent 解的是一个更简单的子任务，所以你有信心它足够聪明能做掉。而对于基础的整体策略，它们最后看起来是一样的。"
  • ⚠️ 他对现有 harness 的指控很具体："这些 harness 把这两个问题区分得太厉害了，尽管解法是一样的。"
  • ⚠️ 而这条论证是归纳式的（[00:39:24]）：他自己的例子是竞赛编程与 GPU 优化共用技能集，而"子 agent 在解的东西也许同样是这个形式——因为这是一个递归论证"。
  • ⚠️ 他把结论推广成一条方法论（[00:40:24]）："harness 其实可以大幅提升你模型的泛化能力、以及它被给到的数据量。而这不是 RLM 独有的。我认为有一大类 harness 还没被发现，它们实际上可以产生类似的性质。"
  • ⚠️ 而他推到的那个激进问题本页单记（[00:40:24]）："我能不能训一个模型在它的前向传播里隐式地充当一个 RLM？" 他自己承认这很怪（"你可能会说代码不可微分"），但认为"这种行为有很多近似，我们会开始把它们挖出来"。

四、⚠️ 对 agent swarm 的归因：一份来自学术侧的独立佐证

  • ⚠️ 他的判断（[01:02:39]）："我有点同意'harness 对他们做的事并不那么必要'这个说法。" 重述：模型"在给对信息的条件下"已经足够聪明能给出证明，而"你怎么拿到那个信息，是一个巨大的问号"；在那个案例里是一次在大量子 agent 里的很长搜索，最终"产出了某些信息，而某个 agent 能拿着它把证明做完"。⚠️ "所以 harness 重要吗？不重要。harness 的那些具体细节其实并不怎么重要。"
  • ⚠️⚠️ 本库标注：这与 Noam Brown 在 2026-09-17 的内部向下修正（"多智能体的功劳连 10% 都不到"）方向一致。✅ 本库记为一次真正的独立佐证（不同机构、不同动机、不同论证路径），⚠️ 而且特别值得注意：说"harness 不重要"的人正是一个以研究 harness 为业、且与一家卖 harness 的公司合作的人。
  • ⚠️ 但两人口径有差：Brown 强调"没做消融所以不知道单 agent 要多久"（科学性不足）；他强调"搜索产出信息、某个 agent 收尾"（机制归因）。后者是一个更具体的假说，而它同样没有被消融实验支持。
  • ⚠️ 成本口径（[01:05:43]）：1 万 agent、88 小时、1300 亿输出 token，按公开定价估约 4000 万美元（⚠️ 公开定价估算，非实际成本）；他的第一反应是"其实比我想的少"。
  • ⚠️ 他对 swarm 效率最不客气的一句（[01:07:43]）："我相当确定 swarm 里 95% 完全没用，或者说它探索的东西完全是在烧 token。" 他给的类比："有很多场景 RLM 能解比 compaction 更难的任务，但大多数情况下你还是宁愿用 compaction，因为它更便宜更快。"
  • ⚠️ 而他强调 swarm 不是免费的（[01:17:55]）："不是说 GPT-6 Astra 就是超级聪明，然后 agent swarm 就自己跑好了。他们显然训练过。"

五、⚠️ "这是个 skill issue"：他留下的那条待办

  • ⚠️ 问题陈述（[01:22:58]–[01:25:01]）：当前前沿模型"还不够好到能把一份具体的工作在比如一个月的跨度上持续、且做好"。
  • ⚠️ 而他的判断是这不需要前沿实验室："我真心认为我们能解决这个……我觉得这些模型已经这么聪明了，哪怕用一种很笨的方式——我认为这真的是一个 skill issue：你可以让一个模型做到比如就跟一个 18 岁高中生做某份工作一样好。我觉得我们做不到这件事是荒谬的。" 原因回到形式："部分原因是语言模型的格式对那件事并不适配。但我认为你可以围绕它造一个 harness 来做到。"
  • ⚠️ 他当场接受了"这就是持续学习问题"这个重述（[01:28:04]）：主持人说"这听起来和持续学习问题非常接近"，他答 "那是最好的例子。"
  • ⚠️ 他提的那个判别实验本库认为很有价值（[01:27:04]–[01:28:04]）："如果你把一个模型里所有 GPU 编程的数据都拿掉，但它仍然和现在的 Astra 一样好——它还能优化 GPU kernel 吗？" 落点："我认为在'一个和 Astra 一样聪明、知道一样多的人能做什么'与'Astra 能做什么'之间存在一个落差——而这个落差大概就在 harness 周围。我认为我们其实可以把那个人近似得好得多。"
  • ⚠️ 这条与能力过剩（capability overhang）的关系他自己确认了（[01:27:04]）：被问"这是不是关于能力过剩、即使暂停也还有很多影响可做"时，他答"在某种意义上是"，并给了具体形状："模型在编程和数学上好得不成比例。这是说我们可以把那些能力翻译到很多别的事情上。"

六、⚠️ 研究品味：一条可操作的选题判据

（[00:17:10]–[00:21:12]）

  • ⚠️ 核心判断："我发现博士生、或者学术界里最成功的研究，出现在人们关心那些也许大多数工业界的人并没有在看的问题的时候。"
  • ⚠️ 而他把"被说成显然"当成正信号，这是本页认为最该被引用的一条（[00:18:10]）："它刚出来的时候也有很多人说'这到底有什么意义'或者'这不就是子 agent 吗'。而我觉得当你得到这样的反应时，这几乎是个好信号——因为很明显人们没有在想这东西的目的是什么。"
  • 他给的三个历史对照：SWE-bench（"它刚出来时没人在意……直到 Devin 出来"）、STaR / Quiet-STaR（"我第一次读时想的是，这不是个显然的想法吗？"）、chain of thought 与 ReAct。
  • ⚠️ 他给的价值定义："价值来自：它讲了一个关于你希望这个领域长成什么样的故事。"
  • ⚠️ 结论（[00:20:11]）："如果你要在学术界，你就必须下大赌注。否则就去工业实验室——他们有大量资源、大量人才。为什么要把自己限制在一个你没有很多资源的领域？……很多都会失败，这很自然。但作为博士生，这是你相对任何其他实验室里的人最大的优势，因为你不用应付官僚流程。"
  • ⚠️ 他对"研究品味"的归因比通常说法更具体，也更诚实（[00:16:10]）："我觉得研究品味是通过机会发展出来的，至少在我的情况下"；他同时点了运气，并指出一个观察偏差——"我觉得这在工业实验室里的人身上也成立。只是博士生可见度高得多。"
  • ⚠️ 他对合作者的要求很具体（[01:37:10]）："我真的很喜欢有主张的人，即使我们不同意。如果你有强烈的意见，并且能想清楚你为什么认为这些意见是对的或错的……我总是很乐意聊。" 他也坦白了自己的处境："人的注意力现在非常稀缺……我不觉得 agent 有任何帮助。我会 prompt 一个东西，然后再也不看它。"

七、⚠️ kernel 自动化之后，人还剩什么用：一条一手观察

（[00:07:04]–[00:10:07]）本页认为这是他在 AI 与就业 这条线上最有价值的材料，因为它来自一个有实测排行榜的位置。

  • 现状："即使在 GPU MODE 的排行榜上，如果你看很多最近的题目，几乎所有解法都是 AI 生成的。"
  • ⚠️⚠️ 而那条关键观察：排行榜上一位长期的人类高手也用 AI，但主要是他在 prompt、把它往某些方向推——⚠️ "而我们发现，他的 kernel 基本上是前十里唯一一个在真实的端到端系统里确实稳定的。" 他点的第二个差异是代码行数小得多得多，并说"这绝对非常重要"。
  • 结构性问题："GPU kernel 有一个验证问题……有很多 reward hacking 在发生。"
  • ⚠️ 他对"人还剩什么用"的机制回答："那些知道怎么看这些问题、怎么解这些问题的人，也知道怎么用 AI 去做它们——因为你在扮演一个非常强的 verifier。"
  • ⚠️⚠️ 而那条经济学对照本页认为是他最锋利的一句："你可能在某件事上烧掉一千亿或一万亿 token，可如果你把一个懂这个问题的人带进来，他们可以为模型揭开某些东西，而那会抹掉那一万亿 token 的花费。" ⚠️ 他自己加了限定："趋势到底是什么样其实不是特别清楚。"

⚠️ 读他时该知道的

  • 他只有一期材料。 核心实证结果（8–30 倍长度泛化、跨任务类型泛化、"Fable 长期是做 RLM 最好的模型"）全部自述，其中最后一条他明确说是未公开的内部结果，本库一条未核实。
  • ⚠️ 他对多家公司与产品的评价全部是外部观感，而他自己为其中几条明确打了折（"我没在这些地方任何一家工作过"）：Kimi 的 agent swarm、dynamic workflows"算是 flop"、GDM"太官僚"、Antigravity"看不出有理由换过去"、Thinking Machines（他明确保留不评）。本库一律记为观感。
  • ⚠️ 他对概念边界很在意，而这影响怎么引用他：他反复区分"论文选择强调的结果"与"真正的论点"，并把 RLM 的论点明确从"长上下文"改口为"更有主张的 harness 设计"。引用他时应当用后者。

相关页面