跳转至

swyx 谈 AI Engineer 大会、AGI 与前沿实验室战略（Latent Space × Matthew Berman，2026-07-10）

本库首次收录 swyx 作为被访者而非主播的完整立场表达。三条主线：推理专用芯片的赌注为何安全、pdoom 要挂在时间尺度上、以及他给应用层创业者的两字答案——"agent lab"。最后一段对"model-agnostic / 模型路由"的反向论证，与本库已收录的多位应用层 CEO 立场正面冲突，是本期最有价值的分歧点。

说话人映射（据补做分离的 speakers.md；转录稿本身无标签，此处认人属 wiki 层编辑判断）： 本期 swyx 是嘉宾，主持为 Matthew Berman：SPEAKER_00 = swyx（73.6%）、SPEAKER_01 = Matthew Berman（26.4%）。 依据：SPEAKER_00 的高纯度块是 swyx 本人的立论（[00:18:10]"I call this a sour lesson"、[00:23:16]"I am the AI layer for lawyers"式的 agent lab 定位，均 100%）； SPEAKER_01 为发问方（[00:11:04] 块内"…has been very hands-on deciding what models are publicly available… Like, do you…"）。 SPEAKER_01 的若干块纯度仅 54–67%，混有 swyx 的回答，引用时以内容为准。

概要

swyx 复盘 AI Engineer 大会的起源（他看到前端/云/数据工程都专业化成独立领域，判断 AI 必然重演，买下 AI.engineer 域名；Karpathy 背书后起势），并谈及大会的定位价值——让各前沿实验室在中立场地同台竞争，这是 dev day / Code with Claude 给不了的。随后进入芯片、AGI 时间线、对齐与创业建议。

自我定位：AIE 在 EA（有效利他）与 e/acc 之间"正中间"——要乐观但不要无约束的乐观，所以护栏、微调、eval 才重要；"让工程师在场、盯着、监控思维链，大概率是人类的正确路径"。

核心观点

推理专用芯片：不是要颠覆 NVIDIA

  • 对 Etched（本周出 stealth）、MatX 等新一代芯片的框定："推理这件事大到理所当然会有专用 ASIC"，不是要颠覆 NVIDIA；更准确的类比是"下一代 Cerebras、下一代 Groq"——后者十多年前起步、形态已成熟，新一代则专门针对 post-Transformer / post-ChatGPT 已知的那套 workload 优化（[00:03:00]–[00:04:00]）。
  • 对"押注架构不变"的风险，swyx 认为这是个相当好的赌注：ChatGPT / GPT-3.5 那套架构一路基本没变；且即使出现新模型，旧模型的存量 workload 也不会迁移——"一旦这东西能跑，它就能跑，别动它"（[00:04:00]）。

Fable 5 与"这一代 LLM 的终点"

  • 用感受给出判断：Fable 能干活时极其聪明，但也很慢，因此"不会拿它干所有事，只用在聪明问题上"；错误拒答（false refusal）仍频繁且恼人（[00:05:02]–[00:06:02]）。
  • 对"Anthropic 是因为算力受限才没铺开 Mythos/Fable"的传闻，swyx 认为不成立——路线图是早定的，Mythos 的限量发布是真的出于安全考虑，不是配给算力的阴谋（[00:06:02]–[00:07:02]）。主持人则坚持从配额消耗速度看确实存在带宽/算力约束。
  • 关键预测："我真心预期 Fable 就是这一代 LLM 的终点。"论证不是能力而是预算——"我想活在无限预算的世界里，但我没有的预算是时间"。若 20 万亿参数模型就是极限、没有 200 万亿、没有千万亿级，那么在可用性意义上这一代就到头了，必须换别的东西（thinking machines 那类、或 together AI 的 SSM，"whatever it is，我们还没有"）（[00:18:10]–[00:20:15]）。

pdoom 必须挂在时间尺度上

  • swyx 自称是 doomer，但坚持"pdoom 应该绑定时间线"：以智人约 5 万年（5 万–40 万年）的跨度看，他的 pdoom 接近 90%；10 年内近乎零，50 年约 5%（[00:12:05]–[00:15:08]）。
  • 论证："我们并不比之前存在过的任何物种更有权利继续存在。如果我们在孕育一种新生命形式，合理的预期是我们可能表现得不如它——人类文明对比树是怎样的？而这些东西的移动速度远快于我们。"
  • 对齐观："默认假设应该是对齐概率很低；如果我们要偏，就往安全的方向偏。"
  • 反对"我们恰好活在一切终结的那一刻"的近视——"那非常自我中心，好像你是主角。谁说你不是处在未来人眼中的史前时代？"（[00:15:08]–[00:16:09]）

LLM 能否递归自我改进 → 数据效率才是下一个问题

  • 明确回答否：LLM 确实使 RSI 成为可能（大会有 auto-research 专场），但递归是受限的——它多半只探索已被探索过的东西，离已知分布不远。真正的未知之未知、真正的世界模型，仍属研究领域（[00:16:09]–[00:17:10]）。
  • "数据效率是下一个问题"（明确点名呼应 Dwarkesh 的说法）：靠数万亿 token 才换到人类等价劳动，相比人类是极度低效的——人类量级在百万、上十亿就是个能干活的成年人。
  • 但他同时提出"酸涩的教训（sour lesson）"自我限制：每次拿人类类比机器，你多半会失败，机器的发展方式与人类根本不同。所以不必把 LLM 塞进人类的盒子——它可以是一种"异类的、更高效的学习方式"；只是"极度低效"本身是我们确知的纯负面项，值得改进。从 2000 个样本学一件事 → 20 个 → 2 个，才能真正走到持续学习、走出 pre-train/post-train 范式（该范式"现在大概正在撞某种上限"）（[00:17:10]–[00:19:14]）。

给应用层创业者：两个字，"agent lab"

  • 能力过剩（capability overhang）会长期存在——"AI engineer 就活在峰值能力与'把它部署到所有地方'之间的那片白色地带。模型研究越是在某个领域尖峰突进、而产品端分布越不均匀，工程师就越永远有活干"（[00:20:15]–[00:21:16]）。
  • 承认每一代模型都会吞掉一批自建的脚手架："我们时不时做次大扫除，这很正常……不该对代码有任何感情，说到底我们只是想更好地服务客户、更便宜更快更容易地干活。"
  • "agent lab" 的定义：不要挑解法，要挑问题——"我就做牙医的 AI 人 / 律师的 / 金融的 / 程序员的"，然后把每一波新能力叠进去做最后一公里。Sierra、Cognition、Cursor、Decagon、Harvey 都是各自领域的 agent lab（[00:21:16]–[00:23:16]）。
  • 对"这是不是在赌模型不会泛化"的追问，他的回答是赌的是反面："模型确实会泛化、有时会抹掉整个品类。但如果你是'律师的 AI 层'，老商业模式没了就没了，我用新的能力过剩再做一个。你要反对的是'能力过剩将来不再存在'——而我认为（能力过剩会一直存在）是个相当安全的赌注。"
  • 前沿实验室做不了的事："实验室不会有 200 个人专门跟高盛 on-call——'你们不用 GitHub，你们用的是 Bitbucket 开源那阵子分叉出来的某个奇怪玩意儿，懂了'。Claude 不会干这个。"（[00:23:16]–[00:24:17]）

对"model-agnostic / 模型路由"的反向论证 ⚠️

  • 主持人提出当下共识：token 预算压力下，model-agnostic 的 agent lab（Cursor、Cognition、Factory）正当其时，因为它们有动机把模型路由做好，而前沿实验室没有。
  • swyx 明确不接受："这是个合理的结论，但不代表我这么认为。这是当下大家因为这场辩论都在说的话。"
  • 他的论证：
  • 历史类比——云计算浪潮里 all-in AWS / all-in GCP 的公司，与"多云、用 Terraform 抽象一切"的公司，前者赢。
  • 核心机制——"如果你以路由为傲，你永远无法充分利用任何一个模型的完整能力，因为你没有 all-in 任何一个。这是成为所有模型的最小公分母、并完全错过全部能力的绝佳方式。"
  • 你也没有 all-in 一家、拥有整个栈所带来的规模经济。
  • 他的观察是"路由这事更像一句营销词"：真正顶尖的 agent 构建者谈的都是把一个模型的 prompt 面、优化面、tool use、缓存等等全部榨干——"把他们给你的一切都利用透，还是你只想停在表面、对一百个模型做 chat completion？哪个更可能作为 agent lab 胜出？"（[00:24:17]–[00:27:18]）
  • 补充事实：agent lab 从每家模型厂商都拿折扣，所以拿"打折的 Claude Code 公开定价"去比"Anthropic 给 agent lab 的价"是不对等的比较。

与本库其它观点的关系

  • "agent lab"= 本库反复出现的"垂直化应用层"论的最凝练表述，与 ElevenLabs / Legora 期的"垂直化 + model-agnostic + 窄模型"三件套高度一致。
  • ⚠️ 但在 model-agnostic 这一条上正面冲突：ElevenLabs 的 Mati、Legora 的 Max、Lovable 的 Anton 都把 model-agnostic / 多模型路由当作核心策略与护城河，swyx 则认为路由是"最小公分母陷阱"、是营销话术。这是本库目前应用层战略上最清晰的一处分歧，见 AI 的商业化与价值捕获。
  • "数据效率是下一个问题""持续学习""pre-train/post-train 撞上限"呼应 Dan Biderman 期的记忆/持续学习论述，以及 LLM 训练流程。
  • 推理 ASIC 的框定（"不是颠覆 NVIDIA，是推理太大了"）与 Reiner Pope（MatX）、Andrew Feldman（Cerebras） 互为印证，见 AI 基础设施。
  • "把人类类比机器多半会失败"（sour lesson）与 Danielle Perszyk 的认知科学路径构成张力：后者主张恰恰要从人类集体智能里取计算级目标。

事实性断言与预测（可验证）

  • Fable 是这一代 LLM 的终点；不会有 200 万亿 / 千万亿参数级的可用模型（预测，[00:19:14]）。
  • pdoom：10 年内近零，50 年约 5%，5 万年尺度约 90%（预测/个人估计，[00:14:08]–[00:15:08]）。
  • LLM 不足以导向递归自我改进意义上的 AGI；需要新范式（预测，[00:16:09]）。
  • OpenAI 向美国政府提供 5% 股权（当时为传闻，swyx 未证实来源，[00:07:02]–[00:09:03]）；他个人支持这类安排，并以新加坡淡马锡/GIC 持有本国关键企业为正面先例。
  • GPT-5.6 已发布公告但需等数周才能实际放出——政府近期在实质决定模型的可得性与时点（[00:11:04]）。