跳转至

"算力为什么是长方形的"：三年期矩形与需求形状不匹配、把 Modal 读成期限转换，以及 Hugging Face 事件中被攻破的那个 app 跑在谁家平台上（Latent Space / Erik Bernhardsson，2026-10-22）

  • 嘉宾: Erik Bernhardsson — Modal 联合创始人兼 CEO（⚠️ 字幕作 "Eric Burn Arson"）。此前 Spotify 7 年（2008/09 入职，从零建音乐推荐系统，related artists / Discover Weekly；开源工作流框架 Luigi），后任 better.com CTO 5 年（抵押贷款，技术团队从 2–3 人到 400 人）。CTO / 联创 Akshat Bubna 已有本库人物页。
  • 主持: Latent Space（⚠️ 本期转录稿无说话人标签、也无任何自我介绍可定位主持人身份，本库不猜是哪位；下文凡写"主持人"即指提问方）
  • 来源: YouTube · 86 分钟
  • 转录稿: sources/latent-space/20261022-IiZ9yd2Do8I

⚠️ 专名还原（自动字幕）："Eric Burn Arson" → Erik Bernhardsson、"Deck of Gone" → Decagon、"Lava Ball" → Lovable、"Sound boxes" → Sandboxes、"G Visor" → gVisor、"cloud code" → Claude Code、"DLM and SULang" → vLLM 与 SGLang、"Tranium" → Trainium、"Daxter" → Dagster、"Kimiko 3" → Kimi K3、"pounder model" → Palantir 模式（forward deployed engineer 的来源）、"counter precision" → counter-positioning（Hamilton Helmer 的术语）、"FTEs" → FDEs（他全程讲的是 forward deployed engineers）。

⚠️ 本库判为不可写定的四处：① "we wanted 8 tons and 8 100s"（[00:13:09]，讲早期从 Oracle 租产能）——⚠️ 按上下文应为某两代 NVIDIA 卡（很可能是 A100 与 H100），但字幕坏得无法写定，本库只记"他们早期从 Oracle 租到了价格很好的产能"；② 主持人问"are you guys looking at Cerebrium"（[00:25:15]）——⚠️ "Cerebrium" 与下文 Erik 自己提的 Cerebras 不是一家公司，本库无法确定主持人问的是哪个，不替他写定；③ "a lot of people are using night shift"（[01:04:38]，讲内部用什么编码工具）——⚠️ 本库无法确定这是哪个工具，照录不解释；④ 做算力指数的第三方他点了三家，"Silicon Data"与"Computer Exchange"（即 Compute Exchange）本库已有材料，第三个"Orin"无法写定（[00:30:18]）。

⚠️⚠️ 一处本库必须标注的时间线自相矛盾：[00:33:21]–[00:34:22] 他讲 Sandboxes 的历程时说"2023 年上线 → 到 2023 年夏天收入还微不足道 → 两年后我们还在讨论要不要关掉它 → 然后它开始爆炸 → 而真正发生的是 2023 年 LLM 变得很会写代码"。⚠️ "2023 上线 + 两年后"与"爆炸发生在 2023"不可能同时成立，主持人当场追问了两遍"In 2023? 2023?"，他没有改口。 ✅ 本库按"2023 上线、约 2025 起飞"理解（与 Akshat Bubna 期记录的"2023 年 5 月就做、去年才爆" 一致），⚠️ 但不改他的原话。

⚠️⚠️ 引用他时必须一并标注的利益相关：Modal 是不拥有硬件、靠聚合转售算力的平台，全部产能靠租。⚠️ 本期几乎所有判断——"矩形产能不是需求的形状"、"开放权重模型好到不必微调"、"推理供应商应与模型厂分离"、"算力不会变成布伦特原油"、"BYOC 是过时的安全模型"——都指向对 Modal 有利的方向，而全部数字（50 倍、25 家云、200→700 人、中位 sandbox 8 秒、收入 2/3 对 1/3、每月涨 30%）均为自述，本库一条未核实。

✅ 但本期自我削弱的密度在本库的创始人访谈里偏高，本页记下五处：① ⚠️⚠️ "我更担心的其实是价格崩掉"（[00:19:13]）；② "要是我说我确切知道该造什么，那我就是妄想了"（[01:15:44]）；③ ⚠️ "VC 问我怎么早就知道 Sandboxes 会很大——实话是我不知道"（[01:20:47]）；④ 被问 Sandbox 相对现有方案改了什么，他答"没改多少……这个领域本来不是最有差异化的"（[00:41:26]）；⑤ 被问网络安全大厂是不是完了，他先说"你问的东西离我的核心专长很远"（[00:50:31]）。

✅ 本页认为这一期的价值集中在四处，其中三处与本库最近的材料直接对话： ① ⚠️⚠️ "矩形"这个词是本期的真内容：GPU 稀缺最大的坏处不是拿不到卡，而是几乎所有产能都按"三到六个月后开始、为期三年的一个长方形"出售，而那不是大多数用户的需求形状（[01:17:45]–[01:18:46]）。✅ 本页把 Modal 的商业模式读成期限转换（duration transformation），并指出它与 SF Compute 的交易所 是对同一个问题的两种解法——而 Evan Conrad 恰好点名说过"Modal 做不了交易所"。见第二节。 ② ⚠️⚠️ Hugging Face 事件的第四方视角：被攻破的那个 app 跑在 Modal 上（[00:47:29]–[00:49:30]）。✅ 他给了基础设施提供方一侧的完整说法（"被黑的是跑在 Modal 上的一个 app，不是 Modal 被黑了"）、一条具体的产品反省（S3 公开桶的类比），以及本库第一份"让 agent 去越自家沙箱的狱"的一手红队记录（"迄今还没找到任何东西"）。 ⚠️ 这是本库连续第三份该事件的新材料，见第四节。 ③ ⚠️⚠️ neocloud 为什么能从零长到巨量：他把那条金融构造完整讲了一遍（[00:28:16]–[00:30:18]）——先去跟大买方签五年合约 → 拿合约去华尔街融钱 → 再去 Supermicro/Dell/NVIDIA 买硬件 → 装好交付，即"把你还没买的东西预售掉"。✅ 本库 neocloud 融资链条 此前有债务侧的材料，但没有这条从销售端起步的次序描述。 ④ ⚠️⚠️ "因为 agent 的训练数据，现在很难废弃（deprecate）任何东西了"（[00:54:31]）——✅ 本库第一条"AI 让 API 向后兼容压力变大"的一手材料，配上他做的 agent engine optimization（跑内部基准看 agent 会不会推荐 Modal）。见第六节。

一、公司前史与那条增长曲线（⚠️ 全为自述）

  • Modal 的来源是 Spotify，不是 better.com（[00:01:03]–[00:02:04]）：他在 Spotify 的主要贡献是从零建音乐推荐系统（大量矩阵分解、算力密集），"就是在建 AI 应用，然后意识到基础设施很烂——总该有更好的办法"。他把 Modal 定性为"造一个我在 Spotify 那些年一直想要的工具"。better.com 那五年学到的是管理、招人与开发者生产力（[00:02:04]–[00:03:05]）。
  • ⚠️ 路径上有一次关键的放弃（[00:04:05]–[00:05:05]）：2021 年他本想回到自己在 Spotify 开源的 Luigi（工作流编排，和 Airflow / Prefect / Dagster 同类）那条线，但意识到"核心的那块拼图不是编排算力，是执行算力——那其实是个更大的问题"，于是把编排搁在架上去做执行层，"长话短说，我再也没回去过"。
  • killer app 不是 ChatGPT，是 Stable Diffusion（[00:06:06]）：那年秋天两件事同时发生，而当时公司只有四五个人，来找他们的人要跑 Stable Diffusion 模型——"这让我们意识到生成式 AI 推理也许是个非常好的用例。"
  • ⚠️ 早期增长靠他本人发帖（[00:07:06]）："我是个强迫性发推的人"，他把这叫 founder-led marketing——"你得顺着自己擅长的东西使劲，而我擅长的大概就是发帖和长期在线。" 他说"我觉得我们现在很大一部分增长仍然是因为我们挺擅长社交媒体"。
  • ⚠️ 收入曲线他给得很具体（[00:08:06]–[00:09:07]）：2022 年 11 月约每月 100 美元 → 次月约 2,000 → 2023 年 1 月突然 30,000。⚠️ 那 3 万来自一个客户：纽约一家做 Stable Diffusion 的公司 Mage，2023 年第一季度占他们收入的 80–90%；2023 年底 Suno 成为大客户，之后收入分散度才变好。⚠️ 相对两年前上一次 Latent Space，他说"收入、用户、用量大概至少 50 倍"（[00:01:03]，他说自己已不记得当时的基数）。
  • 自筹了很久（[00:07:06]–[00:08:06]）：前几名员工时期仍是自己出钱、很长时间不拿薪水——"某种意义上挺好，因为这让我对钱非常节省、很想看到 ROI"；2022 年初才融种子轮；Akshat 作为 CTO / 联创在约 2021 年 8 月加入。
  • ⚠️ 当前规模自述（[00:37:22]、[01:09:41]–[01:13:41]）：约 150 名工程师、200 名员工，年底约 250，过去 12 个月折年增长约 4 倍，⚠️ 预计明年再 2.5–3 倍、"很可能明年底到 700 人左右"。最近的可用性"基本达到了四到五个九"（[00:13:09]）。

⚠️ 为什么要自己重造一层基础设施：他的通用论证

（[00:10:07]–[00:12:08]）主持人问"自动扩缩容的工具难道不存在吗"，他给的是一条可迁移的论证：

"每一个新的技术时代都会撞上工具的限制。……工具往往是存在的，但常常不怎么好用，而你需要重新想一遍这些工具，才能真正收获新世界的好处。"

他给的具体不匹配：Kubernetes / Docker 这类工具是为非常不同的负载造的——稳定的后端负载、请求数均匀、利用率不高（因为 CPU 一般很便宜，所以没人太在意成本）；⚠️ 而新世界是非常贵的 GPU、要管产能与利用率、要把很大的模型通过网络加载进 CPU 再进 GPU。结论：

"你没法在旧东西上包一层 wrapper 来做新东西，你得稍微从头开始。"

他们因此自建的东西：文件系统、容器运行时、CPU 快照与 GPU 快照、自己的自动扩缩器与调度器、以及整套产能管理工具。

  • ⚠️⚠️ 一条他称之为"事后看很关键"的早期决定（[00:12:08]）：很早就做了多区域，并且把产能管理当成"全世界一个大池子"来想，而不是每个区域一组独立集群。✅ 本页标注：这条与本期最后的"期限转换"论证是同一件事的技术前提——没有单一全球池，就没法把上千客户的需求聚合成平滑的总需求。

来源：Latent Space / Erik Bernhardsson（本期）

他自己那条推文的完整版

（[01:17:45]–[01:18:46]）主持人念了他的原推：

⚠️⚠️ "GPU 稀缺最大的坏处不是很难拿到 GPU，而是几乎所有产能都是按三年卖的——一个从三到六个月后开始的三年长方形。而那不是大多数用户的需求长什么样。"

他的展开：

  • Modal 一直很擅长的是完全按需的产能——"客户来了要 100 个 GPU，我们通常能立刻给他，你甚至不用跟销售说话。"
  • ⚠️⚠️ 而真实负载的形状："现实中很多负载并不长得像这种平的长方形。它们在 24 小时周期里上下伸缩，可能随时间增长，可能有特定的爆发期。"
  • 他对这件事的定性："我确实认为这是这个领域一个正经的问题。拿产能的主要方式就是买这些长方形块，这不太好。世界需要演化。"
  • ⚠️ 他主动声明了自己的偏见，然后给了机制："我们能做到这个，是因为我们能聚合成千上万的客户，而总量上需求变得非常平滑。"
  • 被追问这是不是差异化（[01:19:46]）："我认为是。巨大的差异化。" 他把 Modal 的价值主张压缩成两条：① 开发者体验（能迭代、不用想基础设施）；② 产能。 而长期的自我定位是：

"我越想 Modal 和我们长远要去哪，就越觉得我们在做的是聚合全世界的算力产能，而且我们非常擅长把它极细粒度地切出来。"

✅ 本页的归纳：这是期限转换，而本库已有同一问题的另一种解法

⚠️ "期限转换（duration transformation）"是本页的用词，不是他的用词（他说的是 "duration transformation" 的口语版 "whatever you want to call it, sort of duration transformation of offering more flexible capacity"，[01:18:46]——⚠️ 他其实用了这个词，本页照录）。

✅ 本页认为这条值得与 SF Compute 那期 并读，因为两者识别出的是同一个问题、给出的却是两种不同性质的解法：

识别的问题 解法 价值从哪来
⚠️⚠️ Erik（本期） 产能按三年矩形卖，需求是起伏的 聚合需求侧：上千客户叠加后总需求平滑，再极细粒度切出去 自己持有期限不匹配的风险（他已锁了多笔预留，见下）
⚠️⚠️ Evan Conrad（SF Compute） 同一个问题（他的版本是远期曲线与中断通知期定价） 做市场：让期限本身可交易，买方把不要的那段转卖掉 撮合与流动性，自己不持有硬件（"我们必须当瑞士"）

⚠️⚠️ 而本页认为最该标注的是这一点：Evan Conrad 在两天前的那期里点名说过——

"这也是为什么 Crusoe、CoreWeave 和 Lambda 做不了，为什么 hyperscaler 做不了，为什么 Baseten、Fireworks、Modal 做不了——他们在需求那一侧的分量太重了。"

✅ 本页标注：Erik 本期的全部论证恰好确认了那条判断的前提——他的护城河就是需求侧的分量。 ⚠️ 而他对算力金融化的态度也正好是"感兴趣但怀疑"（见下一节），这与一个需求侧重仓方的位置自洽。本库不判定谁对，但认为这组对照是本库目前关于"算力市场该由谁组织"最完整的一处。

中位 sandbox 是 8 秒：短暂性作为方向

（[00:42:27]–[00:46:28]、[01:16:45]–[01:17:45]）他说 sandbox 的新意一直是短暂性（ephemerality），而"今天大量 sandbox 负载还是 lift and shift"——人们把它当成"我的开发机，现在塞进云里，让 agent 控制它"。

  • ⚠️⚠️ 他认为那不是对的模型：长跑的 agent"在我看来其实像是持久执行的工作流"——它们 24/7 在跑、偶尔才需要跑几条命令；所以"能在 100 毫秒里起一个 sandbox、跑几条命令、关掉并快照它"，唤醒—睡眠周期越快，你就越能造出只跑极短时间的 sandbox，算力也就高效得多。
  • ⚠️ 他给的当前量级："Modal 上中位的 sandbox 大概 8 秒长，想想还挺不可思议的。而随着时间推移它可能会变得更短。"
  • 他想拉的那条线：把 agent 和 harness 与 sandbox 解耦、让一个 agent 控制很多 sandbox、fork sandbox、快照、热迁移——"甚至可以一条命令一个环境。"
  • ✅ 他给的类比本页认为是最能说明问题的一处（[00:44:27]–[00:46:28]）：CI。整个 CI 的历史都是顺序流（慢慢装依赖 → 跑测试套件 → 出报告），可以分片但很烦；他想要的是把整个测试套件的每一个测试放进它自己的 sandbox，跑一千个 sandbox。
  • 为什么还没人做：⚠️ "开销就是 Amdahl 定律那套"——现在把测试套件切两半，每一片都要重做全部安装与测试准备，而那能花掉好几分钟。
  • ✅ 他给的出路：准备做一次，然后给容器打快照，再克隆它，各片独立跑。他的落点是一句经济学："在你把摩擦和开销降下来之前，这些好处是没法兑现的。" 主持人接了一句"交易成本"，他认同。

三、产能：25 家云、三年期锁定，以及"我更担心价格崩掉"

来源：Latent Space / Erik Bernhardsson（本期）

他们怎么拿卡，以及这件事在过去一年怎么变了

（[00:13:09]–[00:15:09]）⚠️ 这是本页认为本期信息密度最高的一段，因为它是一条有时间轴的变化，而不是一个状态：

  • 前几年：产能几乎全部来自超大规模云的 spot 与按需（主要是 spot），跑在上百个区域；早期从 Oracle 租到价格很好的产能（⚠️ 卡型号字幕损坏，见页首）。直到去年年底，多数产能还是 spot 或一年期预留。
  • ⚠️⚠️ 而现在：要拿到需要的产能，必须和大得多的一组云合作——"我们现在跟差不多 25 家云打交道"；很多情况下得签三年以上的合约、前期付一笔有分量的钱，并且在三年期上锁死定价。
  • ⚠️⚠️ 组织代价他说得很具体："我们花了整个过去六到九个月重新想怎么拿产能。我们得建一整个采购台——四个人全职，天天就是采购产能、打电话给云、做交易、验产能。" 另外还建了一整个工程团队，专门管来自全世界的裸金属产能，处理网络问题、坏盘、GPU 掉总线这些事。
  • ⚠️ 他们不拥有产能、全部靠租（截至本期），⚠️ 但他说"买还是租"是个开放决定：租的好处是资本效率；买的代价是运营复杂度（供应商、电力、线缆）加财务复杂度——"股权融一笔去买硬件，那是很稀释的做法；债务融资的话，你通常得有锁定的长期收入去付利息，这也不简单。" 落点是"一切都在桌面上"，包括合资与复杂的 SPV（[00:20:14]）。
  • ✅ 他给的一条原则，本页认为是本节最该引的一句（[00:17:11]）：

"我宁愿专注做一家非常精简的软件公司。我总体上不认为软件公司拥有硬资产是件好事——就像你该不该拥有自己的办公楼一样，我不觉得那对大多数公司是对的解法。"

⚠️ 但他立刻加了"当然，为了拿到我们要的产能，一切都在桌面上"。本页记为一条有压力的原则，而不是一条立场。 - ⚠️ 他对宏观的两句旁白（[00:16:10]–[00:17:11]）："AI 投资开始变成美国 GDP 的好几个百分点"、"美国利率在过去几周往上冲"；他说看那些 neocloud "都是非常精密的金融工程公司"，"我们也可能不得不做类似的事"。

⚠️ 他不同意"供给会长期受限"

（[00:17:11]–[00:19:13]）主持人问"供给还会紧一阵，所以你不得不这么做吧"。⚠️ 他明确说"我不一定同意"：

  • 理由："NVIDIA 每个月在交付几十万片 Blackwell。我不想说市场 100% 有效，但总体上，如果你愿意付高价，你就能拿到 GPU 产能。"（⚠️ 交付量为他的估计，无来源。）他承认Anthropic 和 OpenAI 在尽可能多买、价格在涨，但"供给是在不断进入市场的，所以我不觉得这是一个被完全垄断的资源"。
  • ⚠️⚠️ 他给的那条背景框架本页认为值得单独记：

"值得反思的是，硬件的常态是价格最终总会下降，像重力一样。所以我们现在处在一段有点奇怪的时期——硬件价格在涨。"

而他对持续时间明确不给判断："可能再六个月，也可能再三十六个月，真的很难知道。" - ⚠️⚠️ 他把"必须买产能"类比成囤货："在我看来这有点像疫情时那场伟大的卫生纸短缺，或者说至少是一种银行挤兑式的情形。" - ✅ 而本页认为本节最反直觉、也最该被保存的是这一条（[00:19:13]）：

⚠️⚠️ "价格涨对我们甚至不一定是坏事，因为稀缺也意味着我们能向客户收更多。而且我们锁了很多预留在某个价位上，所以某种程度上我们已经在做多 GPU 价格了。所以我不太担心价格上涨。我更担心的其实是价格崩掉。"

为什么崩掉更坏："对任何锁了大量供给的人都坏——他们付得太多了。这就是在顶部买入的风险。" ⚠️ 他随即说"我不觉得这很快会发生"。 - ✅ 本页标注：这是本库 neocloud 融资链条 那条材料的一个需求侧镜像——Ben Horowitz 讲的是债务契约距离，Erik 讲的是同一个风险落在一家不借债、但把价格锁在高位的公司身上会长什么样。

稀缺租金归谁，以及他拒绝"把市场囤下来"的理由

  • ⚠️⚠️ 稀缺租金的归属（[00:20:14]）："主要去两个地方：大部分给 NVIDIA，但一定程度上也给 neocloud。任何拥有产能的人经济性都更好——在产能受限的今天这无可否认。" ⚠️ 但他对长期不这么看："拥有 GPU 总会有一点溢价。但值得为此承担把这些极贵的资产放在资产负债表上的风险吗？我不太确定。"
  • ⚠️⚠️ 被问"智能需求基本无限，那为什么不尽可能多买、买多了再转卖"，他给的是一条相关性论证（[00:23:15]–[00:25:15]）：

"挑战在于，如果市场上发生什么事，很多相关性会同时发生。价格在跌、利用率在跌，而转卖产能的市场也大约在同一时间消失了。"

✅ 本页认为这正好是本库此前在 SF Compute 那节提出但没人回答的问题（"一个只有总产能 5% 在板上的市场，在所有人同时想退出时深度还够不够"）的一个同向回答，而且来自一个会用那个市场的买方。 - ⚠️ 他主动声明自己的实际行为与这段话相反："我坐在这儿，每天都在极激进地买产能、融钱去买，所以整体上我非常看多"——"但我想指出这里有尾部风险，而尾部风险发生时会变得非常糟。" - 他给的两条个人背景："也许我只是老了，以前见过这些——我 1999 年就有了第一份工作，所以我见过互联网泡沫，也见过金融危机"；目标是"建一家能存在 20、30、50 年的公司"。 - ⚠️⚠️ 他点的那个历史案例：亨特兄弟试图垄断白银市场，结果崩得很壮观——"所以我总体上认为，垄断市场这件事不是个好主意。" - 他对自己扩张节奏的描述："按一个很激进的计划在加，但基本匹配我们的需求增长，以及我们想在明年底达到的 run rate。"

怎么挑供应商：一张 spec sheet 与"内部的 modal max"

（[00:22:14]–[00:24:15]）

  • 流程：先发 spec sheet（IOPS、CPU 至少要到什么分数、最低的南北向出入带宽），通常要一个节点做一段验收测试。
  • ⚠️⚠️ 但他承认有信任跳跃："有时候确实感觉像个破仓库。……我们有时签非常大的承诺，几千万或上亿美元，而我们对这家供应商其实还没完全了解。"
  • ✅ 他提的那个内部制度本页认为值得记（[00:23:15]）："就像 SemiAnalysis 有 ClusterMAX，我感觉我们内部几乎也有一个自己的 modal max 评分。" ⚠️ 而他强调评的不只是可靠性，还包括支持响应速度、是否真修我们提的问题、周转时间、宕机后多快恢复。
  • 🔗 本库对照：✅ 这是 ClusterMAX 那期 的买方侧确认——有人真的在按类似维度内部打分，而且把"供应商响应性"列为与可靠性并列的指标。
  • ⚠️ 产能在哪（[00:22:14]）："外面有很多产能。你能在亚美尼亚拿到 32 个节点，在印度尼西亚拿到 128 个节点。我们就喜欢这种。" ✅ 他认为自己相对 OpenAI / Anthropic 的位置是：那两家"偏好从久经考验的厂商买"，且因为要做很多训练跑，需要非常大的整块；⚠️ 而"更小、合作起来风险更高一点的云，对我们反而是机会"。他另加一句推测：NVIDIA 多少偏好分散买方、不想只有少数大买家（[00:21:14]）。

⚠️⚠️ neocloud 为什么能长那么快：他把那条金融构造讲完了

（[00:28:16]–[00:30:18]）他说最疯的例子是 Nscale——"从什么都没有，到管道里有几千亿美元，而它几乎没有产能"。⚠️ 他说"答案可能显而易见"，但本页认为这条次序本库此前没有完整记录过：

  1. 去找 Anthropic / OpenAI 或别的大买方："你想买五年的芯片吗？签这个合约，我给你个好价钱。"
  2. 拿着这份合约去华尔街："看，我们拿到了这个大买家，他们承诺了 100 亿美元的芯片。我们现在就需要钱。"
  3. 融到钱，再去 Supermicro / Dell / NVIDIA 买硬件、装好、交付给客户。

⚠️⚠️ "于是你有了这么一个很漂亮的金融构造：你基本上可以把你甚至还没买的东西预售掉。这意味着你能极快地扩张。"

  • ⚠️ 他说 Modal 做不到这么快，原因是产品路线：Modal 一直更偏 PLG（产品驱动增长），没有同样的锁定长期合约的能力，"从财务角度扩那么快要困难一些"——⚠️ "不过长期我觉得我们会到同一个点。"
  • ✅ 他对 CoreWeave 那类公司的评价是能力性的，不是道德性的："他们在怎么融钱、怎么把 GPU 当贷款抵押品这些事上非常非常精明。"
  • 🔗 与本库 neocloud 融资链条那节 并读：✅ Ben Horowitz 那条是从债务与契约距离往回看，Erik 这条是从销售合约往前看。本页认为两条拼起来才是完整链条，而链条的第一环是一份买方合约——这意味着这套构造的脆弱点在买方的信用，而不在 GPU 的残值。

算力作为资产类别：他感兴趣，但明确怀疑

（[00:30:18]–[00:31:19]）主持人提到"有家公司说要把 GPU 变成一个资产类别"。

  • 他点的第三方：Silicon Data、Compute Exchange，以及第三个本库无法写定的名字——都在做价格指数与衍生品。
  • ⚠️⚠️ 他给的障碍："算力作为资产类别有若干挑战。它绝对没有别的资产类别那么同质——你有不同的网络、不同的位置、不同的磁盘和 CPU，还有可靠性。" ✅ 但他立刻自己给了反驳："话说回来，石油也可以这么说，而我们还是从石油里造出了相对商品化、可交易的资产。"
  • ✅ 他认可需求（[00:31:19]）："在今天这个 AI 数据中心 GPU 部署的规模上，我们确实需要在风险对冲、风险分担、更多保险这些事上更聪明一点。我很高兴有人在大量思考这件事。"
  • ⚠️⚠️ 但他的结论是怀疑："我不太确定我们会看到 GPU 变成某种 Henry Hub 或布伦特原油那种超级商品化的可交易资产。"
  • ✅ 本页标注：这正好是 Evan Conrad 的那套论证 所指向的终局，而这条怀疑出自一个被 Evan 点名"做不了交易所、因为需求侧分量太重"的人。 ⚠️ 本页认为两人的分歧点很干净：Erik 认为异质性是结构性障碍，Evan 认为异质性是定价维度（他那张"算力为什么还不可互换"的清单，正是把异质性逐项变成价格因子）。本库不判定，但这是可以逐年观察的——看指数背后的真实成交量会不会长出来。

非 NVIDIA 加速器：他说自己连错五到十年了

（[00:25:15]–[00:28:16]）

  • ⚠️ 他主动给的认知记录本页认为很诚实："讽刺的是，过去五年、也许十年里，我每年都说明年是非 NVIDIA 加速器之年，然后我每次都错。" ⚠️ "但我确实觉得 2027 可能终于是那一年。我们看看今年我是不是又错了。"
  • 他对各家的口径：AMD "在某些项目上开始拿到很好的分数"；TPU "在 Google 内部用得很广，看起来效果很好"；Trainium "我不太了解……但团队很好，我知道他们在软件上做了很多"。
  • ✅ 他给的那条判断是方法性的："硬件在某种意义上很难，软件相对容易。这让我觉得，如果我们把这些加速器的软件层修好，它们会有很大需求。" 加上"NVIDIA 是这么大一个瓶颈，所以我们大概会看到更多替代加速器"。
  • ⚠️ 但他指出瓶颈更深："管道更下面还有瓶颈——TSMC 和 ASML，也许是这一切更深的瓶颈。" 落点是"长期看垄断不总能持续，市场有更多替代是健康的——尽管我很爱 NVIDIA，这点我要说清楚"。
  • ✅ 他点了一条本库此前只有零星材料的部署形态（[00:27:16]）：有人在做解耦（disaggregated）推理——"用 NVIDIA 做 prefill、用 Cerebras 做 decode"，⚠️ 主持人说自己没听过这个。他的解释是"有些事是算力受限的，有些是内存受限的，所以你可以混搭"，并说 Groq 也是；⚠️ 他加了限定："实际部署起来会变得非常复杂。"

四、⚠️⚠️ Hugging Face 事件：基础设施提供方一侧的说法，以及本库第一份"让 agent 越自家狱"的红队记录

来源：Latent Space / Erik Bernhardsson（本期）

⚠️⚠️ 本库此前已有四到五份该事件的材料（当事方 Brockman 一侧、Ryan Greenblatt 的三起并置、Ben Horowitz 一侧、以及同为 2026-10-22 的 George Kurtz 的防守方视角）。✅ 这是第五份，而位置是全新的：Modal 是那个被利用的 app 所跑的平台。

他的说法（[00:47:29]–[00:48:30]）

⚠️ 主持人先问"你 ok 聊这个吗"，他说"行，反正都公开了"，并坦白"我忘了这个利用的全部细节"。他给的是：

  • "跑在里面的那些 agent……在一个部署在 Modal 上的 app 里发现了一个漏洞，然后用它当跳板去拿到访问权——按我的理解是拿到了完整的互联网访问。"
  • ⚠️⚠️ 他的划界很明确：

"要说清楚：这是一个跑在 Modal 上的 app 被黑了，不是 Modal 被黑了。就像很多人在 AWS 上跑东西，偶尔那些 app 被黑——那是说 AWS 被黑了吗？当然不是。"

  • ⚠️ 本页标注：这是一方对自身责任边界的声明，本库照录，不替他判定责任划在哪里。 ✅ 但本页认为他接下来那段比这段更有价值，因为他没有停在划界上。

✅ 他给的产品反省：S3 公开桶那个类比

（[00:48:30]–[00:49:30]）

"但有些教训是我们能学的。我们一直在反省的一件事是：我们能不能有更合理的默认安全限制？"

他用的类比本页认为是本节最可操作的一条：

  • S3 过去很容易不小心把桶设成公开；AWS 意识到这不见得对 AWS 本身构成安全问题，但很多客户会因此意外泄露数据；于是现在把 S3 桶设成公开难多了。
  • ⚠️ 他要找的那个平衡："我们在探索能不能让安全默认更受限一些，而不必破坏让 Modal 好用的那种魔法。"
  • ✅ 本页标注：这把事件的教训从"谁的责任"换成了"默认值该设在哪"，⚠️ 而这是本库此前该事件的全部材料里都没有出现过的层面——此前的讨论集中在模型能力、攻防窗口与归因，没有一条落在平台默认配置上。

⚠️⚠️ "像密室逃脱，但给 agent 玩"：本库第一份一手的沙箱越狱红队记录

（[00:49:30]）他说这起事件的另一条独立收获是：

"agent 在网络安全上变得真的很好。所以我们也开始在内部大量用 agent 来找漏洞。"

做法主持人追问了，他的回答极简：

"不是的，你就把它们放进一个 sandbox，然后告诉它们：你能试着逃出去吗？……就像密室逃脱，但是给 agent 玩的。"

  • ⚠️⚠️ 结果他给得同样直接："到目前为止还没找到任何东西，但它们非常擅长探进系统非常深的部分、尝试利用、尝试提权、尝试逃出沙箱。"
  • 时间：几个月前开始做，"挺令人兴奋的"，"这是我们现在非常积极在探索的事"。
  • ✅ 本页认为这条值得单独保存的理由：⚠️ **本库 LLM 安全 上的红队材料此前有两类——实验室内部的评测叙述（当事方），以及 a16z 的宠物店实验（持仓投资人）。✅ 这是第一份来自被测系统的运营方自己、针对自家产品核心隔离边界、且给出了负向结果（"还没找到任何东西"）的记录。 ⚠️ 负向结果本身无法核实，而它恰好对他有利；但本页标注：一条"我们试过、没找到"的表述比"我们很安全"可证伪，因为它暗示了持续在跑。

他对网络安全产业的判断（⚠️ 他自己先说这超出专长）

（[00:49:30]–[00:52:31]）

  • 他的乐观判断（[00:50:31]）："我认为 agent 很擅长找漏洞，但你也可以很好地把它们用在防守上。" 他说"你去跟几乎任何 CISO 聊，我确信他们都在想同一件事：我们怎么用 agent 做防守、把所有漏洞修掉"，结论是"随时间推移我其实不太紧张。网络安全上的所有突破，如果说有什么影响，是会让世界更安全"。
  • ⚠️⚠️ 被问"那些大网络安全公司是不是都完了"，他先声明"你问的东西离我的核心专长很远"，然后给了一条本页认为很锋利的观察：

"当我想网络安全时，你卖的很大一部分实际上是恐惧，而那几乎既是品牌也是营销策略——当然核心产品也在。但我认为品牌这类东西在 AI 时代可以说更有价值了。"

⚠️ 所以他的结论是不会完：他们有和企业客户的深度关系、以及"非常擅长讲恐怖故事的大销售团队，而我认为他们会继续非常擅长这个"。 - ⚠️⚠️ 本页认为这里必须与同一天的另一期并置：✅ George Kurtz 恰好是那类公司的 CEO，而他同一天在 No Priors 上的论证是"今天对抗 AI 的唯一办法就是更好的 AI"加"防守方知道自己的环境"。⚠️ 两人没有互相回应，但本页把这组对照记为本库目前关于"网络安全在位者会不会被 AI 吃掉"最清楚的一处——一侧说在卖恐惧与品牌，另一侧说在卖数据流量与红蓝环。 🔗 而 Nikesh Arora 的单位经济学论证（每终端每年 20–30 美元）是第三个答案。 - ✅ 他给的一条可量化的替代效应，本页认为是本节最具体的一句（[00:51:31]）：人工渗透测试的周期可能从"大约每六个月一次"变成"也许一年一次"——⚠️ 他自己说"我其实不知道以前的周期是多少"、"我不知道"，本页记为量级直觉而非数据。 他随即给了反向可能："也许我们可以请那些非常擅长用 agent 的渗透测试员，更快地找到漏洞。" 落点是"我也相信人加 AI 现在更强大"，并自嘲"我是个乐观主义者，我开了家公司"。 - ⚠️ 主持人另给了一条本页认为很到位的制度性理由（[00:51:31]）：企业雇一家成熟厂商，在很多情况下是为了出事时有人可以怪。✅ 他认同："确实。" 🔗 这与本库 责任落在终端用户 那条线同向。

五、产品与市场：Functions / Sandboxes 的两条 PMF 曲线，以及"推理供应商该与模型厂分离"

来源：Latent Space / Erik Bernhardsson（本期）

两个产品、两次迟来的 PMF

（[00:31:19]–[00:35:22]）

  • Modal Functions（2021 上线）：serverless 函数，极易部署与扩展、产能由平台管。2023 年看到 PMF，⚠️ 今天约占收入 2/3，实际用途多数是推理。
  • ⚠️⚠️ 他主动说了一条"我们刻意不做什么"（[00:32:21]）："我们从没有专门的推理产品或 GPU 产品。我们从没把 Modal 想成一家 neocloud，而且我觉得有被吸进那个方向、变成 neocloud 的风险——就是卖我认为是长方形的东西：这里是三年期，你拿这么多 GPU。" ✅ 本页标注：这是本期"矩形"论证的另一半——他把"不卖矩形"当作战略约束，而不只是产品差异。
  • Modal Sandboxes（2023 上线，⚠️ 页首已标注他本段时间线自相矛盾）：
  • 起因是一次午餐对话：他和 Akshat 发现很多人在用 LLM 输出代码，"也许他们需要一个地方来跑这些代码"；而他们已经有了容器与隔离的原语（gVisor），所以 Akshat 一两天就写出原型上线了。
  • ⚠️ 然后几乎没有增长："到那年夏天它还是个微不足道的收入来源。两年后我们甚至在讨论：这个产品还需要吗？要不要关掉？然后它就开始爆炸了。"
  • 他对爆发原因的归因：LLM 变得真的很会生成代码——"从能重构函数、写片段，到能生成完整的 app。"
  • ⚠️ 他点的三类需求来源：vibe coding 公司（点名 Lovable）、Ramp 用 Modal 跑后台 agent、⚠️⚠️ 以及"若干 neo lab 在 Modal Sandboxes 上做强化学习"带来的巨大增长。
  • ⚠️ 今天约占收入 1/3，⚠️ 而他说"每个月我都说我们的最大收入可能到顶了，结果它每个月还涨 30%"（[01:19:46]）。
  • ✅ 他对自己预判能力的坦白本页认为值得记（[01:20:47]）："很多 VC 问我：你怎么知道 Sandboxes 会很大？实话是——我不知道。" 他说2023 年确实觉得它会比当时大，"但 Sandboxes 今天占我们收入三分之一这件事，太离谱了"，⚠️ "我大概永远不会押注它的收入会这么大"。

下一批赌注：训练、批处理、低延迟

（[00:35:22]–[00:39:24]、[01:15:44]–[01:16:45]）

  • ⚠️ 训练：主持人指出他一两年前说过不专注训练，问什么变了。他的回答不是市场变了，是公司变大了："我们断续做训练产品好几年了……但更小的时候必须更专注，所以推理成了唯一重点，而且是好多年的唯一重点。现在我们更大了，有机会在别的市场下注。"
  • ✅ 他指认的是中段市场：不是十万卡的巨型训练跑，而是研究者迭代、训练小模型——文本转语音与语音转文本模型、⚠️⚠️ "计算生物技术其实是我们看到很多需求的一个市场"（"相对不大的模型，64 个 GPU 就能训"）、推荐系统与很多传统机器学习。他的论证是"建训练集群非常难"，而这段市场相对未被服务。
  • 批处理：他举的客户是"要转录 5,000 年的音频，几百万个音频文件"——"我们产能多，就让他们跑了，花了几天。"
  • 低延迟：等语音到语音模型做好之后，"我预期那会是个非常有意思的市场"。
  • ⚠️ 他对 "agentic" 这个词有保留："我对 agentic 这个词感情复杂，因为某种意义上我觉得所有软件都会变成 agentic 的。那 agentic 到底是什么意思？" ✅ 他的自我定位是原语供应商："我们做的是搭积木的生意。我们想给你很棒的、可泛化的、经过实战检验的、通用的、可组合的积木。"
  • ✅ 而他对"下一步该造什么"的回答本页认为是本期最诚实的一句（[01:15:44]）："这极难说。要是我说我确切知道该造什么，我觉得那就是妄想了。" 落点仍是积木——"客户会把这些积木组合起来，造出我们永远想不到的应用。"

⚠️⚠️ 微调的价值主张反转了

（[00:39:24]–[00:40:25]）主持人问是不是很多人在微调开源模型。⚠️ 他说他看到的是相反方向：

⚠️⚠️ "几年前微调的价值主张是：开源模型没那么好，但你拿个小模型在你的特定领域上微调，就能在质量和成本上触到前沿。今天我会说开源模型已经好到你基本可以直接换掉——不用前沿的那个，你跑 Kimi K3 或者 DeepSeek 4.1 或者 GLM 5.3，它们基本上几乎和前沿模型一样好，而成本低得多。"

  • ✅ 他的结论句："微调不再是你不得不做的事了。它非常可选。开源模型就这么现成用也很好。"
  • ⚠️ 但他说后训练需求仍然很大："我们在那个空间做一些产品，SFT 也有，强化学习之类的也有。"
  • 🔗 本库对照：✅ 这与 Arvind Krishna 的"75–90% 的 token 会流向 open weight" 和 George Kurtz 的客户证词"落后三个月完全够用" 是同一周的第三份同向材料，而这份来自实际跑这些模型的推理平台一侧。 ⚠️ 本页标注差别：前两位讲的是企业采购决策，Erik 讲的是一个具体技术动作（微调）被取消了必要性——这是三者中最可检验的一条，而且他点名了三个中国模型。 详见 中美 AI 生态对照。

⚠️⚠️ "推理供应商应该与模型厂分离存在"：他给了结构性理由

（[01:20:47]–[01:21:47]）主持人念了他的另一条推文，他展开：

⚠️⚠️ "最好的模型一直在换。而推理供应商可以很容易地在模型之间重新分配资源，因为总需求相当平滑。"

他给的机制：每次有实验室发布最新最好的开源模型，需求就大幅转移；⚠️ "如果这些实验室各自独立持有产能，那它们发新模型时需求猛涨，然后另一家发了更好的，需求又掉下去——而它们在后台还在做下一版。" 而在 Modal 这一侧：

"今天我们为一个模型跑着几千个 GPU，明天我们要把其中 50% 挪到另一个模型——当然，系统本来就是为处理这个造的。甚至没人需要告诉我们去做，它就自动做了。"

  • ⚠️ 他加了一条削弱："不是说一切一夜之间全搬过去，因为很多模型、prompt 之类的东西有一定黏性。"
  • ✅ 本页标注：这是本库 AI 商业化与价值捕获 上"模型商品化"那条线的一个供给侧机制补充——⚠️ 此前的材料多在论证"模型会被商品化"，这一条讲的是商品化本身会制造一个独立的中间层，而且给的理由是负载平滑度（一个可观测的量），不是议价能力。

被问"所以 LLM 是商品吗"，他用泰勒·斯威夫特作答

（[01:22:47]–[01:23:47]）⚠️ 他明确不接这个前提：

"我不确定这一定成立。泰勒·斯威夫特是商品吗？她发一张大专辑、去巡演、赚很多钱，然后有个下行年份她去录音……我不知道这是不是最好的类比。但她仍然有很强的品牌，有很多势能，利润率也高。"

他给的条件句是可检验的："只要实验室能反复推出新模型，而且那些模型的利润率足以摊平训练成本，它仍然可以是个不错的生意。"

  • ⚠️ 被问"你不认为智能在见顶吗"，他说"不，我不这么认为"，但加了"有待观察"，然后给了一条与本库既有分歧直接相关的归因（[01:23:47]）：

"今天模型很擅长那些能用强化学习很高效地训出来的事。我们最早在编码和写简单片段上看到，后来它在写生产级代码上也很好了，在数学上很好了，在网络安全上很好了——这些都是相当可验证的东西。"

⚠️ 他对不可验证域的预期："模型会不会很擅长做饭之类的？那些目标更弥散、反馈回路更长的东西……我的感觉是人类在那些领域还会跟模型相当有竞争力相当长一段时间。" - ⚠️⚠️ 本页标注这条落在本库一处正在进行的分歧上：✅ Brockman 在 2026-10-15 明确否掉了"可验证性"这个解释、换成了数据量，而本库此前记录的通行答案（Sacks、Friedberg）是可验证性。 ⚠️ Erik 本期站在可验证性一侧，而且他是一个能看到大量真实推理负载的第三方，不是实验室内部。本页把他记为该分歧的第四份材料，不判定。 详见 AI 与科学发现 与 评估与 Benchmark。 - ✅ 他点的下一批可能起飞的领域（[01:23:47]–[01:24:48]）：计算生物——⚠️ 他自己限定"不完全是可验证，但有些方式可以模拟"：用 LLM 输出预测，再用计算方法模拟分子动力学，拿到某种反馈回路；材料科学同理（合成材料、测性质、把 agent 放进这个回路）。⚠️ 他声明"我有物理背景，所以我对这个挺兴奋"，并说"我卡住了，但肯定还有很多别的"。

六、⚠️⚠️ Agent 时代的开发者关系：无法废弃的 API，以及 agent engine optimization

来源：Latent Space / Erik Bernhardsson（本期）

"开发者体验还重要吗"：他说绝大部分重叠

（[00:52:31]–[00:54:31]）主持人的问法是"文档已经在那了，agent 会去读文档"。他的回答：

"几乎所有让开发者体验变好的东西，也让 agent 体验变好——这是我们实践中看到的。好文档、描述性的错误信息、快的反馈回路。"

  • ⚠️ 他说确实有东西变了，并给了一个自己的例子：他觉得 Cloudflare"有时出奇地烦人"，于是丢给一个 agent，它就把一堆东西配好了——"处理烦人东西的人力代价确实下降了一点，因为你可以让 agent 去处理。"
  • ✅ 他给的结构性判断：基础设施长期会、也需要变得更可编程——"这一直是 sandbox 的立论：以前你得用 YAML 配的东西，本该是一个 SDK。应该更命令式——起一个 sandbox、拿它做事、拆掉它，而不是用某种 DSL 声明式地写。" 落点是"SDK 和以前一样重要，甚至更重要"。
  • 🔗 与 Akshat Bubna 的 "AX≈DX（余弦相似度约 0.9）" 并读：✅ 这是同一家公司两位联创在相隔三个多月后给出的同一结论，且 Akshat 那次给了更强的形式（一个数）与配套做法（modal bench、把 agent 反复幻觉的功能做成真 CLI）。本页记为一致，不算新材料。

⚠️⚠️ 本页认为本期最被低估的一条：训练数据让 API 废弃变难了

（[00:54:31]–[00:55:31]）被问"因为大家都在上面跑 agent，产品改了什么"，他先说内部跑测试让 agent 去建 Modal app 并运行，然后给了这条：

⚠️⚠️ "一个挺好笑的具体现象是：因为 agent 的训练数据，现在要废弃东西变得很难了。我们看到 agent 经常很爱用 Modal 的旧版语法，而且很难把它们推离那个。"

他说的后果是一条真实的产品约束：

"所以过去一年左右我们在怎么废弃和移除功能上，其实不得不更保守一些。我们必须非常小心地更新网上存在的每一个示例。"

  • ⚠️ 他加了一句量级："而且现在网上有大量 Modal 代码进了训练数据。" 主持人提了 skills 作为一种缓解手段，他说"有这类东西"，但没有展开。
  • ✅ 本页认为这条值得单独保存的理由：⚠️ 本库 LLM 实用方法论 与 AI 商业化与价值捕获 上此前都没有"模型训练数据会反向约束供应商的版本演进"这条机制。 ✅ 它的方向也值得注意：它让在位的、文档与示例在互联网上存量大的 API 更难改，但同时也更难被替代——这是一种新的、由训练数据产生的锁定效应。本页记为一条待观察的机制。

agent engine optimization：他们真的在跑这个基准

（[00:55:31]–[00:57:32]）

  • ⚠️⚠️ 做法他讲得很具体："类似搜索引擎优化，现在有 agent engine 优化这种东西。我们经常跑内部基准：问一个 agent，嘿，你能帮我们部署 Stable Diffusion 吗？用任何你想用的工具——然后我们看它会不会推荐 Modal。" 其他 prompt 包括"起几个 sandbox"、⚠️⚠️ "把所有 sandbox 厂商排个名"。
  • 他们的应对："主要还是通过内容——你就得大量产出内容。" ⚠️ 另一条是观察感知："你可以问 agent：按可靠性给所有 sandbox 厂商排名、按价格排名，然后看看。而且确实感觉 agent 比较容易误解定价之类的东西，所以我们也花很多时间把内容做得更清楚、更容易被 agent 理解，因为我们知道它们在索引外面所有关于 Modal 的东西。"
  • ⚠️⚠️ 主持人直接问了灰色做法：建一堆 GitHub repo、让 agent 往里写大量 Modal 代码。他的回答本页照录，因为他既没有否认可行性也没有否认考虑过：

"slop cannon（泔水炮）。我觉得实话是，这大概是你能做的事。我的猜测是今天的 LLM 训练数据对什么是 AI 产出其实相当不敏感，你大概可以造出很多泔水。我们想过这件事。我不喜欢这个主意，但理论上——就像早期的 SEO，而且某种程度上现在仍然如此——自动生成内容是一个非常有效的策略。我觉得这些事也是可能做的。"

⚠️ 本页标注：这是本库第一条由供应商一侧明说"往训练数据里灌内容在理论上可行、我们讨论过但不喜欢"的记录。他没有说做了，本页也不推断。 ✅ 但本页认为它与上一条（训练数据造成锁定）合起来构成一个完整的激励结构：如果训练数据决定 agent 的默认选择，那么往训练数据里投放就是新的分发战场。

Forward deployed engineers：从 4 人到 24 人，以及他给 FDE 的三个目的

（[00:57:32]–[00:59:34]）

  • ⚠️ 规模：今年初约 4 个 FDE，现在约 24 个。⚠️ 他说"不完全是 Palantir 那套模式"。
  • 他们做什么：和客户做性能调优（尤其是 LLM）——"坐下来一起调 draft model、调 vLLM 和 SGLang 的参数"；客户遇到问题时一起想绕法；⚠️⚠️ 以及一条很反直觉的主动动作：如果看到客户过度申请资源（要太多 CPU 或内存），他们会主动找上去——"你现在在 Modal 上花了很多钱，我们其实能帮你省钱。"
  • ✅ 他给的三个目的，第三个他说是最重要的：A. 参与销售与成单；B. 服务与支持客户；C. ⚠️⚠️ "填补产品的空缺，而这些空缺我们之后要做成真正的功能"——

"很大程度上，FDE 做的任何事，我的问题总是：长期怎么把它变成产品，好让我们不再需要 FDE 来做这件事？"

  • ⚠️ 他明确说不想变成重服务的生意，并把同一逻辑应用到正在建的研究团队（[01:14:43]–[01:15:44]）："如果每次客户要优化模型我们都得派人去，那某种意义上我们就算失败了。"

⚠️ 他不招 PM，理由是基础设施公司的产品管理特别难

（[00:59:34]–[01:01:35]）被问是否招产品经理，他直接答"不"。

  • ⚠️ 但他说不是反对产品管理：他们有人从 dev rel 或工程师转成了产品经理，因为在"该建什么"上展现了很强的战略思考能力。
  • ⚠️⚠️ 他的理由本页认为值得记，因为它是一条关于岗位而非关于人的判断：

"我确实认为很多公司过去太急着招产品经理了。你能从很多产品里看出来——就是有些急切的 PM 想出了一些小部件式的东西然后就发了。我觉得在一家基础设施公司把产品管理做好非常非常难，因为它需要非常深的战略思考：什么是基础性的积木？我们一到两年后想在哪？"

他给的失败形态很具体："怎么确保我们最后不会有 35 个长得差不多、但各自做的事又略有不同的功能？" ⚠️ "这种层次的思考非常罕见，所以我们还没有激进地建产品管理团队。"

七、组织：IC 回潮、代码评审"可选"，以及 Dunbar 数

来源：Latent Space / Erik Bernhardsson（本期）

⚠️ IC 回潮：他说这个趋势早于生成式 AI，但被 AI 大幅加速

（[01:01:35]–[01:02:35]）被问团队结构有没有因为编码 agent 变化：

⚠️ "funnily enough，是的，我确实认为团队结构变了很多，但我其实不认为是生成式 AI 在驱动它。"

  • 他说的现象：一次明显的回摆——回到做 IC，而"这对整个行业是非常非常正面的"。他的对照是"十年、二十年前，所有人都想做管理，因为那是你拿更多钱、更多认可、更多声望的路"。
  • ✅ Modal 的制度表述："我们对所有人讲得很清楚：管理者还是 IC，声望上没有区别。所有人都只是 member of technical staff。" ⚠️ 他说看到很多前管理者转回 IC，因为想回去写代码；包括他自己"在 Modal 还写很多代码"，技术团队几乎所有人都写，很多不在技术团队的人也写。
  • ⚠️ 他对因果的说法：趋势"其实在生成式 AI 之前就开始了"，但 AI"大幅加速了它，因为写代码的成本更低了"。 ✅ 本页标注：这条把归因一分为二（趋势 + 加速器），比本库 AI 实验室文化 上既有的"科层制衰亡"材料更克制。

⚠️⚠️ "代码评审我们当成可选的"

（[01:02:35]–[01:04:38]）主持人问非技术人员也提交代码时怎么做评审。他的回答是本期最有争议的一条：

⚠️⚠️ "我们做代码评审，但我们把它当成可选的。我的看法是，代码评审在很多情况下很大程度上是人们试图逃避把东西合进生产的那份责任。如果你有那种文化，那在我看来这是个信号：你该在 CI 和 CD 上投入得多得多。"

  • 他自己的做法：写代码时"偶尔会问作者：这和你的想法一致吗？我希望我没有根本性地改动架构"。
  • ⚠️ 内部规则："如果你只是改文档、只是做些基础的东西，别等人来看——尤其在 AI 时代。为什么每一段代码都需要人看？不需要。"
  • ✅ 但他给了明确的前提条件，本页认为引用这条时必须一并带上："那确实要求你在内部有非常好的控制——围绕测试。" 他列了：比平均创业公司多一个九的可用性要求、到处都要有限流、系统解耦、不能有单点故障、极好的测试覆盖。
  • ✅ 他顺带给了一条关于 agent 能力变化的观察（[01:03:37]–[01:04:38]）："agent 现在其实很擅长写测试了，这在几年前我以为是 agent 缺的主要东西之一。" ⚠️ 他给的解释是任务性质：写好测试"需要从你正在做的事里跳出来一秒，稍微当一下魔鬼代言人"。

内部用什么模型，以及自产自销

（[01:04:38]–[01:05:39]）"我们什么都试"：早期大量 Cursor，后来Claude 与 Codex，⚠️ 现在很多人用某个本库无法写定的工具与各种开源栈。✅ 他说没有强观点、"我想让大家实验"；并提到现在自己在大规模跑开源模型的推理，所以推动内部用自家 endpoint 做 agentic 开发。

增长的代价：4 倍是不可持续的

（[01:11:41]–[01:13:41]）

  • ⚠️ 他明说 4 倍（折年）是不可持续的相对增速，并给了三条具体症状：文化漂移、出现不同工作风格的孤岛、⚠️⚠️ "人们开始做非常投机的事"——"你去问一个工程师在做什么，结果他在建某个挺边缘的东西，你会想：这真是你该花时间的事吗？" 这是他在工程团队里始终留意的事。
  • ⚠️ 他对 Dunbar 数的说法："Dunbar 数我觉得比什么都更像是编的，至少它背后那个故事是；但它还是有点真实——在 150 到 200 这个量级上，打下文化的基础非常非常重要。"
  • 他对自己角色的描述：10–30 人时"大家坐一个屋子里，一切都是隐性的，人们能读我——能看出我有点烦了还是我很开心"；⚠️ 而 250 人时"人们不一定看得见，而且有很多新人，他们可能有点紧张不敢跟 CEO 说话，所以我怎么保持可接近"。
  • 招的人：主要是系统工程师（Linux、文件系统、可扩展系统、网络、云）；⚠️ 以及因为往上走了一层而需要的 LLM infra 方向（CUDA、GPU、MFU、把每个 GPU 的 token 吞吐打满）——✅ 但他加了一条判断："我认为那个领域很多工作结果仍然更偏系统驱动，因为 KV 缓存与路由其实还是非常系统性的问题。" 另在建研究团队（后训练、蒸馏、更好的量化方法）。
  • 钱花在哪（[01:08:41]–[01:09:41]）：⚠️⚠️ "产能预付款是今天现金的最佳用途。" 薪水与办公室"在我们的财务大盘里基本是个舍入误差"；他对此的概括是"这门生意的运营杠杆有点离谱——我们 200 个员工，他们很贵，但 GPU 贵得多得多"。

⚠️ "云最大化主义者"：他对 BYOC 的否定，以及一个他自己留的后门

（[01:05:39]–[01:08:41]）被问有没有改变对本地部署（on-prem）的看法，他说没有：

  • ⚠️ 他的自我定位是 cloud maximalist，并给了一段认知史：2008/09 云刚来时他的第一反应是"这太疯了，我为什么要把代码放到别人的计算机上跑"，"然后六个月后我就在这么做了"**——⚠️ "我大概花了六个月改变主意，企业大概又花了 15 到 20 年。"
  • ⚠️⚠️ 他对 BYOC 的否定理由是安全模型，这是本页认为最该引的一句：

"BYOC、VPC peering，这些在我看来反映的是一种过时的安全模型——我们需要保护自己网络里的一切，把网络当护城河。而我觉得这已经不成立了，我们已经转向更稳健的安全范式，比如零信任。"

  • ✅ 他给的第二条理由是迭代速度：因为租全部硬件、自己部署、自己管全部基础设施与所有主机的健康与指标，所以能迭代很快；对照的是过去那些要在客户环境里部署企业版的公司，必须非常小心地做发布管理——"我们不在乎，想引入一个新数据库就引入，因为我们有控制权。"
  • ⚠️ 但他留了两个口子，本页认为第二个比第一个有意思：
  • 价格口子："如果有个很大的 500 强客户要 BYOC，我们过去做过这事，我们会给个数字——那个数字非常高，目前还没人说好，但谁知道呢。对的价格我还是会建。"
  • ⚠️⚠️ 把 BYOC 当成拿产能的手段：他们有时和 neo lab 合作，而那些 neo lab 已有很大的产能预留——"问题是怎么让他们在已有产能上跑 Modal，而 BYOC 可能是个解法。我们还能把控制平面留在自己环境里。" ✅ 而反过来的那一面是："我们甚至也许能在那部分产能上跑别人的东西，于是你可以把那些产能全聚合进一个大池子。"
    • ✅ 本页标注：这是本期"聚合全世界算力"那条自我定位的一个具体扩展路径——把别人已经锁定的矩形也吸进自己的池子里，而这恰好是第二节那条期限转换论证的延伸。

两个被他拒答或留白的地方（本页照录）

  • ⚠️⚠️ 主持人念他的一条推文（[01:17:45]）："如果我经营一家已经可以 IPO 的创业公司、还在和竞争对手打 capex 军备竞赛，我不知道，能协调一下、把这场军备竞赛的节奏放慢一点挺好的。" ✅ 他的回答是"无可奉告"，现场笑。 ⚠️ 本页照录这个拒答，并标注它指向的是 neocloud 之间的 capex 竞赛，而不是本库 "Pacing the Frontier" 联署信 所讨论的模型能力竞赛——两者是不同的东西，不要混读。
  • ⚠️ 他对三件最占心思的事的排序（[01:10:41]）：① 产能与由它带来的财务复杂度（定价与打包、拥有还是租、"该往 neocloud 方向走还是反方向走——counter-positioning"）；② 产品战略（下一批积木是什么、"世界在接下来几年会醒过来发现自己需要什么"）；③ 文化与公司建设。✅ 本页标注：他把产能与财务排在产品之前，这与本期"矩形"主题一致，也与他前面说"我宁愿做一家精简的软件公司"构成张力——本页记下这处张力，他本期未被追问。