跳转至

AI 算力与基础设施

算力、电力、供应链、数据中心——AI 革命的物理层。

Jensen Huang（美/NVIDIA，2026-03）

来源：Lex #494

  • Extreme co-design：问题装不进单机后，必须跨全栈（芯片→网络→供电冷却→系统软件→算法）协同设计，否则 Amdahl's Law 卡死；十年 100 万倍 vs 摩尔定律 100 倍。
  • 电力是首要瓶颈，但优先解法是制度性的：电网为最坏情况设计、99% 时间闲置约 40% 容量——数据中心签"可降级"合约吃存量电力；阻碍是客户的六个九合约文化。太空数据中心在做工程储备但属远期。
  • 供应链即信念网络：提前数年向上下游 CEO 灌输需求（HBM、LPDDR 进数据中心的例子）；NVLink-72 把超算组装搬进供应链（周产 ~200 pod，1 rack = 130 万零件、200 家供应商）。
  • Token 工厂：计算机从仓库变工厂，token 分层定价；每年 token 成本降一个数量级（tokens/sec/watt 是核心指标）。

Karpathy 的互补视角（美，2024-06）

工程底层的呼应：深度学习负载多数是 memory-bound，"flops 不重要，内存访问模式才重要"（FlashAttention 多算 flops 反而快 7.6 倍）；GPU 优化阶梯（精度/编译/kernel fusion/nice numbers）合计 11 倍。（Let's reproduce GPT-2）

芯片微观层：从逻辑门到 systolic array（Reiner Pope，美/MatX，2026-05）

来源：Dwarkesh 芯片设计课

  • 为本页提供最底层的电路视角："最大化计算相对通信"贯穿全栈——ALU 位宽（乘法器门数随位宽平方增长，是低精度算术有效的唯一根本原因）、Tensor Core/systolic array（把矩阵乘外层循环烧进硬件、权重驻留，否则 7/8 面积耗在寄存器堆搬运）、直到跨芯片推理的 batch 权衡（00:14:44–00:37:06）。与 Karpathy "flops 不重要、内存访问模式才重要" 是同一原理的上下两层。
  • "GPU 是一大堆微型 TPU 平铺"：TPU 粗粒度（超大 MXU）摊销搬运成本但 vector↔matrix 带宽受限，GPU 细粒度灵活但单元固定开销大；MatX 押注 splittable systolic array 兼得两者（01:15:29–01:19:55）——为本页姚顺宇的 TPU/GPU 使用方对照补上设计方视角。
  • TPU 用 scratchpad（软件显式管理）替代 cache（硬件自动）换确定性延迟（01:04:54–01:07:04）；大脑低时钟类比在硅上不成立——降频只线性省开关能耗，不带来能效跃升（01:12:18–01:15:29）。

TPU vs GPU（姚顺宇，Google DeepMind，2026-05）

来源：张小珺访谈

  • 大规模商用下无绝对优劣。设计理念差异：GPU（Hopper/H 系列）一个 pod 内约 8 卡两两 NVLink 高速互联；TPU 抛弃两两互联、采 3D Torus 拓扑，尽量多卡放一个架子，编译器/sharding 写得好则等效更大存储 + 减少通信 bound。
  • TPU 劣势：小 scale 更固定、通用性弱、无开源生态——但"大规模自用时生态不是问题，跑几十万张卡的集群，搭基础设施不是多大的事"（03:20:59–03:23:02）。
  • 这与 Jensen 从 NVIDIA 侧强调的 NVLink-72/install-base 生态形成对照：姚从使用方视角认为在超大规模下 TPU 的封闭生态不构成实质劣势。

test-time compute 的经济性（Noam Brown，OpenAI，2026-06）

  • 模型能力成为"投入金钱的函数"，把推理时算力变成基础设施的一等成本项；评估长任务"可能要跑一年"，与算力/时间预算直接冲突（No Priors 访谈 00:12:06–00:16:06）。呼应 Jensen"token 工厂 / tokens-per-sec-per-watt"的世界观。

算力需求的经济学：Moore 定律"价值减半"与机会成本反转（Imas & Trammell，2026-06）

来源：Dwarkesh 访谈

  • Moore 定律的悲观解读："每 18 个月计算的价值减半——我们消耗算力用途的速度快到刚好维持摩尔定律"；Chad Jones 的结论是经济中付给算力（晶体管）的份额一直在下降（00:13:47–00:15:57）。
  • 但可能出现拐点：H100 租金比三年前更高——模型越聪明，算力的机会成本越高，即"资本用途的新品类（increasing variety）不断出现"让需求不饱和；若持续，付给算力的经济份额会持续上升（00:14:54–00:16:59）。这为 Jensen"token 工厂 / 每年 token 成本降一个数量级"提供了一个需求侧的经济学镜像：供给侧成本在降，但用途在爆炸。

capex 的物理上限与"模型只相关 3–9 个月"（Benedict Evans，前 a16z，2026-06）

来源：a16z 访谈

  • 微软/Meta/Google 今年 capex 均超营收 50%（电信才 15–20%），四大指引约 7000 亿美元/年——与油气（7000 亿–1 万亿）同量级，"很多钱但非天量"（00:48:25–00:49:26）。
  • 但存在硬顶："不可能一年花 10 万亿美元在 AI 基础设施上，因为世界上没有 10 万亿可花"；1.5 万亿只能借、不可持续 → 增长终将放缓（00:49:26）。
  • 贯穿其分析的一条线：模型只在 3–9 个月内相关，却要花数十亿造，还得永远追下一个——这放大了基础设施投资相对回报窗口的不匹配（00:50:27）。与 Jensen"token 工厂/每年成本降一个数量级"是供给侧乐观，与本节 Imas·Trammell 的需求侧"用途爆炸让算力份额上升"共同构成 capex 是否可持续的两面。价值捕获视角详见 AI 商业化与价值捕获。

端侧AI芯片：从冯诺依曼到存算一体（阳萌，中/安克，2026-06）

来源：张小珺访谈

  • 三个底层变革叠加（[01:03:43]）：解题方法（分治法→端到端）、软件形态（程序+数据→神经网络）、硬件架构（冯诺依曼存算分离→存算一体），"构成了一个特别稳定的三角，端到端时代这个三角应该被打破"。
  • 类比大脑（[01:09:45]）：人脑不存在"把左脑知识搬到右脑计算"的问题——存算一体。冯诺依曼架构下每帧都要把所有参数从内存搬到NPU，"搬运本身就是最大功耗"。
  • 2026年5月量产：4M参数总量、单个模型~2M参数的存算芯片，用于耳机通话降噪。"一颗市面上不存在的、这个领域第一颗应用到产品上的芯片"（[01:16:52]）。
  • 分层芯片路线（[01:21:53]）：百万参数（感知/控制器官）→ 数十亿参数（大脑）→ 未来可能承载具身大脑。"不是做芯片公司，是芯片+模型+产品的闭环"——类比苹果A/M系、华为麒麟（[01:22:53]）。路线与NVIDIA差异化：NVIDIA在训练侧+万忆级推理，存算在推理侧百万到百亿参数。

太空数据中心：绕过地球电网瓶颈（Lewis Hong，前SpaceX，2026-06）

来源：张小珺访谈

  • 地球瓶颈（[00:15:19]）：美国电网仅三大区域（东岸/西岸/德州），大部分设施30年以上，AI之前已有25-40%缺口；数据中心permit周期极长、电难以available。
  • 太空优势（[00:17:21]）：(1) 真空中信号传输比任何光纤快一倍；(2) 无尽太阳能，转换效率比地面高10%+；(3) 无permit限制，唯瓶颈是自己的发射能力。
  • xAI并入SpaceX的逻辑：不是偶然——用Starlink的低轨"数据高速公路"+太空数据中心解决算力瓶颈。（[00:19:23]："2014年马斯克就买了X.com域名"——Lewis暗示所有公司构成统一大计划。）
  • 与Jensen Huang"太空数据中心属远期"的判断形成对照：Jensen从制度视角（合约/六个九）认为地面先吃存量电力，Lewis从物理+工程视角认为太空是确定性方向。

推理引擎与 RL 训练 Infra（朱邦华，中/SGLang 母公司，2026-05）

来源：月球大叔访谈

  • 需求排序 pre-training < RL < 推理：推理是最大需求（所有用 AI 处都要 inference），故 SGLang 母公司从推理引擎切入，逐步做 RL、乃至 pre-training 的 inference（00:05:02）。这与 江鋆晨"training infra 太一次性、模型绝大多数生命周期在推理"是同一判断。
  • RL environments 是被忽视的新瓶颈：agent 环境越复杂，bottleneck 常在 function calling 的 latency/concurrency——这是"为什么大家突然发现 CPU 很重要"（code execution / multi-docker 的 CPU 调度）；reward 设计是"艺术问题"（00:24:25–00:25:26）。硅谷已有一批 RL 环境公司（如 E2B），国内偏少。
  • 新架构逼出 infra 优化：DeepSeek V4 的架构创新（sparse attention 等）逼 SGLang 做 shadow radix（prefix cache）与 sparse attention 优化，"划走公司一半人精力"，把 V4 性能优化了很多倍；SGLang"day one 支持新模型"（00:19:16–00:21:21）。
  • "卡养人"：千卡/万卡训练对 fault tolerance、MFU、accuracy 的 infra 要求与小规模完全不同——这是 frontier lab 人才稀缺的根源；"本科生摸够卡会比 PhD 干得好"（00:43:47–00:45:47）。呼应 姚顺宇。

DeepSeek V4 混合注意力的推理/训练适配（SGLang·Miles 团队，中，2026-05）

来源：月球大叔 SGLang 直播

一线框架工程的具体案例，把 朱邦华"新架构逼出 infra 优化"落到 DeepSeek V4：

  • V4 混合稀疏注意力：SWA（sliding window）+ Compress-4（每 4 token 压 1，hierarchical top-k 选最有影响力的）+ Compress-128（每 128 压 1，全注意力），框架要维护五类 KV cache 状态——用 shadow radix cache（虚拟地址映射物理状态）管理（00:04:06–00:09:16）。KV cache 大幅压缩（100 万 token < 10GB），打开 offload 到 CPU 的空间（验证 3× 上下文性能，00:20:48）。与本页 罗福莉 的 hybrid attention 独立同频："系统约束使混合稀疏是大势所趋"。
  • kernel 级优化：把 KV 压缩的 5 次内存读取里的 3 个计算融成一个算子；lightning topk 把长上下文 topk 从 100μs 优化到 15μs（V4 有 60 层，累计影响巨大）（00:09:16–00:12:29）。但"算子融合并非总有效"——两算子须能沿同一维度切分（00:47:22）。
  • 并行：长上下文用 CP（单机内快）、跨机用 PP；V4 注意力不天然支持 TP（kernel 要求头数是 64 倍数，用 padding）；已支持 PD 分离（00:12:29–00:19:47）。
  • RL 训练（Miles）比推理难 day-0 支持：无标准 baseline、要 backward、debug 成本大；精度是最耗时环节（CP 下 KV gradient 因 compress attention 稀疏、reduction 复杂使 BF16 不够，需换 FP32）；借鉴 DeepSeek deterministic ops 消除 KL loss spike（00:22:50–00:35:59）。详见 LLM 训练管线。
  • 月球大叔总结的方法论："做 MLSys 别只补代码小窟窿，要抽象出框架——system research 需要美感"；数据管理是被低估的新方向（agent 持续记忆、Dreams vs Memory），与 江鋆晨"KV Cache 是下一个数据层" 同频（01:00:41–01:04:48）。

KV Cache 作为独立数据层（江鋆晨，中/TensorMesh·LMCache，2026-06）

来源：月球大叔访谈

  • KV Cache = 大模型的记忆 = "给大模型看的视频"（都是 3D tensor）；押注它是继模型权重、prompt 之后下一个最大的数据层、"未来的石油"（00:40:55–00:43:56）。数据层普适规律：web→CDN、大数据→Spark/HDFS、AI→KV Cache（00:37:50–00:39:52）。
  • LMCache：把 KV Cache 层与推理引擎/存储/GPU/运行环境解耦（不与模型解耦），做成工业界事实标准；当前可见价值 = 存下 KV Cache 避免重复计算（读长程序时 90%+ input 是那段程序，存下即跳过 90% 重算）（01:24:23–01:29:28）。类比 Spark"踩着工业界实体出来"。
  • prefill vs decode 的算力误区（反直觉）：硬件（Cerebras/Groq/LPU）多优化 decode（用户可见"一个字一个字蹦"），但 ~90% 算力其实花在 prefill/处理 input——agent 的 input（几十万~几百万 token）远长于 output，且"任何 output 都会变成以后的 input"（01:31:30–01:34:32）。这是对"算力大头在生成"这一直觉的直接纠偏。
  • OpenAI API 兼容格式 = AI 时代的 IPv4：网络的"细腰"是 IP layer，其上创新极难（IPv6 更好却输给 IPv4 的既成事实）；AI 生态里 OpenAI API Compatible 的 query format 已是所有应用/模型/推理商承认的稳定接口，KV Cache 有望成为下一个这样的标准层（02:04:50–02:08:54）。
  • 硬件"IBM 化" vs disaggregation：厂商把处理器/网络/存储 bundle 成大型机（走 IBM 老路）以最大化 margin；但历史上大型机没成数据中心主流，真正胜出的是"把便宜部件用聪明方法连起来"；disaggregation 做到极致（每块特殊化、可替换）可能带来颠覆性新 infra（江鋆晨访谈 [02:08:54]–[02:11:56]）。这与本页 阳萌 的存算一体、Jensen 的 extreme co-design 构成"硬件组织形态"的三种下注方向。

Agent Cloud 与统一存储层（Matei Zaharia & Reynold Xin，美/Databricks，2026-06）

来源：Latent Space 访谈

  • Omnigent = 跨 harness 的公共 API + agent cloud：把 Claude Code/Codex/Cursor 等所有 harness 映射到一套 session API（收 message/file、吐 streaming/tool-call 流），上层做协作/安全/成本控制；开源以吃"众人写 integration"的网络效应（发布首周末 ~400 merge）。Zaharia 明确类比网络协议（IP layer）而非 OS/数据库——与 江鋆晨"OpenAI API = IPv4 细腰" 是同一"稳定接口层"直觉的两个落点（00:04:03–00:16:07）。
  • agent cloud / 不关机 sandbox：从 lakebase 架构去掉数据库即得；需本地持久化（库不每次重装）——解决"开车还得盯 Codex session"的荒诞（00:07:06–00:17:07）。
  • "把数据放到对的地方，糊一层 AGI"：L-TAP 只统一存储层（Postgres 页用空闲 CPU 转码成列式 parquet，无 CDC 管道），让 agent 实时 reason 业务数据、强 10 倍；Dream Engine 用 ML 模型（非 LLM）+ 十年 trace 从零重建数据库引擎、运行时 dispatch 最优数据结构（00:32:12–00:50:20）。这是"数据层 vs 计算层"权衡的又一形态，与本页 江鋆晨 的 KV Cache 数据层、Reiner Pope 的芯片级搬运税同属"计算 vs 通信/数据"主线。

面向 Agent 的架构与 RL Infra（罗福莉，小米 MemoVR，2026-04）

来源：罗福莉访谈

  • hybrid attention 取代 MLA 以适配 agent：MLA 为 Chat 时代精妙地压 KV Cache 而生，但"没有可发挥空间"——上 MTP 会卡在 compute bound；MemoVR 用 sliding window + full attention 混合（Flash 5:1、Pro 拉到 7:1），更省 KV Cache、支持更长上下文，"更大模型可以更稀疏"（01:26:48–02:06:02）。与江鋆晨"KV Cache 是核心数据层"从模型架构侧呼应：省 KV Cache 是 agent 长上下文的关键。
  • MTP（Multi-Token Prediction）只有她们在推理时用：因 hybrid 架构天然留大量计算富裕，用投机解码把富裕算力吃满；MTP 被 verify、无幻觉；Flash 做到 100–150 TPS（01:31:50–01:38:52）。MLA 模型上不了 MTP 正因为它已卡在算力/访存的完美临界点。
  • RL infra ≠ 预训练 infra：RL infra 必须容错（agent 交互会莫名中断、训推不一致要容忍、要在异构集群里综合调度 GPU+CPU+存储），而预训练 infra"绝不容忍 loss spike"，两者不交融（03:30:03–03:33:04）。"真正把 agent RL scale 起来的团队非常少，海外基本只有 Anthropic"（03:33:04）——与朱邦华"RL environments 是新瓶颈、CPU 因 function-calling 并发变重要"精确对接。
  • 卡是瓶颈：研究:预训练:后训练 = 3:1:1，研究用卡是训练的 3–5 倍；"idea 到代码太快，卡在卡上"（01:45:55–01:48:55）。推理卡需求远高于训练卡。
  • 全模态离散化：音频用多层 RVQ 离散成 token（"另类"架构），图像离散化进行中——追求"一套 infra 服用所有模态"，但"有了 Qi-code 后重写一套 infra 也就两三周，没必要为架构统一牺牲模型结构"（02:12:05–02:14:09）。

模型即操作系统/基础设施（广密，2026-04）

来源：广密·全球大模型季报第 9 集

  • 最领先的三五家模型 = 世界最重要的技术基础设施 = global GDP 的操作系统，重要性将超过今天的 Google（01:04:51–01:06:53）。详见 LLM OS。
  • 算力是 Anthropic 冲 1000 亿 AR 的最大瓶颈（此前低估需求、算力规划保守）；Google worst case"TPU 都能变成另一个英伟达"（00:29:28、00:49:42）。
  • 推理需求即将爆发几倍到十倍（罗福莉同判断），"大部分卡点在存储"，低成本推理是关键命题（广密季报 [01:16:12]）（罗福莉访谈 [02:30:21]）。

多模态/全模态 serving：stage 抽象与 DiT 加速（vLLM Omni 团队，中，2026-05）

来源：月球大叔访谈

  • 把 PD 分离推广成通用 "stage" 抽象：LLM 的 prefill/decode 只是两个 stage；多模态里一个 stage 可能是多模态 encode/生成，stage 间要传的不只 KV cache，还有 embedding/metadata，方向可双向、可跳 stage（00:03:02–00:04:04）。这是把 SGLang·Miles/LMCache 的 KV-transfer 思路推到多模态的自然延伸。
  • omni connector + 控制面/数据面解耦：单卡走 shared memory、多卡自动走 Mooncake；轻控制信息与重 payload 分开传；chunkwise 异步流式把首包延迟从近 10 秒降到 <1 秒、RTF<1（00:28:38–00:33:47）。
  • DiT 加速（AR 复用 vLLM、Diffusion 从头写）：TeaCache（layer 级跳步）+ block 级缓存；并行 USP+Ring Attention（正交）、HSDP、VAE patching、CFG parallel（最稳）；实测显卡算力过剩、diffusion 可 continuous batching；边缘设备做 module/layer-wise CPU offload（00:41:08–00:57:38）。
  • 国产硬件插件：CUDA/ROCm + 华为昇腾 MPU、百度昆仑，新硬件接入不改核心 AR/Diffusion 逻辑——直接回应下方中美对照里"国产芯片主动论述待补"的缺口（00:24:27–00:25:30）。

半导体供应链与代工：Intel 的重整（Lip-Bu Tan，美/Intel，2026-06）

来源：No Priors 访谈

  • 瓶颈排序：电力→氦（helium）→内存→CPU/GPU——扩产建 fab 要几年、成本会往客户传导涨价；"AI 冲击比互联网更大更深刻"（00:11:07–00:13:09）。与 Jensen"电力是首要瓶颈"一致，但补上氦与内存短缺两个少被提及的物理约束。
  • 先进封装成新瓶颈：EMIB-T vs TSMC CoWoS、玻璃基板（好热绝缘、Intel ~1000 模组专利）、人造金刚石；摩尔定律撞物理墙后靠新材料（GaN/SiC/InP）——与 Reiner Pope 的电路级"计算 vs 通信"是产业链上下游两端（00:15:10–00:19:10）。
  • CPU 在 AI 里回潮：训练 CPU:GPU 从 1:8 到 1:4 甚至 1:1，RL 与 agent 编排里 CPU 更好——与 Modal"inference inflection：GPU:CPU 摆回 1:1"、朱邦华"RL environments 让 CPU 变重要"三方独立同频（00:05:01）。
  • 算力终局不押集中式：看多 edge/client 算力（机器人/国防/家用），与 Jensen 的集中式"token 工厂"、Lewis Hong 的太空数据中心构成"算力放哪"的第三种下注；代工资本密集经济学详见 AI 商业化与价值捕获（00:41:20–00:44:20）。

晶圆级芯片与快推理（Andrew Feldman，美/Cerebras，2026-05）

来源：No Priors 访谈

  • "要根本性更好，架构就必须不同"：造 46,000mm²"餐盘大小"晶圆级芯片（别人造"邮票大小"），推理比 GPU 快 15–20x；对 GPU 小改不可能快 20 倍（00:02:00–00:07:05）。为本页 Reiner Pope"GPU 是一堆微型 TPU"、姚顺宇 TPU/GPU 对照补上"整片晶圆"这一极端设计点。
  • 供给侧的爬坡真相：造不出来烧了两年、每月 800 万美元；跨越 chasm 靠超算→主权基金 G42 十亿订单 battle test→OpenAI 200 亿单；制造能力今年 10x（"硬件史上最快之一"）（00:07:05–00:24:11）。与 江鋆晨"硬件（Cerebras/Groq/LPU）多优化 decode"形成互证——Feldman 正是从 decode 侧"快"切入。
  • 呼应本页 Imas·Trammell 的需求侧："2025 年模型聪明到有用后需求爆炸"，"慢推理的市场是零"。

Agent 云 / sandbox / 弹性推理（Akshat Bubna，美/Modal，2026-07）

来源：Latent Space 访谈

  • self-provisioning runtime：把硬件/扩缩容写进代码 decorator（与代码 collocate），而非读几百个无类型 Kubernetes YAML；SDK 团队从"开发者体验"转向"agent 体验（AX≈DX，余弦相似度 ~0.9）"（00:04:06–00:07:10）。
  • sandbox 是 agent 的完美原语：2023 年 5 月就做、去年才爆；RL rollout 极 bursty（要 10 万个 sandbox）、agent 本身反而不 bursty——与罗福莉"RL infra 必须容错"、朱邦华"RL environments 是新瓶颈"从 sandbox 供给侧对接（00:10:12–00:15:14、00:27:21–00:29:23）。
  • 投机解码真相：开源 DFlash（block-based speculator），提升 accept length 是乘法级 2–4x 提速（改 kernel 只有几个百分点）、不降质量；上游贡献回 SGLang（00:17:15–00:22:18）。与罗福莉"MTP 被 verify、无幻觉"同属"用富裕算力做投机解码"。
  • inference inflection：GPU:CPU 从 8:1 摆回 ~1:1（agent 频繁 call out CPU）；capital-light 跨 17 家云建统一容量池 + 自建可靠性层，"compute strategy"团队对冲容量（类比航空对冲燃油）——与 Databricks Omnigent、江鋆晨 disaggregation 同属"agent 云 / 硬件组织形态"下注（00:24:19–00:47:37）。

史无前例的 buildout、推理即算力、主权与开源（Andrew Feldman / Cerebras，2026-07）

来源：开源赢麻、AGI 已至（补 No Priors 访谈）

  • buildout 的物理尺度：数据中心未来几年用电将超过"地球过去 50 年"，单栋建筑用电超中型城市，遍布美/加/北欧/中东/中亚；买家"永不满足、在追赶昨天的需求"，Cerebras $250 亿 backlog（00:01:00–00:04:02）。
  • 推理即算力 + 推理的 Moore's law：reasoning 是 inference、极耗 token，正好喂给快机器；Cerebras 打破 18 个月翻倍、未来 18 个月"远超 2x"（新架构还有大量优化空间，20 年老架构 GPU 只能靠更小制程）——为本页"推理是 infra 主战场"（朱邦华/江鋆晨/Modal）补上芯片侧的加速曲线（00:07:03–00:13:06）。
  • 主权是趋势、开源今年闭合 gap：Cerebras 跑 GLM/Kimi/Qwen + OpenAI 闭源 + GSK/G42/MBZUAI 自研模型；美国需要更多本土开源模型（现只有 OSS 12B 或中国模型可选）；OpenAI/Amazon 自研芯片是"没人喜欢依赖"（x86 依赖 Intel、GPU 依赖少数超算的教训）（00:14:07–00:20:12）。与 Lip-Bu Tan 的产业政策叙事、下文中美对照直接相扣。

中美对照

见 中美 AI 生态对照：中国算力劣势逼出蒸馏本领与硬件供应链优势（人形机器人硬件成熟便宜）；姚顺宇提供的 TPU/GPU 对照为"国产芯片路线是否构成劣势"提供了一个"超大规模下生态劣势可被工程化抵消"的参照点。国产芯片的主动论述现有 vLLM Omni 团队 从推理框架侧补上一手素材——昇腾/昆仑通过 hardware plugin 接入、不改核心逻辑，是"国产硬件生态靠软件框架适配抹平"的具体做法。Intel（Lip-Bu Tan）则从美方供给侧强调"本土供应链韧性、不能只依赖一两个地理玩家、政府持股是基础设施"，与中方硬件叙事构成产业政策对照。

Infra 侧新增中方一手视角：朱邦华（推理引擎/RL 框架）、江鋆晨（KV Cache 层）与 vLLM Omni 团队（多模态 serving）代表"中国背景学者以开源研究组挑战工业界 AI Infra"的一支力量——技术栈紧密相邻（SGLang/vLLM/LMCache/vLLM Omni），且都判断推理、而非训练，是 infra 的主战场。志鹏 从贡献者侧补上一手 serving 工程碎片（diffusion 蒸馏减步、CFG parallel、layerwise/modelwise、五级测试、内部 fork 的 rebase 指数级变难→接口层贡献开源、保留 proprietary modeling layer），并展示了中方开源社区低门槛 onboarding（租卡/小模型/铁巴学习法）如何把零基础工程师一年内变成 committer。

能源作为 AI 的真实上限（2026-07 三方汇合）

来源：Pat Gelsinger · All-In / SRO 与数据中心 · a16z / 挑选 AI 赢家

2026 年 7 月这批素材里，三个立场迥异的来源独立收敛到同一结论：约束不在芯片、不在算法，在电子。

  • Gelsinger：能源容量是天然的防泡沫上限——"没人会在没有能源的情况下买 GPU、建数据中心，所以你能有多泡沫有个上界。我从中得到不少安慰。"（世界能源容量以 4–5% 扩张；美国曾有十年只有 1%。）他的对冲目标是把每 token 成本与能耗降五个数量级（10000x）以真正触发 Jevons 效应。
  • a16z 成长期：供给受限而非需求受限，所以不是泡沫——"我相当有信心说我们现在不在泡沫里，没那么有信心说三年后不在。"规模化数据中心容量要等到 2028 年底/2029 年初；美国建设进度落后约一年；供应链几乎每环受限（部分因 TSMC 有意克制）。唯一可能翻转的变量是大幅变小的模型（来自算法突破）。
  • Chamath：缺口的量级——美国到 2050 年将短缺约 2.5 个加州的用电量。一次 PJM 容量拍卖需 7–8 GW，仅约 156 MW 应标。

behind-the-meter 与清洁空气许可（本库最具体的一段电力工程/监管解释）

  • 并网（grid power）排队排不上 → 只能 behind-the-meter（自有地块自建发电）。
  • 卡点是清洁空气许可：太阳能占地太大；电池仍需先发电；所以实际多用燃气。
  • Elon 的规避路径：买下大量 18 轮卡车级发动机（并买下制造商），逐台落地按"自用"处理以绕开集中式许可；新方案如 Bloom Energy 可在大规模安装下仍适用自用清洁空气许可。
  • 资产定价的证据：Chamath 持有的一组电力/数据中心资产在向超大规模厂商询价时发现"曲线前端的价格极端之高"——今天就能验证、能通电的电力值大钱，因为往后看约 40% 的项目会被搁置或停掉。

政治阻力已成为基础设施变量

  • 纽约州签署全美首个州级超大规模数据中心暂停令。Sacks 逐条反驳（behind-the-meter 可解电价问题；数据中心是土地利用效率典范、纽约州本身 70–80% 未开发；现代数据中心闭环循环用水；天然气是较清洁燃烧源），并指出 moratorium 实际不是数月而是至少五年——即使解禁，项目重启也要数年。
  • Sacks 补一层结构性观察：同一批政治力量既阻止美国建、也在推动对盟友的芯片出口管制——"这里不建，盟友那里也不建，那这些东西放哪儿？"
  • 地理转移的实况（Chamath）：中东增长没有如预期发生（位置本极佳，200 毫秒内服务 40 亿人），反而是亚洲、特别是澳大利亚爆发；最新变化是 UAE 已可进口最先进芯片，他认为中东周期会重启。
  • Jason 的"奢侈品监管"框架："纽约州或加州付得起说'我们不需要这个'。如果你是澳大利亚，你可能真的需要这笔钱。虚拟信号只能撑到你的债务/GDP 高到某个程度为止。"
  • ⚠️ 关于反数据中心运动可能有外国影响的论证（Friedberg 的反 GMO 类比、OpenAI 关于 PRC 关联影响力行动的博文），见视频页的标注——除该博文外未给出可核验证据，相关性≠因果。

推理专用芯片与代工格局（2026-07 补充）

  • swyx 对新一代推理 ASIC 的框定：Etched、MatX 等不是要颠覆 NVIDIA——"推理这件事大到理所当然会有专用 ASIC"；更准确的类比是"下一代 Cerebras、下一代 Groq"（后者十多年前起步、形态已成熟，新一代专门针对 post-Transformer 已知的 workload 优化）。对"押注架构不变"的风险，他认为是好赌注：GPT-3.5 那套架构一路基本没变，且存量 workload 不会迁移——"一旦这东西能跑，它就能跑，别动它"。
  • Gelsinger 的代工史观：TSMC 的愿景是"成为整个产业的工厂"，"我不在乎这是谁的芯片"；Intel 作为 IDM"从没把制程对第三方开放，自己做 EDA，太专有"，而当时这块业务小到 Intel 根本不在意。代工模式如今已是半导体业的模式，只剩两个例外：Intel 与存储。他对 NVIDIA 崛起的归因不是硬件而是软件栈（CUDA/SIMT）一代代变好，转折点是日本 HPC 圈发现可用其跑 HPC——"那才是定义性时刻，它不再只是图形卡"。
  • 边缘/本地推理的抬头：Jason 预测 Apple M7 Ultra（传闻支持 1.5 TB 内存）可让前一代前沿级模型跑在 Mac Studio 上，对闭源 API 定价形成向下压力；另有 Sunrun 等公司做可放进住宅的分布式数据中心块、SPAN 与 NVIDIA 合作——"边缘算力的碎片化与分布是个主题"，且在追逐能源（利用富余太阳能/夜间廉价电池充电）。

反向读数：能效突破会不会让已建产能作废（2026-07）

本库此前积累的主流论证是"能源是天然的防泡沫上限"——Gelsinger（"没人会在没有能源的情况下买 GPU、建数据中心，所以你对能有多泡沫有个上界，我从中得到不少安慰"）与 a16z 成长期（"供给受限而非需求受限，所以不是泡沫"）是同一论证的两个版本。

Mark Cuban 用同一个能源事实得出了相反方向的风险读数（视频页 00:02:02–00:03:02）：

"如果 AI 上出现一条能大幅降低电力需求的性价比曲线，会有很多数据中心被改造成匹克球场。"

  • 论证走的是光纤先例：当年所有人都在铺光纤，然后 1G → 10G → 100G，"突然就不再有光纤问题了、不再有带宽问题了"——反而剩下大量暗光纤，后来以几分钱被人捡走。"AI 侧和数据中心侧凭什么就不会得到同样的性价比改善？"
  • 关键在于承诺周期与技术周期错配：他承认利用率会按大家预期的那样 scale，但坚持技术突破会同时发生，而"为 10 年、20 年后的事承诺几百亿美元，没人预测得了"。
  • 叠加的金融结构风险：巨头把现金流全砸进 capex 再在其上借债发债，"这是在按完美情况定价"；且"本来就已经有一个私募信贷问题了"。
  • 值得注意的是，这条与 Gelsinger 自己的另一个目标恰好互为镜像：Gelsinger 给自己定的目标是"把 AI 做好 10000 倍——每 token 的成本与能耗降五个数量级"。若这个目标达成，正是 Cuban 描述的那条曲线。两人的分歧不在事实，而在于"效率提升被 Jevons 效应吃掉"还是"效率提升先于需求到来"。
  • Cuban 自陈的证伪条件（这一条使他的判断可跟踪）："如果我在数据中心这件事上会判断错，那会是因为视频"——视频、世界模型、机器人相关，要多一个数量级的 token。
  • 一个次级观察：他认为围绕数据中心的民意反弹反而可能"保护"了它们（限制了过度建设）——与本页"政治阻力已成为基础设施变量"一节的悲观读法相反。

实时性约束：物理 AI 的算力形状不同（Applied Intuition，2026-07）

来源：为什么物理 AI 是下一个前沿

本页此前的算力论述基本都是数据中心侧的（token 工厂、电力、供应链）。Applied Intuition 补上了端侧/实时侧的一条根本约束：

"那些实验室日子好过——他们可以做万亿参数的模型，模型可以超级慢，那没关系。物理 AI 没有这个奢侈品。我们面对的是真实的时钟，我们只有那么多毫秒。"

  • 结构后果：offboard 用很大的模型，onboard 必须是小模型 + 安全约束 + 确定性约束。"这是物理 AI 难的地方，也正是护城河。"
  • 沈宇军（蚂蚁灵波） 从模型架构侧给出了同一约束的中方版本：因为机器人不能像文生视频那样让用户等 10–30 秒，所以必须单向（causal）建模、必须用 MoE 稀疏激活（"14B dense 模型推理激活就是 14B，你后面加速做得再好，能加速的比例是固定的"），而可以舍弃的是画质（"有点马赛克没关系——因为我们还有摄像头"）。
  • 这条与 阳萌的端侧分层模型（百万参数感知器官 → 十亿参数大脑 → 万亿参数云端）、Reiner Pope 的自底向上芯片设计 共同构成"约束定义架构"这一族——与数据中心侧"scale 定义架构"恰成对照。
  • 另一条被 Applied Intuition 点出的基础设施事实：物理 AI 的数据不在互联网上，必须自采（他们自称数百 PB、"地球上最大的采集车队之一"），而采集权限的门槛是地缘政治而非技术（韩国不许可测绘公司；他们摸清了在中东、拉美与政府打交道的路径）。

RL 的墙钟瓶颈：把 PD 解耦引入训练、低精度、算力政治（Eiso Kant / Poolside，2026-07）

来源：Poolside 访谈

本页此前的 prefill/decode 解耦（PD disaggregation）讨论都在推理侧（江鋆晨、Modal、Cerebras）。Poolside 把它接到了训练侧：

  • RL 是 batch-size 受限的：任务数有限（不像整个 web 可无限放大 batch），所以不能像预训练那样堆 GPU 扩算力；RL 时间是当前最大的墙钟瓶颈。而"竞赛是按日历时间算的，不是按 GPU 数"——所以给行业提速最大的杠杆之一就是提高 RL 的 wall-clock 效率。
  • 解法：把推理侧已成熟的 PD 解耦、异构硬件混搭引入 RL 训练（GPU 做一段、Groq/LPU 类专用芯片做另一段）——这是把江鋆晨"prefill vs decode 算力误区"、Modal 的 inference inflection从推理迁移到训练的一个明确方向。
  • 低精度训练：Laguna S 用 FP8（新 run 里唯一非 FP8 的是 all-to-all）；最兴奋 ternary、NVFP4（点名 Nematron 的 NVFP4 训练被低估）；现在还在 10k H200（Hopper）集群、相对小，转 Blackwell 后上 NVFP4/低精度 RL。核心 bottleneck 归结为"MAC 瓶颈 + 网络瓶颈"，呼应 Reiner Pope"最大化计算相对通信"。
  • 算力政治："Nvidia 比美国政府更有权力（算力分配 → TSMC → 下面）"；但 Eiso 认为 Nvidia 促进竞争、受监管，与"政府用监管禁止别人做基础模型"性质不同。模型能力与硬件世代强绑定——"Hopper 上能训的和 GB300 上能训的，差的是 1T 参数和 5–6T 参数的距离"。

数据中心本质是制造问题：Travis Kalanick（2026-07）

来源：从 Uber 到 Atoms

  • "数据中心本质上很大程度是个制造问题"（冷却、供电、自建电力），而美国已经忘了怎么制造——"要找会制造的人，你几乎只能从 Elon 那里挖"。这从"物理世界操盘手"角度，给本页"能源作为 AI 真实上限"与"史无前例 buildout"两节补了一条制造能力/供应链约束的注脚。
  • 政治阻力类比第二次工业革命（纽约州禁数据中心 vs 当年对 Carnegie/Ford 的敌意）——"制造业岗位回来了，但我们不想要"。与 Pat Gelsinger"能源是 AI 上限"、Mark Cuban"数据中心变匹克球场"构成同一议题的不同侧面。

碎片化对基础设施层最有利，以及"五个九"的成本阶梯（All-In，2026-07）

来源：All-In #282 01:06:46–01:15:50

本页的"价值沉降到基础设施"论点第一次在公开市场财报上被检验：

  • Chamath："能发生在 Google 身上最好的事，就是 500 个不同的模型遍地开花而他们全都支持"——因为钱在硅片层与云。即：模型层的碎片化程度与基础设施层的价值捕获正相关。
  • Freeberg 的最坏情形论证："就算应用层全不成、网络效应全不成、模型也不行，他们仍然拥有世界上成本最低的基础设施，可以给别人的模型 serving 印钱"——类比 Elon 用 Colossus 做的事。
  • capex 的数量级：Google 今年指引 1950–2050 亿美元、Cloud 达 1000 亿 run rate、上市以来首次自由现金流转负（财报后跌 7%）；Tesla capex 同比 +140%、预期 250 亿（跌 14%）。节目中转述一条对照（⚠️ 转述推文，未核实）：Google 今年 capex 约等于美国军费预算的 20%。
  • Chamath 对 capex 的辩护：Google 上市 25 年平均 ROIC 32%——"当你是一台 20 年平均 32% 复利的机器，就该给他们 benefit of the doubt。他们不是在乱来，是在有条不紊地投资自己的优势。"

"五个九"的成本阶梯：本页少见的进入壁垒量化

Chamath 在回答"Apple 该不该做云"时给出（01:14:49–01:15:50）：

可用性 大致成本量级
99%（两个九） 相对便宜（给药企/国防托管也能做到）
99.9%（第三个九） 数十亿美元
99.99%（第四个九） 数百亿美元
99.999%（第五个九） 数千亿美元
  • 结论："这需要真金白银和真本事，场上只有三家"；AWS 花了约 17 年打磨，Google 花了 12–13 年才基本追上。
  • 对照：Apple 过去十年 7550 亿回购 + 1400 亿分红 ≈ 9000 亿美元返还股东（Sacks 的反问："谁说拿到这笔钱的投资人就没找到好用途？"）。

⚠️ 与本页 能源作为 AI 的真实上限 的接口：Freeberg 在同一集把中美对照降维到电力与制造产能（美国约 1 TW vs 中国"通往 8 TW"；制造面积 100 亿 vs 2000 亿平方英尺，均未给来源），并推论"知识经济被开源压平后，剩下的是分子经济的价值"。这与 Travis Kalanick 的"数据中心本质是制造问题" 是同一论点的两个说法。

推理引擎层：模型与 Infra 的 co-design（游凯超，中/vLLM，2026-07）

来源：张小珺访谈 #148。本页此前的视角覆盖芯片（Pope）、系统（Jensen）、KV Cache 数据层（江鋆晨），独缺把模型跑起来的那一层——推理引擎。这是本库首份来自 vLLM 核心维护者的一手材料。

推理引擎 = 电力系统

游凯超反复使用的框架（[00:54:24]–[00:56:29]、[01:52:36]）：硬件 = 自然资源（风/水/光）、模型 = 发电机、推理引擎 = 电力系统。 - 推理引擎的职责是屏蔽复杂性："用户只是从下拉菜单里点了一个模型，或者只是改了一个参数说我今天请求的是 DeepSeek、明天是通义千问，但从背后的推理引擎来看，不同模型的支持效率、适配硬件其实是千差万别的。" - vLLM 的 V0→V1 重构"好比发电系统从火电过渡到新能源"——用户侧无感，底层原理巨变；因此"vLLM 其实一直是在重构的过程中"，最难的是在模型/硬件不断变动下保持前端体验统一。

⚠️ 对本页"token 工厂"框架的一条重要限定

游凯超接受"token 即电力"的类比，但给了它一条边界（[00:01:01]–[00:02:02]，⚠️ 仅存于片头预告，完整论证不在上传版正文中）：

"大家把 token 和电做类比的时候，可能会觉得电它是比较通用的、可以调制的，但是 token 它是没有办法去做调制的——你没有办法把一个 DeepSeek 模型的 token 转化为一个 Kimi 的 token，这个 token 它是带着模型的烙印的。"

这是对 Jensen Huang 的 "token 工厂 / token 分层定价" 世界观来自推理引擎一线的修正：token 不是同质商品，不可跨供给源互换，因此"token 价格"不像电价那样可以套利，也意味着 AI 商业化与价值捕获 中"模型商品化"的论证需要在供给可替代性这一点上更小心。

硬件彩票（Hardware Lottery）：模型结构决定推理效率的上界

[01:54:40]–[01:56:42]。这是本页 Reiner Pope 芯片微观视角的软件侧后果：

  • 摩尔定律黄金时代软硬件各自为战——"你写软件的人不需要考虑那么多硬件特性，因为硬件的通用性能每隔两年翻一倍"。
  • 如今进入专用时代："英伟达经常说黄氏定律，算力每隔两年又会翻几倍，但这个算力它其实都是专用的算力。如果你的算法没有利用到这些专用算力，你就没有抽中硬件的那个彩票，就吃不到这个时代的红利。"
  • 核心断言："模型的结构决定了推理效率的一个上界。如果上界太低了，那系统工程师就无力回天了。"
  • 反例 Hinton 的 Capsule Network（概念上 make sense 但 GPU 不友好，至今未广泛应用）；正例 Transformer 抽中了 GPU 的彩票（大量矩阵乘法、适合并行）。
  • 谁迁就谁：理想是协作，现实是硬件更强势（"因为硬件它已经造出来了"），代价则是硬件公司"一旦走错了，就是几年的时间走错了"。公司内部同理："很多公司里面是算法的话语权更高一些，infra 很多时候是一个被动接收的状态。"

co-design 的一正一反两个案例

正例：RoPE 为什么赢了（[01:56:42]–[01:58:44]）——本页最能说明 co-design 机制的一段： 1. Transformer 之后位置编码"少说可以找到上百种实现"，但多数实现需要改注意力 kernel。 2. 训练长度提升使 FlashAttention 成为训练必需品，而"大部分用户没有能力去修改 FlashAttention"——于是所有需要改 attention 内部实现的位置编码都被淘汰（例：ALiBi 是 absolute position bias，因此未能广泛应用）。 3. RoPE 兼具绝对与相对位置编码的性质，且可独立注入 query/key、独立于 attention kernel 之外——"所以它跟 attention kernel 是互补的，就变成了一个最佳搭档"。

反例：expert choice（[02:01:47]）——"MoE 里面曾经出现过一些 infra 同学为了 MoE 的均衡而选择了 expert choice，这个事情在算法上其实是不能被接受的，但是在 infra 上你可以让它跑得很快"。他明确定性为"过度倾斜到 infra 的一个例子"：co-design 失衡在两个方向上都会出问题。

落地机制：招既懂算法又懂 infra 的人最好；组织上一起办公产生"耳濡目染"的潜移默化。

DeepSeek 的 infra：一手观察与机制解释

[01:59:45]–[02:05:53]。此前本库对 DeepSeek infra 的记载多为转述与推测，这是来自其上游推理引擎维护者的直接评价：

  • "DeepSeek 的 infra 团队可以说是全球顶级的团队"，机制是双向的：infra 强 → 可高效实现的模型结构更多 → 算法研究员探索空间更大；同时算法同学也懂 infra——DeepSeekMoE 早期那版较粗粒度 MoE 的高效实现出自一位算法同学之手，细粒度 MoE 也是他们在推理系统里第一个做出来的。
  • 合作史比外界以为的早：DeepSeek 内部从 2023/24 年起就用 vLLM（加了自有优化变种），"24 年的时候 DeepSeek 还属于社区里面的一员，只是一个泯然众人的模型厂商"。R1 之后关系反转——"他们在推理引擎方面虽然基于 vLLM 做，但比我们做得往前面走了很多，我们当时是在不断跟他们学习的过程中"。
  • 投机解码的现状（⚠️ 方法名 "DSpark" / 路线名 "DFlash" 均为转录音，官方名待核）：EAGLE / MTP 系猜得短（3–5 个 token）但接收率高；DFlash 系一次猜 16 个但错得也多、验证阶段浪费算力；DSpark 的改进是先用置信度估计哪几个猜测大概率准，只验证前若干个。vLLM 与 NVIDIA 刚发布的 DFlash 支持"可以对某些模型达到每秒上千 token"。
  • 他对创新性的判断很克制（"在算法上并不能算很 novel"，腾讯混元、上海交大已有同思路工作），但随即给出本节的收束——也是整个 co-design 论的落点：

    "创新性是一回事，能不能把这个创新的想法扎实地做出来又是另一回事。……有没有一个好的推理引擎上的实现，是决定一个投机解码算法能不能大规模使用的关键。"

  • ⚠️ 他把 DeepSeek 的 infra 功底归因于幻方量化时期对性能的极致压榨，但该判断仅存于片头预告（[00:01:01]），完整论证不在上传版正文中。

治理与商业化侧（基金会 + 公司双层结构、AI slop、开源基建为何撑不住工程）见 开源基础设施与治理。

⚠️ 数据中心之外这一层：用 Wi-Fi 替代 PCIe（孟子立 / WiCi，中，2026-07）

来源：月球大叔访谈。本页此前所有的中方 infra 视角（游凯超/vLLM、朱邦华/SGLang、江鋆晨/KV Cache、vLLM Omni）都在数据中心内部做推理效率。孟子立（港科大助理教授、网络系统出身）补的是数据中心之外：把 GPU 从终端设备里搬到附近的"算力路由器"。

定位：无线 GPU

  • "任何终端——手机、笔记本、甚至眼镜——只要支持 Wi-Fi，就能连上这个无线 GPU，并认为自己本地就有一块 GPU。"（[00:59:27]）名字取自把 Wi-Fi 的 Fi 换成 Ci = Wireless Computing Infrastructure。
  • 不需要改应用：拦截驱动层/API 层的函数调用发到远端执行，应用看到的就是一块本地 RTX 5090（[00:59:27]–[01:00:29]）。实现是 Wi-Fi 驱动 + GPU 驱动两层。
  • 与云游戏的区别是本节的关键论证（[00:58:27]）：他在腾讯做过云游戏，复盘其增长受限的原因——云游戏/云电脑/云手机前后端都在云上、把视频传回来，对互联网可靠性要求极高，而互联网是 best-effort 网络，无法保证。所以换了个问法：前端留本地，只把计算卸载出去。并且一旦流量跨公网性能就急剧劣化，所以最终形态更像一台路由器——附近物理区域内、可能只有一跳（[01:00:29]–[01:01:29]）。

⚠️ 最硬的一条：这是在重造一种计算机体系结构

（[01:12:35]–[01:13:35]）本页 Reiner Pope 从逻辑门讲芯片 是芯片内部的架构问题，这一条是芯片之间的：

  • 正常情况下 GPU 通过 PCIe 连设备——数百 Gbps 带宽、微秒级延迟。"我们实际上是在用 Wi-Fi 替代 PCIe，带宽和延迟都差好几个数量级。"
  • 因而"事实上定义了一种新的计算机体系结构：CPU 与 GPU 通过弱链路而非强链路通信"。
  • 这个问题历史上被解决过——二十多年前、PCIe 出现之前就存在；PCIe 之后消费级主板上不再是问题，研究者逐渐离开（数据中心里仍是问题）。"我们等于把这个问题重新提了出来，这也提示了解法：把计算机体系结构几十年的知识拿到新场景下重新优化——缓存、预测、调度。"
  • 从游戏切入的原因是游戏最吃 PCIe 带宽与低延迟，是最苛刻的验证场。

需求侧的第二条论证：非文本本地数据

（[01:01:29]–[01:02:30]）这一条对本页"算力需求从哪来"是新的：

  • coding 之所以先成功，是因为每个文件都是纯文本，本地 grep 就够。
  • 非 coding 领域的区别就在这里：PPT、Word、视频、图像怎么办？难道给每个文件都做 embedding？开销会极其巨大——谁本地没有 100 GB 文件？
  • 结论：未来会有大量必须在本地跑的工作负载，就像机器人一样。

物理约束与既有路线的张力

  • RTX 5090 近 600 瓦、3 公斤，笔记本装不下、手机更不可能；而不移动的设备功耗可以一路上涨（3090→5090 从 300 瓦到 600 瓦），"算力增长的空间远大于移动端或端侧芯片"（[01:03:30]）。
  • ⚠️ 与 阳萌的存算一体端侧路线 正面张力：阳萌主张把算力塞进设备，孟子立主张把算力搬出设备。两人对约束在哪的判断相同（功耗/重量），结论相反。本库不做裁决——两条路线的分歧点其实是"近距离无线链路能不能可靠到当总线用"，这正是 WiCi 的技术赌注。
  • 与 Applied Intuition 的"物理 AI 面对真实时钟、只有那么多毫秒" 是同一约束的两个战场。

商业与供应链的一手记录

  • 护城河自我定位：最底层的驱动层与推理层（推理 kernel、推理引擎、Wi-Fi 驱动、GPU 驱动）；其余"能卸载的卸载、能外包的外包"——硬件交 ODM，应用交开发者社区（[01:10:35]）。整机可理解为 mini PC + GPU + Wi-Fi 路由器（[01:15:36]–[01:16:36]）。
  • 深圳的优势是迭代速度："线不合适或空间不够，一小时内快递就能送来新型号的线"；最大困难是量小，只能靠自上而下的资源与介绍（[01:14:36]–[01:17:37]）。
  • ⚠️ 最大的坑是 GPU 价格波动：产品含顶配 GPU，"大家最近都看到英伟达又调价了"，事后看应多囤货、签长期协议（[01:17:37]–[01:18:38]）。这是本页"算力成本"讨论里少见的下游硬件创业者视角——上游调价直接冲击 BOM。

⚠️ 算力稀缺会不会抬高进入壁垒：一条与本页主线相反的论证（Dwarkesh 经 Sacks 转述，2026-07）

来源：All-In 2026-07-31

本页与 AI 商业化与价值捕获 的主流叙事是商品化——Chamath 的"商品化周期被压缩到几年"、Eiso Kant 的开源必胜、Benedict Evans 的价值上移。

2026-07-31 那期 Sacks 转述了 Dwarkesh Patel 一篇博客的论证，方向相反（[00:43:35]、[00:57:47]）：

  • 前提：存在算力短缺。Anthropic 收入同比 10 倍增长，"那意味着明年它会从 1000 亿 ARR 长到 1 万亿——如果有足够算力支撑的话。可能没有，但那会给算力价格施加压力"。
  • ⚠️ 核心推论：

    "假设你是新进入者，想造一个更小更便宜的模型。算力价格在涨，你更难拿到算力。只有拥有最赚钱算法的公司才付得起价格去竞争算力。换句话说，明年的进入壁垒会更高——因为除非你的模型有能力产生这个量级的收入，你上哪去拿算力？"

  • Sacks 的补充版本：需求 10 倍/年 vs 算力建设只能 3 倍/年（"许可、监管、数据中心禁令，各种现实摩擦"）→ 算力涨价 → 优势归于"每瓦智能 / 每 token 智能 / 每 GPU 智能"最高的模型 → 自我强化的飞轮："如果你有全部收入，你就能把那笔钱投进下一次训练。"

⚠️ 本页标注：这条与本页 Imas & Trammell 的"Moore 定律价值减半与机会成本反转"、以及 反向读数：能效突破会不会让已建产能作废 构成三方张力：

论证 算力价格方向 对进入壁垒的含义
Dwarkesh（本节） 上升（需求 10x/yr vs 供给 3x/yr） 上升，只有最赚钱的算法付得起
Chamath 的商品化论 不直接谈价格，但性能优势维持不住 下降，终值溢价给不出去
能效突破的反向读数 下降（算法效率跳变） 已建产能可能作废

⚠️ 且同一集内 Chamath 直接给了 Dwarkesh 论证的一个反驳：他认为 token 需求里含大量返工（"AI 驱动的开发不是'量两次剪一次'，是相反的"），因此需求侧的 10 倍增长不是结构性的——"没有人在问这个增量 token 的必要性是什么……最终消费它的人会想尽可能高效地做这件事"。他还预告"有一些惊人的效率即将被演示出来，对同一个任务实质上把 token 消耗砍掉大约 50% 到 75%"（⚠️ 未点名、未给时间，本库标为该跟踪的预测）。

四条互不相容，本库并列不裁决。

能源：一条"已经发生但没被计入"的读数（Chamath，2026-07）

来源：All-In 2026-07-31

（[00:23:19]–[00:26:20]）本页已有的能源讨论集中在缺口（Pat Gelsinger 的"能源是 AI 上限"、behind-the-meter 与许可）。Chamath 加的是供给侧已经发生的替换：

  • 加州公布超过 50% 的电力由太阳能生成；新墨西哥州的研究称从 2003 年至今，天然气从几乎全部发电降到不足 30%，被风光+储能替代。
  • ⚠️ 他给的因果链（本页此前没有）："和伊朗冲突同样重要的是，能源价格其实没怎么动——因为大多数人已经开始把增量发电转向可再生、特别是太阳能。" 即：可再生的边际渗透正在把地缘政治的能源价格冲击吸收掉。
  • Tesla Q2 财报电话会（他转述）：要把美国太阳能产量提高整整一个数量级——"做到一年 100 吉瓦以上，而且垂直整合"。

⚠️ 与 SMR / 聚变的争论

  • Freeberg 的聚变侧：中国正在安装一块 582 吨的超导磁体（中科院等离子体物理研究所），去年跑出持续 30 分钟的等离子体；类比"莱特兄弟到喷气发动机大约三十年"；反应堆要到 2030 年才启动。
  • ⚠️ Chamath 的反驳（本页最该记的一条时间竞速论证）："等这些 SMR 真正接近投产时，太阳能的 TCO 会是每兆瓦时 10 或 12 美元，而且会占全部发电的 80%。等 SMR 上线时就没有意义了。" 以及"我们已经有一个能用的聚变反应堆了，它叫太阳"、"没人在乎一个电子是怎么造出来的，我只想要它被送到。它们全都一样。用最便宜最简单的办法造。"
  • Freeberg 的保留："但它是非线性的"——如果这些上线，每台能产出的功率是一大片太阳能田的几千倍甚至百万倍。

本库不裁决。 但注意这是本页第一次把"哪种能源"的争论转成"哪种能源先到"的时间竞速，而不是成本或物理可行性之争。

⚠️ 电力缺口数字的一次自我修正

（[00:32:26]）Chamath 明说"我之前的数字搞错了"，改称美国到 2050 年将短缺 1.7 太瓦时 = 加州全部能源消耗的 6 倍。

本库标注：记录这次修正的事实，不采信任何一个具体数值。 理由有二：① 1.7 TWh 与"6 倍加州"在量级上无法自洽（加州年用电在数百 TWh 量级），单位几乎肯定说错了；② 这与他在 SRO 那期 说的"约 2.5 个加州"是同一人对同一问题的第二个不同数字。Jason 的补充值得记（方向而非数值）："这大概还是低估的，这还没算机器人"——如果每台机器人都要充电。

推理服务商这一层：优化的"报价单"、量化的反直觉与 Rubin 世代（Baseten，2026-08）

来源：Latent Space 访谈（Philip Kiely & Ali Taha）

本页此前的 infra 视角覆盖芯片（Reiner Pope）、系统（Jensen）、推理引擎（游凯超、朱邦华）、KV Cache 数据层（江鋆晨）与 agent 云（Modal）。独缺把这些拼起来卖 token 的那一层——本节是本库第一份来自推理服务商的一手材料，因此第一次拿到每项优化的增益倍数与工时这种粒度。

加速倍数的"报价单"（本页最可操作的一段）

[00:36:19]–[00:40:24]。基线：万亿参数模型、合理流量、开箱即用推理引擎不做优化 = 30–50 TPS；全套优化 = 300–400 TPS。

优化项 增益 上手成本
BF16 → FP8 约 30–40% 懂行的人数小时到数天；今天多半可直接取用他人发布的 NVFP4 权重
FP8 → NVFP4 再约 30–40%（合计不到 2 倍） 同上
投机解码 约 2 倍 数小时到数天；今天多半可直接取用他人训好的 speculator
PD 分离 约 2 倍 ⚠️ 首次跑通很难，边际部署不难；且需足够硬件与足够流量才吃得到
更好的运行时 / 最新 kernel 两位数百分比 —
  • "投机解码 + 量化大概就是 95%。"
  • ⚠️ 重要的降温："10 倍很激进，通常更像 4–6 倍"；归一化到同样硬件、同样 GPU 数则只有 2–4 倍，其余来自换更好的硬件——"一部分是车，一部分是司机"。这为本页 Cerebras 的 15–20 倍、Modal 的投机解码 2–4 倍 等零散数字提供了一个同口径的分解基线。
  • 术语纠正（[00:35:18]）：TPS 同时指吞吐与延迟，"是我们这行取错的名字"——后者应叫 ITL（inter-token latency），而大多数人关心的正是后者。
  • 行业成熟度的一把标尺（[00:34:17]）：金融业优化到极致后按基点算改进，推理现在还在按 20%、100%、200% 算——"等到研究者开始发论文说自己快了 1%，推理才算基本解决了"。

⚠️ 量化：误差可以互相抵消，所以"量化更多反而更准"

[00:26:14]–[00:33:17]。这是本页关于有损优化最反直觉的一条。

  • 前置框架：绝大多数推理优化是无损的（KV 缓存只避免重算、投机解码猜错就拒收），唯一的有损项是量化；质量取决于数据格式 / 量化哪些层 / 校准力度。图像模型里不量化 modulation 层与 out projection（"out projection 是用户看到的，modulation 是模型理解的"）。
  • 核心发现：量化层 1、5、10 可能优于只量化层 1、2，因为各层的量化误差会互相抵消（"一层偏右、一层偏左"），最终 logit 分布反而更贴近原模型；且可以预测哪些层会抵消。结果是比 NVIDIA 方案多量化约 20%（多约 20% 吞吐）同时保真度更好。
  • ⚠️ 方法论比结论更值得记：验证不用 benchmark 分数（"高两个基点通常只是噪声"），而是比较量化模型与全精度模型 logit 分布的 KL 散度。这为 评估与 Benchmark 补了一条推理侧的替代度量。
  • "质量"的定义：不是模型多聪明，而是在多大程度上忠实服务了原模型——"你不应该分辨得出我们的 API 和官方 API"。Kimi 的 vendor verifier 是这条的市场机制：用户在某家云上体验差，"他不会说这家把模型量化坏了，他会说 Kimi 烂"。

⚠️ 生产实况：模式坍塌是软件问题，不是权重问题

[00:22:12]–[00:26:14]。本页此前的讨论多在设计与经济层，这段是少见的运维层归因：

  • 兜底做法：同一 token 连出 4 次以上直接掐掉生成并重试（对画表格的连续横线等特殊字符做排除）。⚠️ 最常坍塌的 token 是 "S"，问为什么——"没什么特别的，就是那一个 token"。
  • 同一份权重换推理引擎（SGLang → vLLM）问题就不出现，所以不是权重问题、也不是 PTQ 做错了。
  • ⚠️ 更深一层是 kernel 竞态："同一个模型放 A 集群永远不出问题，放 B 集群就出"——因为 B 集群节点间 KV cache 传输走更慢的互联，把竞态暴露了。处理办法就是换集群托管。
  • 关联点名：CUDA 没有 Rust borrow checker 那样的东西，kernel 正确性测试极难；PDL 这类"上个 kernel 没结束就启动下一个"的重叠优化会放大问题。

这条与本页 游凯超"硬件彩票" 构成一个完整的悲观图景：模型结构定推理效率的上界，而上界之内的最优点也推理不出来——TP/EP 组合与 kernel 参数只能用影子流量扫参数空间按实测选（[00:55:34]–[00:56:35]，Ali 明确表示不喜欢这一点："你没法推理出哪个配置最好，也不存在一个永远最好的配置"）。

Rubin 世代：推理工程正在变成基础设施工程

[01:00:38]–[01:07:41]。本页此前对 Rubin 的记载几乎为零，这是第一份来自使用侧的读法。

  • Philip 的版本：他经历过 Ampere / Hopper / Blackwell 三个周期，并指出"硬件上架"与"硬件真能用于推理"之间有很长时间差（最初的 vLLM 是奔 Ampere 写的，每代都要改，"每次更快更急，也实质上更复杂"）。他从 Dynamo 的设计反推 Rubin：NVFP4 张量核算力巨大、带宽更快，但最大的变化是系统——CPU↔GPU、GPU↔GPU 互联；而 Dynamo 整个就是围绕"怎么把 KV cache 在需要时送到需要的地方"设计的。

    结论：KV cache offload、KV-aware 路由、PD 分离在 Rubin 时代会显著更重要，推理工程因此不只是 CUDA kernel 问题，也是非常传统的硬件基础设施问题。

  • Ali 推得更远："我认为它正在趋向于变成一个纯粹的基础设施问题"——GPU 越来越像 ASIC，"你只是在编排 GPU 上发生什么，而不再逐线程控制它"。
  • ⚠️ 本页 推理专用芯片与代工格局 一节的第一次正面压力测试：swyx 此前的立场是"推理这件事大到理所当然会有专用 ASIC，且押注架构不变是好赌注"。本期同一人现场被 Ali 从供给侧反驳：
立场 论证
Ali（怀疑独立 ASIC 公司） Rubin 相比 Ampere/T4"基本上就是个 ASIC"（systolic array、tensor core、TMA、tensor memory，指令形状几乎按当今模型 head 维度定制）——专用性正在被 GPU 自己吸收；把东西刻进芯片，下一代架构一出就废；若前沿实验室每年换架构，等于每年花 500 亿造新 ASIC 再扔掉去年的
Ali（同时反对"权重烧进芯片"） 要微调、要量化、要发新 checkpoint——烧进去的芯片一两个月就没用了
Philip（回应一） 硬件周期极长，今天的芯片几年前就开始设计，而 NVIDIA 很擅长预判——"Rubin 老实说是第一颗完全在 MoE 世界里设计出来的芯片"
Philip（回应二） 模型寿命比想象的长："还有人在用 4o、我还看到 Llama 3 的工作负载"，企业要的是可靠性与可预测性——这恰是 swyx"存量 workload 不会迁移"的正面证据
swyx（收缩后的立场） 区分垂直整合的模型实验室自研 ASIC（如 OpenAI–Broadcom，援引 Martin Casado："5000 亿的训练拿 500 亿做 ASIC 很合理"）与独立 ASIC 公司——后者的价值在互联与布局分配而非算子，"10 倍到 1000 倍更快的推理，真正的阻碍不是能在现有 GPU 设计里重排的东西"；目标量级是每秒 30 万 token

本库标注：这是同一立场被拆细，不是翻转；四条并列不裁决。 - ⚠️ Ali 公开唱空 mega kernel（本库首个明确的反 mega kernel 一手表态，[00:57:35]–[00:59:36]）：① 写一个真正优化好的 mega kernel 极其困难；② 融合救不了张量并行的通信——TP 下半个矩阵在一卡、下一步 softmax 这类非线性算子需要整行，必须通信；③ ⚠️ 据他接触的从业者，做融合 mega kernel 的公司自己在生产里往往并不跑它们，因为 TensorRT-LLM / modular 那类逐个优化、彼此并行的 kernel 更快；④ ⚠️ 他称 Rubin 的设计让 mega kernel 大体不再必要、"这整个研究方向不会再继续下去了"——该条基于一条推文的二手转述，规格与推论均未核实。

⚠️ "下一个 10 倍是更快的网络"：对 KV Cache 层的第三次独立佐证

[01:38:03]–[01:41:04]。Ali 自称"很无聊的答案"，但这是本节对本页 江鋆晨的 KV Cache 押注 最直接的支持：

分离式服务里 KV cache 跨节点要走两段传输：找到 → 传到对端 → 落对端内存 → 再进 GPU。之所以绕这一圈，是因为 HBM 快到约 4.5 TB/s，比网络通信快若干个数量级。 "如果网络能极快、跳过 HBM 直接节点到节点传 KV cache，分离式服务能有接近 100 倍的加速。"（他明确加了免责：不了解把网络做快的技术难点）

本期在三个独立位置指向同一层，构成本页对"KV Cache 是下一个数据层"最集中的一次外部佐证：① Philip 把 Rubin 的核心读成"Dynamo 整个围绕 KV cache 搬运设计"；② Ali 把"下一个 10 倍"押在 KV cache 跨节点传输；③ ⚠️ Ali 认为持续学习的解法是 KV 压缩而非改权重——理由是权重编辑改不动二阶推理（可以把"最好的大学是滑铁卢"编辑进 MLP，但问"该从滑铁卢还是 MIT 招实习生"它仍会说"都不错"）。他自陈在一次推特争论中被说服转向这一派。⚠️ 推论对本页意义重大：若持续学习走 KV 路线，则推理侧几乎不用变（权重不变 → 推理时间、投机解码都不变），只是多一步 KV 更新。

硬件算术与并行策略（补本页此前缺的实操层）

  • 容量（[00:54:34]、[01:11:43]）：H100 每卡 80 GB、B200 每卡 180 GB、GB300 每卡 288 GB；2.8 万亿参数模型在 NVFP4 下约 1.4 TB，八卡 GB300 可容纳。⚠️ 但真正的约束是还要给 KV cache 留空间——参数量大 + 上下文长时两者抢地盘，"这正是 KV cache offload 在巨型模型上变得更突出的原因"。另一条常被忽略的事实：世界上 HGX 机架远多于 NVL72，不能假设推理跑在 NVL72 上（[01:12:43]）。
  • EP / TP / PP 的分工（[00:52:32]–[00:54:34]）：专家并行把整个 expert 放进一卡、router 每卡复制一份，expert 间不争资源、对卡间互联要求不高；张量并行横切模型、每步 all-gather/all-reduce，互联极关键、有利于延迟；实践中两者混用。流水线并行只在被迫多节点时用（节点内仍 EP+TP）。
  • ⚠️ 优化不可跨场景移植（[00:47:29]–[00:51:32]）：本页 阳萌的存算一体、孟子立的无线 GPU 讲的是端侧硬件形态，Philip 补的是目标函数："本地 AI = 怎么把模型塞进硬件然后让它别那么笨；数据中心 = 怎么装载起来然后让它别那么慢。"具体反例：某种在 MacBook 上大火的量化 kernel（因本地内存带宽慢而极有用）放到 B200 上就不划算——B200 带宽约 3.5 TB/s，kernel 内反量化的开销比省下的带宽时间还大，NVIDIA 明确表示这不是好优化，他们也实测证实。同理张量并行假设有 NVLink 级互联，因此不适合本地；反过来"除非做多节点推理，否则我们永远不用 PP"。
  • 另一条模态外的形状差异（[01:13:45]）：视频扩散不做批处理——每请求占一卡、模型小几个数量级（开源视频模型约 200 亿参数）；瓶颈是 token 数与平方级注意力（5 秒 480p 压到 latent 仍约 3.5 万 token）。详见视频页。

支持一个新模型到底是多少工作（对 co-design 一节的施工侧补充）

[00:13:09]–[00:21:11]。本页 游凯超那节 从引擎维护者侧讲了"新架构逼出 infra 优化"，这里是服务商侧的账：

  • "能吐出一个 token"≠"有生产可用的 API"。前者不难——vLLM/SGLang 常提前拿到权重或由模型方自己提 PR 保 day-0；难的是每家都有专有栈。
  • 即使是纯续训的新版本，仍要：重做量化并校准（模型基本不以 NVFP4 发布，而他们要 NVFP4 吃满 Blackwell）+ 重训 speculator。⚠️ 一条硬约束：训 speculator 必须用基座模型本身（训练数据是模型跑推理产生的 hidden states），拿不到真权重就训不了。
  • ⚠️ 数据来源的自我限制：模型 API 做 ZDR（零数据保留），"不知道用户发了什么，但知道什么流行"，于是用公开数据集里代表编码/agent 流量的数据训通用 speculator。
  • speculator 规模：GLM 那档约 10 亿参数，MiniMax 那档就一层——"通常是原模型的约 1/60"（[00:45:28]–[00:46:28]）。实践约束是它必须与大模型跑在同一硬件上，因此存在编排与资源竞争——"draft token 要花算力去造，也要花软件复杂度去管"，这也是"投机的投机解码"不划算的原因。
  • 开源实验室互相借零件是可操作的（[00:16:11]–[00:21:11]）：把 Kimi 的视觉编码器嫁接到 GLM 5.2（只训投影层，编码器与主干全冻结，约几百万参数）；把 MiniMax M3 的全注意力头换成另一模型的 GQA 层再训回同样的接收率。Philip 的总结值得直接记："你突然就有了 Kimi 的视觉、GLM 的权重、DeepSeek 的注意力，全在一个模型里。" 详见 开源基础设施与治理。
  • Dynamo 的定位（[00:42:26]）：工具箱而非开箱即用系统——"pip install Dynamo 不会让你直接快一大截"，它擅长的是在集群里协调 NIXL 搬运 KV cache。

训练与推理的合流

[01:28:55]–[01:31:58]。本页 Poolside 的"RL 是墙钟瓶颈" 从模型实验室侧讲了这件事，本节是推理服务商侧的同一判断：

  • 为训练而推理：RL rollout 慢就卡住整条流水线，"你不想在太 off-policy 的 rollout 上训练，所以只能等"。⚠️ 一个具体卡点：要训的模型若在 TensorRT-LLM 里没被支持、只能退回更老的引擎，rollout 就会慢。
  • 为推理而训练：训 speculator / EAGLE 头；以及量化后的补救——"有时 PTQ 就够了，有时量到 NVFP4 质量太差，必须后训练让模型理解自己现在是 NVFP4 还要输出同样的 logit"，手段含 SFT、量化感知训练与 NVIDIA 的量化蒸馏（同时保留 NVFP4 版与全精度版，按两者 logit 蒸馏）。
  • 组织后果："我们团队的推理工程师必须非常熟悉训练技术、能自己写训练管线。"
  • ⚠️ 最具体的一环见 AI for AI：GLM 5.2 在为自己写 SGLang 的 GPU kernel。

⚠️ $/watt 与 3000 亿美元的融资问题：本页第一次把它问到底（All-In，2026-08）

来源：All-In / Google 人才外流、SpaceX 财报、Airtable（[00:38:22]–[00:45:24]）

本页此前的 capex 讨论（碎片化与"五个九"的成本阶梯、能源作为真实上限、算力稀缺会不会抬高进入壁垒）大多停在总额与电力这一层。SpaceX 首份公开财报把讨论压到了一个新的单位上，并第一次把融资问题追问到了对手方。

单位：美元 / 瓦

（[00:25:13]，Sacks）算力现货价 30–50 美元/瓦 → 每 GW 300–500 亿美元。 Brad 随后把下限钉死（[00:39:22]）："首先，建一个 GW 最少是 500 亿美元。"

  • 由此可反推营收指引：SpaceX 说年底 1000 亿 ARR，"你只需要相信他们在 2 GW 算力、按 50 美元/瓦运行就够了。这还不包括 Starlink、发射业务、Grok/Cursor 那块。"
  • ⚠️ 本页标注：$/watt 是本库第一个可以把"电力—capex—营收"三者直接串起来的单位。此前本页记录的能源讨论（Gelsinger 的能源上限、Chamath 的电力读数）与 capex 讨论是分开的两条线，这个单位把它们接上了。

⚠️ 两个被问得比答案更好的问题（Sacks）

Elon 称明年 5–10 GW，"更接近 10"。取 8 → 净增 6 GW → 约 3000 亿美元 capex。

  1. 现货价会不会守住？"你怎么知道现货价会停在这里？50 美元/瓦守得住吗？我们怎么跟踪？"
  2. 他从财报电话会得到的印象是 Elon 认为还会涨，因为市场受内存约束：⚠️ "明年内存产量可能增加 20%，但需求增长 200% 以上。"
  3. 他给的一般化表述值得单记："市场总是被当时那个瓶颈约束着。现在的瓶颈是内存。" —— 这是本页 能源作为上限 那条线的一个重要修正：上限是流动的，2026-08 这一刻不在电力而在 HBM。
  4. 3000 亿怎么融？"他们说回收期是一年或更短……问题是：你觉得 NVIDIA 会给他们这笔融资吗？"

Brad 的回答：三条路，每条都有对手方问题

  • 三条路：① 去市场借；② 稀释性股权融资；③ NVIDIA 兜底。"前两条他们都不想做"，第三条 NVIDIA 已表示会做更多，但"NVIDIA 的股东不希望它无限兜底"。
  • ⚠️ 恐惧的具体形状（本节最该记的一句）："世界上的恐惧是那个现货价某个时点可能会反过来打你，而一旦反转，回收期就变了。没有人真的认为回收期会是一年，哪怕今天的现货价暗示它就是一年。"
  • 历史对照："就在几个月前，人们还认为回收期是四年——花 50，每年赚 10 到 15，四到五年回本，第六年才把回报率推到 20% 以上。"
  • 为什么现在这么贵："短缺太急性，前沿实验室的付费意愿太高，因为他们都意识到自己正处在某些重大突破的边缘，所以他们愿意付市场价的三、四、五倍去拿到规模化算力。"

⚠️ 本页最该记的一条事实：承接方只有三家

（[00:42:23]，Brad）

"没多少人有能负担这个规模算力的承接收入。买 SpaceX 富余算力、或者在俄亥俄建 10 GW 的，不是中国开源公司，是 OpenAI 和 Anthropic。当你听到超大规模厂商在建这些算力，他们是建来卖给我们刚才提到的那几家的。绝大多数承接承诺来自 Anthropic、OpenAI 和 NVIDIA。"

  • 规模感："今年 Anthropic 和 OpenAI 加起来的起始总算力大约是 5 GW。所以他说的增量比这两家加起来还多。"（Sacks 的回应：这不算多大的增幅，因为 Anthropic 在同比 10 倍增长、OpenAI 大概 4 倍甚至更高。）

⚠️ 本页标注：这条把本库长期讨论的"需求会不会撑住"从抽象宏观担忧变成了三个具体可观测的对手方。它同时给 Sacks 的双寡头论 提供了一条独立的结构性佐证——算力承接能力本身就在收敛成同一批人。

循环融资：Bill Gurley 的框架被搬上桌

（[00:43:23]–[00:45:24]）

  • Brad 引 Bill Gurley："我真不敢相信我们都这么泰然地接受了这个程度的卖方融资"——他会把它叫作循环收入（circular revenues）。"但市场已经习惯了。"
  • ⚠️ 最该被跟踪的一句："只要出现一次对需求的惊吓，整个板块就一起跌。因为这就是你往系统里泵的杠杆——你实际上是在为人们在收入之前先建产能做兜底。所以一旦真的看到需求滑坡，它会激烈得多。"
  • 7 月那次的成因他给得很具体："7 月的回调是 Kimi 把人吓到了——他们要把前沿的收入打下去。而如果他们打掉前沿实验室的收入，谁来为这些算力买单？这就是为什么 CoreWeave 那类公司和所有半导体股跌了 40%。"⚠️ 这与本库 7 月 31 日那期的杠杆与热钱结构 是同一事件的因果链版本。
  • 一条硬指标（Friedberg）："信用利差在这些交易上一直保持在很宽的位置。所以市场对它们是有恐惧的。"
  • Jason 的对冲观点："这件事被公开讨论、市场被教育过了，意味着如果它没兑现或者放缓，人们能实时调整。我怀疑这个速度撑不过再两年左右。"

⚠️ 渠道冲突：本页此前没有的一条产业结构

（[00:07:02]，Brad）同一批算力，云业务想租出去，内部模型团队想拿来打租户：

有渠道冲突 无渠道冲突
Google（云要把算力租给 Anthropic，内部要用它去竞争 Anthropic）、微软、SpaceX（租给 Anthropic 同时用 Grok/Cursor 造模型）、Meta（正进入 IaaS） Anthropic、OpenAI——"他们说我们不做基础设施生意，我们只做模型生意"
  • 佐证：微软本周引用 Morgan Stanley 报告称其 "tokens as a service" ROIC 超过 30%。
  • 税务侧（Brad，[00:08:02]）：按 26% 企业税率，capex 当年可全额抵扣 → "你每投一美元 capex，基本上等于打了 26% 的折。"
  • ⚠️ 这条对本页的意义：它给出了一个与技术无关的、纯激励结构的解释，说明为什么一体化厂商会系统性地把资本从模型侧挪向基建侧——而这正好是本页"价值向基础设施层集中"这条主线此前缺的微观机制。相关的人才后果记入 AI 实验室文化与组织。

⚠️ "算力市场被 LLM 化了"：本页第一条来自非 LLM 工作负载的抱怨（Chai Discovery，2026-08）

来源：Chai Discovery 那期（[01:01:33]–[01:04:35]、[01:11:37]–[01:12:38]）。

⚠️ 为什么这条对本页是新的：本页此前所有材料——Baseten、游凯超、Simon Mo、孟子立——都是在 LLM 的形状内部讨论优化。Chai 说的是硬件形状本身就不是为这类模型造的。

供给侧：幂律

Neil（他的岗位之一就是给公司买算力，"最糟的活，我不推荐，压力非常大"）：

  • 2025 年 9 月开始感到紧：他们大量推理跑在 spot 和按需市场上，开始出现容量挤兑，于是决定自己买。
  • ⚠️ "我没意识到这是多大的一个幂律——比方说全球在出货 10000 台 B300，超大规模云和最大的那几家 AI 实验室买走 95% 以上，然后创业公司在抢剩下的渣。"

⚠️ 更值得记的第二层：硬件的形状

"这些后期的算力版本——Vera Rubin、B300——很多东西是照着 LLM 造的：巨大的 KV cache、72 张 GPU 全都要互相通信。有些性能收益当然也帮到我们，但算力市场被 LLM 化（LLM pilled）的程度挺有意思的……我认为这一类模型会和 LLM 一样大、一样有影响力，但算力那边好像还没意识到——既是容量意义上的，也是软件栈意义上的。"

Matt 给的架构侧机制（本页此前没有这类非 Transformer 的算力画像）：

项 LLM AlphaFold 式结构模型
注意力作用对象 长度 L 的序列表示 ⚠️ 成对表示（pair representation），相当于长度 L²；按实际 batch 方式最后是 L³
每 token 的 flops — 非常高
真瓶颈 KV cache / 带宽 ⚠️ 内存带宽——"哪怕简单如一个 layer norm 都可能占掉相当一部分算力"
与 GPU 的匹配 高 ⚠️ triangle layer："隐藏维度小、序列维度大，恰好和 GPU 被设计来处理的东西相反"
  • Matt 给的心智模型："triangle layer 某种意义上就是拿参数换算力"——"我想砸更多算力换参数，因为我没法真的存下那些大的成对表示还做正常注意力。"
  • ⚠️ 与 刘子鸣的"Transformer 中了硬件彩票" 是同一论证的另一侧：刘子鸣说的是架构中了硬件的彩票；Chai 说的是没中彩票的那些架构现在过得什么日子。本页把这两条并置。

一条被主动展开的工程原语：durable execution

Neil（[01:05:35]–[01:07:36]）：设计一个分子不是一次模型调用，而是大量 GPU 上的分片计算；这种规模下总有部分基础设施是脆的——桶挂了、数据库因事务太多打嗝、GPU 报错。

  • "我待过一些公司，你把大量时间花在这上面……本来是个挺简单的分布式计算，最后 95% 以上的时间花在排队和重试上。"
  • 他们的做法是尽可能多的东西跑在 Temporal 上（数据库副作用、模型调用、长数据管线的编排）。
  • ⚠️ 落点直接回答了"生物学变成工程学最大的阻碍是什么"："我其实认为很大一部分瓶颈就是没有对的工程原语。" ——本页 Agent 云 / sandbox 那条线的科学计算版本。

⚠️ 超大规模云厂商一号位的资本配置与"不为一两个客户建"（Satya Nadella，2026-09-15）

来源：All-In / Satya Nadella

Satya Nadella 在 All-In 那期。本页第一份来自云厂商一号位的材料——此前本页的视角来自芯片侧、推理引擎侧或投资人侧。

资产分两类，节奏也分两类

（[00:28:29]）

  • 长周期资产：土地、电力、cold shell。
  • "kit"：机架与芯片，约占成本 60%，而且可以按需求驱动（需要预测两三年后的需求）。
  • 策略三段：尽量自建、部分租赁、真要冲量时甚至短租——他说现在确实在租不少，因为供给紧张。

⚠️ 配置原则：不为一两个客户建

（[00:23:24]–[00:24:24]、[00:29:31]）他说微软开始得早（"在别人意识到需要建之前好几年"），但更关键的是配置原则：

⚠️ "如果你是超大规模云厂商，你就不是两家模型公司的供应商——那不是一门生意。你必须建一个对大量第三方都很好的系统。"

  • 配一句同方向的表述："OpenAI 是我们最大的客户之一，这很好，他们在增长也很好——但我们需要更多。"
  • ⚠️ 本页标注：本页既有的 循环融资与"承接方只有三家" 那条线关心的是资金闭环的脆弱性；这条给出的是供给侧自身的对冲逻辑——云厂商把"客户集中度"当作要主动压低的风险变量。这是本页第一次从供给方口中听到这条。

硅的多样化

（[00:29:31]–[00:30:31]）规模化之后工作负载的形状已经被理解得很清楚，于是可以针对推理与训练的不同阶段做专用硅，结果必然是更异构的系统架构。

  • 他点名自家在跑的：英伟达（主力）、OpenAI 自研芯片、AMD。

    "我的目标是让 OpenAI 的模型、Anthropic 的模型、还是我们自己的模型，都能跑在异构的 kit 上。"

  • ⚠️ 他顺带点评黄仁勋自己的架构也在剧烈变化。

⚠️ 数据中心的社会许可：他给的是 20 年纵向数据

（[00:33:33]–[00:35:33]）被问怎么扭转"别建数据中心"的民粹情绪，他的回答不是论证，是一份长期结果数据——Quincy（华盛顿州），2008 年左右开建，约 20 年：

  • 税收增长 12 倍；paidin taxes 下降三分之一（⚠️ 原文含混，本库不解释）。
  • 这个农业小镇的增速高于西雅图；新学校、新医院、新镇中心、新水上中心。
  • ⚠️ 针对"数据中心创造不了多少就业"的直接反驳：这 20 年间该地区持续有约 1,200 个建筑岗位——"不是建完就走：你在持续翻新、扩建。"
  • 规模：现在至少 400–500 兆瓦，还会继续扩。

⚠️ 本页标注：Greg Brockman 那期 给的是承诺清单（不推高居民电费、闭环水冷、Abilene 用水约等于一栋办公楼）；Satya 给的是 20 年的结果数据。本库认为后者的证据类型更强——但两者都是自述且未经核实。

⚠️ 更值得记的是他对"为什么这些故事没被讲出来"的回答：

"科技行业里任何人只是嘴上说说，人们的怀疑度都太高了。所以我们现在必须去做苦功——在现实世界里真的做事，让人们能说：好吧，我现在信你了。"

他要的是行业之外的人来讲——"如果你去 Quincy，他们会告诉你谢天谢地有这个数据中心"。对主持人"这是一块新肌肉"的定性，他重复认可了两次。

⚠️ 架构决定 Infra：K3 与 DeepSeek 的路线分野（孙宇涛，2026-08-26）

来源：张小珺 / 孙宇涛

孙宇涛 在 张小珺第 152 期。

⚠️ 他的总纲（[01:33:12]）：关键架构设计需要与 infra 做 co-design，而且模型架构本身会反过来影响整个 infra 栈的设计选型。本页认为这一期最有价值的地方，就是把这句抽象话落成了几处具体的分野。

⚠️ 线性注意力的 context parallel：层次化 chunk

（[01:34:12]–[01:37:13]）

  • full attention 的 CP 概念上相对简单（ring / zigzag attention）——无非把跨 GPU 的 KV cache 汇到一张卡算。
  • linear attention 的 CP 复杂得多，关键洞察是：

    ⚠️ chunk 本身可以任意拆分——512 个 token 一个 chunk，还是 8k 一个 chunk，数学上完全等价。

  • 于是可以做层次化 chunk：机器之间以大 chunk 为单元做递归（如 8k 一张卡），机器内部在 kernel 层面再切小 chunk（如 16 tile 内并行）。
  • ⚠️ 对照：早年有工作让 chunk 之间用线性注意力、chunk 内部用全注意力——那样 chunk 大小就与架构设计绑死；纯线性注意力与 chunk 大小无关，所以才能任意拆。

MoE 的 EP 负载均衡：冗余专家

（[01:37:13]–[01:40:15]）传统 dropless EP 的两个问题：各卡 token 数不同 → 执行时间不同 → 互相等 → 浪费算力；token 数不确定 → 通信多一个阶段（先告知每张卡要收多少）。

⚠️ Kimi 的方案是动态 EP + 冗余专家（名称在本地转录中不可辨，本库不认领）：数学上可证明，只需增加一小比例的冗余专家，就能保证各卡 token 数完全对齐，再用 online planning 提前规划冗余专家的摆放。

⚠️ 他把限度也点明了：卡层面均衡不代表专家层面均衡——"一张卡里有多个专家，如果还想保证每个专家都一定，那就只能采取有损的策略"。

显存：offloading 的不等式，与用 FP8 跨过它

（[01:40:15]–[01:41:16]）K3 做了细粒度控制：每个部件是走 activation checkpointing 还是 offloading。

⚠️ K3 采取了大规模 offloading 到 CPU，而这是 non-trivial 的——offloading 不拖慢训练是有条件的：CPU 与 GPU 之间的通信要满足某个不等式，才可能用计算完全 overlap 掉通信。

⚠️ 为了跨过这个边界，K3 把所有可 offload 的东西都用 FP8 存——"省一倍，它可能才能从一个边界跨到另一个边界"。

⚠️ 与 DeepSeek 的两处明确分野，而分野的根源在架构选择

（[01:42:16]–[01:46:22]）

  • DeepSeek V3 的两招：① 细粒度 MoE overlap——把上一个 batch 的 MoE forward/backward 与下一个 MoE forward 融合、重排计算先后，把 dispatch 与 combine 的通信藏起来；⚠️ 这需要把 forward 与 backward 从原子计算层面拆开、手工重排，"有一定的难度"。② DualPipe / DualPipeV。
  • ⚠️ K3 两招都没用：

    因为用了 Latent MoE，通信开销本来就小得多，所以没必要拿另一个 batch 来 overlap——在一个 batch 内部，用 shared expert 的计算就能把 MoE 前后向的通信盖掉。

    "用不一样的 MoE 架构，带来了不一样的 overlap 策略。"

  • 反面：传统 MoE 通信开销太大，shared expert 盖不住，就必须把另一个 batch 拿进来。
  • 额外好处：推理的 critical path latency 是免费的。
  • PP 的不对称：单向 PP 下靠前的 rank 进入更早、积累 batch 更多、activation 压力更大。⚠️ K3 把 memory 占用大的 PP rank 直接存到占用小的 rank 上，用 lightweight 方式规避了 DualPipe 的复杂设计。
  • ⚠️ 一条即使完美 overlap 也存在的损耗：通信与计算完美隐藏时，计算本身也会相对变慢——"它不是完全可以无损的"。DeepEP 的应对是用足够少的 SM 占用换更大的整体通信 throughput。
  • Muon 的切分（[01:46:22]）：⚠️ Adam 是 element-wise 的，怎么切都不影响结果；Muon 需要对整个矩阵做 Newton–Schulz 迭代，所以某个 rank 必须保存该矩阵的全部参数 → optimizer 维度的切分需要额外处理。

⚠️ 多模态让 infra 难度直线上升

（[01:47:22]–[01:49:23]）

"对于多模态而言，你每引入多模态的一项功能，它的 infra 难度其实都是直线提升的。"

  • Vision encoder 内部序列更长：输入可能 32k token，压缩后进主干只剩 8k → ⚠️ 主干不需要开 CP 时，vision encoder 反而可能需要开 CP。
  • ⚠️ PP 的不均匀：有的卡纯文本、有的卡视觉比例很大 → 不仅影响 DP，也破坏 PP 流水线的打满。K3 的解法是不把 vision encoder 放在 PP 开头，而放在中间或尾部——让前面计算时原本闲置的中间 PP 提前算 vision encoder 的后续步骤。

推理引擎的适配难点

（[01:52:24]–[01:54:24]）

  • ⚠️ linear attention 的 prefix cache 是真麻烦：full attention 每个位置都有 cache，下一位置的 cache 是上一位置的简单增量；而 linear attention 每一步是在上一步 cache 基础上做复写，每一步的 prefix state 都不一样。

    全存则线性注意力的好处完全没有了；完全不存则享受不到 prefix cache。 当前策略是按 block 切，每个 block 做一次 prefix caching。

  • ⚠️ vLLM 的 paged KV 在概念上不考虑层与层之间的异质性，所以直接引入混合架构在 infra 上并不容易；linear attention 与 sliding window 无法按 page 管理——它们不存在一个对 token 而言长久的 KV cache 生成方式。
  • 本页标注：这与本库 Simon Mo / vLLM 那条"推理引擎即操作系统层"的线是同一件事的两侧——架构创新的成本有一部分是由推理引擎承担的。

为什么 K3 不用 sparse attention

（[01:03:57]–[01:08:00]）⚠️ sparse 在 decode 里的加速其实特别小，因为求 index 这一步相当昂贵——而且在 Blackwell 这类更先进的硬件上，这个 overhead 反而越大。

  • 已有缓解：GLM 团队的 Index Cache（把求 index 跨层共享，每 4 或 8 层）；他自己的工作更极端——基于 YOCO 把 sparse index 也做成 Once。
  • ⚠️ K3 不用的两个理由：① 对 hybrid attention 来说跨层共享 index 是 non-trivial 的——full attention 层之间隔着很多线性注意力层，"加速比是否足够高，其实是相当可疑的"；② sparse 基本没法 from scratch 训练，一般是 post-train 从 full attention 转化，而用了 MLA 会更难。
  • 他的定性："留一个接口，之后再做也行。"

⚠️ 价格轴：从 $10–15M/MW 到 $100M/MW，以及算力预算的内部拆分（Dylan Patel，2026-08-25）

来源：Dwarkesh / Dylan Patel

本页此前只有工程轴（芯片、能效、推理引擎）与总量轴（GW、capex），缺一条价格轴。Dylan Patel（SemiAnalysis） 补上了它（视频页）。

  • 基础成本：每兆瓦约 $10M / $13M / $15M（[00:02:03]）。
  • 拐点：GPT-4 跑在 Hopper 上对 OpenAI 是负毛利；现在 Anthropic 的每兆瓦收入已高到 $50M（[00:02:03]–[00:03:03]）。
  • 实验室必须把价格顶上去：因为 $10–15M/MW 的算力谁都能赚钱（GB300 机架 + Kimi 权重 + vLLM/SGLang + OpenRouter，"不是小事但也不是火箭科学"），所以要拿到 2028 年那 100 GW，必须把价格顶到 $25M、$40M 甚至 $50M/MW（[00:14:19]–[00:15:21]）。
  • 对 2027 年底的预测：全公司混合口径 $70–80M/MW，甚至更高——前提是"他们还被允许继续发布最好的模型"（[00:25:47]）。

⚠️ 算力预算的内部拆分，本页此前没有这么具体的数（[00:41:13]）：50% 研究 / 10% 开发 / 40% 推理。

⚠️ 最反直觉的一条（[00:42:16]）：Anthropic 训 Mythos 的预训练"低于 200 兆瓦"、约两个月，RL 更少——而他们手上有数千兆瓦。原因是协调多集群难、跨站点训练难、RL 难，"多生成 rollout 并不必然让它更好"。

这条与 游凯超"推理引擎即电力系统" 的视角互补：手上有多少算力，和一次训练能用上多少算力，是两件事。 它同时给 中美对照页 里"中国实验室 100–200 MW 却没落后多少"提供了机制解释。

⚠️ 他的非共识判断（[00:30:51]）：实验室会把推理的算力占比往下压，而不是往上抬——"标准看法是大部分算力会去推理，而我认为大部分会去训练的 forward pass"。他自己承认这是对激励结构的推演，不是观察到的决策（[00:31:55]）。

⚠️ 硬件底层的三条事实：制程降的是功耗、SRAM 停止微缩、验证比设计更费人（肖志斌，2026-09-07）

来源：月球大叔 / 肖志斌

来自本库第一位芯片架构师视角（肖志斌，视频页）。本页此前多处把制程当性能代名词，这三条是直接的修正。

  1. ⚠️ 制程进步降的是功耗，不是速度（[00:35:39]–[00:36:39]）：台积电 N3 → N2，功耗省 10–15%，速度只提升 3–5%。 真正的收益是同一个机架里能塞更多算力。配套：Dennard scaling 已终结，12nm/16nm 之后漏电流让静态功耗越来越大。
  2. ⚠️ SRAM 在 5nm 到 3nm 之间停止微缩（[00:38:39]–[00:39:39]）：逻辑还能继续缩，SRAM 的 cell size 不再变小。 他把推论直接点到公司名上——Groq 与 Cerebras 都建立在片上 SRAM 上，这意味着它们的设计哲学要变（架构配比调整，或走 3D 堆叠）。
  3. 验证工程师与设计工程师的配比是 1:2 到 1:3（[00:16:22]）——验证的人比设计的人多，因为"芯片一旦流片失败，可能几亿美元就没了"。

⚠️ 另外，65nm 之后"纳米"是营销词（[00:33:36]）：它代表一代技术（FinFET、M0 pitch、standard cell 面积、SRAM density 的组合），不对应任何单一物理参量——所以不同厂商的同名制程不可比。

⚠️ 与本页既有叙述的一处正面分歧：英伟达的护城河在哪

本页与 AI 商业化页 此前的英伟达叙述偏向软件生态（CUDA）。肖志斌的判断相反，而且他自己点破了这个分歧（[01:04:58]）：

"从软件的角度看英伟达，节奏是比较慢的；但从芯片的角度看，它执行力第一。"

他给的两条依据是执行力（每代迭代极快、架构激进程度也快、"有点像一个初创公司"、收购 Groq 的决定做得非常快，归因于 founder led）与供应链把控（[01:02:55]–[01:03:56]）。推论对挑战者很硬：即使你能设计出更好的推理芯片架构，拿不到 HBM 与台积电产能、内部迭代速度也未必比得过英伟达。

⚠️ 本库并列不裁决，但指出一点：他并不否认定制推理芯片会有（workload 固定后必然出现），他的论点是护城河不在架构而在产能与迭代速度。

⚠️ Agent 作为用户：系统要重新设计，以及可靠性第一次能拿到资源（徐天音，2026-08-22）

来源：月球大叔 / 徐天音

本页此前的系统侧来源全是从业者。徐天音（UIUC） 是第一位学术界系统研究者（视频页）。

  • ⚠️ 核心论断（[00:19:23]）："现在大家都在谈 AI-native 系统，但很多现有系统根本不是为 AI agent 这个用户设计的。把 agent 当用户，系统一定会挂。" 他把这条直接接在自己 2013 年那篇 "Do Not Blame Users for Misconfigurations" 上——当年的论点是"很多用户都犯同一个错就是系统设计的问题"，现在用户换成了 agent。
  • ⚠️ 为什么这对系统研究是结构性机会（[00:21:25]–[00:23:26]）：
  • 重设计的成本终于有人愿意付——"过去你想从根本上重新设计一个系统，成本很高，不是所有人都愿意投"。
  • 评价标准变了——"过去你做一个系统只能处理一类 workload，评委一定会以'不够通用'拒掉你的论文。现在我就做一个 IO 性能特别好的系统，很多人就会很兴奋。"
  • ⚠️ 可靠性与安全为什么现在才成为 first-class（[01:31:10]）：

    二三十年前可靠性和安全从来不是 first-class 原则，因为它们不挣钱——只有性能挣钱。可靠性你只是担心别亏钱，所以可以靠买保险、或者写一大堆（永远不完备的）测试用例给自己信心。

    翻转的原因是 agent：当 agent 主导写代码，可靠性与安全成了最大问题，而这不是靠堆测试用例能解决的。

  • ⚠️ 他的终局定义（[01:23:03]）：一个可靠的系统，是在"至少 80% 的用户是 agent"的前提下仍然可靠的系统——而 agent 会出错、会幻觉，所以系统要能容忍这些并给出反馈（"agent 也很聪明，给它反馈第二轮就会更好"）。

⚠️ 把 ROC（2000 年）翻出来复用到 agent 上

他主张的不是发明新原则，而是复用旧的（[01:24:06]–[01:29:06]）。David Patterson 牵头的 Recovery-Oriented Computing 的前提是——系统必然会挂，即使你把全部资源投到测试和形式化验证上，所以应该在恢复上投入。

  • 它的实证发现：故障中占比最大的一块来自人为操作失误，不是硬件。 Jim Gray 在 Tandem Computers（产品线 NonStop，目标是造一个永不停机的系统）得出同样结论。
  • 它的两个想法：system-wide undo（当年难以泛化，只做成一个可撤销的邮件服务器）与 microreboot（"70% 的恢复机制就是重启"，但工业系统重启昂贵——缓存、TLB 全没了）。
  • ⚠️ 今昔对照："今天 microreboot 体现在微服务和 serverless 里——你可以 microreboot 单个微服务。这个想法其实已经活在实践里了。"
  • ⚠️ 他的主张：在 agent 时代把这些经典原则重新拿出来直接复用，问哪些仍有价值、哪些不再需要。被问"agent 的每一个操作都能被撤销"是否可行，他答"完全可以做到，这在理论上并不难，只是有没有人愿意做"。
  • ⚠️ 他给的现实约束："现在 AI 系统的一大挑战是发展太快，很少有人愿意专注一两年去建一个系统。"

⚠️ 推理前沿：1000 token/s 正在变成新的 batch mode（Sean Lie，Cerebras CTO，2026-09-02）

来源：Latent Space / Sean Lie（录于 Hot Chips 次日）

⚠️ 本页此前的 Cerebras 材料来自 CEO Andrew Feldman（商业论证）。本节是同一家公司的 CTO 讲架构与竞争格局，几乎没有重叠；而且这是本库唯一一份把当年 Hot Chips 各家发布横向点评一遍的材料。

一、速度阶梯与它的论证

  • ⚠️ 标题那句（[00:00:00]、[00:32:13]）："过去被认为很快的 1000、100 或 200 token/秒，正在迅速变成新的 batch mode。" 它仍然有用（prompt processing、高并行负载），但"光能做 prompt processing 是不够的"。
  • ⚠️ 价值论证落在 agent 而不是用户体验（[00:06:02]）：agentic 循环里你是在一轮一轮地等；速度上去，就能做更多 agent 循环、更多推理——"最终你得到的是明显更有能力、更聪明的 agent"。
  • 产品：CS-4 / Nexus 平台（模块化机架，前面模块化电源、后面叫 backpack 的模块化服务器；2 倍供电、2 倍互联带宽、一半延迟，整体性能 2 倍，[00:04:01]）→ CS-5（明年再 2 倍）：中型模型（GPT-OSS/Gemma 这类）到 10,000 TPS，前沿模型（Kimi/DeepSeek/GPT-5.6）到 5,000 TPS（[00:11:03]）。
  • 与 OpenAI（[00:08:02]–[00:14:04]）：OpenAI 最大最强的模型跑到其常规 GPU 速度的 14 倍；产能全部售罄，"每一兆瓦都在被极度战略性地部署"。⚠️ OpenAI 内部的两个用途值得记：事故响应（服务中断时"每一秒每一分钟都要紧"）和最关键的研究应用（额外的推理带来明显更聪明的回答）。

⚠️ 二、最大的未开发机会：所有模型都是为 NVIDIA GPU 设计的

（[00:30:11]–[00:31:13]）不只是"为 GPU"，而是为某一款特定 GPU。

"我们展示的是同一个模型快 14 倍，而那是个为完全不同的架构设计的模型。一旦你打开'哪怕只稍微调整一下模型架构'这个可能性，就能拿到巨大的收益。而如果再往 co-design 走，机会几乎是无限的。"

⚠️ 这条与本页 extreme co-design 一线咬合，但视角相反——以往的 co-design 材料多是模型方适配硬件；这里是硬件方指出模型侧的存量适配债。

⚠️ 三、异构解耦：把数据中心当一颗芯片设计

  • 立场（[00:25:08]）："推理已经不再是一种负载了，里面有很多子负载，你得为每个问题用对的硬件。"
  • ⚠️ 他对"解耦会不会把数据中心切得太死"的回应，本页认为是迄今最好的一个框架（[00:27:08]–[00:29:10]）：

    "我们每天设计芯片的时候都在决定：这块硅片面积是给内存、给算力、还是给 IO。" 在几百兆瓦到多吉瓦的尺度上，把不同硬件凑到一起很容易就划算了；到那个点上，就像在把整个数据中心当成一台计算机、一颗芯片来设计——"我要这么多能力来跑 attention、这么多来跑 prefill"。

  • 更细一层（[00:28:09]）：不只 prefill/decode——还有加载 KV cache、做 attention、把专家铺在不同硬件上并做负载均衡，每一项都可以有更定制的硬件。

⚠️ 这一节应与本页 江鋆晨的 KV Cache 解耦 和 Akshat Bubna 的 agent sandbox 并读——那两份是软件侧，这份是硬件侧。

⚠️ 四、晶圆级真正的难题不是当年以为的那两个

（[00:39:18]）大家当初以为最难的是把这么多 die 连起来和良率——那确实是必须解决的根本挑战，但最终真正的关键是供电、散热，以及如何可靠地规模化制造。

⚠️ 他预言 3D DRAM 会重走一遍这条路："画一张 DRAM 叠在逻辑上的 PPT 是一回事，真把它供上电、散出热是另一回事。" 他把这当作 Cerebras 的优势——这些问题他们已经解决过一次（[00:40:18]）。

他认为下一个前沿在芯片之外（[00:36:17]）："应用、问题、模型现在都大到你在单颗芯片上什么也做不成。所以一切都归结于集成。" 点名的方向是 d-Matrix 的 3D DRAM 封装与 Samsung Z-HBM；Cerebras 自己两年前就启动了 DRAM 堆叠项目。他给的"三要素"是算力、互联、内存——低延迟场景里内存带宽是关键（[00:38:18]）。

五、他对同行的公开点评

对象 判断
OpenAI 的 Jalapeno "他们造出了一块明显更好的 GPU"；⚠️ 真正让他兴奋的是AI-first 的设计方法论让芯片造得更快——"这百分之百是我们这个行业的未来"（[00:16:04]–[00:17:05]）
Groq ⚠️ 质疑为什么只发 31B 非解耦模型的性能数、为什么没提 GTC 上讲了半小时的 attention/FFN 解耦。推断是非晶圆级 SRAM 每片内存不够——跑万亿参数要数千片 LPU 才装得下权重，而 Cerebras 单片内存约是其 100 倍（[00:21:05]–[00:24:08]）
NVIDIA "在做我们所有人预期它会做的事"——继续推吞吐，而这绝对是对的；"我们需要更多 token、更便宜的 token，这是现实"（[00:32:13]）
AMD / Trainium / TPU ⚠️ "在我看来都在试图造一个更好的 Rubin。"（[00:33:14]）
Etched ⚠️ "图形设计非常 impressive，但我看不到他们在做超越'比传统 GPU 更好'之外的东西"（[00:34:15]）

⚠️ 一条行业总体判断（[00:03:01]）："半导体行业历史上从未见过这种跨全部层级的创新密度"——芯片、互联、系统设计、软件、光学、方法论、工具链。他称之为硬件的黄金时代。

⚠️ 端侧：第一动机是成本，而当前渗透率只有 10%（Ramin Hasani，Liquid AI，2026-09-18）

来源：Latent Space / Liquid AI

⚠️ 本页此前的端侧材料来自硬件侧（阳萌的存算一体、肖志斌的芯片架构）。这是第一份来自模型方的。

  • ⚠️ 第一动机是成本，不是隐私（[00:21:12]）：要给几亿台手机、几十亿客户免费提供智能，云端服务成本高到难以承受；端侧"就是在给自己创造毛利"。
  • ⚠️ 本库第一个端侧渗透率的量化数字（[00:21:12]）：苹果 / Galaxy 的端侧智能，90% 的调用仍然走云——因为端侧模型还不够强、不够可靠。
  • 两类用途（[00:19:11]–[00:20:12]）：隐私过滤器（敏感数据先过一遍本地小模型、智能屏蔽后再发云端）；离线/气隙的本地主动 agent。
  • ⚠️ 端侧生产级的真实门槛（[00:22:13]）："不是从开源下载一个模型丢到设备上就算成功了，远不止如此"——要做热控制，而且模型在长上下文下的行为会漂移，可靠性要求极高。
  • 落地规模：Mercedes-Benz 车内约 600MB 的多模态模型（连摄像头、做语音交互、文本侧推理），可 OTA 更新全球每辆车；首批今年落地北美第三代奔驰全系，⚠️ 跑在成本约 100 美元的芯片上（[00:23:13]–[00:24:13]）。AI PC：每年全球出 3–4 亿台，其中约 1 亿台以 AMD 为核心（[00:19:11]）。
  • ⚠️ 一条对芯片厂商的观察（[00:45:26]）：因为他们的架构搜索是硬件感知的，芯片公司会把自己的硬件、甚至下一代硬件放进搜索回路里，找出对自己最优的架构——他举了 Qualcomm 想为下一代 NPU 定制计算图的例子。⚠️ 这是本页"硬件—架构协同设计"的一种新形态：不是人去适配，而是把硬件当作搜索的约束条件。
  • ⚠️ 他对当前 GPU 基础设施的一条批评（[00:50:28]）：layer looping 这类带反馈的结构，当前 GPU 基础设施（为并行矩阵乘法优化）不适配；他认为光子学可能解锁这一类——非线性系统之所以并行不了是因为必须串行算，若串行计算能以光速进行，那个瓶颈就消失了。

⚠️ 数据中心的在地账本：第一份来自超大规模厂商一号位的材料（Meta，2026-09-17）

来源：All-In / Dina Powell McCormick（Meta 总裁兼副董事长）

⚠️ 本页此前关于数据中心的材料集中在电力、capex 与供应链；与在地社区的关系只在 数据中心禁令那期 以政策视角出现过一次。 ⚠️ 但必须标注来源性质：这是一场由 Meta 带着自己拍的宣传片、并把片中人物请上台的现场活动。片子内容不作为证据；本节只记录可核验的具体数字与当场对答。

那笔钱的机制

（[00:06:09]–[00:07:10]，路易斯安那 Richland Parish 学监亲述）

  • 学区拿全区 51% 的税收；数据中心开工后销售税征收增速从常年的 5–10% 涨到约 60%，峰值 260%。
  • 当地有一分与半分两项专款用于员工薪酬的销售税 → 2025 年 12 月的半分支票从约 4000 翻到约 8000 美元；2026 年 6 月（第一个完整涨幅年度）认证员工拿到约 5 万美元支票（上年同期 1 万），两次合计净增约 4.5 万美元。
  • 对照：投资前该教区平均年薪约 3.6–3.8 万美元（[00:10:14]）。
  • ⚠️ 关键限定（[00:15:17]）：嘉宾明确说教师分红不是 Meta 设计的——是当地法律规定（甚至强制）每一元税收盈余直接进教师口袋。所以这个结果不可直接复制到其它州。

对合理担忧的具体回应

⚠️ 主持人 Jason 列出的五项：污染、电价、水（闭环与否）、噪音、外观——被打断后他顶回一句"这不是新闻业，这是事实"（[00:12:15]）。回应由州厅长给出，两条最实（[00:12:15]–[00:14:16]）：

  • 水：那块地原是农田；Meta 选了更贵但更高效的系统，用水比那块地务农时还少——"这不是一个你常听到的统计数字"。
  • ⚠️ 电：在总统行政令甚至州长行政令之前，Meta 与 Entergy 的协议就约定 Meta 自付发电、自付电网韧性、自付电网升级、并分担飓风风暴摊派——包括在一个它当时还没运营的州分担飓风成本，等于把负担从本地消费者身上挪走。

⚠️ 本页认为这是全库第一份把"数据中心该怎么与电网签约"写到条款层的材料，应与本页 $/watt 与循环融资 一线并读。

⚠️ 劳动力：瓶颈是培训期的现金流

（[00:20:17]–[00:25:21]）本页此前完全没有这一侧。

  • 缺口形态：除了焊工、管道工、电工，每个数据中心都缺光纤技师——⚠️ 而这门培训课程此前根本不存在，他们和 CBRE 等合作方自己编了课程。
  • ⚠️ 真正的障碍：

    "如果你是服务员、Uber 司机或者居家护理工，你是月光族。你负担不起那段无薪的时间。培训本身还奇贵（OSHA 之类）。而万一你学完了却没拿到工作呢？"

  • ⚠️ 解法（[00:25:21]）：培训期间就按在岗工资发薪（过去只有很低的学徒费）——形态是五周快速培训 + 全部安全培训 + "job site ready" 认证 + 保证工作，且认证可带走。匹兹堡焊工年薪 10–12 万美元。
  • 进展（[00:22:19]）：四个月前启动，4 万美国人申请，已毕业 250 人，留存率 90%。⚠️ 主持人在 [00:24:21] 说的是"挑了 400 人"，两个数字不一致，本库照录不裁决。
  • ⚠️ 工会的转向（本页认为被低估）（[00:23:20]）：工会领导层现在公开反对反数据中心的浪潮——"这是我们的工作，这是给我们的人的"，并在中期选举前放话只支持支持数据中心的候选人。
  • 行业联盟（[00:23:20]–[00:24:21]）：Google 的 Ruth Porat 牵头，BlackRock 的 Larry Fink 已加入。原则是 ⚠️ "我们可能在模型和产品上竞争，但我们不想在人上竞争"——因为在 Meta 工地受训的人当然可以去 Google 或 Microsoft 的工地。

⚠️ "数据中心民调 -80"与她对叙事战的解释

（[00:08:13]、[00:16:17]）

  • 主持人给出的底色是数据中心在美国民调 -80。
  • 她的自省那半："我们这个行业沟通做得不好，就是这么简单。" 但加了个前提——"在你能沟通任何东西之前，你得真的有意义、有真实影响"。
  • ⚠️ 地缘那半：她说刚见过情报委员会两位负责人，"他们确实认为有证据表明我们的对手在煽动这件事"——随即声明"我不能就此置评"，转而给了一个假设式论证："如果你现在想阻止美国，你会正好做这件事"。 ⚠️ 本库标注：这是一个假设性论证 + 一条无法核验的转述，按判断而非事实记录。 她自己的落点其实是选择权：想要的社区应该被允许拥有，不想要的可以退出。
  • ⚠️ 学监给的沟通原则值得记（[00:08:13]）："很多时候这种沟通不是为了社区里最了解情况的那个人，而是为了最不了解情况的那个人。"

⚠️ CPU 在 AI 系统里的角色：本页第一份来自 CPU / IP 侧的材料（Rene Haas，2026-09-03）

来源：No Priors / Rene Haas（Arm CEO）

⚠️ 本页此前的算力材料都来自加速器侧（NVIDIA、Cerebras）、代工侧（TSMC / Intel）或服务栈侧（Baseten、vLLM）。Arm 的位置特殊：既卖 IP 给所有人（因此看得到全行业需求），又刚开始自己卖芯片（因此第一次自己去买晶圆和内存）。

"token 工厂之外的那些卡车"

  • ⚠️ 他复盘 ChatGPT 之后的行业心态是"不管问题是什么，答案都是加速器"，而 CPU 在加速器起飞时被忘掉了（[00:34:31]）。
  • ⚠️ 他的重新定位（本页可直接引用）（[00:34:31]–[00:35:31]）：随着重心从训练移向推理、移向 token 的使用，系统里必须有东西做编排、仲裁、以及"这些 token 该去哪"的决策——"token 工厂只管生产 token。那么把 token 运走、交给用户的那些卡车在哪？这就是 CPU 干的事。" 他的结论句式很谨慎："除非有人发明出某种尚未被定义的机制来取代 CPU，否则 CPU 会过得很好。"
  • ⚠️ 边缘是他真正兴奋的那块（[00:36:31]）："随着 footprint 越来越小、而越来越多 AI 要在那里发生，那会是 Arm 的甜点区——因为 CPU 本来就是入场门票。" 那个很具体的画面："你没法在自己头上装一块 50 瓦的 GPU。"

⚠️ 供应链：紧张至少还有三到五年，而下一个瓶颈是数据中心本身

  • ⚠️ 他的前提句（[00:12:15]）："只要 transformer 还是 AI 训练与推理的能量单位，它在设计上就是算力密集且内存密集的。"
  • ⚠️ 下一个瓶颈（[00:13:15]–[00:14:16]）：不是晶圆也不是内存，是数据中心建不起来——"看今天在做的所有项目，没有多少是进度超前、用工少于预期的"，再叠上各地要求放慢或限制建设的声音。⚠️ 他有个反直觉的转折：这也许"反而还好"，因为如果基础设施不是逆风，那晶圆和内存产能就会是逆风——"你会看到一堆不同的调速器（governor），不是州长那个 governor。"
  • ⚠️ 他对"AI 泡沫"做的区分，本页应当采用（[00:14:16]）：估值泡沫是股市指数层面的事，另说；但若问供给是否已过剩于需求——"差得远呢，根本不接近"，因为这些模型的工作方式决定了需求贪得无厭。
  • 新进者的现实门槛（[00:11:13]–[00:12:15]）：⚠️ "今天有很多非常好的年轻 AI 芯片公司、拿到大量融资、设计有创新——但它们卖进的是一个资本需求极其巨大的行业，而且与内存、基板供应商的关系极端关键。" 主持人补的清单：3 纳米产线、16 纳米产线、先进封装产线的获取权。
  • 从卖 IP 到卖芯片要补的肌肉（[00:05:10]–[00:06:11]）：供应链运营（和 TSMC / 三星打交道，和三星、美光、SK 海力士争内存配额）、后端、版图、实现、bring-up 实验室——⚠️ "我们本来没有多少'物理的东西'，而那恰恰是原来那个生意的妙处。"

⚠️ AI 吃掉的是验证，不是设计

  • ⚠️（[00:07:11]–[00:08:12]）一颗芯片 24 到 36 个月，而架构设计与 RTL 生成不是最耗时的——最耗时的是验证、确认、调试、文档，"AI 在这些事上非常擅长"。 采用率（自述）：Arm 内部约 80%–90% 的工程师每天都在用；关掉的后果是"像回到 1990 年代：你有互联网，但只能在下午两点到四点之间用"。
  • ⚠️ 工具还不行的地方与原因（[00:08:12]）：RTL 生成、以及最高水准的物理设计与实现——"模型是在公开可得的东西上训练的，而这类信息里有很大一部分是高度专有的。"
  • ⚠️ 由此推出的"数据资产"论证，本页此前没有同类（[00:09:12]–[00:10:13]）：Arm 的优势不在 IP 本身，而在文档与 test bench（反例：某些公司想授权 IP，结果没有文档、谁都用不了）——"不可用且不可测 → 就是不可训练 → 而不可训练，对 AI 就是没用的。"
  • ⚠️ 时间线他比提问的预设保守（[00:10:13]–[00:11:13]）：两三年内不会；五年以上，"对某些比较直白的设计，从想法直接到 GDS2 文件是很有可能的"；⚠️ 但"给我设计一个比 Vera Rubin 快 10%、便宜 20%、效率高 30% 的东西"，按一个按钮是不会马上得到的。 行业窗口他给五到十年。

⚠️ 推理负载的形状本身可以改：一条对本页默认前提的攻击（Stefano Ermon，2026-09-18）

来源：No Priors / Stefano Ermon（Inception CEO）

⚠️ 本页此前所有推理优化材料都在"自回归"这个前提下做（更好的 kernel、更好的批处理、更快的芯片）。这是第一份主张前提本身就是瓶颈来源的材料。

  • ⚠️ 自回归推理的硬件病理（[00:09:11]）：你没生成完前面的，就生不出第 10 个 token；这种负载极度 memory bound——"大部分时间花在把权重在存储层级之间搬来搬去，算术运算做得极少。"
  • ⚠️ 他的类比（[00:08:09]）：2017 年 RNN → Transformer 那次转折解决的是训练侧的串行问题；推理侧对应的那个东西就是扩散模型——因为扩散在推理时的负载和训练时几乎一样（同时处理很多 token），天然映射到 GPU 擅长的矩阵乘。
  • ⚠️ 他押注的三环推理链（[00:10:11]）：经济学由 intelligence per watt / per dollar 决定 → 推理模型的进步很大一块是 test-time compute 的 scaling → RL post-training 的主要瓶颈就是生成 rollout。"更并行的那个方案最终会赢——这就是苦涩的教训。"
  • ⚠️ 一个"软件并行性替代定制芯片"的具体案例（对本页最关键的一条）（[00:17:16]–[00:19:18]）：语音 agent 公司 OpenCall 此前把 LLM 跑在 Cerebras 的定制芯片上才拿到需要的速度，后来换成扩散 LLM 跑在 NVIDIA GPU 上拿到同样的速度——"GPU 虽然紧张，但比定制芯片多得多" → 可获得性更好、成本更低、质量更高。⚠️ 但他强调两者互补且增益相乘："软件端拿到的增益与硬件端拿到的增益是乘法关系"，且"也许某天会有人做出更贴合我们这类模型的硬件"。
  • ⚠️ 服务栈是护城河的一部分（[00:19:18]–[00:21:18]）："你在 vLLM 或 SGLang 上跑不了扩散 LLM，我们必须自己造服务引擎"——"就算你训出了扩散 LLM，没有那个 vLLM 的等价物，你照样卡住、用不了。" ⚠️ 本页标注：这条同时说明本页记录的服务栈知识有多少是绑定在自回归这个前提上的。
  • ⚠️ 与 Rene Haas 直接对撞：Haas 的整套供应链判断建在"transformer 在设计上算力与内存密集"这个前提上；Ermon 攻击的正是这个"设计上"。本库并列两条，不裁决。

⚠️ 万亿级上下文的基础设施：标准分布式训练方案在这里直接失效（2026-09-04）

来源：Latent Space / Accelerated Understanding

⚠️ 本页此前没有"物理仿真侧"的基础设施材料。 Anima Anandkumar 与 Benedikt Jenik 给的（全部自述，未核实）：

  • ⚠️ 训练阶段 1 万亿上下文（输入与输出各达万亿）、推理阶段 5 万亿上下文、训到万亿参数模型、数百次训练（[00:06:03]–[00:07:03]）。一万亿怎么来的：每空间维 1000 分辨率 × 1000 个时间步（[00:12:06]）；那次 5 万亿运行输出 22 TB，"而你希望这类东西待在加速器内存里——否则就会慢"（[00:13:06]）。
  • ⚠️ FSDP 那类方案失效（[00:07:03]）："我们的层太大，没法在一个 GPU 里重组；我们的数据样本太大，放不进一个加速器，甚至放不进一整个节点"——整套 sharding 基础设施与策略重写。
  • ⚠️ 他们对自己位置的描述值得本页引用（[00:14:08]）："LLM 正在越来越多地走进的那些难题——既需要现代技巧，也需要老派的 HPC 方法——我们从一开始就在里面。" 需要大集群与非常可靠的互连。
  • ⚠️ transformer 在这个尺度上不可用（[00:11:05]）："5 万亿上下文，无论把世界上多少算力砸进去，transformer 都撑不住"——二次复杂度不可行，"而且是不必要的，因为物理世界比完全任意的全对全相关有更多结构"。
  • 规模跨度（[00:13:06]）：小模型配较小上下文可以跑在一台 MacBook 或 Mac Studio 上。

⚠️ capex 的 2026 年口径快照，与"数据中心压低电价"那条 40 个基点（a16z Growth，2026-09-30）

来源：a16z / State of Markets 25 张图

⚠️ 这一节全部是 a16z 自己演示里的自报数据，本库未核实，而且来自一个重度利益相关方。本页把它收进来的理由只有一个：它是本页目前唯一一份把"总量—供应链—电价—企业采用"放在同一组口径里的时间切片，适合日后回看对账。

  • 总量（[00:03:02]、[00:06:06]）：高科技设备 + 软件 + R&D ≈ 美国资本支出的 55%；五大 hyperscaler（Alphabet、Amazon、Meta、Microsoft、Oracle）2026 年 capex ≈ 7800 亿美元，2025 年 4160 亿，预期 2027 年起年超 1 万亿；模型公司合计融资已超 3500 亿美元。
  • ⚠️ 历史坐标（[00:03:02]–[00:04:04]）：这轮 buildout 按占 GDP 比例刚刚超过铁路——本页此前的历史类比（铁路、电力）大多是定性的，这是第一次有人给出越过线的时点。
  • 到 2040 年全球基础设施投资需求 90 万亿美元（[00:13:12]），⚠️ 他们明确说这远超 AI 与数据中心，含电力、水、道路、交通。
  • 供给侧（[00:08:09]–[00:09:10]）：数据中心供应链里某些材料或产品要到 2028 年才能拿到；"供应链每一个环节上的每一个人说的都是同一句话的某个版本：需求超过供给"。⚠️ 与本页 Rene Haas 的"紧张至少还有三到五年" 方向一致，时间尺度也相容。
  • 需求侧的硬证据与它的分母（[00:09:10]–[00:10:11]）：MSFT + Google + Amazon 合计约 1.7 万亿美元云 backlog；GPU/TPU 的经济寿命比预期更长（Amazon 的 J 曲线说法）；但自由现金流在 buildout 期被压低，恢复要等 2028 年起的共识预测。
  • ⚠️ 需求形状的变化比总量更值得本页记（[00:07:08]）："我们已经远远走出了偶发查询（occasional queries）这个模型"——并行任务与长运行任务让"这些平台的算力需求比以前设想的大得多"。这正是本页 徐天音"agent 作为用户，系统要重新设计" 那条在需求总量一侧的对应物。

⚠️ 那条 40 个基点，以及为什么本页不把它当定论

  • 他们的数据与机制（[00:14:13]–[00:15:13]）：⚠️ "最近一项美国研究显示，数据中心容量每增加 10%，居民电价下降 40 个基点"；机制是电网是一笔共享的固定成本（场地、电杆、线路、变电站），"像数据中心这样大而稳定的客户，可以把这些成本摊到更多度电上"。他们把"我的电费要爆表"列为三条"神话"之一（另两条是抽干美国的水、有钱人不想住旁边）。
  • 他们唯一举的实例，是本页已有材料的转述（[00:15:13]）：Dina Powell 讲 Meta 的路易斯安那站点——"和社区合作把电价降了下来"。
  • ⚠️ 本页的判断：这不构成独立验证。 a16z 引的就是 Meta 一方的说法，两份材料同源。本页在 数据中心的社会许可 与 政治阻力已成为基础设施变量 两节记录过反方向的证据（含"数据中心民调 -80"）。结论形状应当是：摊薄固定成本的机制在理论上成立，但它与"居民账单实际涨了"并不互斥——取决于容量增长与输电投资谁跑在前面，而这一期没有讨论这个时序。

⚠️ "hyperscaler 的 capex 就是别人的订单簿"：一条投资侧的结构判断

  • Santiago Rodriguez（[00:12:12]）："我们应该把 hyperscaler 的 capex 当成别人的订单簿"——所以他们把越来越多时间放在服务这波产业景气的公司、以及数据中心供应链上的每一处。
  • ⚠️ 他顺带给出了本页此前没有的一条产业能力差异：这类生意和传统软件投资是不同的手艺——"我们原来的世界更像是把已有 IP 变现：造一次、卖无限次；而这些公司要管融资、管供应商关系、预测产能、预测需求"，而"有些团队在这件事上非常擅长，有些则很吃力、甚至踩了刹车"。本页记这条为对 Travis Kalanick"数据中心本质是制造问题" 的资本侧补充：同一条判断，一个在施工侧、一个在出资侧。

⚠️ "成本先、速度后"：一家实验室推理工作的排序，以及一个被拒答的问题（OpenAI，2026-09-30）

来源：Latent Space / OpenAI Dev Day 现场

本页此前关于推理优化的材料全部来自供给侧（Baseten 的报价单、Cerebras 的速度阶梯、vLLM / SGLang 一侧）。这一期第一次有前沿实验室的 API 产品负责人说出他们内部的工作顺序。

  • ⚠️ 那条顺序（[00:22:19]–[00:23:20]，Nikunj Handa）："至少有几个月，重点都放在效率和把成本压下来——这就是我们能把 Luna 价格砍 80% 的来路，很多是推理团队落地的改进；然后他们现在换挡到了'怎么让它跑得尽可能快'。"
  • ⚠️ 本页记这条为对 Cerebras 的"速度是下一个维度" 的一条时间线印证：同一条路径在一家前沿实验室内部走完了"成本 → 速度"的换挡，而且成本那一段的量级是 80% 降价（⚠️ 自报，本库未核实）。
  • ⚠️ 一个被明确拒答的问题，本页照录（[00:24:20]）：主持人指出 "5.3 spark 是明确归功于 Cerebras 的，而 UltraFast 与 Cerebras 的关系你们不确认也不否认"，并补了一句 "而你们自己也有硅"。Nikunj 没有回应这一段。 本页记为公开未确认——但指出这是本页第一次看到"前沿实验室的极速档位可能跑在第三方专用硬件上"这个问题被当面提出。
  • API 侧与推理栈耦合的三个新原语（[00:21:19]–[00:22:19]）：async 工具调用（动因："工具调用耗时太长，以至于你不该在工具运行时把模型执行暂停掉"）、mid-turn steering、以及底座 websockets（"打开了与模型的整个双向通信"；首次上线是为 "5.3 codex spark"）。
  • ⚠️ 他说出的一条平台工作原则，本页认为对理解"能力什么时候才会变成基础设施"有用："我们在 API 的主要目标是：等某个东西被训进 harness 之后，再把它放进 API——所以我们会等那个时刻，等它足够好。"

⚠️ 缓存从优化变成带时长的承诺：本页第一次看到"保证"这个词

  • 数字（[00:34:32]）：30 分钟缓存命中保证（现有）；⚠️ 12 小时缓存窗口保证，"刚为其中一个用户上的"，目前 preview、还没有公开 API，代价是"缓存多付一点钱"；缓存读取价格在被压低。
  • 预热（pre-warming）已在 API 里（[00:35:33]）：先付缓存写入费用，换接下来 30 分钟的现成缓存；并可派生多个实例共享。
  • ⚠️ 本页的判断：这把 KV cache 从基础设施层的优化手段变成了平台层的计价与 SLA 对象。本页此前记过 江鋆晨"KV Cache 作为独立数据层" 与 Baseten 的"下一个 10 倍是更快的网络"——那两条是"怎么做得更快"，这一条是"做到多快、保多久、怎么收费"。⚠️ 而动因是产品形态："特别是这些个人 agent，基本上是一条单线程一直一直往下走"（[00:34:32]）。
  • ⚠️ 一个本页要标的不对称：12 小时窗口是"为其中一个用户"上的，这意味着最前沿的缓存能力先给大客户、再公开——主持人没有追问是谁，本库也不猜。

⚠️ 协议层：本页第一个公网网络层的声音，以及数据中心舆论上最强硬的一侧表态（Barrett Lyon，2026-10-01）

来源：a16z / DoxxNet 与"网络不做身份"

⚠️ 本页此前的材料都在数据中心、芯片、推理引擎、KV cache、机内互连这几层（最接近网络层的是 孟子立用 Wi-Fi 替代 PCIe，但那是机内互连）。这是第一份关于公网协议层的材料。

他的技术判断

  • ⚠️ "互联网在协议设计上其实有点停滞了。没有多少新东西，全都是建在上面的。"（[00:07:05]）
  • ⚠️ 他点名的头号敌人（[00:09:09]–[00:10:09]）："整个互联网最大的污点之一是 carrier-grade NAT——它正在摧毁应用做真正酷的事情的能力，而把它抹掉就是我想做的。" 他想复活 mesh 与 P2P："当年无线联网是 ALOHAnet 那一类的东西；而现在我们在边缘有非常强的 Wi-Fi，有创造更好 mesh 协议的巨大机会。"
  • 他们建的东西（自述，本库未核实）（[00:14:11]–[00:17:14]）：196 个在互联网上不存在的域的 mesh；可注册域名、租 IP 或 mesh 地址、毫秒级下策略；"这些网络是实时可调的……这是一个 API，你的 agent 可以用它来搭出一整张网络"；之上跑 P2P 的电话 / 视频 / 聊天 / 文件（⚠️ 20 GB 点对点、三到四层加密、post-quantum）。
  • ⚠️ 一条与本页"拥有即控制"主题相合的原则（[00:21:15]）："如果那不是你的设备，你就没法下策略——就是没法。" 而再往上一层的策略在运营商与互联，也就是你机笼之外；绕开"裸金属即服务那套瘆人的底层"花了"难以置信的工作量"。他的概括是"从软件到线缆"，连路由用的 AI 组件也在自己的金属上。
  • ⚠️ 一个本页此前没有的运营数据点（[00:22:16]）：26 个全球站点、冗余路由、公司总共 12 个人、"没有网络管理员、没有系统管理员，全都由 AI 做"。本页记为一条可回看的声明；它的安全侧讨论（这是把内部威胁换了形状，不是消掉）见 LLM 安全。

⚠️⚠️ 数据中心舆论：本页收录它，但明确记为立场

（[00:24:16]–[00:28:20]）这是本页"数据中心社会许可"这条线上最强硬的一侧表态，而它的证据强度是本页同主题材料里最低的。

他们的断言 ⚠️ 本页的处理
"数据中心喝水的论证可以追到某句完全是编造出来的引言"；机制上"它们坏的时候需要水，你得补一些水，有些蒸发，但它们不是靠水在跑的" 机制部分与本页其它材料不冲突（闭环冷却 + 补水 + 蒸发）；⚠️ "完全编造的引言"这个断言没有任何出处，本页不采用。
他"过去几个月去过 20 多个数据中心"，没见过现场抗议者——"尤其像弗吉尼亚那个大数据中心园区，你就看见田里的兔子" ⚠️ 这是关于"他去过的站点"的观察，不是对反对声量的度量。 本页已有一条量化反方数据：Dina Powell 给的"数据中心民调 -80"——来自 Meta，也就是最有动机说"没问题"的那一侧。
网上的数据中心噪音视频是配音造假 ⚠️ 无出处，本页不采用。
"人们在数据中心这件事上正在被操纵"；"这全是某些非常有利益的组织或利益集团在操纵公众意见"（主持人补"显然是某种商业利益"） ⚠️ 记为立场。 两人没有点名任何组织、没有给任何证据；而主持人自己在同一段里把那种推理形状比作"认为登月是假的人"。两人此前刚讨论过"把追踪数据倒进 LLM 就能做靶向"——⚠️ 本页标注这是从"能力存在"跳到"已经发生"。
"它带来就业，在里面工作的人拿的不是几个铜板，还带来高技术人才"；"如果你附近有数据中心，你的网速更快"；弗吉尼亚那个县"因为数据中心成了全国最富的县之一" ✅ 方向与本页材料一致：见 Meta 的在地账本（含劳动力与培训期现金流）与 a16z 的 40bps 电价论证（⚠️ 本页已标注后者不构成独立验证）。
  • ⚠️ 本页记一处值得长期注意的不对称：最有动机否认反对声量的一方（Meta）给出的是 -80 的民调，而这两位给出的是"我没看见抗议者"。 本页的立场不变：政治阻力已成为基础设施变量。

⚠️ 带宽的 scaling law，以及芯片产业链的交接点到底在哪（Walter Goodwin / Fractile，2026-10-02）

来源：No Priors / Fractile：带宽的 scaling law

⚠️ 创始人访谈，公司声明全部自述、本页未核实；而最核心的论题（带宽是被低估的那条边）恰好是押注带宽的一方最有动机主张的。本页收录的理由是它补上了两处本页此前的空白。

⚠️ 一、芯片产业链的交接点：本页此前最缺的一段

本页的芯片材料此前覆盖了微观电路（Reiner Pope）、晶圆级（Cerebras）、代工与供应链（Lip-Bu Tan、Rene Haas）、验证工时（肖志斌）。⚠️ 但没有一份讲清"一个自研芯片项目里，哪一段自己做、哪一段外包给谁"。 主持人直接问了这一问（[00:04:04]）。

层 他的描述 谁做
架构 "对自己想加速的工作负载有非常强的理解"的人。他的例子是 Tensor Core 的诞生——"一个架构师构想出来的专用电路，极擅长矩阵乘法，因为矩阵乘法占了这些模型里 flop 数的绝大多数"（[00:05:06]） 自己
前端设计 把架构意图降解成电路级描述；"机械上它看起来仍然像是在电脑上写代码"，而这份代码就是交给 Broadcom 这类玩家的东西（[00:06:06]） 自己
综合 + 物理设计 + 封装 RTL 综合成电路、再做布局；⚠️ 最终送到 TSMC 的"literally 是一张位图"——"我们管这个文件类型叫 GDSII，它就是：金属层放哪、每一个晶体管放哪"（[00:06:06]–[00:07:07]） ⚠️ "今天对所有这些项目来说一般都是外包活动"
  • ⚠️ Broadcom 的价值被他说得非常具体（[00:06:06]）：① 芯片间互连所用模拟 IP 的所有权；② 针对 TSMC 某个特定制程节点的物理摆放。
  • ⚠️ 他由此给出的结构性判断，本页认为是这一节最该引用的（[00:02:02]–[00:04:04]）：今天的 AI ASIC 市场是"一个非凡的动物园"，但"外面有很多相对雷同（identikit）的芯片"，而原因是产业结构——Google 十多年前用 TPU 开了头，此后 Meta 的 MTIA、Microsoft 的 Maia、OpenAI 现在的 ⚠️"Halapenio"（字幕拼写，本库无法确定还原），这些"最终都是和为数不多的几家 ASIC house 合作开发与交付的；Broadcom 是最大的那家，一家 2 万亿美元的公司"。
  • 所以相似性是结构性的：都用 HBM（"英伟达 GPU、AMD GPU 和所有这些 ASIC 共用"）、都押 Tensor Core 那类东西、都用 TSMC 同样的先进封装。
  • 他的结论："这片格局里仍然相对缺少那种一路打通硅栈上下、试图造出根本性新能力的努力"——原因很朴素："就是没有那么多团队决定要从架构层一直做到物理设计、制程技术、跟代工厂的互动——那种基本上每周都在飞台湾或韩国的活。" Fractile 自己的做法是全栈但很瘦：约 150 人，每个环节都有，没有交接点（[00:07:07]–[00:09:09]）。

⚠️ 二、带宽的 scaling law，与那条历史不对称

  • 历史不对称（本页认为这是全期最该引用的一个数）（[00:30:18]）：⚠️ "我们在过去 20 年里把 flops 放大了大概一百万倍。同一时间段里，内存带宽涨了约 40 倍。"
  • 他们声称的量级（[00:29:17]）：⚠️ 每块芯片带宽是 HBM 基芯片的 25 倍（自报）。
  • ⚠️ 两条"已知的带宽 scaling law"：
  • MoE 稀疏度（[00:29:17]–[00:30:18]）：等智能下从 1/16 稀疏走到 1/128、1/256 会省掉大量 flops，⚠️ 但"在今天 HBM 基的 GPU 或 XPU 上高效服务这类模型会变得极其难以承受——你经常会被带宽卡住，服务时 MFU、flops 利用率非常非常低"。
  • 注意力（[00:30:18]）："有些注意力形式更不耗带宽。对某个给定的智能水平，它们倾向于更耗 flops。"
  • 结论形状："当你推进带宽这条前沿，你就能把另一样东西省下来……而这对这些模型的全局吞吐是一个乘数因子。"
  • ⚠️ 本页记这条的意义：它把"模型架构的选择空间"直接挂在"内存带宽的供给"上——带宽真被抬高一个量级，今天因服务代价而不敢做的架构会重新进入可选集。这与本页 孙宇涛讲 K3 的线性注意力与 MoE 负载均衡、游凯超的硬件彩票 构成一组三方对照：⚠️ 一个从模型侧说"架构决定 infra"，一个从引擎侧说"没抽中彩票就吃不到红利"，而这一个从芯片侧说"我可以去发新的彩票"。
  • ⚠️ 而他对彩票的双向性很诚实（[00:28:16]–[00:29:17]）：必须先在"会在 HBM 基 GPU/XPU 上被训练出来"的那批工作负载上极其在行，才有资格去"探索你自己能不能对新的模型格局施加一些引力"。本页记为那条判断（"现实是硬件更强势"）的供给侧版本，并把他的说法收口为：新硬件只有先在旧彩票上赢了，才有资格去发新的彩票。

⚠️ 三、一次公开承认的架构转向，与"诱人的错配"

  • 转向（[00:10:11]–[00:12:11]）：公司前两年做 SRAM 方案（他自己说"有点像 Groq 或 Cerebras"），但 2023 年底到 2024 年因为上下文长度而对其可扩展性"紧张起来"——"今天 AI 里有两样东西在长。一个显然是参数；但另一个、而这才是真让我们紧张的，是不断增长的上下文长度。"于是转向对 DRAM 的极高带宽访问，平台 ⚠️ 2027 年下半年量产爬坡。
  • ⚠️ 他指认的错配（[00:13:11]）："今天我们拥有的那些快推理芯片，有超高带宽内存但容量低得惊人。而它们并不在跑长上下文注意力——你还是得切回 GPU 去做那件事。"
  • ⚠️ 推理经济学的收口，本页此前没有这一条（[00:14:11]）："当你看在数据中心尺度上为数千用户跑推理是什么样子，经济账实际上坍缩成本质上是你所用内存的每 GB 成本。"
  • 他对"速度用在哪"的区分（[00:12:11]–[00:13:11]）：⚠️ "更快的聊天机器人"是快推理的"更快的马"；真正的能力电梯是把数万亿参数模型以每秒数千 token 跑起来，用在长时间运行的 agent 上。
  • ⚠️ 本页标注一处可检验的分歧：这是本页第一次看到一家快推理芯片公司公开说 SRAM 路线在上下文长度上扩展不了。 Cerebras 一侧（Sean Lie、Feldman）讲的是晶圆级 SRAM 的优势，但没有正面回答长上下文的容量问题。并列不裁决，可被 2027 年的实际部署检验。

⚠️ 四、节奏的物理约束：三条应当被本页反复引用的硬数

（[00:18:12]–[00:20:13]）他明确否掉了"芯片能跟上每两周一个模型"的激进版本——"我不相信我们最终会走到每隔几周就出一块根本性新芯片的状态……因为这是物理世界"：

约束 他给的数
fab 周期（送出到拿回） ⚠️ "即使在超级加急（hot lot）的情形下也是三到五个月"
摊销窗口 ⚠️ "你得有一个真正三到五年的摊销窗口，才能让那块芯片成为一个合理的财务决定"
量产爬坡 12 到 18 个月
  • ⚠️ 他用 Amdahl 定律否掉了"前端提速就够"（[00:17:12]–[00:18:12]）："如果接下来那一段仍然会是常规瓶颈、常规节奏，那么作为一家只做前端的芯片设计创业公司，把 12 个月的前端设计工作缩到其中一小部分，并没有压倒性的必要或回报。"
  • ⚠️ 他真正主张的论题（[00:20:13]–[00:22:14]）：价值在压缩"从一个观察到把赌注变成量产"的延迟，换来"更多的射门机会"与"滚动的赌注前沿"；而他明确类比成前沿模型——"芯片领域里对应前沿模型的那件事就是：如果你能在结构上刻出三到六个月的优势，你就会赢下所有那些部署。" ⚠️ 主持人当场加的限定必须一起记："那只有在你关于'该量产哪一个'的决策是正确的时候才成立。"
  • 一个顺带的规模对照（[00:21:13]）："把一套英伟达系统拆开，里面有大概六到九颗定制芯片，全是英伟达自己造的，凑在一起才构成那个真正非常强的东西。所以那里已经有一个差距了。"

⚠️ 五、"架构师意图 → GDSII"：AI 短期进不去的那一段

（[00:22:14]–[00:27:16]）⚠️ 主持人的一手材料：她问过"前三大半导体公司之一的 CEO"这个问题，对方说 "10 年"，而且不让她公开。

  • 他的启发式（[00:23:14]）：⚠️ "永远质疑你那个逻辑上的假设，然后把时间尺度除以四"——所以 10 年除以四再减一点，"接下来几年里会有一种端到端的原型制作"。
  • ⚠️ 但瓶颈形状比时间估计重要（[00:23:14]–[00:25:14]）："芯片设计中间仍然卡着一些循环，是 NP 难问题的传统解法。如果你真想输出那份 GDSII 文件，今天你仍然要跑一堆版图工具，用常规算法做 place and route，而它们会连着跑好几天。"
  • ⚠️ 他拿 RSI 做类比："是的，我们现在可以有极高的智能在指导我们的实验，但我们就只是被实验卡住了、被计算时间卡住了。" 他引的是 Beren Millidge 在 Dwarkesh 那期的"实验之间可以思考一百年"，落点是 ⚠️ "所以在我们去摆放某个电路之前，我们将会生成大量的推理 token。"
  • ⚠️ 他的产业建议，本页认为是全期最可操作的一段（[00:25:14]–[00:26:16]）：最终签核短期不变（"Cadence 和 Synopsys 和 TSMC 合作了几十年，造出那个最终的检查标记……告诉你它符合那家代工厂定下的规则——那种工作极其有价值"），但中间那段该被替换——"你能不能在中间有某种模糊的摆放算法，把你带到几乎到最终设计的地方、帮你迭代更快？我认为那正是人们该多做工作的地方，否则那就是瓶颈。"
  • 被问"不会被代理模型替掉吗"，他答有限元分析、热估计那类仿真近似"有巨大回报"，而回报恰来自 Amdahl 定律。
  • ⚠️ 本页交叉标注：这与 肖志斌"AI 吃掉的是验证，不是设计" 是互补而非冲突——肖志斌指出 AI 已经吃掉的那一段，Goodwin 指出 AI 短期吃不掉的那一段（place and route 与最终签核）。两条合起来是本页目前最完整的"芯片流程里 AI 的边界在哪"。

⚠️ 六、市场结构：自研芯片的主要功能是议价，以及前沿实验室为什么不该在芯片上重注

（[00:31:18]–[00:34:20]）

  • 现状（[00:31:18]）："今天所有大规模部署的人基本都在试图尽可能多地部署分开的平台"，因为"算力这种东西对这些玩家已经变得如此存亡攸关"。
  • ⚠️ 他对第一方自研最锋利的一句（[00:31:18]–[00:32:18]）："今天有个说法是，那些第一方自研努力的首要用途是压低大家付给英伟达的价钱。这里面可能也有点道理，因为那些努力在架构上相当相似。" 判据很清楚："那是一个并非押在'使能另一些芯片无法使能的根本能力'上的赌注。" 剩下的作用是议价、总体产能、一点控制权。
  • ⚠️ 本页记这是第一次有第三方芯片创业者明说"自研的主要功能是议价"，并给出了"是否使能新能力"这条判据。与 Satya Nadella 的"硅的多样化"、Dylan Patel 的四层价值分配 并读。
  • 前沿实验室为什么需要极速（[00:32:18]–[00:33:19]）："对前沿实验室来说，有一扇溢价能力、溢价智能的窗口，那是它们存在的全部理由。否则我们所有人就一直用 Kimi 的模型了。" ⚠️ 在来自开源的背后压力下，想在前沿部署就必须同时有最好的权重与最快的部署。
  • ⚠️ "为什么不会被实验室整个吃掉"——一个不对称博弈论证（[00:33:19]–[00:34:20]）："假设我是实验室一号，我在某种专有硅上全押了；然后实验室二号发现了某个新的计算突破，它在同等智能下交付远好得多的计算效率，但它只在它们选择部署的那块芯片上成立。我可能在铺够那块芯片之前的九个月里就死了。" 结论："所以这些公司迫切需要部署和彼此相同的平台。它们在玩的是不同的游戏——它们是在模型层竞争。而在芯片层做深度差异化的赌注、并全押在上面，对任何在前沿玩的人来说都是不理性、非常危险的一步。"
  • ⚠️ 本页标注两面：这是一条真正的博弈论论证，同时恰好是一家第三方芯片公司最需要成立的论题。 可检验性不错——它预测"前沿实验室不会在芯片上长期走远"，而反向证据是 Google TPU 十多年的坚持，而他自己在同一期里承认 TPU 开了自研的头。 记为可检验的争议，不裁决。

⚠️ 买方视角：本页第一份"把 GPU 云当被测对象"的材料（ClusterMAX 3.0 / SemiAnalysis，2026-10-02）

来源：Latent Space / SemiAnalysis ClusterMAX 3.0

⚠️ 本页此前的全部基础设施材料都来自供给侧或需求侧的自述（芯片公司、推理服务商、超大规模厂商、实验室），没有一份是"去租来、跑 benchmark、看它坏不坏"。这一期是第一份。⚠️ 同时它是一家卖方研究机构为自己旗舰榜单做的宣传期，嘉宾在期内主动披露了三笔个人投资，本页不采用任何榜单名次。

⚠️ 一、"现在是有史以来最难租到算力的时候"，而归因不是实验室

  • ⚠️ 机制是推理毛利翻了一个台阶，本页认为这是本次最该被长期引用的一条产业事实（[00:12:13]）：Baseten 六到九个月前还在 10% 毛利上跑推理；现在 Baseten、Fireworks、Together，甚至 Morph 这种小公司，用 vLLM 或 SGLang 加一点超出这些的优化，就能在开源模型上跑到 60% 毛利。
  • ⚠️ 落点："所以任何能拿到一块 GPU 的人都能立刻赚钱。那好了，我是一个想训个有意思的新模型的 neolab——可我同时在和能赚钱的人竞争。而以前我主要是在和亏钱的 OpenAI、亏钱的 Anthropic、亏钱的实验室竞争。"
  • ⚠️ 而他明确否掉了"是实验室买空的"这个解释："显然 Anthropic 和 OpenAI 一直在买越来越小的集群尺寸。"
  • ⚠️ 第二条挤压是实验室把订单尺寸往下压到和 neolab 重叠（[00:13:13]）："它们过去只从一家供应商那儿起租 8k GPU。这个数一直在稳步下降。我们现在甚至看到实验室租 1,000 块 GPU。而 1,000 块更接近一个 neolab 想要的量。"
  • ⚠️ 第三条来自推理供应商愿意吃小单（[00:14:13]）："Modal 四个节点也接受"，而 Modal 自己讲过它在约 20 个云之间做编排——"如果 Modal 能靠一家公司的四个节点就赚得盆满钵满，那任何人要拿到任何算力都是有挑战的。" 主持人的一句话总结："现在连单节点都没法 spot 租了。整条栈都熟了。"
  • ⚠️ 本页标注这条与 Dylan Patel 自己 2026-08 的集中化论证 的关系：那期的核心是"实验室的出价能力把增量供给整个买走"，自我限定是"$10–15M/MW 的算力谁都能赚钱"。⚠️ 本期是那条限定在 13 个月后变成了主线：不是实验室买空了市场，是"谁都能赚钱"这件事自己把市场买空了。 两期同一人同一机构，不构成独立验证，但方向上是自我修正而非重复。

⚠️ 二、GB300 NVL72 作为一道工程门槛：本页最具体的一张"换代到底换了什么"清单

  • ⚠️ 本代榜单的新门槛就是"2026 年有没有在部署 GB300 NVL72"，而有些原本评级最高的供应商根本不提供它（[00:10:11]）。他把难点列全了：
  • 新的网络；NVL72 意味着 scaleup domain 在机架内；要上 ARM CPU；是 Blackwell GPU；800G 网络；强制直接液冷。
  • ⚠️ 结论："所以从物理数据中心、到你怎么部署操作系统、到你怎么管理网络里的驱动——几乎每一件事都变了。"
  • ⚠️ 他对"我们只是做了战略取舍不做它"这种说法的回应，本页认为是最锋利的一问（[00:11:12]）："那等明年 Vera Rubin 来了怎么办？你要信谁？"
  • 什么构成"能力证明"（[00:11:12]）：部署了一万块 GB300、测下来能跑、给支持团队反馈的问题"一小时内修好而不是两周"。⚠️ 而可靠性"大概是这些头部客户最在意的第一条标准"。
  • ⚠️ 能力分布极窄，本页认为这条值得和本页"五个九的成本阶梯"并读（[00:35:27]）："大多数 silver 和全部 bronze，没有人在上面训前沿模型。很多推理、一点 RL、很多研究，但老实说那些人里我一个都不会信任去建一个 10 万 GPU 的集群，除了 Azure。" 被问"谁已经证明过能做到"，答案是 "五家公司。"
  • ⚠️ 一条必须一起记的分层（[00:15:13]–[00:17:14]）：该榜单只测托管集群（managed Slurm / managed Kubernetes），不测裸金属、不测数据中心建设、不测推理 endpoint。 所以 Crusoe 在托管集群上被降级，而同一人称它"是世界上最好的数据中心建造者之一，甚至就是最好的"。市场的分层是：超级小的客户不在乎裸金属；超级大的客户要裸金属以便上自己的 Slurm/K8s fork；中型与偏小客户要托管 + 云帮它热替换坏节点。

⚠️ 三、多芯片与跨站点 RL：本页目前见过的对"数据中心形状"最激进的一条主张

  • ⚠️ 切分本身失效了，这是本节的前提（[00:50:33]）："推理 vs 训练现在不是一个硬切分了——当你在做研究、在真正后训练模型时，RL 里有大量 forward pass。" 更进一步："事实上大部分负载就是 forward pass，你可以按古典说法叫它推理，哪怕它是为强化学习做的 forward pass。" 以及 "RL 现在和预训练负载一样大、有时更大。"
  • ⚠️ 于是出现一个机会与一个硬约束（[00:51:34]）：
  • 机会："用更便宜、能跑高吞吐的芯片去做 RL 里的 forward pass，有一堆好处。"
  • ⚠️ 约束是数值正确性："如果你用两种不同的芯片，就有一堆数值正确性的挑战——哪怕只是 NVIDIA GPU 的两个不同世代，B200 对 B300，你的内存量不同、batch size 不同。" 所以"预训练大概还是同构集群——人们大概不会在 40 万 GPU 的规模上冒这个风险"。
  • ⚠️ 而主张本身被推到了跨站点（[00:51:34]–[00:52:34]）：
  • 一侧是"需要某种新形式的解耦——在同一个数据中心里放不同种类的算力，在它们之间来回倒"。
  • ⚠️ 另一侧把它推得更远："甚至不必是同一个数据中心。人们在很多很多站点上做 RL：这个数据中心在做 token 生成，那个数据中心在做 token 生成。而在那里用不同类型的芯片其实是可以的。只是这是个非常复杂的 infra 问题，因为你要用不同方式切分模型，权重更新发生在不同时间。"
  • 主持人的反应被本页照录，因为它就是读者的反应："你在和光速作战——你要怎么把这些数据传过去？" 他们提到的公开参考是"MiMo 2.6 刚出来，是一篇关于怎么把 RL 侧超级放大的好的公开论文"（⚠️ 字幕作 "MIMO 2.6"，本库未核实该论文）。
  • ⚠️ 本页交叉标注：这是 Eiso Kant 把 PD 解耦引入训练 那条线上的第二次独立表述，而方向更激进——Kant 说的是训练内部的解耦，这里说的是跨站点、跨芯片类型的解耦。⚠️ 而这一条来自一个没有资产押在上面的第三方，本页认为这提高了它的权重。
  • "明年会很大"的那张非 NVIDIA 部署清单，本页记为目前最完整的一份（[00:49:32]）：NVIDIA 自己会在 Vera Rubin 世代把 Groq 的 LPU / LPX 系统带进来（⚠️ 自报，未核实）；AMD 有自己的一套，TensorWave 是 AMD 云；⚠️ Cerebras"正在为 OpenAI 变成一家 NeoCloud，在建自己的数据中心——从只做推理 endpoint 走到为其他所有人管理它自己芯片的集群"；SambaNova 进市场；Positron、Etched、MatX 在发东西；FluidStack 拿到了 GCP 之外的 TPU；AWS 有和 Cerebras 做异构 Trainium 的公告。结论：领先 NeoCloud"将来需要能支持异构算力"。
  • ⚠️ 一条具体的硅分工事实（[00:50:33]）："Anthropic 大部分推理在 Trainium 和 GPU 上，大部分训练其实在 TPU 上——比如 fable 5 的预训练就是在 TPU 上训的，然后后训练和推理主要在 Trainium 和 GPU 上。"（⚠️ 字幕把第二处 Trainium 误作 "training"，本页据上下文还原并标注这是还原。）归纳是："多数情况下其他硅是用于推理的，但也有一些人在用它做训练。"

⚠️ 四、"实验室机会主义地变成 NeoCloud"：一条合同条款把这个结构写明了

  • 名单与动机（[00:19:14]）：Meta 在考虑；Mistral 和 Poolside 也在榜上。 动机结构是：这些公司已有建与运营数据中心的技能，所以一旦有机会把算力变现就会做，但只做到某个程度，并永远保留把算力收回自用的选择权——"它们想用掉现在负担得起的最大量算力去做研究，多出来的机会主义地赚钱，用来给研究出资。"
  • ⚠️ 而条款是本页目前最硬的一条一手细节："SpaceX 和 Google 的合同有双向 90 天取消权。SpaceX 的研究一旦开始奏效，它们就能把算力拉回来。Google 一旦在某个推理 endpoint 上不赚钱了，它们也把算力拉回来。" 他的解读："两边都处在一种小小的对峙里——谁会先眨眼，谁更信 AGI。"
  • ⚠️ "Google 到这个时候明显在落后"这组断言，本页记为最该被跟踪的争议（[00:17:14]–[00:18:14]）："OpenAI 和 Anthropic 的算力一样多、甚至略多一点。到今年底，它们两家各自投给 R&D 的算力都会超过 DeepMind。" 他自己做了必要区分——Google 总量仍多于 OpenAI，但"很大一部分卖给了别处、分配给了别的业务"，且TPU 的成本优势仍在。⚠️ "R&D 算力"口径未定义、三家无公开数字，这是一个卖方分析师的估算；但它可被 2027 年的披露部分检验。本页记为待检验，不裁决。
  • ⚠️ 一条对"云锁定"的新论证（[00:23:17]）："数据引力这些人们在前 AI 时代谈的东西，在 AI 时代相关性小得多，因为 AI 能帮你把一切迁完。GPU 不只是 GPU，但如果你够强，GPU 在很大程度上是跨云可用的、近似可替代的资产。" ⚠️ 本页此前没有这一条，而它与本页"供给多样性需求会持续存在"（Walter Goodwin [00:31:18]）互为支撑：如果迁移成本真的下来了，多平台并行部署的代价就更低。
  • ⚠️ 他给的那组 $/MW 对照，本页记入"$ / 瓦"那条线但标为未核实（[00:21:17]）："你不该激励以 2000–3000 万美元/兆瓦卖出去，而你本来可以用它跑模型、做到 5000 万美元/兆瓦。"

⚠️ 五、谁有资格建基础设施：一条很硬的定义，和一条未收口的分歧

  • 正面定义（[00:29:23]）："对建一家基础设施公司来说，你真正理解负载怎么运作、并且有被'训过模型、跑过集群'所塑造的观点，这件事太重要了。" 反面："而不是那些加密矿工——'嘿我找到一块地、我有点电、我有点钱'——他们没有执行能力。"
  • 而要训前沿模型的 infra 要求被说得很具体（[00:34:25]）："你的集群必须有健康检查、必须有高可靠性，你不能让这个模型在训练时不前进、不断失败。"
  • ⚠️ 一处未收口的分歧本页照录（[00:32:25]）：一侧主张"所有 NeoCloud 该怎么证明自己——比如标准四——就是：请你自己去训一个前沿模型"；另一侧当场不完全同意，"我不确定每个人都该有训前沿模型的技能"。
  • ⚠️ 而榜单自己最大的结构性盲区也在这一节被说明了（[00:47:30]–[00:48:32]）："FluidStack 不会把 TPU 租给我们，因为它们把一切都租给 Anthropic 了。"、"SpaceX 不会租给我们。它们也不会租给你。" ⚠️ 本页标注：最接近前沿的那几家恰恰是测不到的那几家，所以榜单覆盖面与"谁真的最强"之间存在系统性缺口。

⚠️ "政府会按行业分配 GPU 配额"：一条带时间窗的制度预测，以及电网每十年翻一倍史（All-In 第 291 期，2026-10-02）

来源：All-In 第 291 期

⚠️ 本节全部材料来自政策当事方：Sacks 是白宫超级智能峰会的组织者与协定起草参与者，四人在数据中心与电力政策上立场一致。本页收录它的理由是那条可检验的预测与那组历史数字，不是政策倡导。全部数字本库未核实。

⚠️⚠️ 一、Friedberg 的预测：模型管制会让位给算力配额

（[00:21:14]–[00:23:14]）⚠️ 本页认为这是本节最有价值的东西，因为它把时间窗写死了：12 到 18 个月，即 2027 年末到 2028 年初。

  • 他给的推翻理由是节奏而非原则："每 11 天我们就看到新模型发布……所以模型控制系统解决不了任何问题。"（⚠️ 未核实）
  • ⚠️ 预测本身："我们会走到一个政府监管数据中心访问与使用的世界。它们会说数据中心就在这儿，但为了维持防御能力，我们要决定谁被分配到多少 GPU、多少推理量、多少芯片、多少服务器。"
  • ⚠️ 机制是攻防双方的机器计数："网络防御的一个关键度量将会是：你分配了多少台机器来防守你的系统，对抗多少台正在攻击你系统的机器。" 前提是模型收敛——"如果大家在保持同步（pacing），那么分配给某个具体任务的机器数量，就是衡量它在那个任务上相对另一组做同样任务的机器表现如何的关键指标。"
  • ⚠️ 具体画面："政府会说：我们需要美国金融服务体系拿到美国 X% 的 GPU，我们要确保 Y% 给国防……" 被问是不是"自上而下国有化分配"时，他的回答是"你可以把数据中心想成那个公用事业——也就是那些云、实际上是那些 NeoCloud"。
  • ⚠️⚠️ 本页交叉标注，这是本节最重要的一条：这与 Daniel Ek 四天前的"把算力当监管度量" 是同一条线上的第二次表述，⚠️ 但必须记清：把 Ek 那条重述成"在模型等价的假设下，算力是防御能力的关键指标"的人就是 Friedberg 自己。所以这不是两个独立来源，是同一个人在四天内把自己的论证往前推了一步。 ✅ 本页仍上调它的权重，理由是这次有机制和时间窗，上次只有方向。
  • ⚠️ 而本页记下一条该期没被追问的内部张力：他第一条预测的大前提是"集中控制徒劳"——"地球上有 197 个国家，它们各自有主权。能源到处都有。它们都连着互联网。数据中心会在全世界存在。" ⚠️ 而第二条预测的内容本身就是一种新的集中控制。他用"管软件不行、管硬件可以"统一两者，但没有回答：为什么美国的 GPU 配额制不会遇到和模型管制一样的绕过问题？
  • Sacks 的反驳是从市场一侧来的（[00:23:14]–[00:24:15]）："市场会处理这件事。这是一个卖给政府的机会"——Google、AWS、Crusoe 直接多卖服务器，而政府宣布"建更多数据中心现在是国家安全，我们要为它清道"。⚠️ 他同意前提不同意结论："我同意的那部分是：这不只关乎模型的能力，而关乎你有多少算力去跑它。而我们想要比对手有更多算力。"

⚠️ 二、Sacks 的电网史：本页此前缺的那条长期序列

（[00:24:15]–[00:25:16]）

  • ⚠️ 那组对照："中国每十年把电网翻一倍，而我们大约 25 年是平的。"
  • ⚠️ 而他回去查了整个 20 世纪："整个 20 世纪美国都走在每十年把电网翻一倍的节奏上。那是我们做过的事。" 70 年代开始放缓但增长继续，"直到 2000 年代初我们基本上走平了"。
  • 他给的原因是需求侧而非供给侧：去工业化与全球化——"我们把制造业岗位运到海外，然后人们去办公室上班，所以不需要那么多电"；效率也占一点。
  • ⚠️ 而他的落点是能力而不是政策，本页认为这是这一段最该被引用的一句："我们失掉了'怎么把电网每十年翻一倍'这块肌肉。我们得把它拿回来。"
  • ⚠️ 他对 NIMBY 那一条给了一个很克制的历史观察，而本页认为它比他的结论更该被记住："显然那些发电厂是建在某些地方的，而他们找到了不会遇到太多 NIMBY 反对的地方去放它们。他们想出了办法。" ⚠️ 本页标注：这是一个"他们当年做到了"的论证，它没有说明当年的做法在今天是否仍可行——该期也没有人追问。
  • ⚠️ 本页交叉标注：这条与本页既有的 能源作为 AI 的真实上限、Chamath 的电力缺口读数 是同一条线；⚠️ 而这是本页第一次拿到一条跨整个 20 世纪的增速序列，因此它的核实价值最高。本库未核实，记为应优先回查的一条。

⚠️ 三、Chamath 的"电子"口径：与 Friedberg 同前提、反结论

（[00:31:18]–[00:33:18]）

  • 他的起点是一条反直觉的观察（引 Phil Deutch）：伊朗战争期间"最有意思的结论其实是油价在这些封锁中动得多么小"，因为发生的是大量的供给与发电切换。
  • ⚠️ 推论："真正关键的东西是电子的生产，而不一定是我们古典意义上理解的能源生产。" 于是"数据中心变成国家安全的关键符号"，而"国内能源生产会从一个内政议题变成一个国家安全议题"。
  • ⚠️⚠️ 而他明确不同意 Friedberg 的结论，这是本节最值得记的一次组内分歧：共同前提是"数据中心是国家安全基础设施"；Friedberg 推出"所以政府会来分配它"，Chamath 推出"所以市场会被放开"——"更接近 Sacks 那套自由市场的想法，因为它太关键了"，类比是海湾战争与反恐战争之后"我们对天然气和国内石油生产加倍再加倍"。
  • ⚠️ 本页不裁决，但指出两条结论的可检验点不同，且并不互斥：Chamath 的版本预测"供给会被加速"，Friedberg 的版本预测"需求会被配额"——而同时扩产与配给正是战时工业的标准形态。该期没有人指出这一点。

⚠️ 四、数据中心舆论：本页这条线上的第四次表述，立场不变

（[00:24:15]–[00:26:16]）

  • Sacks 的类比："如果我们需要它而去阻挡一个数据中心，那就像在二战期间阻挡坦克生产。"
  • ⚠️ 而他对"数据中心被当成靶子"的拆解本页认为是这一段最有价值的一条："数据中心已经存在很久了。数据中心服务互联网。它们服务你手机上所有的移动应用。它们现在服务 AI。但它们服务我们使用计算机的所有用途。而把它们归咎于任何某个具体应用，看起来完全是误导。" 他的替代方案很具体："如果你担心监控或隐私这类事情，那就尽管去强化隐私法——我完全支持。但只是试图禁掉数据中心，看起来是疯了。"
  • ⚠️ 本页标注：这是本页数据中心舆论线上的第四次表述，而前三次本库都已标注过性质——Meta 的在地账本（当事方）、a16z Growth 那条 40 个基点（与 Meta 那期同源、不构成独立验证）、Barrett Lyon 那期（本库记为立场而非事实）。⚠️ 这一处同样是明确的政策倡导方。本库在这条线上的立场不变：收录但不跟随。
  • ✅ 不过本页认为"把数据中心和具体应用分开"这条论证本身是成立的，且此前本页没有：数据中心是一个通用基础设施层，而针对它的反对实际上针对的是其中某一类负载。 这一条与 Sacks 的政策结论可以分开采用。

⚠️⚠️ "agent 会被 P99.9 卡住，而人不会"：给 agent 造的云、2200 亿 capex，以及"永远只有最新那个瓶颈"（AWS CEO Matt Garman，2026-10-08）

来源：a16z / Matt Garman

✅ 本页认为这是最重要的一期之一，因为它是本库第一次有超大规模云厂商一号位把"agent 作为用户"讲到具体技术后果——不是战略表述，而是尾延迟、权限粒度、数据库持久性这类可验证的东西。 人物页见 Matt Garman。

⚠️ 场合与口径：这是 AWS CEO 在一家风投机构的频道上接受采访，而主持人自述"我们所有的创业公司都在问怎么拿到 GPU""我们会继续把他们送到你这儿来"——所以它既是产品叙事，也是一次面向该机构投资组合的渠道沟通。⚠️ 全部性能、份额与收入数字均为口述，本库一条未核实。 ✅ 但本页认为他的限定密度高于平均：他主动承认自家"命名能力很差"、承认有些系统对 agent 场景"算是过度工程"、承认数据中心舆论上"我们需要更主动发声"，并在 eval 上说"我其实不确定今天有谁真的擅长解决这些"。

⚠️⚠️ 一、本页此前最缺的那条：agent 当用户，到底有什么技术后果

  • ⚠️⚠️ 尾延迟，本页认为这是全期最该被长期引用的一条（[00:08:04]）："很多人和 agent 的用例是相似的……但他们其实非常在意尾延迟（tail latencies），这很有意思——人不总在意 S3 的 P99.9 延迟，而 agent 确实在意、而且会被它卡住（get blocked by that）。"
  • ⚠️ 他由此给了一条未核实的竞争主张："这也正是为什么 agentic workflow 在 AWS 上往往比在别处表现更好。"
  • ✅ 本页认为背后的机制是可独立评估的，而且它补上了本页一直缺的一环：⚠️ 人类交互是单步的、P99.9 会被主观体验平均掉；而 agent 的一次任务是几十到上千步的串行链路，尾延迟在链路上会累积成阻塞而不是平均。 ⚠️ 这给"为什么 agent 负载对基础设施的要求形状不同"提供了一个比"吞吐更大"更精确的答案。 ⚠️ 本页标注它与 Baseten 那期"下一个 10 倍是更快的网络"、以及 Cerebras 关于 1000 token/s 的论证 方向一致，但这是第一次从"尾部而非均值"的角度给出。
  • ⚠️⚠️ 二、"有些东西对 agent 是过度工程的"——本页认为这是一次罕见的坦率承认（[00:13:05]–[00:14:05]）："很多 agent 想创建一个数据库、干一点活、然后让这个数据库消失。" 主持人接的是"而你真的需要那个数据库有五个九的持久性吗"。
  • ⚠️ 他的承认："当你创建一个 Aurora 数据库作为生产数据库时，你确实想要五个九……而对 agent 用例，对我们需要的东西来说是过度工程的（overengineered）。"
  • ⚠️⚠️ 但他拒绝了最直接的解法，而本页认为这条拒绝比承认更有信息量："我们有这样一个信念：我们并不真的想有一个非持久的选项，那也会造成问题——因为你永远不太清楚被创建的那个数据库是想留很久还是很短。" ⚠️ 所以他们选的是更难的路："同时做到这两件事：你可以很快创建它、扔掉它，而且不真的浪费很多资源；但如果你确实想要它持久，它实际上能长成一个大的生产数据库。"
  • ✅ 本页认为这条值得记为一个一般性的设计张力：⚠️ agent 负载的生命周期分布是双峰的（极短 + 极长），而云的既有抽象是按单峰（长期生产）设计的；而厂商不愿意把这个判断推给用户，因为创建时无法区分。
  • ⚠️⚠️ 三、他列的那份"全新原语"清单，本页认为是这一节最该被引用的部分（[00:14:05]–[00:15:06]）："是不是有一些 agent 会想要的、我们以前根本不需要的新积木？" 四样：compute sandbox、gateway、⚠️ "给 agent 的权限 vs 给人的权限、或者 service role 权限"。⚠️ 他强调这不是复用："这不是把现有的积木用得不一样，而是全新的积木。"
  • ⚠️⚠️ 权限那条最具体："你不会想直接给它（人的）权限然后让它去做任何你能做的事。你其实想要非常有时间盒的、短期的权限，只去做一个任务。你可能根本不想给它整个工具的权限——你可能想要非常细粒度的、关于 agent 能做什么的权限。"
  • ⚠️ 沙箱那条他给了一条产业观察（[00:15:06]–[00:16:06]）：Firecracker microVM "我们大概十年前发明的"，⚠️ 而"很多做沙箱的创业公司都在用 Firecracker"。⚠️ 他说这是巧合不是预见："它不是为 agent 而生的，但它对 agent 其实相当好用——因为你能非常快地起起来，它们有很好的安全边界，而且你没有传统大 VM 那种虚拟化开销。" ✅ 本页标注：这为本页 Modal 那期关于 agent 云 / sandbox 的材料 提供了一条上游事实。
  • ⚠️ 四、需求侧的形状他点了两样（[00:06:01]–[00:07:01]）：⚠️ "一个定义良好的 API 接口，让 agent 真的能轻松穿行与协作"；以及"比如三秒内启动一个数据库"。⚠️ 而新服务他点了 AWS Context（自述当时 preview/beta）："让你能建一个 context 层，这样 agent 可以更容易地在你各种 data lake 里找到它们想要的所有数据。" ⚠️ 理由仍然是人与 agent 的行为差异："人不一定会以那种方式去访问数据，但 agent 其实很乐意横跨那么多不同的东西。"

⚠️⚠️ 二、瓶颈：本页此前一直在问"下一个瓶颈是什么"，而他直接否掉了这个提法

  • ⚠️⚠️ 框架（[00:27:11]，他引《The Goal》）："结果发现从来没有一个约束，永远只有最新的那个约束。所以你必须考虑所有的约束，而你一撞上一个，就又有另一个。" ⚠️ 他对 2028 的直接回答是拒绝预测："那个约束是什么？我其实不知道。我认为会有一个。"
  • ✅ 本页认为这条值得作为一条方法论挂在本页顶部：⚠️ 本页此前收过多份"瓶颈是电力""瓶颈是 HBM""瓶颈是带宽""瓶颈是变压器"的材料，而它们很可能都对——只是在不同月份。 ⚠️ 这也意味着任何"某个约束解除后产能会释放多少"的推算都需要带上"下一个约束"这一项。
  • ⚠️⚠️ 在建约束清单（本页见过最完整的一份）：电力 → 内存 → TSMC 产能 → HBM → 网络部件 → 供应链里的小故障（连接器）→ 硬盘 / SSD（[00:27:11]–[00:29:12]），另加资本、数据中心本身、以及 ⚠️ "建楼的施工人员，施工人员今天是很紧的"（[00:17:06]）。
  • ⚠️⚠️ 而那条地理限定本页认为最该被记住，因为它解释了为什么总量充足也不够（[00:28:12]）："它们发生在哪里也很重要。所以可能是：嘿，我们在印度尼西亚有一大堆电力，但在德国不够。所以你也得想清楚你想要那个产能在世界的什么地方——因为结果发现不是所有东西都是完全可替换的（fungible）。有些是，有些不是。"
  • ⚠️ 他们的应对是往下穿透供应链，而且是十年前就开始的（[00:29:12]）："我们大概十年前就看到这个问题要来了，就开始不只是想'我们需要追踪多少台服务器'，而是把整条供应链想透——往下四层、五层，哪个部件可能给我们造成问题，并确保我们在那上面有了保障供应。" ⚠️ 历史触发事件是泰国洪水导致的硬盘短缺。 ⚠️ 他的限定："我们永远不会在这上面做到完美，但永远会有一个不同的供应约束。"
  • ⚠️⚠️ 三、而一条本页认为很重要的承认：弹性被 AI 负载消耗掉了（[00:21:08]）："我们在相当长一段时间里其实是在需求之前投资的。而我认为最痛的一件事是，随着 GPU 的真正爬坡，很多弹性不幸地消失了。" 他的期望是"希望我们在核心计算、存储这些东西上能回到那种弹性还在的状态"。
  • ✅ 本页认为这条值得单独标注，因为弹性正是云最初的核心卖点——⚠️ 而它在 AI 负载上被消耗掉，恰好解释了 ClusterMAX 那期"现在是有史以来最难租到算力的时候" 的供给侧机制。

⚠️⚠️ 三、电力与规划期：本页此前最具体的一次"以前 vs 现在"对照

  • ⚠️⚠️ 变化幅度（[00:25:10]）："如果你回到 15 年前，如果我们需要更多电，我们就让电力公司再给我们几兆瓦——几十兆瓦，他们就直接给了，因为 10 兆瓦不算多，而那对我们继续增长来说足够了。" 而现在 ⚠️ "我们得自带电力"。
  • ⚠️ 两种模式他都做："我们会付资本、付这个项目的钱，然后它进电网，然后我们拿到这部分的 credit"；以及"有时候我们也做 behind the meter（表后）。在我们这个规模上是个混合。" ⚠️ 他自述是"过去十年里每年最大的可再生电力采购方之一"，并在持续上新的太阳能、核能项目。
  • ✅ 本页标注：这为 behind-the-meter 那一节 补了一条来自超大规模厂商一号位的确认——两种模式并用，而不是只选一种。
  • ⚠️⚠️ 而规划期的变化本页认为是这一段最硬的一条（[00:26:10]）："那是你要想到 20 年之后的规划——怎么想电力、怎么想输电、怎么想那笔资本。而这是我们以前从来不必想的事情，是我们以前根本不必做的规划。" 供应侧同理："我们以前想服务器需求是多个季度的事；现在我们要往前做多年——26 年需要什么、27 年需要什么、28 年需要什么。"
  • ⚠️ 而他把这条变成了价值主张，本页认为这条值得记为云的一条新护城河论证："这也是我们给客户带来的价值之一，一件客户确实做不到的事。他们不会去做电力，他们不会去规划自己 2028 年的内存占用——他们做不到这件事。"
  • ⚠️ 本页标注一处可对照：✅ 这与 Satya Nadella 的"不为一两个客户建" 是同一类论证的两个侧面——Nadella 讲的是资产配置纪律，Garman 讲的是规划期本身作为一种不可复制的能力。

⚠️ 四、资本、GPU 分配与集中度

  • 口径（均为自述）：营收约 1690–1700 亿美元、增长 37%（[00:01:00]）；⚠️⚠️ capex "2026 年 2200 亿美元……这是我们有过的最大的一笔支出——也许是任何公司在单一年份里有过的最大支出"，且"我们预计短期内不会放慢，因为需求就是巨大的"（[00:17:06]）；⚠️ "未来几年要买 200 万片 NVIDIA GPU"，而他自己加了一句 "谁知道这够不够"（[00:20:08]）。
  • ⚠️ 本页标注：这条可与 a16z Growth 的 2026 capex 口径快照 并读，但本页未做交叉核对，两处口径是否同一会计定义不明。
  • ⚠️⚠️ GPU 分配率（本页此前没有的口径）（[00:19:07]）："我最近看到我们对最终收到的请求里，大概 60% 以某种形式说了是——有时候晚一点，有时候在不同的区域，有时候是和客户想要的略有不同的配置。"
  • ⚠️ 他明确说不全卖给大实验室是主动选择而非能力所限："你说得对，我们本可以把每一片 GPU 或 AI 加速器都卖给那些大型前沿实验室然后就收工。我们选择不这么做，因为我们其实想继续把整个生态做大。" 三条理由：分散化、"我们知道这些将来会是大公司"、"整个生态更健康对我们更好"。
  • ⚠️ 他的收尾很坦率："但这很难……而你的每一家创业公司都想要更多。"
  • ⚠️⚠️ 而本页认为他泡沫论证里最该被核查的不是结论而是那条集中度对照（[00:22:09]）："因为我们采取这种分散化的做法，我们的产能并不绑在一个客户上。你去看一些 neocloud 或者市面上其它一些供应商，你有时会看到 30%、40%、50%、60% 集中在一两个客户上。我们远远不到那个程度——我们最高也就是个位数百分比，而且通常比那更低。"
  • ✅ 本页记为一条可被财报检验的结构性声明，⚠️ 而它正好是 ClusterMAX 那期"实验室机会主义地变成 NeoCloud" 那条结构的对侧读数：同一个产业事实（少数实验室吃掉大部分新增算力），在 neocloud 一侧表现为客户集中度风险，在超大规模厂商一侧被稀释掉了。
  • ⚠️ 他的第二条论证落在负载构成上："我们今天的大部分使用其实是核心计算、存储和推理——而推理是那个应用的一部分。所以这些是我认为不会消失的负载。"
  • ⚠️ 而他对企业 ROI 给的是逸事式证据，本页标为未核实："你去跟客户聊，问他们'以今天的能力、今天的成本，你看到对业务的正回报了吗'，几乎每个人都会说'哦，是的'。"
  • ⚠️ 他对创业公司层面的泡沫直接承认："是不是每一家十亿美元的创业公司都能成？不，不会。但那就是这个游戏，而这已经是 50 年来的事实了。" 类比互联网泡沫："互联网仍然是个东西……而那些有持久业务的公司——Google、Amazon 这些——它们做得相当好。"
  • ⚠️ 而他对"你们应该最先叫出需求拐点"的回答本页记下为一处回避（[00:23:10]）：主持人的论证是 AWS 的需求视野无与伦比，"所以如果有谁该叫出那个拐点，应该是你"。⚠️ 他给的是资本配置口径（"我们在怎么花股东资本上非常有意图性……我们有很多关于如何有意图地投那笔钱的保护措施"），没有给任何拐点判据。本页不把它当作需求预测。

⚠️⚠️ 五、自研芯片：一条"每步先证明再加码"的路径，以及 Trainium 的角色反转

  • ⚠️ 他自己给整段定的性（[00:33:13]）："它是一个很好的例子，说明 Amazon / AWS 会怎么创新、怎么随时间迭代、怎么继续把我们能做的想得更大——但是一路验证过去（prove our way there）。"
  • 路径：虚拟化税 → 网络卸载卡（约 13–14 年前，起因是"客户在告诉我们：我想要裸金属性能"；⚠️ 当时结果是"还不完全是裸金属，但更接近了"）→ 为卸载存储虚拟化而收购一家"在卸载卡上有 ARM 核"的公司（⚠️ 公司名全程未出现，本库不补；他说收购理由是团队——"真的很创新、真的很有使命感"）→ Nitro → Graviton → Trainium。
  • ⚠️⚠️ Nitro 的那条安全后果本页认为最该被记住（[00:35:15]）：目标是"一台裸金属服务器，上面没有 VM 虚拟化，所有东西都通过卡上的 API"，三条收益是性能、资源利用率、安全隔离——⚠️ "我们当时可以合法地（legitimately）告诉人们：对于跑在那上面的你的任何 VM，我们没有访问权。"
  • ⚠️ 他对竞争格局的解释："这在过去十年给我们带来了巨大的好处，而说实话我们一直领先、别人一直比较慢，因为这不是一件人们能泛化地做的事。"
  • ⚠️⚠️ 而那条下注依据是全期最清晰的一次技术判断，本页认为它可以作为"何时该赌一个新架构"的判据模板（[00:36:16]）："我们看了并看到 ARM 核在变快的那个斜率，还看到功耗利用率和那条曲线——你就知道这个架构在哪里会对某些部分真的很好的那个交点会发生。而它们只是需要有人来驱动这个生态、把一些拼图放到位。"
  • ⚠️ Graviton 的数字（均为自述、本库未核实）：便宜 20% + 性能好 20%，"过去大概五六年一直是这样"；⚠️ "我们每年落地的 Graviton 芯片比任何其它类型都多"；"前 100 大客户里大概 90% 以上都在他们的机群里以某种形式用了 Graviton"；⚠️ "我们有客户把整个机群搬过来、把服务器数量砍掉了一半"。⚠️ 他的表述："这是客户降低账单最容易的单一方式。"
  • ⚠️⚠️ Trainium 的角色反转，本页认为是本页最该回填的一条（[00:38:16]）：⚠️ "随着模型越来越大，结果发现你其实想在这些非常大的系统上跑推理——结果发现 Trainium 其实也许是现在市场上最好的推理芯片。从绝对性能和性价比的角度来看。"
  • ⚠️ 他先自嘲了命名："我们在命名上很糟糕，这不是我们的强项。原本我们有一颗叫 Inferentia 的芯片做推理、Trainium 做训练。"
  • ⚠️⚠️ 而被问"是内存带宽吗"时他明确没有展开："它的架构就是和别人的有点不一样，而且便宜得多。" ⚠️ 本页记为未核实的竞争主张，并标注这是全期技术深度最浅的一处。
  • ⚠️ 状态口径：Trainium 3 已在市场、Trainium 4 已宣布未发布；⚠️ 产能"已经卖光了，大概到明年年底左右"；⚠️ "Bedrock 上的大部分流量都跑在 Trainium 上"；⚠️ "我们和 Anthropic、OpenAI 都有很好的协议在 Trainium 上构建"，另有"半打到一打创业公司"。
  • ⚠️ 训练侧的接受度："特别是到了 Trainium 3 和 4……大家看过那个架构后说：对，那也是我希望我的训练集群将来所在的地方。"
  • ✅ 本页标注：这与本页既有的 Anthropic 硅分工那条事实（"大部分推理在 Trainium 和 GPU 上，大部分训练在 TPU 上"）方向一致，⚠️ 而 Garman 这一期给了供给方自己的解释——Trainium 之所以落在推理上，不是因为它不能训练，而是因为大系统上的推理恰好是它最优的位置。

⚠️ 六、数据中心的社会许可：本页这条线上的第五次表述，新内容只有两点

来源同上节。⚠️ 本页按既有口径把这一整节记为立场而非事实——它来自需要社会许可的一方。

  • ⚠️ 他同意行业传播做得不好并给了自我批评（[00:30:12]）："我同意，我认为我们需要更主动发声、更坦率。"（⚠️ 他两次用了 "vocally self-critical" 这个 Amazon 内部用语）
  • ⚠️ 三条实质内容：水——"我们的数据中心用水量真的真的非常小。我们大部分用自由空气冷却（free air cooling）"；高薪就业；⚠️⚠️ 税收，而他自己点出了传播上的失败——"我最近看到一份报告，我们运营的某个社区里，那个县的每个人每年少交 5000 美元的税，因为我们带来的税收。而我们不告诉他们，他们甚至不知道——对他们来说它就是不可见的。"（⚠️ 转述一份未具名报告，本库未核实）
  • ⚠️⚠️ 而本页认为这一期在这条线上唯一真正的新内容是他公开划了同行（[00:31:13]）："不是所有数据中心运营方都那么做。我认为外面有一些被充分记录的例子是不好的……他们不太在意监管，他们认为规则不适用于自己，或者他们就是不考虑这些、很快就上线。而我认为这给整个行业造成了问题，因为所有人都被归到那一类里去了。" ⚠️ 收口把多数留在好人一侧："数据中心社区的大部分、不只是我们，其实是相当好的行为者，只有少数几个不是——而我认为正是那几个造成了最近的一些焦虑。"
  • ✅ 本页标注：这是本页这条线上第一次有头部厂商一号位在公开场合把行业内部做切分。⚠️ 此前的四次表述（Meta 的在地账本、Nadella 的 20 年纵向数据、Barrett Lyon 最强硬的一侧、All-In 的"民调 -80"）都是整体辩护或整体归因，没有一次划界。

⚠️⚠️ "HBM 是一种可憎的内存，只不过是我们手上最好的那种"：30 年零个新内存、铜的死期，以及"能源容量等于经济容量"（Pat Gelsinger，2026-10-09）

来源：a16z / Pat Gelsinger（前 Intel CEO，现 Playground Global GP）

⚠️ 利益相关：这是一位风投合伙人在另一家风投机构的频道上对谈，⚠️ 全期他点了至少五家自己投的公司，而每一家都坐在他论证的落点上。✅ 本页按既有口径处理：收录物理与工程论证（能量数量级、良率指数性、guard banding、铜/光成本翻转），⚠️ 把投资标的的性能承诺一律标为未核实。

⚠️⚠️ 一、本页此前最缺的那条：AI 加速设计之后，时间账到底长什么样

  • ⚠️⚠️ 这是本页目前最具体的一份"从设计到上架"的时间拆解，而结论是设计已经不是瓶颈（视频页 [00:09:05]–[00:11:06]）：放开 AI 工具，"三个月我们就有一个很棒的设计"；然后 "我们还有九个月的硅加工时间"——拆开是 fab 至少三个月（"而这还是在我有超级加速的设计流程的前提下"）+ 先进 3D 封装三个月 + "还得把它做进一个机架级的方案里，因为现在没有什么东西是一颗芯片了，它是一个机架"。
  • ⚠️⚠️ 而那条后果本页认为最该被反复引用："因为如果要花我一年半才能真正拿到规模和上面的软件……那我对 AI 负载的理解就已经不适用于我设计的那颗芯片了。" ⚠️ 他给的历史案例是 GraphCore："GraphCore 不是一个坏设计，但世界往前走了。"
  • ✅ 本页标注：这与本页既有的 Fractile 那条"架构师意图 → GDSII" 构成互补而非重复——⚠️ Fractile 说的是 AI 在设计链条里进不去的那一段，Gelsinger 说的是 AI 进得去之后剩下的那九个月根本不吃 AI 的加速。 ⚠️ 他要的解法很具体：新形式的光刻、"不要求 5000 万美元掩模成本就能进原型的设计流程"，目标是 "压到一两个月"。
  • ⚠️ 他对 AI 能做什么划的边界是模拟电路（[00:07:03]–[00:08:04]）："模拟那一面大概是最好的例子——它们仍然不是可 AI 化的。你就是需要大量硅数据。" 而逻辑侧是明确肯定。⚠️ 他的自我定位类比是 486——自述 486 是 "第一颗实现你今天会认为是现代 EDA 技术的芯片"（[00:06:03]，当时无 Verilog，自己写了 HDL 和编译器，与 Berkeley 的 Sangiovanni-Vincentelli 一起做了第一次自动布局布线与时序管理）。

⚠️⚠️ 二、内存：一份亲历者给的"30 年零个"产业史，以及为什么他认为这次不同

  • ⚠️⚠️ HBM 的定性，本页认为这是目前收到的最直接一条（视频页 [00:11:06]–[00:12:07]）："HBM 是一种可憎的（hideous）内存。它只不过是我们手上最好的那种。" 罪状五条："糟糕的位密度；被限制在岸线带宽（shoreline bandwidth）上；功耗问题；热问题——而 DRAM 不喜欢热。"
  • ⚠️⚠️ 而那条产业史的问答本页认为该完整保留（[00:22:18]–[00:23:18]）：他自述 "我个人至少参与过五种不同的新内存架构，Optane 只是其中之一，它们都没能见到天日"，"我大概熟悉过去 30 年业内发生过的接近 100 种"，然后反问 "那么过去 30 年里我们到底有过多少种重要的新内存？"——⚠️ 主持人的回答是 "零。" 清单只有 DRAM、SRAM、flash（⚠️ flash 堆叠他只给了"勉强算"）。
  • ⚠️⚠️ 他给的失败原因是产业结构而非物理，本页认为这是这一节最该被迁移的一条机制（[00:23:18]）："过去三四十年，内存是一个糟糕的行业——因为你一年赚钱，然后接下来四年亏钱。那么我们就去一个五年里只有一年赚钱的行业做 R&D 吧？这一直极其困难，因为它被如此剧烈的商品化周期驱动。"
  • ⚠️ 而他认为这次不同的理由正好是那个结构变了（[00:24:18]–[00:26:20]）："三大内存厂商现在都在全球市值前 20"；"内存行业的市值在过去四年里增加了 2.5 万亿美元"（⚠️ 均为自述，本库未核实）。落点："我认为资本与技术需求的结合现在会让内存创新变得合理"，"内存创新 30 年来第一次近在眼前"（他重复了两遍）。⚠️ 技术方向两类：把内存与计算拉到一起（点了 d-Matrix，自述是他投的）；新材料——铁电（ferroelectrics）、非电容式高密度、可堆叠。⚠️ 他明确不看好低成本 flash/MRAM 路线："底层单元的速度与性能有点问题。" ⚠️ 他同时自述"我刚又投了一家新内存公司，还在 stealth"，本页据此把这条判断标为利益相关方预测。

⚠️⚠️ 三、三条热门架构路线他逐条否定，而三次都给了物理依据

  • ⚠️ ① 堆高到 8/16 层：不信（视频页 [00:27:21]–[00:29:21]）。机制是良率的指数要求："随着你走向更高维度的堆叠，整个堆的价值变大了，这意味着任何单层的良率不能只是线性上升——它必须指数式上升……当你到八层或十六层高的堆，把那个数学算一遍会变得极其困难。" ⚠️ 冗余设计不解决："那就是 DRAM 的本性，他们一直有坏块替换、有备用行……但如果我有一颗裂了的 die，我不管你在里面建了多少韧性——它就是一颗坏 die。"
  • ⚠️⚠️ 而他算过一遍整封装的厚度账，本页认为这是目前收到最具体的一份 3D 封装预算：计算 tile（"现在所有东西都变成 reticle 受限的了"）+ 两到四层内存堆 + "供电需要集成进去，而且我要它在 Z 方向上" + "相当智能的 RDL 层来跨平台分发信号" + 光学 III–V 材料层。⚠️ 结论："我那个标准件已经差不多八层厚了。而我认为这大概就是你能做到的全部了，至少以我们今天理解的制造来说。" ⚠️ 落点是 "不错的三层、四层、五层"，内存堆 "两层或四层"。
  • ⚠️ ② 把内存挪出封装、计算与内存之间走全光：不信（[00:32:23]–[00:33:25]）。⚠️⚠️ 而他给的那条数量级对照本页认为是本条线上最可操作的一条物理判据："每次计算的飞焦（femtojoules per compute）现在其实好得惊人。而每比特通信的飞焦相比之下差大约一千倍。" ⚠️ 结论："我认为它们在某种程度上违背了方案的底层物理。"（⚠️ 他承认这条路线确实给了"访问大的内存池"，代价是功耗）
  • ⚠️ ③ PIM（存内计算）：不信，并给了一条时间上的嘲讽（[00:33:25]–[00:34:25]）："大多数 PIM 想法已经存在了 25、30 年。而我认为 25、30 年之后，它们还会在那儿晃。" 机制是对负载的约束。⚠️ 他自己的限定是 "我可能在这件事上是错的"。 ⚠️ 他要的替代方案："给我很棒的内存带宽、高密度、高性能，并且把它放到真正的计算引擎附近——我预计那会是一个在很多种、且不断演化的负载上更可泛化的方案。"
  • ✅ 本页的综合（非他原话）：⚠️⚠️ 他这一期的五次否定共用同一条标准——方案是否对"还没发生的负载"保持可泛化，而他唯一无保留支持的两件事（所有 IO 走光学、让内存本身变好）恰好都不绑定负载形状。⚠️ 本页同时记下这条标准的反面风险：它会系统性低估任何先在窄负载上取得规模的路线，而 CUDA 正是他此前承认 Intel 误判过的一次（见 Pat Gelsinger 人物页）。

⚠️⚠️ 四、光学：成本对照已经翻转，而他对 NVL72 给了一条反事实

  • ⚠️ 他讲了 25 年的那条预测与自嘲（视频页 [00:34:25]）："现在我是一个巨大的粉丝——把所有 IO 功能都移到光学。"；"我大约 25 年前宣布了铜的死亡。总有一天我会说对的。" ⚠️ 边界与上一节一致："所有 IO 都该走光学。但那个核心的计算—内存复合体，不行。"
  • ⚠️⚠️ 而那条成本翻转本页认为是这一节最该被核查也最有预测力的一条（[00:35:25]–[00:36:26]）："今天我们的 scale-up 环境里，我们在放大量的铜，而本质上铜正在变成一根越来越短的波导。然后突然之间，要让我的铜在 5 米上工作，比让光在 100 米上工作更贵。所以我认为物理今天就在把我们推向那里。"
  • ⚠️ 被追问"那为什么还没迁过去"，他给的是供应链不是物理："这是一条复杂的供应链，它从来没有在规模上被测试过。我认为现在每个人都在看某种形式的 NPO/CPO，在 28、29 这个时间框架里——因为我没法在不做那个迁移的前提下，把我的 scale-up 环境扩到大 radix 的计算集群。"
  • ⚠️⚠️ 而他对 NVL72 的反事实本页认为是这一节最该被记住的一条，因为它是一位前 CPU 巨头 CEO 在评价竞争对手的旗舰工程（[00:36:26]）："其实我本来根本不该造一个 NVL72。它是一个工程奇迹，也是一场制造噩梦。它花了整个行业多出一年半的时间去消化那头野兽。" ⚠️ 反事实那半句是重点："但那真的证明了：如果我们当时有一条更成熟的光学供应链，我们今天会先进得多……更好的功耗、更好的成本、更好的能耗。但我们当时没有光学供应链的成熟度来允许那样做。"
  • ✅ 本页标注：这与本页既有的 ClusterMAX 3.0 那份"GB300 NVL72 作为一道工程门槛"清单 是同一对象的两侧读数——⚠️ 买方侧记的是换代到底换了什么、谁消化得了，而这一期给的是"这个形态本来不该存在"的供给侧反事实。
  • ⚠️ 剩余工作四项，而他明确说都不是基础问题（[00:37:26]）："这些东西得在一千万 GPU 的规模上工作"；装进封装；"很多形式的光学不喜欢糟糕的热环境——而糟糕的热环境恰恰是这个游戏的本性"；激光器产能。⚠️ 落点："但我在那儿看不到任何基础性的东西。在这个点上它只是大量的硬活。"
  • ⚠️⚠️ 光学那条线的终点是网络架构，而他借 Nick McKeown 给了本页目前最简洁的一条 OCS 论证（[00:38:27]–[00:39:29]）："我们当年造网络，是为了能处理任何包去任何地方、而对它可能去哪儿毫无知识。而当你想到 AI，它几乎恰好相反——我们做的是大的、可预测的流。" ⚠️ 结论："那看起来更像一个电路交换，而不是一个包交换"；"我们会一路把光学带进计算复合体，我们也会一路走到 OCS 或某种形式的光交换"。
  • ⚠️ 他随后说 scale-up / scale-out 的边界会溶解（"如果我的 scale-up 足够大，那就只是问我的 radix 是多少"），⚠️ 而主持人一侧给的是同向但来源不同的论证："我一直觉得那某种程度上是个人为的区分……从系统架构视角看，它达成的是同一个目标，只是口味和协议略有不同，而我认为随时间会收敛。"
  • ⚠️ 本页标注：网络在这一期被明确点名但因时间放弃（主持人自述 "我本来还想讲网络，但我觉得我们没时间了"，[00:48:37]），所以上述内容就是全期关于网络的全部。

⚠️ 五、功耗：一条可被独立检验的工程数字，和一条本页标为未核实的量级承诺

  • ⚠️⚠️ 本页认为这一期在功耗上最有价值的是那条 guard banding 口径（视频页 [00:12:07]–[00:13:09]）："今天大多数功耗仿真方面都很糟。你没有好的 3D 建模工具来做功耗、功耗耗散、热点等等。"；"本质上我几乎是在对我的整个功耗包络做 guard banding……所以本质上我损失了大约 40% 的功耗在 guard banding 上。" ✅ 本页标注：这条的含义是功耗墙有一部分是建模能力问题而非物理极限。 ⚠️ 但他没有说这 40% 是什么口径（单芯片？机架？峰值还是平均？），本库不补。
  • ⚠️⚠️ 而他对 CMOS 的那条断言本页认为是这一期最该被独立核查的一条，因为它是他全部"必须改变物理"论证的前提（[00:47:36]）："CMOS 没有改善。NVIDIA 芯片最近五代的每 teraflop 功耗基本是走平的。这不 OK。" ✅ 本页标注：这是一条可用公开规格直接检验的事实性声明。
  • ⚠️⚠️ 他给的解法是超导（自述投了 SnowCap）："它提供了从根本上改变物理的机会，功耗性能好一千倍。" ⚠️ 本页记为未核实的投资叙事——全期零技术依据、零时间表。
  • ⚠️ 他把供电与散热连成了一条因果，本页认为这条很少被这样串（[00:31:21]）："如果我能在我想要的电压上更高效地把电送进来、有好得多的功耗响应性和我的电压调节，那我就不会制造那么多热烟囱（thermal chimneys）。" ⚠️ 热的材料侧他点了钻石与液冷；他的玩笑是 "我们工程师正在变成水管工"。

⚠️⚠️ 六、能源：同一条"上限"论点，这一期第一次配上了后果

  • ⚠️ 国家层面的诊断（视频页 [00:42:32]–[00:43:32]）："我们有 10 到 15 年时间，我下线煤电的速度和我增加可再生的速度一样，国家在总能源容量上基本是走平的。"；⚠️⚠️ "在一个 AI 数字时代，能源容量等于经济容量。" 当前增速 "每年 4%"。
  • ⚠️⚠️ 而本页认为这一期真正新的内容是那条后果，因为它把"能源是上限"从抽象约束变成了一个可观察的金融事件（[00:44:33]）："如果我没法给它们供电，为什么要建一个新数据中心、买一百万片 GPU？而我认为你会看到越来越多的违约（defaults）发生在很多那些数据中心项目上，因为能源不会在那儿。"
  • ⚠️ 他的定性是收缩而非崩塌："并不是说我们会因此慢下来，但我认为人们会开始问：我真的有那个能源，来为我正在做的资本承诺做担保吗？所以我确实认为这会是一个上界（upper bound）。"
  • ✅ 本页标注：这是同一条论证的两端，而不是改口。 ⚠️ 在 All-In 2026-07-15 那期 他把这条讲成让他安心的东西（"你能有多泡沫有个上界。我从中得到不少安慰"），这一期配上的是违约。本页记为值得追踪的时间线，不合并成一条立场。
  • ⚠️ 他点了一个与 Oracle 相关的近期事件当作"第一个信号"，但那半句字幕残缺，本库不引用其内容。
  • ⚠️ 供给侧三条约束（均为自述，本库未核实）：核电作为基荷 "是极好的东西"，但 "美国上一座并网的核反应堆是 20 年前"，"我们就这么停掉了一个很有能力的产业"；⚠️ "我们所有的可再生都在中国有很深的依赖"（⚠️ 这条同时补入 中美 AI 竞争）；"燃气轮机的交期现在只有八年"（⚠️ 反讽，本库照录）。
  • ⚠️⚠️ 而供电链那一段本页认为是这一期对本页最独特的贡献，因为它把约束定位到了转换环节而不是发电总量（[00:45:33]–[00:46:36]）："走向 800 伏直流数据中心，绝对的。能够消除沿途那么多转换步骤。" 标的是 vertical GaN（自述是他投的）："能够一步完成 800 到 48、或 800 到 12、甚至 800 到 5。" 另点了固态变压器与开关。⚠️ 他的玩笑是 "800 伏直流，爱迪生的复仇来了"。
  • ✅ 本页标注：这是本页第一次有人把"硬件复兴"讲成一个跨学科的招人信号——"功耗又酷起来了"；"涡轮机、制冷剂，突然之间它们又成了激动人心的新技术"；"对我们所有硬件人来说，这就像眼前的一场文艺复兴"（[00:46:36]–[00:47:36]）。

⚠️ 七、一百颗 AI 加速器会收敛：三条理由，和一次有价值的交锋

  • ⚠️ 主持人先把问题逼到历史口径上（视频页 [00:14:10]）："更挑事地说，历史上任何行业里都从来没有过一百个竞争的处理器供应商。" ⚠️ 他的答案是 "我把它看作一件更临时的事，而且它会收敛"，三条理由：
  • ⚠️⚠️ ① 负载会往回走，所以专用化不可持续（[00:14:10]–[00:17:14]）：现状是 "专门的 prefill 对 decode"，而 "人们说我们真的需要一个专门的 midfill 层"；⚠️ 他的判断："我的计算机群在负载上变得越来越细碎。而我认为历史上任何时候你看到那种情况，它都是不可持续的。" ⚠️⚠️ 而那个正在发生的反转是："当人们走向推理模型时，他们说：我想要某种看起来更像 CPU 的东西。"
  • ⚠️⚠️ 他给的第二条负载演化本页认为最该被 AI for Science 引用，因为它预言的是高精度需求的回归（[00:16:13]–[00:17:14]）："我认为 LLM 某种程度上正在触到极限，而现在当人们看怎么真正建模 3D——一个扁平的 LLM 在你走向分子、化学、成像时效果不好。"；⚠️ "我也认为一些最有意思的负载会出现在你把类似 HPC 的东西带回 AI 的地方——突然之间 64 位精度又重要了。" 例子是 "我的 AI 模型在归纳出化学分析里最有意思的五个域，而那些化学算法会以高精度运行"。
  • ⚠️ ② 资本与规模门槛（[00:17:14]、[00:20:16]）："它们不会都赢，因为归根结底你必须拿到规模，而规模要求你必须赢、必须拿到资本、必须把负载搬上去"；量化版是 "好吧，我能借 500 亿吗？"
  • ⚠️ ③ 赢家会挑赢家（[00:18:15]）："一个 OpenAI、一个 NVIDIA、一个 Anthropic 会说：我喜欢这一个，因为它不只是硬件，而是硬件和软件怎么协同演化。"
  • ⚠️⚠️ 而主持人给了一条明确的反论，本页认为这次交锋值得完整保留，因为两人都接受对方的事实但给了不同权重（[00:19:16]–[00:21:18]）。反论是历史约束已经松动："历史上我们标准化到一两个架构，是因为不同指令集很难……本质上是软件复杂度规定了你只能有一个很小数量的硬件平台。" ⚠️ 而新事实是："人类已经没法再编程这东西了，但一个 agent 蜂群用一晚上就能做到，而那就是我们需要的全部。"（⚠️ 稿中公司名残缺，本库不补）⚠️ 推论："如果你能造出一颗有某种能力的芯片，现在在它上面造充分利用它的软件层容易得多得多。"
  • ⚠️ 他部分接受（"我确实认为它改变了瓶颈落在哪里"），但把瓶颈换到了造物与规模化上。
  • ⚠️⚠️ 而他给的那条"异构性会被藏起来"的预测本页认为是这次交锋最有价值的产出（[00:21:18]）："显然大玩家——我们在 NVIDIA 对 Groq 这件事上看到了——会拥有一部分那种异构性。而两年后，你分不出 Groq 在 NVIDIA 内部是什么，它就只是另一个。所以你会看到架构把异构性藏起来。而对我来说那完全没问题——我是说那就是分层、那就是抽象一直在做的事。"
  • ✅ 本页标注：这条与本页既有的 Fractile 那条"自研芯片的主要功能是议价" 方向一致但机制不同——⚠️ Fractile 的机制是买方议价，Gelsinger 的机制是赢家收购后把异构性抽象掉。
  • ⚠️ 他对训练/推理分化给了一条反向判断（[00:40:30]）："我确实认为训练与推理的分离在未来会变得更少、而不是更多"，理由是持续学习（"我确实想让我的推理环境在更新我的模型权重"）。⚠️ 而主持人给的那条仍然成立的差异是规模："要有用所需的节点数，推理的直径比训练小"——⚠️ 他只接了 "今天是这样"。

⚠️ 八、"谁来管理 agent 蜂群"：一条来自虚拟化一侧的框定

  • ⚠️⚠️ 他把 VMware 的经验直接映射到 agent 上（视频页 [00:49:37]）："在 AI 语境里，我们想这些 agent 蜂群。那么谁来管理这些 agent？谁来围绕所有 agent 创建安全画像？谁来管理 agent 的性能？本质上，虚拟化与管理的每一个基础元素，都需要在这个下一个计算层级里被重新创造一遍。"
  • ⚠️ 而主持人给的那条产品观察本页认为比他的回答更具体（[00:50:38]）："我们现在在造 VM，是为了让它们对 agent 可用，而不是对人可用……这改变了形态（form factor）、改变了你怎么营销它们。你希望那个 agent 来为你的 VM 产品做选择。它也改变了你能有多少复杂度，改变了启动该多快。人比 agent 有耐心得多。"
  • ⚠️ 他的设计约束写成了一句话（[00:51:40]–[00:52:41]）："虚拟机的每一个方面……它服务的是 agent，而不是服务硬件和人。所以那成了根本设计约束：我怎么让 agent 变得很棒？怎么让它们安全？怎么让它们高性能？怎么抽象它们？怎么迁移它们？" ⚠️ 他造的词是 "给 agent 的 vMotion"。 ⚠️ 但他明确拒绝"只服务 agent"这个框："我确实认为需要有——给 agent 的 VMware，和给人的 VMware"，"人怎么能设定策略、描述那些 constitution、拿到那些 dashboard……你需要两者都做"。
  • ✅ 本页标注：这与本页既有的 Matt Garman 那条"agent 需要全新的原语"（compute sandbox、gateway、给 agent 的细粒度权限）是同一问题的两侧——⚠️ Garman 是云厂商在建的具体积木，Gelsinger 是虚拟化一侧对"整层管理面要重做一遍"的框定。 ⚠️ 而两人都把权限/护栏放在了第一位。

⚠️ "AI 不租核，AI 卖 token"——Vera CPU 的定位论证（Jensen Huang，2026-10-13）

来源：Lex / Visiting Taiwan w/ Jensen Huang

⚠️ 体裁与强度提示：这期是旅行 vlog，这一段是在 Computex 展台边走边说的产品介绍，语境是宣传。 本页收录它是因为论证形式值得记——他给 CPU 换代的理由不是制程而是商业模型。

  • ⚠️ 他的论证："x86 CPU、超大规模厂商的 CPU 是为出租而设计的"，所以要尽可能多核， 上一代 CPU 的经济学是"每核多少美元"；而"AI 不租核，AI 生成 token 并卖 token"， 所以根本目的变成尽快跑完那个循环、尽快生成 token（[00:04:10]–[00:05:11]）。 配套数字是 Vera CPU"比 x86 快 1.8 倍"——⚠️ 自述、无基准说明、本库未核实。
  • ✅ 本页标注这是"token 工厂"世界观在 CPU 这一层的落点： 本页既有的该框架材料（见 Lex #494）都在 GPU / 系统 / 数据中心一级；这是第一次看到同一个框架被用来给 CPU 指标选择做辩护 （从"每核成本"换成"每秒 token"）。⚠️ 但他没有给出 1.8 倍是在什么负载上测的， 本库不把它当作可引用的性能结论。
  • 同代的两个工程数字：100% 液冷（上一代 Grace Blackwell 为 80%）、 整机组装时间从两小时降到五分钟，并称已正式满产。他给的因果是 "容易造的东西也可靠"（[00:04:10]）。

⚠️ keynote 作为供应链动员机制：一条少见的直接自述

  • 他对 Computex keynote 功能的说明是："如果我们要在接下来几年里建造并卖出几万亿美元的计算， 整个岛都必须是其中一部分，整个生态都必须是其中一部分。这里每一家公司都将不得不在接下来几年 投入数千亿美元。" 所以 keynote 的任务是让他们"①理解它；②被它激励；③想成为其中一部分； ④理解自己能如何受益"（[00:09:17]）。
  • ✅ 本页认为这条有价值的地方在于它把"需求曲线前置灌输"写成了一个明确的机制—— 与本页既有的 Lex #494 那条 "提前多年向上下游 CEO 灌输需求曲线（说服 DRAM 厂投 HBM）"是同一做法的公开仪式版本。
  • 他另外自述每次公开演讲都非常紧张、"一切都在最后一刻才凑齐，根本没法练，我们也不练"、 没有提示器（[00:09:17]）。
  • NVIDIA 在台湾的工程编制：现约 1,000 人（供应链、系统工程、运营工程、fab 工程、 封装工程、测试工程），计划建一栋容纳 4,000 人的楼、再招 3,000 人（[00:26:00]–[00:27:04]）。 ⚠️ 本页记下这条是因为它说明"系统工程 + 封装 + 测试"这几类岗位的物理位置选择—— 不是美国总部，而是贴着代工与封装产能。

⚠️⚠️ 运维能不能像代码一样被 AI 解决：一次完整的正面辩论（a16z / Grepr，2026-10-16）

来源：a16z / 为什么 AI 能写代码却还不能让它持续运行（Jad Naous / Grepr CEO × Martin Casado）

⚠️ 关系披露：两人是研究生同组同学，且 Casado 当年把嘉宾招进 a16z 做投资人；⚠️ 本期未说明 a16z 是否投资 Grepr。✅ 本页按"旧友之间的技术对谈"收录——这个关系也正是辩论质量高的原因（有三处当场让步），但 Grepr 的业务数字与效果均为自述，未核实。

✅ 本页此前关于 agent 接管基础设施的材料大多把它当作趋势问题（什么时候到）。这一期把它变成了一个可讨论的机制问题（为什么运维与代码不同类），所以单独记。

Casado 的三条怀疑论证

  1. 分布进、分布出（[00:36:24]）："这些模型就是分布进、分布出。而事实证明你可以在有史以来所有被写出来的代码上训练，那个 manifold 其实相当可管理。我就是不知道运维是不是以同样的方式被约束——它对我感觉更像是宇宙：重尾的、基于例外的、幂律的，全是这些模型难学的东西。" ⚠️ 他主动把判断权交回去："但我不知道。你才是在这个领域里的人。"
  2. ⚠️⚠️ 状态空间（[00:32:23]）："每次你给一个程序加一个 bit，它在运维上能做的状态空间就乘以 2。所以你很快就到了比宇宙里的原子还多的状态数。" ✅ 他接到一条历史判断上："这就是为什么产品化的运维路线从来没真正成功过——chaos engineering 那套从来没真正成功"，以及 ⚠️⚠️ "最长时间以来，跑一个分布式集群的肮脏秘密，就是靠人在管。"
  3. ✅⚠️⚠️ 系统史：我们从不预测，我们超额配置（[00:37:24]–[00:38:24]）——本页认为这是本期最结实的一条，因为它是历史归纳而不是直觉：

    "系统的历史是你总想造一个聪明的算法去做那件高效的事——聪明的虚拟内存管理、聪明的拥塞控制、聪明的路由。而我们每一次实际做了什么？我们超额配置。每一次。"

  4. 两个例子：swap memory——"你要是真 swap 到磁盘，你就完了，你的电脑就死了。所以我们就是字面意义上超配 RAM"；路由——"你知道有多少自适应路由算法吗？我们会响应流量，但你会有振荡，所以算了，我们超配。"
  5. ⚠️ 他给的推论是二选一："要么我们前置就造出超额配置的系统，让你不必去做那些复杂的运维；要么 AI 可以像人那样做。"
  6. ✅ 本页标注这条对本页既有材料的含义：若"超配"而不是"智能调度"一直是系统工程的真实均衡，那么"agent 运维"这条路线的竞争对手不是人类 SRE，而是更便宜的硬件。⚠️ 期内没人把这层说出来，这条推论是本页的。

⚠️ 一条降维论证，和"计算上不可约"的边界

（[00:47:30]–[00:48:30]）本页认为这是全期表述最清楚的一段：

"当你在语言上训练、而它居然有用——这对我说明人类非常了不起：因为他们看了宇宙这个极高维的系统，把它压缩成了一个对模型真的有用的 manifold。但那不是宇宙。那是一次降维。"

"而我认为代码是把一台机器的所有运行状态降维成让它跑起来的那些指令。所以描述与实际运行之间仍然有一道断裂。"

  • ⚠️ 他给的边界条件："你其实在收敛到模拟。有些东西是计算上不可约的——你必须把它跑起来才能得到答案。所以也许我们正处在一个事件视界上：模型会解决任何你不必真的去模拟才能得到答案的问题。"
  • ✅ 而这里出现了全期分歧收窄最多的一次让步（[00:48:30]）：嘉宾反问 "为什么要按'它现在就得回答这个问题'来想，而不是它能去模拟、能规划自己的执行以获取它需要的信息？" —— Casado："不，也许那就是我们要去的地方。说得有理。"

✅⚠️⚠️ 嘉宾的反驳：把可学习的对象换掉

（[00:39:24]–[00:40:24]）✅ 本页认为这是本期最可迁移的一条：

"宇宙是重尾的。能出的坏事的数量大概是个例外性的东西，但用来 debug 它的那组步骤是个可管理的东西。那才是你能教给这些模型的。"

  • 目标被改写：⚠️ "目标不是让模型就说'这就是发生的事'，而是'跑这个工作流，去确定发生了什么'。"
  • ✅ 他给的历史接点正好反用了 Casado 的 chaos engineering："它真的是在接替人的角色。因为 chaos engineering 之所以没走到哪儿，是因为把那个原子级的状态空间压成可管理的，一直是那个在实际 debug 时一步步走过去的人在做。"
  • ⚠️⚠️ 而他的数据论证当场被限定：他说 "我的假设是我们有全部的数据"，Casado 立刻打断 "但模型没有在那种有依据的来源（grounded source）上训练过" —— 他承认 "没有，你没有"。✅ 本页认为这是全期最重要的一次限定：它把"我们有数据"和"模型用得上这些数据"分开了。

✅ 产品形态：确定性检测层 + LLM 推理层（本页认为这是本期最可检验的一节）

（[00:30:22]–[00:36:24]）⚠️ 他先说了别人的做法为什么不行："很多那类系统基本上从一个滞后指标开始——这个 metric 尖刺了、这个告警触发了——然后回溯一个非常复杂的系统" → ⚠️⚠️ "那就是为什么那些不 work——因为回溯到根因其实非常有问题。"（⚠️ Casado 先给了外部印证："轶事性地说，我听到别人做这件事的反馈并不好。"）

  • 他们反过来做：先找环境里什么变了——大规模聚类、在干草堆里找针；盯的是最早的那条消息（error connections ran out / memory exceeded / resource buffer is emptied）。
  • ⚠️⚠️ 架构是 Casado 三次追问逼出来的：他质疑 "我从来不觉得这些生成式模型擅长预测，而你一直在讲预测建模" → 嘉宾澄清 "目标不是让 agent 去预测，而是让它拿到一个'有东西变了'的信号" → Casado "哦，确定性地" → 再确认 "所以有一个单独的模型做预测那部分，然后它去提醒 AI？" → "是的。"
  • ✅ 即分工是：非 LLM 的模式检测 + LLM 的因果推理。规模自述："你给我们你每天一 PB 的日志，我们扫描全部，每次看到一种新的模式浮现、一个我们以前没见过的东西，就把它提给 AI。"
  • ⚠️ 唯一一条带结果的证据，而形式是漏报代价（[00:31:23]–[00:32:23]）："有几次我们忽略了它。而那些变成了生产事故。" ✅ 本页认为这个证据形式值得标注——它报的不是准确率而是"没听它的代价"； ⚠️ 而代价也在这里：没有任何数量，且为自述。按方向性证据收录。

⚠️⚠️ 时间判断：同一分钟里的一个"是"和一个"否"

（[00:36:24]）✅ 本页认为这组问答最该被引用，因为两者的分界恰好就是本期辩论的分界：

问 答
AI 做掉人在 query optimization 上的那份活还有多远？ ⚠️⚠️ "我觉得非常近。"
跑一个分布式集群呢？（Casado 具体化为"集群挂了公司就不工作"） ⚠️⚠️ "还没有。"
  • ⚠️ 而他给的成立条件很明确（[00:28:21]）：查询优化之所以可行是因为 "它能把这件事锚定在性能基准上——我说：这是查询的数据集、这是用户在问什么，去干吧"。
  • ⚠️⚠️ 他给的明确"AI 做不到"也在同一段（[00:29:22]）："当问到'我该给这个系统多少内存'这类事——它完全不知道。那必须来自在生产里真正跑起来的实验。" ✅ 他认为当下模型做得好的恰恰是知道自己不知道："它知道'这个问题我大概答不了，让我想办法跑个实验'。"

⚠️ 可观测性的经济学：一条干净的"代理指标失效"案例

（[00:07:05]–[00:09:05]）⚠️ 全部为嘉宾自述。

  • 支出量级：企业在可观测性上花的钱约为基础设施支出的 5%–20%。
  • ⚠️⚠️ 诊断："他们真正想花钱买的是可靠性……所以他们是把钱投进可观测性，当作可靠性的一个代理（proxy）。" ⚠️ 注意 Casado 这里插了一次误解（"花费的可预测性"）并被当场纠正为"可靠性"——两者的政策含义完全不同，本页照录这处纠正。
  • ⚠️ 失效机制：微服务让单元更小更垂直整合 → 每一层采集的数据量膨胀 → "可观测性的成本开始增长得比你输出的功能单位更快，而每多花一美元换来的边际可靠性增量就是在变平"。
  • ✅ 结论是需求没变、回报塌了："人们仍然愿意为可靠性付那 5% 到 20%。" ✅ 可与 评估与 Benchmark 里的代理指标讨论并读。

⚠️⚠️ neocloud 的融资链条：从 CDS 到债务契约距离，以及"电力才是护城河"（All-In × Ben Horowitz，2026-10-17）

来源：All-In 2026-10-17（主播团，嘉宾 Ben Horowitz；⚠️ Friedberg 缺席）

✅ 本页此前关于算力融资的材料多在讲 capex 规模与承接方（$/watt、循环融资、"承接方只有三家"）。这一期第一次给出了完整的债务侧传导链条——而且三位讲者给的是三套不同层级的解释，互不替代，所以本页按三层并列收录。

第一层（Chamath）：从 CDS 到契约距离

  • 起点是衍生品定价而不是股价（[00:06:07]）："最重要的是看 sharps、那些超级聪明的钱怎么给风险定价"——CoreWeave 的信用违约互换本周飙到约 953 个基点，换算为任一年约 16% 违约概率 → 五年期约 55%。✅ 他立刻与自己的判断切割："那不是我在说的。那是保险市场在说它的债。"
  • 传导方向他归到宏观，不归到 AI（[00:07:08]–[00:10:11]）：十年期美债走高 → 垃圾债整体要价上行 → CoreWeave 的曲线"相对猛烈地上移"，"这跟他一点关系都没有"。
  • ⚠️⚠️ 而放大器是资产负债两侧的不对称：收入侧是固定价格的长约（"如果现货市场的价格涨了，你并不真的赚到那部分收入，因为你已经按一个固定数字预售掉了"），成本侧是浮动的；已签合同要全部融资到位还需再借约 350 亿美元债（[00:09:11]）；平均利率约 8.5%，而其中一个 sleeve（"GPU 贷款 DDTL 1.0"）飙到 15%，风险是"这在理论上可能变成他们未来全部要付的利率"（[00:10:11]）。
  • 客户集中度（[00:11:11]）：75% 收入来自三家公司，而其中一些正在下调自己未来的收入预期。
  • ⚠️ 他给的距离是本页第一个这类数字（[00:12:11]）："我团队的估计是他们距离那个盈亏平衡点上下约 50 亿美元。" 命名为"负向自反循环"：利率上行 → 借贷成本上行 → 侵蚀利差 → 逼近平衡点 → CDS 反应 → 债券收益率反应。
  • ⚠️ 他同时自我削弱了自己的核心论据（[00:42:26]）："我认为 sharps 可能是错的，而他们买这些信用违约的时候通常是错的。" ✅ 但保留结论："当你在五年窗口里的期望值是扔硬币，那就是恐怖小镇。"
  • ⚠️ 本页记下一处未被并置的事实：他本人就是本周把那笔 15% 收益率推入公共视野的人（[00:03:02]），而他在同一期说"我不认为他们有真正的风险"。

⚠️⚠️ 第二层（Sacks）：被重定价的是哪一层债——本页此前完全没有的区分

  • 核心区分（[00:24:19]）："市场把它们打了 20% 折，进了 distress 区间，这把那些债券的隐含票息从 9.6% 推到大约 15%。但那并不增加 CoreWeave 正在付的成本。CoreWeave 仍然在付他们 9.6% 的票息。只是二级市场把那些债券的价值重定价成了一个隐含票息。" ✅ 席上立刻补上缺口（"它改变未来的债务"），他接受——但认为新项目用的是资产担保融资而非无担保公司债。
  • 他的排除法（[00:20:16]–[00:23:18]）：需求没变（⚠️ 他给的指标最具体："连 H100 甚至 A100 这些老了好几代的 GPU 现在还在以溢价出租……它们本该已经完全折旧完了，而它们没有"）；供给没有过剩（原子世界的困难 + 监管阻力 → "如果说有什么，那是反过来：这是被强制的稀缺"）；执行大体没问题；信贷上"你不是靠 CoreWeave 的无担保信用去拿那笔贷款，你靠的是签了五年承诺的那个租户的信用"。结论："我会论证这只是波动。"**
  • 结构性反驳那个破产盘口（[00:18:14]）：opco / propco 分离——"CoreWeave 不会破产。某个数据中心或某次建设的资产层载体理论上可以翻过去，那就进接管程序，然后把 GPU 卖掉。"
  • ⚠️⚠️ payback period 作为单一北极星（本页最可直接使用的一条指标）（[00:40:25]–[00:42:26]）："有一个指标我越想越觉得是这里的北极星：payback period。" 对照是 CoreWeave 2.5 年回本 / 典型合约 5 年，对照组约 1 年（⚠️ 字幕作 "SpaceX"，本库无法判定是 SpaceX 还是 xAI），差异归到每吉瓦变现额约 500 亿 vs 约 200 亿美元，机制是现货 vs 五年锁价。"只要 payback period 保持在今天这么短，我看不出这些公司怎么会输。" ✅ 他同时给出这条指标会怎么失效：需求下降使 offtake 变差、现货价下跌、执行推迟上线。

⚠️⚠️ 第三层（Ben Horowitz）：这类套利生意历史上怎么死的

  • 定性（[00:13:11]）："像 CoreWeave 这样的生意是 Rube Goldberg 式的金融机器，复杂得异乎寻常。"
  • ⚠️⚠️ Loudcloud 的那个数字是本页最硬的一条历史对照（[00:16:13]–[00:17:14]）：1999 年带宽每兆比特 1500 美元、极难拿到，所以你必须签三年长约；到 2001 年变成每兆比特 50 美元。 "所以如果你当时手里攥着带宽、而且是借钱拿的，你就死了。" 他的落点是这类风险"完全在创业者控制之外"。✅ 据此的持仓披露："我们也没投任何这些 neocloud，就是因为这个原因。"
  • ✅ 而他给的"这次不一样"也很干净（[00:15:13]）："互联网泡沫时我们是需求不够，因为我们还得先把互联网建起来"——"消费者数量不足以吸收被建出来的那些带宽，而他们背了巨量的债。杀死它的是需求的缺失。而我们在 AI 里并不真的缺需求。"
  • 当期方向对 CoreWeave 有利（[00:14:12]–[00:18:14]）：GPU 的寿命和价格都在上行（"原来是三、四、五年，现在是六、七、八年"）；数据中心空间也在涨价，"连建数据中心的劳动力都难找、政治上也在变难"。⚠️ 他转述与 Andy Jassy 前一天的对话（二手、未核实）："我说'我们到 2028 年之前什么都没有了'，他说'比 2028 还要久'。"

⚠️ 本节新增的两类风险，以及一条本页此前没有的操作建议

  • ⚠️ liquidated damages（Chamath，[00:42:26]）：大 offtaker 会要求"极其复杂的条款和极端的罚则，规定你没能服务好数据中心时会发生什么"；"已经有几家因为搞砸了、管不住数据中心而丢掉了来自大机构的投资级 wrapper"（⚠️ 他明说不点名，本库无法核实）。机制是复杂度在升："芯片跑得更热、能耗更多、电力更多。"
  • ⚠️ 把固定合约转现货（Chamath，[00:42:26]–[00:43:26]）：建议付违约金取消一部分固定合约、转现货，因为"固定合约和现货之间的差价极端到你把 200 亿、300 亿留在了桌上，而你现在距离违反债务契约只有上下 50 亿"；前提是他们只建了已签约产能的一半。Sacks 当场给出阻力（[00:44:26]）："最难拿到现货定价的恰恰是投资级客户。" 另一条：大客户"有一柜子钱，太贵他们就自己建"。
  • NVIDIA 的位置（Chamath，[00:44:26]）："往 NVIDIA 后面看一层，所有封装产能是他们的、绝大部分 HBM 产能也是他们的……他们在这里完全控球。" 推论是现货会在相当一段时间里保持高位。

⚠️⚠️ "电力才是护城河"：本页该记的是结论，不是数字

  • 主张（[00:38:24]）："我给你终极护城河。我认为电力会是那个护城河。" 形象是"你会看到人们在干船坞上搭便车求电"。
  • ⚠️⚠️ 而本期的新结论比数字重要（[00:38:24]–[00:39:25]）："我不认为你还能走 hyperscaler 这条路了，就因为这一个问题。" 失效场景是银行——"你能想象你没法服务你的客户，原因是你用的那个底层云拿不到、也长不出足够的电力吗？" 所以护城河是"拥有土地、电力和外壳（shell）"。落到创业公司："你会跑到这些云那里说'我准备好发布这个厉害产品了'，而他们说'去你的，我们没有容量给你'。" ✅ Ben Horowitz 与 Sacks 当场都附议——本期三人罕见的一次完全一致。
  • ⚠️⚠️ 电力缺口数字的第三个版本，本页不采信任何一个：本期是"1.4 太瓦时 = 大约六个加州"（[00:38:24]）。此前他在 2026-07-18 说"约 2.5 个加州"，在 2026-07-31 明说"我之前的数字搞错了"并改为"1.7 太瓦时 = 6 倍加州"。✅ 本库处理不变：记录"他认为美国存在数个加州量级的电力缺口"这个判断，不采信任何具体数值——太瓦时是能量单位，与"几个加州的年用电量"相差两个数量级以上，三个版本无法自洽。

⚠️ 全局风险的单变量版本（Chamath）

  • "阿喀琉斯之踵"（[00:28:20]–[00:30:21]）："如果债券市场把十年期推到 5.5%、6%——这跟 AI 毫无关系，全跟债务/GDP 和一堆西方经济体的因素有关——那么任何靠融资利差活着的商业模式都会被爆。任何一个、每一个、全部。" "十年期到 6% 的时候，你做什么都不重要……你会被碾过去，你会变成路边的尸体。"
  • ✅ 他明确把其余部分划为好消息："所有其它这些东西都是完完全全的好事。但你需要用浮动利率、以无风险利率加点的方式去融资这些东西，这才是这些生意里真正的大问题。" 兜底条件："你本质上需要 Microsoft、Google、Meta 和 NVIDIA 在最坏情形下把这一切兜住，因为那是唯一能扛过一到两年市场回调的办法。"
  • ⚠️ 本页标注：这条把本页全部 capex 材料的风险来源从"AI 需求是否真实"换成了"无风险利率"，与他自己长期的 token ROI 怀疑论是两条独立的看空路径，不应合并计算。

⚠️⚠️ Evan Conrad（美，SF Compute，2026-10）：算力作为可交易商品，本页第一份来自交易所一侧的材料

来源：Latent Space 2026-10-20（嘉宾 Evan Conrad，swyx 主持，AI Engineer 大会现场） ⚠️ 本节全部数字为他本人口头自述、无第三方来源，而他是该市场的运营方。 ✅ 但他主动给出的降温不少（"不太成熟、不太深、不太有流动性"、"标准化还远得很"）。

1. 本页此前缺的那张清单：算力为什么还不可互换

  • 最直白的一例（[00:07:02]–[00:08:03]）：同一个运营商的两种虚拟机之间可以差 40% 的性能，机制是 GPU kernel launch 的耗时，结果体现为更差的 MFU。
  • 影响定价的维度（[00:09:04]–[00:11:05]）：现在的产能（卖掉要中断在跑的任务）vs 未来的产能；底下有没有 Weka / Vast、容量多大；存储在哪、数据能否快速搬到另一个集群；而要做到这点需要集群间的 WAN（"一个私有互联网"）——"今天起起来的很多集群并没有"。
  • ⚠️⚠️ 本页认为最该被引用的一句（[00:11:05]）："传统的 CPU 集群为了延迟是放在客户旁边的。而 GPU 是放在电旁边的。" ✅ 本页标注这条把"电力成为选址第一约束"这个本页已有的事实，接到了一个此前没被接上的后果——算力的可互换性被地理打碎了，而这直接决定了它能不能被标准化成可交易商品。
  • ⚠️ 批次效应与 burn-in 的区别（[00:11:05]–[00:14:07]）：burn-in 是已解决的那一半（好的云在交付前先把 GPU 试死、坏的走 RMA）；他指的是固件——"早期 H100 上有固件 bug，可能是机箱里 Supermicro 的 bug，而且它对所有机器都适用"，RMA 没用，只能更新固件。⚠️ 而按批次下单"是我们理论上支持、但其实还没做的东西"。

2. 期限结构、中断通知期与驼峰曲线

  • 期限（[00:14:07]–[00:15:07]）：市场期限 3 到 5 年（集群本身按 3 到 5 年融资）；订单簿上从一小时到三年、中间任意一段，"技术上还能更细"；区块全额预付、长期租约不预付。他们更在乎远端，因为"我们想建一条有大量流动性的远期曲线"。
  • ⚠️⚠️ 中断通知期被独立定价（[00:16:08]–[00:17:08]）：批量推理一小时甚至一两分钟通知就够；在线推理要一个月、两个月、三个月，根因是线上任务违约要向客户付 SLA。✅ 主持人的命名被他确认——"所以这其实是一个违约解除租约的市场。" 结构类比是电力的日前市场与实时市场。
  • ⚠️⚠️ 远期曲线是一个驼峰（[00:18:10]–[00:19:11]）：临期段下跌（"如果我有牛奶，而它快过期了，我会降价"——临近当下的产能不能卖到过去、必须降价出清，而此刻还在市场上的恰恰是还没卖掉的）→ 中段回升 → 远端走低（人们在为更短的前置时间付钱）。"我认为一条正常健康的曲线就该长这样。"
  • ⚠️ 流动性指标（本页认为值得借用的一个设计）（[00:06:01]）："一个客户花 100 美元买下产能，平均能通过转卖给别人拿回 25 美元"；上板比例是总产能的 5%，"成交量小但流动性集中"。⚠️ 本页标注它衡量的是买方沉没成本的回收率，不是价差、深度或成交频率。

3. ⚠️⚠️ 为什么这个交易所只能由一家小公司做

（[00:33:19]–[00:34:19]）

  • 链条："NVIDIA 做不了它，但极大地受益于它的存在。做不了是因为它那样就不够独立，人们不会愿意在上面交易；而没人交易就没有足够流动性让贷款方据远期市场去放贷。"
  • ✅ 同一条逻辑推到全部在位者："这也是为什么 Crusoe、CoreWeave 和 Lambda 做不了，为什么 hyperscaler 做不了，为什么 Baseten、Fireworks、Modal 做不了——他们在需求那一侧的分量太重了。"
  • ⚠️⚠️ 结论句："这件事让整个行业受益，因为它让融资成本下降。但没有人能做它，除非放弃所有的大推理生意和所有的大云合同。你得先杀掉自己的生意，才能做成这件事。"
  • ⚠️ 本页给的边界：这是关于激励的论证，不是关于能力的论证——它解释了在位者为什么不会做，没有解释一家独立公司为什么一定能做成。同源的自我约束是他们不拥有硬件（"如果我们拥有，我们就能操纵远期市场。所以我们必须当瑞士"），⚠️ 但撮合引擎、SKU 定义与订单簿规则仍在他们手上，本期无人追问。

4. ⚠️⚠️ "实物交割必须先于金融化"，以及 LIBOR 这条判据

  • 主张（[00:23:11]–[00:25:15]）："我们花了三年时间学会为什么你需要实物交割。" 没有它的两条风险——市场非常容易被操纵；大量基差风险：你拿来对冲的那个价格，和你真能买到产能的价格毫无关系。 ✅ 他不反对现金交割："它应该从实物交割里派生出来。"
  • ⚠️⚠️ LIBOR 作为前车之鉴，而且给的是可检验的技术条件（[00:26:15]）："关键是，LIBOR 被操纵了。……你之所以能操纵那个指数，是因为很多指数建立在非常少量的数据上，而这些数据和'真去买一份新储备合约的价格'之间没有太多相关性。" ✅ 本页把这条记为目前关于算力金融化最可操作的判据：看指数背后有多少真实成交、这些成交与新增产能的实际采购价相关性多高。
  • ✅ 生态位已经分出来了（[00:26:15]–[00:28:16]，⚠️ 全为他对第三方的口头描述）：Silicon Data 与 Compute Exchange 做现金交割（他评为"最早的一批，在所有人之前下了这个注"）；SemiAnalysis 在做更好的标准；另有残值保险与替云承担信用风险的存款式放贷。开场还提到 Jump 宣布进入算力市场。

5. ⚠️⚠️ 资产负债表退出：对 CoreWeave 那条债务链的直接回应

  • 产品（[00:35:19]–[00:36:19]）："如果你想拥有一个 GPU 集群、想要它的残值……SLA 我们来背。然后，如果结果证明那是个坏主意、你需要从那个集群里出来，我们可以立刻把那个集群卖给别人，让它不落在你的资产负债表上。"
  • ✅ 本页标注它与本页已有的 Loudcloud 带宽对照 是同一问题的两端：Ben Horowitz 的教训是"如果你当时手里攥着带宽、而且是借钱拿的，你就死了"——而死因正是 1999 年不存在一个能把合约转手出去的市场。这家公司卖的恰恰是那个出口。
  • ⚠️⚠️ 但本页提出一个两期都没有提的问题：当价格下行、所有人同时想要这个出口时，一个只有总产能 5% 在板上的市场深度是否还够用——即它是不是只在不需要它的时候才有效。这也是 Chamath 的"无风险利率上行 → 负向自反循环"在交易层面的对应问题。

⚠️⚠️ "离震中越远越拿不到算力——这不是经济原因，纯粹是供给约束"（All-In × Krishna & Arora，2026-10-21）

来源：All-In 2026-10-21（嘉宾 Nikesh Arora / Palo Alto Networks CEO、Arvind Krishna / IBM CEO）

  • ⚠️⚠️ 本页此前把算力稀缺主要记成价格与产能问题，这一条换掉了那根轴（[00:27:16]–[00:28:17]）。被问全球 haves / have-nots 时，Nikesh 不认为分界会落在支付能力上（技术会变便宜），而是：

    "我担心的是我们会看到算力在世界上两个大国里快速发展，而它在世界其余地方的分布不会同样均匀……离震中越远，你越不可能拿到这些算力。这不是出于经济原因，纯粹是供给约束。"

他举的例子是一家欧洲公司意图与动机都对，却突然发现拿不到和美国或中国公司一样多的算力。 - ✅ 本页的标注：如果这条成立，它的含义与"算力贵"完全不同——钱解决不了它，而且它会随产能扩张而缓解得很慢，因为新增产能也首先落在震中。 🔗 与 Evan Conrad 那节"GPU 是放在电旁边的、可互换性被地理打碎"是从两侧说同一件事：那节讲市场为什么难标准化，这节讲国家为什么难追赶——两者的共同根因都是算力的地理不可移动性。 - ⚠️ 记为一方判断，无数据支撑；说话人不是算力供应方，这一点反而让它少一层利益相关。 - ⚠️ 数据中心的政治风险，一条可核对的预测（[00:25:15]–[00:26:16]）。主持席转述上周在华盛顿和一位资深国会议员的谈话——"到第四季度可能出现 50 个州级别的数据中心禁令"（⚠️ 二手转述，无法核实）。Arvind 的回答：

"关于 AI 和数据中心的监管问题——我说得抱歉而且犬儒——是被民粹驱动的，不是被任何现实驱动的。" "50 个州全禁不可能。有没有可能 30 个州禁？有。剩下的 20 个到那时会搓着手乐。"

✅ 本页设为检验点，并记下他的结构性提醒：参议院任期长于任何一届政府，这个问题从 2022 年闭门听证、2023 年公开听证一路转圈至今；他自评"我认为目前的平衡是对的，但一次选举可以改变它"。 - ✅ "剩下 20 个会搓着手乐"这半句本页认为比前半句更有用：它意味着州级禁令的主要效果不是减少数据中心，而是重新分配它们的选址——这对本页长期跟踪的电力与选址约束是一个独立于技术的新变量。 - 一条相关的本地算力量级（[00:10:07]）：Nikesh 说他们在终端上用本地算力跑机器学习检查全部流量，成本每终端每年 20 到 30 美元、负载 20–40 MB。✅ 本页记一笔：在"算力集中到数据中心"这条主线之外，这是一个仍然成立的、规模巨大的分布式推理场景，而它的经济性恰恰来自不把数据送进数据中心。

⚠️⚠️ "翻不了 10 倍，大概 2 倍"：本页第一份来自晶圆制造一侧的产能上限，以及工具瓶颈的真正机制（Dwarkesh × Intel 五位技术负责人，2026-10-22）

来源：Dwarkesh × Intel 工厂实地 2026-10-22（受访者 Intel 技术负责人五人：Chris Auth / Kevin Fischer / Jack Kavalieros / Tyler Osborn / CTO Pushkar Ranade） ⚠️ Intel 提供场地与受访者，关于 Intel 与 TSMC 相对位置的说法只有一方；该期为纪录片式节目，主持人旁白承担了大量技术史陈述，本库未独立核实。

产能的上限与它的日历

  • ⚠️⚠️ 那个直接回答（[00:49:40]–[00:50:40]）。问：世界上的工具够不够把前沿晶圆产量翻 10 倍——"翻不了 10 倍，但大概 2 倍，可以。" 主持人当场指出这与"AI 算力十年来每年 3 倍"不相容，CTO 没有回避："除非整条供应链——设备供应商、他们的供应商、他们的次级供应商——除非所有人都增产，否则你没法提高产出。"
  • ⚠️ 三条保留：无基准年、无口径（Intel 自己还是全行业？全部前沿节点还是某一节点？）、无时间窗；是镜头前的即答而非产能测算。✅ 但方向对说话人并不特别有利——说产能上不去等于说自己也吃不到更多需求。本库按量级判断保留，设为跨期追踪项。
  • ⚠️⚠️ 本页认为更有解释力的是机制那一段（[00:48:38]）："EUV 或者说 ASML 并不是唯一的瓶颈……我们看到的是所有设备都出现了巨大的供应短缺。" 原因是——

    "一旦你锁定了一条制程流程——比如 18A，它现在是一条成熟制程——我们就需要某一个特定的工具。我们没法为同一条制程去拿另一个工具。所以我们被锁定在那一个工具、那一个供应商上。"

✅ 本页的归纳：瓶颈不在"世界上有几家能做这类设备"，而在"一条已认证的制程只认一台设备"。名义上的多供应商不等于实际可替换——可替换性在制程资格认证那一刻就被消灭了，因此单纯增加设备厂商数量不会缓解短缺。 ⚠️ 本页此前把算力短缺主要记成产能与价格问题，这条补的是认证锁定这一层。 - 相关量级：18A → 14A"也许 80% 的工具可以复用"（[00:49:40]）；⚠️ 主持人陈述：ASML 每年生产 EUV 设备不到 100 台，到本十年末也无显著增产计划，而这要在 Intel、TSMC 与扩产中的存储厂之间分（⚠️ 本库未核实）。 - ⚠️⚠️ 时间结构，本页认为这是全期最具政策含义的一段（[01:00:06]）：主持人总结、CTO 确认——边际产能可以在 12 个月尺度上增加得很快，但一直到本十年末总增量都极其有限；也就是明年的产量可能高于预测，而 2030 年的产量不会显著高于预测。理由是前置期串联：今天下巨量工具订单，交付期约 18 个月 → 已到 2028 年；之后若还要盖厂房、建新 fab → 基本看到本十年末。 - ✅ 本页标注：这把"算力什么时候会松"从意愿问题变成日历问题。 🔗 与 SF Compute 的远期曲线、CoreWeave 债务链那期 的融资期限并读：三份材料分别从交易所、资本结构、制造端给出同一条时间轴的三段。 - Terafab：一处未被反驳的质疑（[01:01:07]–[01:02:09]）。CTO 的逻辑是 "要么我们建 Terafab，要么我们就没有芯片。而我们需要芯片，所以我们要建 Terafab。" ⚠️⚠️ 而主持人的追问是：既然瓶颈在工具层，世界上硅的净产量就不会增加——只是新建 fab 者获得了一份在别人代工厂拿不到的保障供给。 CTO 的回应是"不只是工具"（还有电、水、耗材、洁净室面积），但被追问时承认这些"可以按工具做不到的方式扩张"。✅ 本页记这是一处未被反驳的质疑：非工具投入可扩、工具不可扩，所以净产量仍由工具决定。

⚠️⚠️ 成本曲线，以及一位在任 CTO 说出在位者做不了的实验

  • 成本（[01:03:11]）：建一座 fab 的成本"大概每 4 到 5 年翻一倍"；fab 内部最贵的模块光刻"翻倍得还要更快"；今天一台 High-NA EUV 扫描机连配套约 4 亿美元。他自己把线外推："四年后光刻成本到 8 亿美元？这说不通。"
  • ⚠️⚠️ 然后是本页认为全期最该保存的一段（[01:04:14]–[01:06:20]）。他先给了行业的自我诊断："这是一个非常厌恶风险的行业，而且理由非常充分。你投进去几百亿美元，你真的不想承担任何风险……如果你就这么一个十年接一个十年地做下去，你就被灌输定型了。" 新工程师被教"fab 就是这么运作的"，"他们就把这当成圣经"。然后是那个异端问题：

    "你今天真的还需要无尘室吗？基础设施真的需要像今天这么复杂吗？肯定可以做个实验：让人在研究用 fab 里吃汉堡、抽雪茄，看看良率会怎么样。" ✅ 而重点在下一句："那会是一个很棒的实验，但没有任何一个在位者——Intel、TSMC 或者三星——会愿意主动去做。" 结论："所以我有时候觉得，最好是干脆从一张白纸开始，把一切重新想一遍。" 同理也适用于芯片设计——"我们做 CPU 设计的很多方式，大概是 30 年前定下来的。"

  • ✅✅ 本页标注：一位在任 CTO 公开说出"最可能大幅降低我们成本的那个实验，在位者结构上做不了"。 🔗 与 SF Compute 的"NVIDIA / CoreWeave / hyperscaler 都做不了，因为你得先杀掉自己的生意" 是同一论证形态，但出自被论证的那一方自己。 ⚠️ 边界：他说的是"该有人从白纸开始"，不是"Intel 会这么做"，全期无后续。本页记为开放问题。
  • ⚠️ 存储（[01:00:06]）："我会说今天存储的供应紧张程度比算力还要大。" 他也承认几年前卖掉闪存业务"事后看大概不是最聪明的时点"，但当时"没有人能预见到这么巨大的需求"。

封装：当封装的 pitch 追上片内布线

  • ⚠️⚠️ 一组很有价值的量化（Tyler Osborn，[00:45:31]）：第一层互连 pitch——15 年前 130–150 微米 → 今天量产（Foveros）25 微米 → 实验室亚 10 微米 → 今年 IEEE ECTC 一篇论文给出 0.45 微米 hybrid bonded 的可靠性数据。"那又是比我们现在量产水平高一个数量级的密度……我看到的是一条很长的跑道。" ⚠️ 论文为转述，未核实。
  • ⚠️⚠️ 而本页认为重要的是那个汇合点（[00:46:35]）：fab 后段里紧挨封装下面的那几层布线，典型尺寸约 1 微米到 0.5 微米。所以封装若压到 0.5 微米或更低——"你几乎可以考虑把 die 顶上的那几层拿掉，直接把硅内部的一个较低层，连到另一片硅内部的一个较低层。"
  • ✅ 本页标注：这等于说封装与片内互连正在合流——当封装 pitch 跨过片内后段布线的尺度，"芯片内"与"芯片间"这条边界本身会失去物理意义。本页此前没有这条。
  • 为什么封装会变成瓶颈（旁白，[00:40:20]）：⚠️⚠️ 面积与周长问题——长宽各翻倍，电路面积变四倍而可用于连接的边长只变两倍；所以随着晶体管变密，芯片做计算的能力增长快于它搬运数据的能力。✅ "而在 AI 里，往往是这些数据流量的速度、而不是原始计算本身，决定了一个工作负载多快跑完。"
  • wafer-to-wafer vs chip-to-wafer 是一个纯良率论证（[00:44:29]）：W2W 要求上下 die 完全匹配，任何随机化都变成好 die 被键合到坏 die 上的损失；chip-to-wafer"我可以定规矩"——切割、测出已知良品，只把良品键合到良品基座。两种都会做，logic-to-logic 上 chip-to-wafer 很说得通。

限制算力的三件事，以及"我们只看得见四年"

  • 三件事（Chris Auth，[00:22:38]）：开关速度（频率）、每次开关的功耗（能效）、以及怎么把热耗散掉（热）。"这些都不是新问题——可以回到 20 年前。" ⚠️⚠️ 热是 3D 器件上的难点，而系统级分析与仿真工具"还在它的婴儿期，因为我们才刚开始看这件事"。旁白补的机制：逻辑比存储耗电更多，所以没法像 HBM 或 3D NAND 堆存储那样去堆逻辑。
  • ⚠️⚠️ 一条方法论上的自我批评（[00:21:34]）："我们大概有四年的可见度。然后你走到那四年，会说'还能再做四年'……但一旦你开始谈 10 年，就很难说它会是什么样了。" 由此他批评一种常见推理——"很多人会说'我们不会做这个，因为未来五年做不到'。拜托，把时间尺度放大一点，放到 10 年、20 年。到 2045 年，你觉得你能做到吗？" ⚠️⚠️ "我们被自己对未来四年里什么是可能的判断限制住了。" ✅ 本页认为这条对本页自己也适用：本页收录的多数产能与路线预测，窗口都落在四年以内。

⚠️⚠️ "算力为什么是长方形的"：本页第一条把矩形产能与需求形状的错配点明为行业问题的材料（Erik Bernhardsson / Modal，2026-10-22）

来源：Latent Space 2026-10-22（嘉宾 Erik Bernhardsson / Modal 联创兼 CEO） ⚠️⚠️ Modal 不拥有硬件、全部产能靠租，靠聚合上千客户的需求再细粒度转售。本节几乎每条判断都指向对 Modal 有利的方向，全部数字为自述、本页一条未核实。 ✅ 但本节有两处自我削弱方向与卖货相反，本页记下（"我更担心价格崩掉"、"转卖市场会和价格同时消失"）。

⚠️⚠️ "矩形"：他自己那条推文的完整版

（[01:17:45]–[01:18:46]）

⚠️⚠️ "GPU 稀缺最大的坏处不是很难拿到 GPU，而是几乎所有产能都是按三年卖的——一个从三到六个月后开始的三年长方形。而那不是大多数用户的需求长什么样。"

  • 对照：Modal 擅长完全按需——"客户来了要 100 个 GPU，我们通常能立刻给他，你甚至不用跟销售说话"；⚠️ 而真实负载"在 24 小时周期里上下伸缩，可能随时间增长，可能有特定的爆发期"。
  • 机制："我们能做到这个，是因为我们能聚合成千上万的客户，而总量上需求变得非常平滑。" ✅ 他自己用了 duration transformation（期限转换）这个词。
  • ⚠️ 他把这件事定性为行业级问题："拿产能的主要方式就是买这些长方形块，这不太好。世界需要演化。"
  • ⚠️⚠️ 一条配套的战略约束（[00:32:21]）："我们从没把 Modal 想成一家 neocloud，而且我觉得有被吸进那个方向的风险——就是卖我认为是长方形的东西：这里是三年期，你拿这么多 GPU。"
  • ⚠️ 技术前提他自己点了出来（[00:12:08]）：很早就做多区域，并把产能管理当成"全世界一个大池子"而不是每区一组独立集群——✅ 本页标注：没有单一全球池，就没法把上千客户的需求聚合成平滑的总需求。

✅⚠️⚠️ 本页认为最该保存的一组对照：同一个问题的两种解法

✅ 本页把这条与 Evan Conrad / SF Compute 并读，因为两者识别出的是同一个错配、给出的却是两种性质不同的解法：

识别的问题 解法 风险落在谁身上
⚠️⚠️ Erik（Modal） 产能按三年矩形卖，需求是起伏的 聚合需求侧：上千客户叠加后总需求平滑，再极细粒度切出去 自己（已锁多笔预留，等于做多 GPU 价格）
⚠️⚠️ Evan Conrad（SF Compute） 同一错配（他的版本是远期曲线与中断通知期定价） 做市场：让期限本身可交易，买方把不要的那段转卖掉 买卖双方（他们不持硬件，"我们必须当瑞士"）

⚠️⚠️ 而本页认为最该标注的是这一点：Evan 在两天前点名说过"这也是为什么 Baseten、Fireworks、Modal 做不了——他们在需求那一侧的分量太重了"。 ✅ Erik 本期的全部论证恰好确认了那条判断的前提：他的护城河就是需求侧的分量，而他对算力金融化的态度正好是"感兴趣但怀疑"（见下）。本页不判定谁对，但认为这组对照是本页目前关于"算力市场该由谁组织"最完整的一处。

⚠️⚠️ "我更担心的其实是价格崩掉"

（[00:17:11]–[00:20:14]）⚠️ 他不同意"供给会长期受限"："NVIDIA 每个月在交付几十万片 Blackwell……如果你愿意付高价，你就能拿到 GPU 产能"（⚠️ 交付量为他的估计、无来源），并把"必须囤产能"类比成"疫情时那场伟大的卫生纸短缺，或者说银行挤兑式的情形"。

  • ⚠️⚠️ 他给的背景框架："硬件的常态是价格最终总会下降，像重力一样。所以我们现在处在一段有点奇怪的时期——硬件价格在涨。" ⚠️ 持续时间他明确不判断："可能再六个月，也可能再三十六个月。"
  • ⚠️⚠️ 而这条风险排序本页认为是本节最该引的一句：

"价格涨对我们甚至不一定是坏事，因为稀缺也意味着我们能向客户收更多。而且我们锁了很多预留在某个价位上，所以某种程度上我们已经在做多 GPU 价格了。所以我不太担心价格上涨。我更担心的其实是价格崩掉。"

理由："对任何锁了大量供给的人都坏——他们付得太多了。这就是在顶部买入的风险。" ⚠️ 他随即说"我不觉得这很快会发生"。 - ✅ 本页标注：这是 neocloud 融资链条 那条材料的需求侧镜像——Ben Horowitz 讲的是债务契约距离，Erik 讲的是同一风险落在一家不借债、但把价格锁在高位的公司身上会长什么样。 - ⚠️⚠️ 被问"智能需求无限，为什么不多买再转卖"，他给的是相关性论证（[00:23:15]–[00:25:15]）：

"挑战在于，如果市场上发生什么事，很多相关性会同时发生。价格在跌、利用率在跌，而转卖产能的市场也大约在同一时间消失了。"

✅ 本页标注：这正好回答了本页此前在 SF Compute 那节自己提出但无人回答的问题——一个只有总产能 5% 在板上的市场，在所有人同时想退出时深度是否还够。而这条回答来自一个会使用那个市场的买方。 - ⚠️ 他声明自己的实际行为与这段话相反："我每天都在极激进地买产能、融钱去买，所以整体上我非常看多——但我想指出这里有尾部风险，而尾部风险发生时会变得非常糟。" 背景是"我 1999 年就有了第一份工作，所以我见过互联网泡沫，也见过金融危机"，目标是"建一家能存在 20、30、50 年的公司"；他点的历史案例是亨特兄弟垄断白银失败——"垄断市场这件事不是个好主意。" - 稀缺租金归谁（[00:20:14]）："主要去两个地方：大部分给 NVIDIA，但一定程度上也给 neocloud。任何拥有产能的人经济性都更好——在产能受限的今天这无可否认。" ⚠️ 但长期他不这么看："拥有 GPU 总会有一点溢价。但值得为此承担把这些极贵的资产放在资产负债表上的风险吗？我不太确定。"

⚠️⚠️ neocloud 为什么能从零长到巨量：本页第一条从销售端起步的次序描述

（[00:28:16]–[00:30:18]）他说最疯的例子是 Nscale——"从什么都没有，到管道里有几千亿美元，而它几乎没有产能"。他把次序讲完了：

  1. 去找大买方（Anthropic / OpenAI 之类）："你想买五年的芯片吗？签这个合约，我给你个好价钱。"
  2. 拿合约去华尔街："看，这个大买家承诺了 100 亿美元的芯片。我们现在就需要钱。"
  3. 融到钱 → 去 Supermicro / Dell / NVIDIA 买硬件 → 装好交付给客户。

⚠️⚠️ "于是你有了这么一个很漂亮的金融构造：你基本上可以把你甚至还没买的东西预售掉。这意味着你能极快地扩张。"

  • ⚠️ 他说 Modal 做不到这么快：路线更偏 PLG、没有同样的锁定长期合约的能力，⚠️ "不过长期我觉得我们会到同一个点"。✅ 他对 CoreWeave 那类公司的评价是能力性的而非道德性的："他们在怎么融钱、怎么把 GPU 当贷款抵押品这些事上非常非常精明。"
  • ✅ 本页标注：这与本页 从债务与契约距离往回看的那条链条 拼起来才是完整的。 ⚠️⚠️ 而拼完之后可以看出链条的第一环是一份买方合约——这意味着这套构造的脆弱点在买方的信用，而不在 GPU 的残值。本页记为一条此前缺席的推论。

⚠️ 算力作为资产类别：一位需求侧重仓方的怀疑

（[00:30:18]–[00:31:19]）他点的第三方是 Silicon Data、Compute Exchange 等做价格指数与衍生品的公司（⚠️ 他提的第三个名字字幕损坏，本页不写定）。

  • ⚠️⚠️ 障碍："算力作为资产类别有若干挑战。它绝对没有别的资产类别那么同质——你有不同的网络、不同的位置、不同的磁盘和 CPU，还有可靠性。" ✅ 但他立刻自己反驳："话说回来，石油也可以这么说，而我们还是从石油里造出了相对商品化、可交易的资产。"
  • ✅ 他认可需求："在今天这个 AI 数据中心 GPU 部署的规模上，我们确实需要在风险对冲、风险分担、更多保险这些事上更聪明一点。我很高兴有人在大量思考这件事。"
  • ⚠️⚠️ 但结论是怀疑："我不太确定我们会看到 GPU 变成某种 Henry Hub 或布伦特原油那种超级商品化的可交易资产。"
  • ✅ 本页标注分歧点很干净：⚠️ Erik 认为异质性是结构性障碍；而 Evan Conrad 那张"算力为什么还不可互换"的清单 正是把异质性逐项变成价格因子。 ✅ 这可以逐年观察——按 Evan 自己给的 LIBOR 判据，看指数背后的真实成交量会不会长出来。

⚠️ 产能采购的组织形态：一条有时间轴的变化

（[00:13:09]–[00:15:09]、[00:22:14]–[00:24:15]）⚠️ 全部自述。本页认为这段的价值在于它是变化而不是状态。

  • 前几年：产能几乎全部来自超大规模云的 spot 与按需（主要 spot），跑在上百个区域；直到去年年底还多是 spot 或一年期预留。
  • ⚠️⚠️ 现在："我们现在跟差不多 25 家云打交道"；很多情况下要签三年以上合约、前期付一笔有分量的钱、并在三年期上锁死定价。
  • ⚠️⚠️ 组织代价："花了整个过去六到九个月重新想怎么拿产能。我们得建一整个采购台——四个人全职，天天就是采购产能、打电话给云、做交易、验产能"；另建一整个工程团队管全世界的裸金属产能（网络问题、坏盘、GPU 掉总线）。
  • ⚠️ 选供应商的流程：先发 spec sheet（IOPS、CPU 最低分数、最低南北向出入带宽），通常要一个节点做验收测试；⚠️⚠️ 但"有时候确实感觉像个破仓库……我们有时签几千万或上亿美元的承诺，而对这家供应商其实还没完全了解"。
  • ✅ 一条本页认为值得记的内部制度（[00:23:15]）："就像 SemiAnalysis 有 ClusterMAX，我感觉我们内部几乎也有一个自己的 modal max 评分。" ⚠️ 而他强调评的不只是可靠性，还包括支持响应速度、是否真修提的问题、周转时间、宕机后多快恢复。 🔗 本页标注这是 ClusterMAX 那期 的买方侧确认——有人真在按类似维度内部打分，并把供应商响应性与可靠性并列。
  • ⚠️ 他的位置自述：OpenAI / Anthropic "偏好从久经考验的厂商买"，且因为要做很多训练跑，需要非常大的整块；⚠️ "更小、合作起来风险更高一点的云，对我们反而是机会"——"你能在亚美尼亚拿到 32 个节点，在印度尼西亚拿到 128 个节点。我们就喜欢这种。" 他另加一条推测：NVIDIA 多少偏好分散买方、不想只有少数大买家。
  • ✅ 一条有压力的原则（[00:17:11]）："我宁愿专注做一家非常精简的软件公司。我总体上不认为软件公司拥有硬资产是件好事——就像你该不该拥有自己的办公楼。" ⚠️ 但他立刻加了"为了拿到我们要的产能，一切都在桌面上"，并提到合资与复杂 SPV。⚠️ 两句旁白："AI 投资开始变成美国 GDP 的好几个百分点"、"美国利率在过去几周往上冲"。
  • ⚠️ 钱花在哪（[01:08:41]）："产能预付款是今天现金的最佳用途"；薪水与办公室"在我们的财务大盘里基本是个舍入误差"——"这门生意的运营杠杆有点离谱：我们 200 个员工，他们很贵，但 GPU 贵得多得多。"

⚠️ 非 NVIDIA 加速器：一条很诚实的认知记录

（[00:25:15]–[00:28:16]）

  • ✅ "过去五年、也许十年里，我每年都说明年是非 NVIDIA 加速器之年，然后我每次都错。" ⚠️ "但我确实觉得 2027 可能终于是那一年。我们看看今年我是不是又错了。"
  • 口径：AMD "在某些项目上开始拿到很好的分数"；TPU "在 Google 内部用得很广，看起来效果很好"；Trainium "我不太了解……但团队很好，我知道他们在软件上做了很多"。
  • ✅ 他的方法性判断："硬件在某种意义上很难，软件相对容易。这让我觉得，如果我们把这些加速器的软件层修好，它们会有很大需求。" 加上"NVIDIA 是这么大一个瓶颈，所以我们大概会看到更多替代加速器"。
  • ⚠️ 但瓶颈更深："管道更下面还有瓶颈——TSMC 和 ASML，也许是这一切更深的瓶颈。" 落点是"长期看垄断不总能持续"。
  • ✅ 他点了一条本页此前只有零星材料的部署形态（[00:27:16]）：解耦（disaggregated）推理——"用 NVIDIA 做 prefill、用 Cerebras 做 decode"（⚠️ 主持人说自己没听过），理由是"有些事是算力受限的，有些是内存受限的，所以你可以混搭"；他说 Groq 也是。⚠️ 他加了限定："实际部署起来会变得非常复杂。"

中位 sandbox 8 秒：短暂性作为算力效率问题

（[00:42:27]–[00:46:28]、[01:16:45]–[01:17:45]）

  • ⚠️ "Modal 上中位的 sandbox 大概 8 秒长，想想还挺不可思议的。而随着时间推移它可能会变得更短。"
  • ⚠️⚠️ 他认为"把开发机塞进云里让 agent 控制"（lift and shift）不是对的模型：长跑 agent "其实像是持久执行的工作流"——24/7 在跑、偶尔才跑几条命令；所以"能在 100 毫秒里起一个 sandbox、跑几条命令、关掉并快照它"，而唤醒—睡眠周期越快，你就越能造出只跑极短时间的 sandbox，算力也就高效得多。
  • ✅ 他的 CI 类比本页认为最能说明问题：他想把整个测试套件的每个测试放进自己的 sandbox，跑一千个；⚠️ 挡住的是"Amdahl 定律那套开销"——切成两片后每片都要重做全部安装与测试准备，能花掉好几分钟；✅ 出路是准备做一次、给容器打快照、再克隆。落点是一句经济学："在你把摩擦和开销降下来之前，这些好处是没法兑现的。" 主持人接了"交易成本"，他认同。
  • ⚠️ 他想拉的那条线：解耦 agent / harness / sandbox、一个 agent 控制很多 sandbox、fork、快照、热迁移，甚至一条命令一个环境。 🔗 与 Akshat Bubna 的 "RL rollout 极 bursty（要 10 万个 sandbox）、agent 本身反而不 bursty" 并读——同公司两位联创在相隔三个多月后给的是同一方向。

⚠️ "云最大化主义者"：对 BYOC 的否定，以及一个他自己留的后门

（[01:05:39]–[01:08:41]）

  • ⚠️⚠️ 否定理由是安全模型，本页认为这是最该引的一句："BYOC、VPC peering，这些在我看来反映的是一种过时的安全模型——我们需要保护自己网络里的一切，把网络当护城河。而我觉得这已经不成立了，我们已经转向更稳健的安全范式，比如零信任。"
  • ✅ 第二条理由是迭代速度：因为租全部硬件、自己部署、自己管全部基础设施与所有主机的健康与指标，所以能迭代很快——"我们不在乎，想引入一个新数据库就引入，因为我们有控制权。"
  • ⚠️ 两个口子，第二个更有意思：① 价格（"大客户要 BYOC，我们会给个数字——那个数字非常高，目前还没人说好"）；② ⚠️⚠️ 把 BYOC 当成拿产能的手段——neo lab 已有很大产能预留，"问题是怎么让他们在已有产能上跑 Modal，而 BYOC 可能是个解法。我们还能把控制平面留在自己环境里"；反过来"我们甚至也许能在那部分产能上跑别人的东西，于是你可以把那些产能全聚合进一个大池子"。
  • ✅ 本页标注：这是"聚合全世界算力"那条自我定位的具体扩展路径——把别人已经锁定的矩形也吸进自己的池子，恰好是本节期限转换论证的延伸。

⚠️ 一处拒答，本页照录

（[01:17:45]）主持人念他的推文："如果我经营一家已经可以 IPO 的创业公司、还在和竞争对手打 capex 军备竞赛，我不知道，能协调一下、把这场军备竞赛的节奏放慢一点挺好的。" ✅ 他的回答是"无可奉告"。

⚠️ 本页标注：这指向的是 neocloud 之间的 capex 竞赛，不是本库 "Pacing the Frontier" 联署信 所讨论的模型能力竞赛——两者不是同一件事，不要混读。

⚠️⚠️ capex 的现金周期：两段支出，风险完全不同（Amazon CEO Andy Jassy，2026-10-23）

来源：a16z / Andy Jassy

⚠️⚠️ 收录前置：说话人是全球最大云厂商的 CEO，本期几乎每条判断都指向"算力仍然短缺、资本开支是好用途、自研芯片是出路"；全部数字自述、无一处被追问。

✅ 本页关于 AI capex 的材料此前只有总额与融资结构（Garman 同样报 2200 亿、Dylan Patel 的信贷链、CoreWeave 债券那期、SF Compute 的远期曲线），没有一条给出时间结构。这是第一条，而且出自花这笔钱的人。

支出 提前多久投 一次性？ 可用寿命 需求可见度
数据中心（壳体/电力等） ⚠️ 约 2 年（要在能装服务器前就投） ✅ "好消息是你只投一次" ⚠️⚠️ 约 30 年 低
服务器与网络设备 ✅ 只需几个月（视部件） 每轮都买 约 5–6 年（⚠️ 约 3 年回本） ⚠️⚠️ 高
  • ⚠️⚠️ 关键的退出路径："如果结果是你并不需要那些容量去填满这些数据中心，你就不会去买服务器和网络设备。" ✅ 大多数交易约 5 年期。
  • ✅ 他对自由现金流直说：同时在建这么多数据中心，"你的自由现金流在这些年里会有逆风"，要等数据中心上线并变现。
  • ✅ 本页标注一条可检验点：如果需求真在服务器采购的几个月窗口内可见，那么需求转弱时 capex 的回落应先体现在服务器而非数据中心上。 ⚠️ 而这条结构也解释了为什么同一组事实（巨额 capex + 自由现金流承压）可以被读成两种故事。

⚠️ 规模与售罄进度（均为自述、无合同口径）

  • 2026 年 capex 约 2200 亿美元（⚠️ 主持人换算为每天约 6 亿）；⚠️⚠️ "即便今年花 2200 亿，我们仍然把相当一部分需求留在了桌上。"
  • ⚠️⚠️ "26 年明显已经卖光了。27 年基本卖光——总会留一定量给按需，但所有大块基本卖光。28 年有相当大一块也卖光了。"（[00:24:19]）
  • ⚠️ 他明确否掉"短缺在 2027 结束"：会在不同部件上持续若干年。✅ 并给了一处内部分配取舍：内存有限时要决定多少给 AI 加速器的 HBM、多少给核心（非 AI）业务的 DRAM。🔗 与 Pat Gelsinger"HBM 是一种可憎的内存，只不过是我们手上最好的那种" 并读——那是供给侧技术判断，这是需求侧分配决定。
  • 增长口径：AWS 最近一季同比 36.7%、年化运行率 1690 亿；⚠️⚠️ AWS 内的 AI 业务头三年超 250 亿运行率，而 AWS 自己头三年约 6,000 万——"快了好几百倍"。✅ 他自己的历史对照："15 年前我们不敢相信电信公司花了 500 亿 capex。"
  • ⚠️ 被问"要不要把老客户买出来、卖给什么价都肯付的新客户"，他明确拒绝（"我们不会挤我们的客户"），✅ 依据是疫情先例（主动帮客户做成本优化、明知会减少自家短中期收入）。⚠️ 该先例顺带把竞争对手描述成按季度优化的一方，本页记为立场；而本期没有给任何价格数据。

⚠️ 需求的杠铃，与"瓶颈是推理单价"这条待检验的假设

  • ⚠️ 三段（[00:21:18]）：一端是 AI 实验室 + 少数跑出来的 app；另一端是企业做成本规避与生产率；⚠️⚠️ 中间是企业当下的生产负载——"其中绝大多数今天还没有以任何普遍的方式用上推理"，而他认为这将是 AI 用量里绝对值最大的一段（✅ 拉远 5–7 年看，"相当多、如果不是大多数"企业应用会普遍用上推理）。
  • ⚠️⚠️ 而他给的瓶颈是价格，并给了量级（[00:32:27]）："推理成本……在我看来它仍然贵了一个数量级。" ✅ 机制：要企业把 CPU 上的应用重写到 AI 加速器上，若成本差很大，则"必须获得的增量收益"门槛很高；降价则门槛降低。
  • ⚠️⚠️ 本页记为一组待检验的对立假设：✅ 他的版本预测采用率对推理单价弹性很高；而 Tenex 的"你没法自动化一个并不存在的流程" 与 Moshi 的"这是 UI 问题" 把瓶颈归到流程与界面（预测弹性很低）。⚠️ 两类预测可被同一组数据同时检验，而价格那条正好对他的芯片业务有利。

⚠️ 自研芯片的动机："份额高的供应商不会主动做性价比"

（[00:28:22]–[00:31:26]）⚠️⚠️ 他明确否掉事后叙事："我们并不是为了 AI 芯片去买 Annapurna 的"（2015）。三步是：一块把虚拟化/网络/安全/存储卸载掉的网卡（"把尽可能接近 100% 的服务器留给客户的计算"，最终进了每一台服务器）→ Graviton → Trainium。

⚠️⚠️ 动机他归到在位者的激励而不是技术："当你的合作伙伴几乎拿着全部份额时，他们通常不会在想怎么推动性价比；他们想的是别的能让他们拿更多份额、做更多收入的功能"（⚠️ 他点名当时的 Intel 合作，并说这是"创新者困境冒出来的方式"；AI 侧他说是"同一部电影"）。⚠️ 自述数字：Graviton 比其他 x86 性价比高约 40%、前 1,000 名 EC2 客户 99% 在普遍使用；Trainium 比可比处理器高约 30–40%。三个数字均无口径，本页不采信具体值。 ✅ 但这条机制可检验：若 NVIDIA 开始在性价比上主动竞争，自研理由就会变弱。

⚠️⚠️ 一条 agent 基础设施原语："你会需要状态"

（[00:36:31]）讲与 OpenAI 的合作时顺带掉出来的一句："我们一起建了一个独特的产品，即那个有状态的运行时环境（stateful runtime environment）——我认为今后所有 agent 都会是这么建的。你会需要状态。"

✅ 本页标注：这是第一条来自超大规模云一侧的 agent 原语判断，而且是具体的架构主张而非泛泛乐观。 🔗 与 Garman 的"给 agent 造的云"与"agent 会被 P99.9 卡住" 同一条线（同公司、相隔两周），本条补的是"缺的那个原语是什么"。 ⚠️ 但他没说它与 sandbox / 容器 / Durable Objects 一类既有抽象的差别在哪。

⚠️ 数据中心政治：四条反驳里只有一条是可核对的

（[00:15:14]–[00:20:16]）⚠️ 主持人的提法本身是一条观察："世界上没有任何地方像美国政治这样反数据中心。" ⚠️⚠️ 他的框架是历史类比 + 地缘：这种规模的建设"自 1950 年代修高速公路和桥梁以来就没有过"；"这个国家承受不起不建数据中心的代价，否则另一个国家——比如中国——会在那里确立全部的领导地位和全部的规范。" ✅ 他主动让一步："我们整个行业当然有比过去做得更好的方式。"

反驳 本页标注
⚠️ 水：高尔夫球场用水是其全部数据中心的 200 倍，"两天的用量超过我们数据中心一年" ⚠️⚠️ 两个数字口径互不一致（200 倍 vs 约 180 倍级），方向一致但不采信具体值；比较范围也不同
✅ 备用发电机的污染登记：按"全时满负荷"申报，实际只运行约 1% 的时间、"一年大概 10 小时用于维护" ✅ 四条里最具体、最可核对的一条，且指向制度性的度量问题而不只是公关
⚠️ 电价：有涨有跌，⚠️⚠️ 真问题是"作为一个国家，我们没有按需要去投资电网"，AI 只是"把它推过投资临界点的那个东西" ⚠️ 无数据、无时间窗（他举了印第安纳、佐治亚、密西西比），记为立场。 ✅ 但那条因果方向值得记——它与"AI 抬高了电价"可以同时为真
⚠️ 税与社区：印第安纳 St. Joseph 县"大概交了 30 亿美元税"、Built Together 再承诺 5 年 10 亿 ⚠️ 自述、无时间窗，不采信

🔗 本页标注：这条线上（数据中心与社区）本库目前的材料全部来自建设方（本条与 Dina Powell McCormick 的在地账本），没有任何一份来自社区或监管一侧的一手材料。

⚠️⚠️ "Anthropic 整体的 CPU 是个零和游戏"：本页第一份来自前沿实验室一侧的 CPU 短缺记录（2026-10-27）

来源：Latent Space × Anthropic 平台团队（嘉宾 Katelyn Lesse & Angela Jiang） ⚠️ 平台负责人自述，数字未经核实；但方向对说话人并不特别有利（说自己扛着约束）。

✅ 本页此前的算力材料几乎全部落在加速器上（Intel 的产能上限、SF Compute 的远期曲线、Modal 的三年矩形、Andy Jassy 的 capex 现金周期）。⚠️⚠️ 这是第一份把 CPU 讲成同级约束的材料，而且来自买方。

问题的提法与那句核心

（[00:53:24]–[00:54:24]）

  • ⚠️ "算力在加速器那一层（是问题），而在 CPU 这种老派层面上大家关注得少得多——但它今天和加速器层一样是个问题。"
  • ⚠️⚠️ "Anthropic 整体的 CPU 是个零和游戏。我们和云厂商谈下我们的 CPU，然后必须在我刚说的所有东西之间分配——包括研究用的沙箱和产品用的沙箱。"

CPU 的四个去处：产品服务与 API、所有沙箱、CI、研究侧沙箱。✅ 训练是另一个池子（"不太混用"）。 ⚠️⚠️ 而 CI 这一项本页认为是最容易被漏掉的："你会惊讶现在有多少代码被写出来，所以 CI 跑的次数多得多，所以你需要更多 CPU 去处理。" ✅ 即 agentic coding 的算力代价有一部分落在 CPU 侧，而不是推理侧。

⚠️⚠️ 采购形态的变化：从按需弹性变成提前容量规划

（[00:55:25]）

⚠️⚠️ "以前只要你的预算允许，你就可以按需扩容到更多 CPU；而现在它变成了你必须提前做容量规划的东西——这对所有人都是一记重拳。它是全新的，大家才刚开始做。"

  • ✅ 她明确说不只是自家："我接触的每一个人都是这样。"
  • ⚠️ 采购的组织形态也变了（[01:02:29]）：原本保障加速器算力的团队"现在花多得多的时间和我们一起看 CPU 怎么采"；✅ 对卖方的门槛是规模与质量——"如果拿不到足够的量，我们不会去适配并跑在某些机器上。"
  • 她们的三条应对：① 尽量多拿；② 基础设施层更高效地跑沙箱（不牺牲租户隔离这类安全属性）；③ 应用层更高效（见下）。

✅ 本页标注：这条与既有材料拼起来才是完整链条

🔗 朱邦华那条"为什么大家突然发现 CPU 很重要"（RL 环境里 function calling 的延迟与并发、code execution / multi-docker 的 CPU 调度）是上游解释；⚠️⚠️ 本节给的是下游后果——CPU 从"按需弹性"变成"要提前规划的配额"，并且在一家公司内部变成零和分配。 ⚠️ 本页另记一条区别：加速器短缺的叙事里有明确的物理上限（EUV 设备、fab 产能）；⚠️⚠️ 而 CPU 侧本期没有给任何供给侧解释，所以本页无法判断它是真实的产能约束还是云厂商的分配与合约形态造成的。

✅ 应用层的那条应对：把 messages API 整体移植到 Rust

（[00:55:25]–[01:00:26]）⚠️ 自述、无第三方核实。

  • 起点：messages API 是个 Python 单体、"CPU 效率很低"，而她今年早些时候就判断"我们会撞上 CPU 墙"。
  • ⚠️⚠️ 而她主动说出了那个难看的事实："我们选了 Rust，而这在当时是个疯狂的决定，因为纸面上很明显，但我们团队里一个会写 Rust 的人都没有。"
  • 做法：用 Rust 做了整个 API 的 fork，跑影子流量，逐一验证两个系统的输出是否一致（主持人概括为"feature flag 就够了"，被确认）；✅ 刻意抵抗范围膨胀——"它是一次纯粹的 port"。
  • 结果：CPU 省约 40–50%；首 token 时间改善 10%–20%，更长的负载上收益更高。
  • ⚠️⚠️ 而方法论那条本页认为比数字更重要，已记入 在实践中用 LLM："最要紧的两件事是计划和验证。因为实际的实现就是 Claude 在写代码。"
  • ✅ 下一步是面向用户的架构改动：让客户不必在 messages API 上来回传整个会话状态（服务端存一段时间），对长对话收益大。⚠️ 她明确区分了这与 prompt caching（"有 prompt caching，但你仍然必须把会话状态传回来"）；⚠️⚠️ 而一条本页认为很要紧的限定是：他们跨三家云在跑，所以"没法依赖某一种算力形态"——这解释了为什么不能直接照搬某家云的有状态原语（主持人点名 Cloudflare 的 Durable Objects 作对照）。

⚠️⚠️ 第二份来自买方的 CPU 短缺记录，以及"把融资方选成算力入口"（Supabase，2026-10-28）

来源：Latent Space / Supabase（Paul Copplestone & Ant Wilson） ⚠️⚠️ 利益相关：该期主持人是 Supabase 天使投资人，且是该播客首个赞助期；本节全部数字按自述处理。

✅ 本页上一节（Anthropic 平台团队，2026-10-27）给的是前沿实验室内部的"CPU 零和"。这一节来自完全不同的买方——一家托管 Postgres 的平台公司，相距一天，而且给出了同一结论的另一个侧面。

  • ⚠️⚠️ 短缺被直接确认（[00:26:11]）：主持人问 DigitalOcean 市值涨到 160 亿美元是不是因为"算力在过去一年翻了三倍"，✅ 结论是 "我猜是因为 CPU 短缺。" / "是，有短缺。"
  • 买方侧的具体形态（自述）："我们一直在撞上 runway，我们跟 AWS 见面见好多次"；"我们必须非常紧密地做规划。我们付更多钱。我们跟他们做合作伙伴。"
  • ⚠️⚠️ 而本节最该记的是融资决策被直接讲成算力采购（[00:26:11]）：引入 CapitalG 的动机是"带来 Alphabet 生态的入口"——"我们现在必须考虑多云战略……我们需要 GCP。嗯，我们基本上就是需要更多算力。"
  • ⚠️ 他们自己给了一条约束：多云在对象存储上不是简单替换——"如果你要把 GCS 当 S3 的替代来用，多云是很难的"；✅ 而他们的赌注是特性会跟上（"只要他们有那些特性……S3 做什么，别人大概都会跟"）。
  • 需求侧的量级（自述）：平台上"每个月启动大约 500 万个数据库"，目标是"每月十亿个"；⚠️⚠️ 而物理层的说法很直白（[00:18:08]）："如果我们给每个人一个专用的 Postgres 集群，大概很快就会把世界上的物理计算机用光——而这基本上就是正在发生的事。"

✅ 本页标注：两份买方记录拼起来给了什么

Anthropic 平台团队（2026-10-27） Supabase（2026-10-28）
买方类型 前沿实验室 数据库 / 应用平台
短缺表现为 ⚠️⚠️ 公司内部零和分配（API、产品服务、沙箱、CI、研究沙箱抢同一池） ⚠️⚠️ 采购关系与融资结构（紧密容量规划、付更多钱、选 CapitalG 换 GCP 入口）
消耗源的意外项 CI（"你会惊讶现在有多少代码被写出来"） 每月数百万个小数据库实例（vibe-coded 应用）
应对 多拿 CPU、沙箱更高效、应用层移植到 Rust 多云、容量规划、换架构（SQLite 文件格式 → 每月十亿个库）

⚠️⚠️ 而本页上一节留的那个空缺仍然没有被填上：两份材料都没有给任何供给侧解释，所以本页依旧无法判断 CPU 短缺是真实产能约束，还是云厂商的分配与合约形态造成的。✅ 但两份独立买方的一致确认，已经足以把它从"一家公司的特殊情况"排除出去。

⚠️ 对象存储正在重塑数据库这一层（Supabase，2026-10-28）

来源：Latent Space / Supabase

✅ 本页此前关于存储层的材料集中在 KV Cache（江鋆晨 / LMCache）与统一存储（Databricks）。这一节补的是更底下那一层：对象存储的两条特性变化如何改变了数据库能怎么造。

  • ⚠️⚠️ 归因（[00:14:07]）："数据库领域的一些创新，其实是从对象存储那边正在发生的事里出来的。"
  • 两条具体的 S3 变化（[00:27:11]）：① 强一致性（⚠️ "他们免费做了这件事，直接给所有人推上线"）；② S3 Express。
  • ⚠️ S3 Express 为什么是 game changer：在能向客户端保证写入之前必须先落到某个持久的东西上；S3 Express 写入 1–2 毫秒，"没 S3 那么持久，不是 11 个 9，但够持久"（✅ 主持人概括为 "ephemeral durable"，被确认），然后后台再搬进 S3。
  • 缓存层次（他列的）：内存 → NVMe 盘 / local attached（两者等价）→ S3；⚠️ "还需要 Redis 吗？"——"是，还需要。这个远远不够快。"
  • ⚠️⚠️ 而他给对象存储划的边界是本节最有判断力的一句（[00:15:07]、[00:52:25]）："在事务型数据库里你要做大量读写，所以这种情况下你大概不想在巨大规模上用它"；"一旦你在 OLTP 侧到了一定体量，你就需要 sharding——因为 NVMe 盘空间有上限；如果你需要把事务跨两台服务器切开，你基本上就得从对象存储去取，最终那会拖慢你的数据库。"

⚠️ HTAP：同一周里两家 OLTP 侧厂商给出相反判断

  • 🔗 Databricks 两位联创的主张是"我们解决了 HTAP"（本页上文有记）。
  • ⚠️⚠️ 而 Supabase 一侧明确不追，并给了物理层理由（[00:52:25]）："很多人试过去屠 HTAP 这条龙。对象存储可能是解法。但总体上我们认为 sharding 是往 PB 级 scale up 最好的方式，然后你应该把分析当成另一件事来对待。硬把这两个砸在一起，在我看来不一定有多大意义。"
  • ✅ 他对自己的信息限度很老实："说实话我没怎么研究过他们怎么做 HTAP，所以我可能说错。" ⚠️ 本页因此不把这条当成对 Databricks 那个主张的有效反驳，只记为"两家 OLTP 侧厂商选了不同的路，而其中一方给出了物理层论证"。
  • ✅ 而主持人那句点评本页认为是对"路线图为什么长成这样"最好的概括：⚠️⚠️ "并不是你的客户在拍桌子要这个。只是如果你想有一天成为那家首屈一指的数据库公司，你就必须有个答案。"

⚠️⚠️ operator / failover 这一层：本页此前完全没有的一手判断

（[00:09:06]–[00:11:07]）

  • ⚠️⚠️ "我们看了 Postgres 生态里所有的 operator……我们发现的是，在某些条件下，它们每一个都可能丢数据。" ✅ 于是做法是从头重写（Multigres），验证是"1,000 次连续 failover 不丢数据"（⚠️ 自述、无第三方复现；压测提到 PG regress 全兼容、Antithesis、TPCC nightly）。
  • ✅ 而一条产品判断值得记：Vitess 作者 Sugu 加入后把兼容性而非 sharding 定为第一目标——"用 Vitess 的时候，你迁到 sharded 总得改东西、改一些查询"，所以这次重写的目标是"发 sharding 时你的数据库零代码改动"。⚠️ sharding 本身尚未发布（"也许明年初"，带条件）。

⚠️ 数据中心反对的另一种归因："契约恐怖主义"而不是电力（Mark Cuban，2026-10-28）

来源：a16z × Mark Cuban ⚠️ 立场：他全程在推销 Cost Plus Drugs；节目是 a16z 自己的播客。

✅ 本页关于数据中心本地阻力的材料此前全部落在电力、土地与许可（见上文"能源作为 AI 的真实上限"与"政治阻力已成为基础设施变量"两节）。这一条给了一个完全不同的归因，而且它是从医疗合同那套框架平移过来的。

  • ⚠️⚠️ "就像雇主们在自己的医疗福利上一直很蠢，很多社区在他们为数据中心谈的那些协议上也真的很蠢——很多情况下他们就是落进了契约恐怖主义。"（[00:54:42]）
  • 他所谓"契约恐怖主义"的原始语境是医疗：⚠️ 达拉斯市的 PBM 合同 1,335 页，"地球上没有哪群人喝够咖啡，能抓住他们试图塞进来的每一条"；✅ 平移到数据中心，意思是社区一侧在长合同与单边信息优势下签了不利条款。
  • ⚠️⚠️ 本页标注：他没有给任何数据中心合同的具体条款或案例，所以这条只是一个归因假设，不是证据。✅ 但本页认为它值得记，因为它可被检验（去读那些公开的数据中心激励协议），而且它指向一个本页此前完全没考虑过的变量——谈判能力的不对称，而不是资源的物理限制。
  • ⚠️⚠️ 而同一段里那句诊断本页认为更有保存价值："数据中心仇恨只是'搞不懂 AI'的一个代理变量。" ✅ 他明确不怪公众："我一点都不怪人们。"
  • ⚠️ 他由此给前沿实验室的建议在 LLM 安全与治理 记录（涉及伦理问题，本库记录但不采纳）；✅ 而其中一条诊断可独立引用："除非那些大的前沿模型完全明白他们必须想办法成为每个人信息流的一部分，他们就会一直在发那些没用的立场文件。"

⚠️⚠️ 电网的台阶式变化、"电力差距不是技术问题"、以及数据中心反对的分配解释（a16z American Dynamism，2026-10-29）

来源：a16z × American Dynamism 50（Connor & Aaron/Erin） ⚠️⚠️ 立场：a16z 自己的播客，两位是 a16z 投资人，全程讲自家 AD 50 榜单与自家组合；所有数字为自述、无第三方来源。

⚠️ 电网：本页此前缺的那一层是供应链而不是发电量

（[00:35:17]–[00:37:17]）✅ 本页关于能源的材料集中在发电量、许可与 behind-the-meter。这一条讲的是设备与供应链这一层。

  • 位移的内容：⚠️ "从一套 70、80 年代大规模铺设的静态的、机械的系统，转到现代电力电子、电池储能架构——那些东西要软件原生得多、灵活得多。"
  • ⚠️⚠️ 而一般化的那句本页认为最可引用："当你有这么一次彻底的技术台阶式变化、替代掉前一个东西的技术完全不同的时候，你就有机会把它背后的整条供应链、以及所有设计与工程工作的方式重新想一遍。" ✅ 推论是："所以你不能依赖那些在上一个世界里好用的部件去重新配一下。"
  • ⚠️ 需求侧的来源他们说得很直接："数据中心、新工厂、新建设的巨量需求"——"当你拿到这种自上而下的量，你就有能力去创新。"

⚠️⚠️ 电力产能差距：他们明确拒绝技术框架

（[00:44:19]–[00:45:20]）主持人拿出那张"美国电力产能几乎持平 vs 中国新增能源一路向上"的图问要怎样才能补上。

⚠️⚠️ "我不认为那是一个技术问题。我认为那是我们需要对'美国人民的意志'做一些灵魂拷问。……如果我们真的要（增长），那么技术和资本会跟上。" ⚠️ （⚠️ 这段里关于"要不要让项目被建起来"的那一句在自动字幕里讲不通，本页只记意图：它指向许可与政治意愿。） ⚠️ 另一位补："这不只是能源问题，这是一个'所有东西'的问题。"

  • 🔗 ⚠️⚠️ 本页标注这与上文"能源作为 AI 的真实上限"一节的关系：那一节同时收了 a16z 一侧与 Pat Gelsinger 的论证，重心在物理与工程约束；✅ 而这一条把约束完全移到意愿与许可上。⚠️ 本页不裁决，但记下：这是本页目前对那条上限最强的一次"不是技术问题"的表述，而它来自一个在这条赌注上有持仓的人。

⚠️⚠️ 对"过建会不会作废"的棘轮式回答：与本页既有判断方向相反

（[00:36:17]–[00:37:17]）✅ 本页上文"反向读数：能效突破会不会让已建产能作废"一节记的是 Cuban 那条。这是正面的另一侧。

他自己先把怀疑论摆了出来（"你可以悲观地说，这些新军事系统不会全被采用、我们也不会真把能源翻四倍"）：

⚠️⚠️ "我其实觉得那不重要。因为我认为一旦你让需求周期的雪球开始往一个方向滚，哪怕你只交付了那个需求的一半——你是不会回头的。" ✅ 理由是新设计在独立维度上更优："当你从第一性原理重新想一个东西、做出新的设计与工程决策，很多时候它会带来更好的成本、更好的效率"（⚠️ 另一位补的被接受："可维护性、更易制造"）——"你从现在起就是会买那个东西了。"

a16z AD（本节，2026-10-29） Mark Cuban（2026-07-21，并在 2026-10-28 延续）
回答 ⚠️⚠️ 不会回头——新设计在成本/效率/可维护性/可制造性上独立更优 ⚠️⚠️ 会作废——"如果 AI 上出现一条能大幅降低电力需求的性价比曲线，会有很多数据中心被改造成匹克球场"（论证走暗光纤先例）
论证走的是 设计优越性的不可逆性 性价比曲线突变使已建资产过时

✅ 本页的读法（不是任何一方的话）：⚠️⚠️ 两条说的是不同类型的资产——这一条讲的是子部件与制造工艺的设计升级不会回退（因为它在多个独立维度上更好）；Cuban 讲的是为某一特定需求量建的单体资产会被需求侧效率突变打掉。本页认为两者可以同时成立，而双方都没有处理对方所指的那一类资产。

⚠️⚠️ 数据中心反对的分配解释：与本页刚记下的那条归因相反

（[00:46:20]–[00:48:20]）

⚠️⚠️ "软件某种程度上能被隔离，因为它真的只存在于少数几个城市……你是通过自己和数字服务的互动变好很多来体验它的，但它有点更抽象。" ⚠️⚠️ "物理世界是，有人在你家后院建一个数据中心、一座电厂、一座矿。你在那件事上有发言权、有利害。你物理地看得见它，它影响你的生活。而如果你觉得自己没有分享到那份经济上行，那就很难。"

  • ⚠️ 他们认为资本市场会解决（"公司会搞清楚怎么把社区一起带上这段旅程"）——⚠️⚠️ 本页标注这是一条没有机制的乐观判断。
  • ✅ 但他们主动点出有坏例子，⚠️ 并给了一个正面姿态的例子（公司名在字幕里含混，本页无法写定）："他们找上那些真的很小的机床车间，和他们合作，不砍掉管理层、不裁人，而是说：我们怎么能一起做新产品、把你今天这个生意做大？"
  • ⚠️⚠️ 而那句自我批评本页认为是全期最该保存的一处让步："就是这种和社区合作而不是对着社区干的概念——我觉得我们在科技界还得为此多纠结一点，并且理解：就因为我们坐在硅谷，我们并不理解世界上正在发生的每一件事。"
  • 🔗 ⚠️⚠️ 而本页必须标出同一周、同一个播客里的相反归因：
a16z AD 两位投资人（2026-10-29） Mark Cuban（a16z 播客，2026-10-28）
反对声来自 ⚠️⚠️ 社区有正当利害，而问题是他们没有分享到经济上行（✅ 并承认行业过去几年有坏例子） ⚠️⚠️ 社区谈协议"真的很蠢"、落进了"契约恐怖主义"；"数据中心仇恨只是'搞不懂 AI'的一个代理变量"（✅ 他明确不怪公众）
处方 公司要把社区带上旅程（⚠️ 无机制） ⚠️⚠️ 实验室应反向工程社交媒体算法做舆论营销（🔗 本库记录但不采纳，见 LLM 安全与治理）

✅ 本页认为这处对照本身就是材料：⚠️⚠️ 两期相隔一天、发在同一个播客上，而更接近产业一线的那一方给的是分配解释，不是认知解释。

⚠️ 顺带：资本市场那段里两处本页不采信的数字

（[00:40:17]–[00:44:19]）⚠️⚠️ "JP Morgan 已经承诺了数以万亿计的美元"——按字面不可信，✅ 而他自己在后文把口径改成"数千亿、如果不是数万亿"，本库不采信；⚠️ "2026 上半年进入国防生态的风险资金超过去年全年，而去年又是前一年的好几倍"——无来源且表述复合含混，本页只记方向（国防侧风险资金在快速放大）。 ✅ 而一条可检验的定性判断值得记：⚠️⚠️ "国防里历来有一个关于'死亡之谷'的叙事……而随着资本市场与风险资本的支持，那个东西开始消失了"，⚠️ 他们说这也在往能源、机器人、关键矿产扩展。 ⚠️ 而他们对时间尺度的要求与乐观并列："物理世界里任何事都要时间……你不能找几个工程师、把他们丢到几台服务器和屏幕前面就得出一个答案。那是在挪土方。这些事要好几年。"

⚠️⚠️ "七家公司在挤出国债市场"：本页第一条 AI 复合体与各国政府抢资本的具体口径（All-In 第 295 期，2026-10-30）

来源：All-In 第 295 期（人物页：All-In 四位主播）

⚠️ 立场：Chamath 自述正在卖企业软件、并声明"我总体是看多的"；Sacks 是现任政府官员。✅ 而本节这条论证的可信度主要来自提出者自己把它与 AI 多空立场明确切开（见下）。

⚠️⚠️ 一、链条与那个口径

（[00:32:19]–[00:34:19]）他自己把这条标成"比 Ant 本身更大的收获"：

"整个美国经济都加了杠杆挂在 AI 复合体上。所以很狭义地说，我们在谈七八家公司，而它们为整个国家定调。不管我们喜不喜欢，我们就在这个位置上。"

  • 三步链条：① 世界上最重要的那些公司进入一场巨大的支出狂欢（⚠️ 他强调这些本来是高利润、高现金创造的生意，"它们说：我们要把脚踩下去，因为我们相信未来会来的东西。那就是推动 GDP 和增长的东西"）→ ② "它们这么做的时候会耗掉现金，于是必须发债" → ⚠️⚠️ ③ "这些公司在融的钱太多了，开始挤出资本市场。而被挤出的资本市场里最重要的那一块，是对政府国债的胃口。"
  • ⚠️⚠️ 而那个口径是本节最该被引用的事实：

    "当你看这些 AI 公司，它们到 2027 年底需要融的钱，相当于同期财政部即将发行的全部量的 30%。" "所以不管我们喜不喜欢，它们要开始争夺需求了……就像你有七家公司在挤出国债市场。"

  • ⚠️ 他另给的一条定性："这个复合体大到不能倒。而当你开始看到这些人代表全部资本市场股权与债务流动的 40%、50%，而这又反过来代表全部国债发行的 30%、35%、40%，那就是另一个问题了——一个更系统性的问题。"

⚠️⚠️ 二、两侧都不好的分叉，而这是本页认为最完整的部分

（[00:48:28]–[00:49:28]）

  • 分叉 A（资金流向政府）：如果投资者认为政府的信用与久期风险更好，那超大规模厂商、AI 复合体、Anthropic、OpenAI 要融的钱就得以更高票息进来 → ⚠️⚠️ "那些利率会层层传导下去。neocloud 得付更多，所有其他人都得付更多。而那意味着你提高并提前了违约风险——一个负的自反循环。"
  • 分叉 B（资金流向 AI）：如果 AI 复合体能以合理利率融到钱，而是美国财政部必须在拍卖里付更多 → ⚠️⚠️ "那么全面的借贷成本上升，因为美国经济的其它每一部分都加杠杆挂在 2 年到 5 年、10 年这一段上。"
  • ⚠️⚠️ 他的总结："这是一个我不理解的巨大市场风险，因为我以前没见过。" 以及 "问题是我们在试着买一只 AI 股票。所以很多条路通向下行风险，多于通向上行。"
  • ⚠️⚠️ 而他把这条与 AI 多空立场明确切开，本页认为这个切割是它可信度的主要来源：

    "我没在争论收入增速，也完全没在争论业务质量。我说的是：市场上有些时刻会出现系统性风险、所有人一起 risk off。而我在过去 15 到 20 年里没见过这个。上一次最接近的是全球金融危机（GFC）。" "不管你站在 AI 交易的哪一边，是多还是空——我不觉得那重要。我说的是更结构性的东西：大约十家公司为同一件事融资，会和全球各国政府在借贷上形成竞争。我不知道它的含义，因为我没见过。"

  • 🔗 ✅ 本页标注这与本页既有融资结构材料的接口，因为它把那些材料接到了更上一层：⚠️⚠️ 本页此前的债务材料停在 AI 复合体内部（CoreWeave 的 CDS 与隐含违约率、"二级市场重定价不改变发行人当期票息"、$/watt 与循环融资）；✅ 而这一条把传导路径接到了无风险利率这一端——也就是说，AI 的融资需求不再只是行业内部的信用问题，而开始是宏观变量。本页认为这是本页收到过的最上游的一条传导论证，而它的检验点很具体：看这段时间里 AI 公司发债的票息与同期限国债收益率的相对走势。
  • ⚠️ Jason 的反向赌注本页记为态度、不记为论证："这些是聪明的公司，我不觉得它们会做那种投资除非它们认为那里有 ROI。"

⚠️⚠️ 三、"我们作为一个国家是堵住的"：约束被从意愿换成产能

（[00:34:19]–[00:35:19]）Jason 的预测是使用量会去到 500 倍（当 1–2 亿白领像订阅 Office 365 那样订阅、"每个人跑五个 agent"）→ "算力会不够，所有人的建设量都完全错了……人们回头看这一刻会说：你当时为什么不多建算力？" ⚠️ 本页记为无口径的看多表述。

  • ⚠️⚠️ 而 Chamath 的回答把约束换掉了，本页认为这句比那个倍数有用得多：

    "问题是监管的阻力。审批的数量、公用事业能不能找到人、能不能真的把这些东西开起来、能不能拿到你需要的资本设备——现在就是不够。所以我们作为一个国家是堵住的。就算我们想做也做不到。"

  • 🔗 ✅ 本页标注这与既有材料一致，且这是第四条同向证词：Andy Jassy 的"售罄到 2028、短缺不止 2027"、Anthropic 平台团队的"CPU 是个零和游戏"、Supabase 一侧的采购确认；⚠️⚠️ 而这一条的不同在于它点名的是非算力环节（审批、公用事业人力、资本设备），也就是把瓶颈从芯片移到了施工与并网。
  • ⚠️ 而电力与数据中心作为政治杠杆点那条，本页只记它是对 S-1 风险因子排序的直接应用："一切都关于数据中心，这意味着一切都关于电力"；⚠️ 其政治推论（两党各自的最优策略）本页不采信，相关处理见 视频页。

⚠️⚠️ 四、"政府会来管算力分配"第三次出现，而机制换成了资本竞争

（[00:36:21]–[00:39:24]）

  • Friedberg 的框架是组织竞争资源："在资源伪有限的世界里，非营利、营利、政府都在互相竞争资源" → "如果 AI 现在从资本那里吸引到比政府更多的兴趣，那政府不会愿意让这件事发生" → 政府会争取把 AI 组织并入或控制。
  • ⚠️⚠️ 预测本身："我觉得你最终会看到算力在未来被监管，算力容量会由政府来分配，而且他们会立法来做这件事。是生产之后那一段——他们不会去控制芯片，他们会控制实际的算力层，决定谁能拿到多少算力。"
  • 🔗 ⚠️⚠️ 本页必须做的交叉标注：这是同一条线上的第三次表述，而每次机制不同：
  • 第一次（Daniel Ek，09-28）：部署侧的算力差 → 决定攻防双方谁占优（一条防守方优势论证）。
  • 第二次（Friedberg，10-02）：部署侧算力差 → 政府按行业分配配额（本库当时记的时间尺度是"12–18 个月"）。
  • 第三次（本期）：⚠️⚠️ 机制换成资本竞争——政府要和 AI 公司抢债券需求，所以政府会去控制算力层。 ✅ 本页判换法让预测变强了，因为它给了政府行动一个直接动机（财政成本），而不只是一个安全论证。
  • ⚠️⚠️ 而本库在 10-02 那期替他记下的那个未被回答的问题，本期第二次无人追问：如果 197 个国家各有主权、能源到处都有、数据中心会在全世界存在，美国政府的算力配额制为什么不会遇到和模型管制一样的绕过问题？
  • ⚠️ Chamath 给了一句同向证词，本页认为它是这条预测目前最好的支撑："在我成年工作的一生里，我从没见过一小撮公司的复合体实际上在和政府竞争资本。因为你从没见过公司以一种有组织的方式，为一件非常狭窄、而且是单向押注的事情要钱，而它吸引的钱量和原本会流向传统两年、三年、五年、十年期债券拍卖的钱是同一个量级。"

⚠️⚠️ 五、一处垂直整合的内部算力竞争：云业务和自家模型团队抢同一批算力

（[01:03:37]–[01:06:38]）✅ 本页认为这是本期第二条值得长期保存的结构性机制。

  • 口径：Google Cloud 的营业利润"去年同一季度是 35 亿，这个季度超过 110 亿"（⚠️ 节目口径、未核实）。
  • ⚠️⚠️ 而 Friedberg 指认的内部状态是：

    "Google 搜索是什么？它是 AI 还是搜索？Google Cloud 是什么？是那些模型，还是只是算力、算力的出租？" ⚠️⚠️ "那个说法是：那些一直在 Google 建模型的计算机科学家，也许没拿到他们希望拿到的资源，因为 Google 把那些算力租给别人能赚多得多的钱。"（⚠️ 他明说"我并不确定这一点"，而人员离职的原因本页无独立来源。）

  • ✅ 本页标注这条机制独立于 Google 的具体情况：⚠️⚠️ 一个同时卖算力和做模型的公司，其云业务会在内部和自己的模型团队抢同一批算力；而云业务的当期毛利是确定的、模型团队的回报是不确定的——于是资本配置会系统性偏向出租。 ✅ 本页认为这对所有同时做这两件事的公司都适用，而它给了一条可观察的推论：越是把算力出租赚得多的厂商，其自研模型越可能在内部排队靠后。
  • 🔗 ⚠️ 本页标注这与既有材料的对照：Andy Jassy 讲云厂商的资本配置时给的是对外口径（"kit 占 60%、不为一两个客户建"）；✅ 而这一条给的是同一个决策的内部版本——同一批算力在"租出去"与"自己用"之间的分配，而本页此前完全没有这一侧。

⚠️⚠️ 机器人的成本大头从 CapEx 转向持续推理与遥操作，以及美国机器人供应链的两重问题（Tutor Intelligence，2026-11-02）

来源：a16z × Tutor Intelligence（Josh Gruenstein，联创兼 CEO）（人物页：Josh Gruenstein）

⚠️⚠️ 立场（双重标注）：他是 Tutor 的 CEO，全部数字为自述；而主持方 a16z 是这家公司的投资人并多次主动背书。

⚠️⚠️ 一、成本结构反转：这类资产更像云服务而不是设备

（[00:35:23]–[00:36:23]）✅ 本页认为这是本期最该被长期保存的一条，因为它把一类物理资产的成本曲线挪到了本页熟悉的那一类上。

⚠️⚠️ "传统上我们把机器人想成 ROI——一大笔 CapEx 作为支出，然后十年把它赚回来。而现在其实是：不，越来越多的成本在流向持续的推理与遥操作。" ⚠️⚠️ 被问哪一头更大："现在是持续支出更大。而这让人意外。"

  • 🔗 ⚠️ 主持人的注解本页记为对侧："对我来说不意外。你其实是在和一个你喂它米饭、而它极其极其高效的东西竞争——人的身体。"
  • ✅ 本页的归纳：⚠️⚠️ 如果机器人的成本大头是持续的推理与遥操作，那么这类部署的基础设施画像更接近一个推理服务而不是一笔设备投资——于是算力供给、利用率与单位推理成本成为机器人经济学的主变量，而不是整机售价。本页认为这把物理 AI 的成本问题整个拉进了本页既有的推理经济学范围内。 🔗 与本页既有的推理成本材料（Baseten 的推理工程、KV Cache 作为数据层）在同一条轴上，只是负载换成了机器人。
  • ⚠️⚠️ 而他对人类遥操作者的去留给的也是基础设施口径，本页认为这个对比方式值得记（[00:11:08]）：

    "你想想用一块 H200 去服务模型的成本是多少——你能把它算出来。那块 H200 的占用率和利用率是多少？而你可以用非常相似的方式去想人类智能：你真正想从人那里拿到、而目前还没法从你的模型拿到的那种异质的智能画像是什么？"

  • ✅ 本页标注这是本页第一条把人类劳动与 GPU 放在同一个占用率/利用率框架里比较的材料，而他的结论是一个单位经济学问题："你得做多少工程才能把模型的最后一个九拿到手，相比之下用 tutor 要多少。"

⚠️⚠️ 二、美国机器人供应链的两重问题：既太小，而且是为另一种范式造的

（[00:16:13]–[00:18:15]）

  • ⚠️⚠️ 规模（自述但可核对）："2025 年，美国部署了 38,000 个工业机器人工作单元，相比大约一百万（按上下文指中国）这是很小的数字。"（⚠️ 主持人补"算上那些 Fanuc 和老机器"；⚠️ "大约一百万"的口径与国别转录稿未明说，本页按上下文理解。）⚠️⚠️ 以及"没有人在美国部署过任何宇树。它们会出现在那些数字里，而它们大概是零。"
  • ⚠️⚠️ 而第二重问题是设计取舍，本页认为这比地理解释更有力：

    "Fanuc 和 ABB 造的机器人大多不在美国造。但即便他们在美国造，他们造的也是为系统集成商设计的、为快速重复运动设计的东西。它们不是从你会想和前沿模型共同设计的那组取舍里切出来的。"

  • ✅ 本页标注这条的用处：⚠️⚠️ 它说明存量供应链的不可用不是产能问题而是适配问题——产品是为一个不同的控制范式优化的，所以即便买得到也不是对的东西。本页认为这解释了为什么这类公司被迫自造本体（他们不造执行器与相机，从 OEM 采）。
  • ⚠️⚠️ 而一条通用的纵向整合触发条件（[00:40:24]）："你可能一开始身处一个子部件都来自 OEM 的世界，然后你的量增长到他们不再是 OEM 了。他们成了被美化的代工厂。一旦你占了他们相当比例的产量，关系和动力学就变了。" ✅ 本页标注这适用于任何从小众走向规模的硬件品类，而不只机器人。 ⚠️ 被追问"拿进来做还是只告诉他们怎么做"，他两次只答"某种组合吧"。
  • ⚠️⚠️ 而本页必须标出一个被明确问到却完全没有回答的问题（[00:39:24]）：主持人问"你们对中国供应链的依赖、它随时间怎么演变、以及那边对供应链有多大风险"，回答只是"我们有一条高度互联、相互依赖的全球供应链……所有人都在试着建起自己的工业产能"——✅ 既没有依赖程度也没有风险评估。本页标注这是本期最该被追问而未被追问的一处。

⚠️⚠️ 三、机队规模作为方法前提：RL 在小批量下不工作

（[00:41:24]–[00:43:27]）

  • 设施："我们在波士顿建了一支叫 Data Factory 1 的 100 台机器人机队。据我们所知这是美国最大的半人形数据采集农场。"
  • ⚠️⚠️ 而理由不是数据量："强化学习是一个在小批量下不太工作的技术族。所以如果你在真实世界里有一支非常大的机队，你就能开始玩这些方法——而我认为无论在学术界还是工业界，人们此前都没能玩得起。"
  • ✅ 本页标注这条对基础设施的含义：⚠️⚠️ 真实世界 RL 的并行度需求把"机队规模"变成了一项训练基础设施参数，而它的单位不是 GPU 而是部署中的机器人。本页认为这是本页第一条把物理资产数量当成训练基础设施约束的材料。 🔗 训练侧记在 LLM 训练流程。

⚠️⚠️ "它比 CI/CD 所在的位置往后退一层"：一份 cloud software factory 的分层清单（Warp，2026-11-03）

来源：Latent Space × Warp.dev（Zach Lloyd）

⚠️ 立场：他是 Warp CEO，这一期是带屏幕共享的产品演示 + 会议预热。 ✅ 但本页收录这份清单，是因为他反复主动声明它与用不用 Warp 无关（"不管是不是 Warp……一般来说，如果你想在这个领域里搭点东西，我会这么想"，[00:19:13]），而清单本身是本页第一份把"公司内部的 agent 开发平台"拆成分层的材料。 ⚠️ swyx 当场指出了这个动作的性质："真正的高招大概是思想引领到这种程度——最后所有人都在试着搭 Warp，即便他们不用 Warp。"（[00:18:11]）

⚠️ 一、八层（[00:19:13]–[00:25:17]）

  1. ⚠️⚠️ 声明式地用代码定义 factory（他给的类比是 Terraform）："你拿到一样的好处，但其实更多"——版本化视图、可切分支去测、改坏了能 revert；✅ 而他说多出来的那个好处是"因为它在代码里，coding agent 可以对它建议改进"。 ⚠️ 他对这个生命周期该叫什么公开放弃命名："SDLC、AI DLC、PDLC，你想叫什么 DLC 都行。"
  2. 数据层：汇总 agent 对话 + agent 产物，且要跨工具连成一条链路——"一段 factory 对话可能从 Slack 开始，然后接到 Linear，然后接到 GitHub，还有一条 code review 评论，而这整段交互会产出某一块被 merge 的代码。" ⚠️⚠️ 用途是跨过发布边界的事后归因："它甚至可能导致某个东西上线之后服务器崩了，而你想能够追溯地回去……去诊断这件事本来怎么能更好。"
  3. 数据入口 + 分权：要有插 MCP 的办法；⚠️ 规模一大就要分权——"市场团队能访问哪些 MCP，和销售团队、和工程团队分别是什么"。
  4. ⚠️⚠️ 计算层，而他把可插拔写成架构要求："你真的需要一个计算层。你应该把它当成一个单独的东西。" 他们主用 Namespace，但"如果你想用 Daytona、Modal 或者 E2B 之类，我会这么架构——让它成为这整个东西里一个可插拔的部件"。
  5. ⚠️ 推理层，理由是客户已有的采购承诺："我们发现现在很多公司跟 Anthropic、OpenAI 或者 Google 有已经签掉的额度，他们想把它烧掉"；于是支持自带推理供应商或从他们处买。⚠️⚠️ 而他把 harness 也列为可自带的槽位，并自己说这是件大事："你甚至可以插你自己的 harness，我觉得这挺大的"，口径是协议级的——"基本上任何 ACP 兼容的 harness"。
  6. 改进层（scorer / benchmark / self-improvement，详见 评估与 Benchmark 与 AI 做 AI）。
  7. ⚠️ orchestrator，而他专门把它降级了："有时候人们谈 orchestrator，谈得像它就是整个平台。我觉得它是其中一块。" 职责是拿 factory 的定义代码、把工作推过各阶段、调对的模型、加载对的 skill、触发对的自动化。
  8. 接入点：不另造界面，而是进已有的知识工作工具（Slack 占他们 60%、任务追踪器、终端里的 Claude Code 提交 spec）；形态是"factory 自身就像一块 headless 的基础设施"。

⚠️⚠️ 二、本页认为最该保存的两条

  • 位置判断（[00:26:19]）：

    "这是开发者基础设施栈里的一个新东西。它比 CI/CD 所在的位置往后退一层，但我觉得大多数公司在软件开发上都会有这么一个东西。"

  • ✅ 本页标注这是一条可被观察证伪的预测，形态很清楚：公司内部是否出现一个独立于 CI/CD、专门承载 agent 工作流定义与度量的系统层。
  • ⚠️⚠️ 一条很具体的"为什么 sandbox 的宿主平台重要"（[00:22:15]）："默认你大概想用一个 Linux 类的 sandbox，但对 computer use——比如我们测 iOS app 的方式——你会需要能跑一个 Mac VM，真的让它跑模拟器、点来点去。"
  • 🔗 ✅ 与本页既有 sandbox 材料的关系：⚠️ Modal 的 Akshat Bubna 是从供给侧讲 agent sandbox 的弹性与经济性；而这一条是需求侧第一次把"sandbox 必须可换"写成架构原则，并给出了换的理由——宿主平台决定了能不能做 computer use。本页认为两条合起来才是完整的一件事。

⚠️ 三、本页标出一处未被回答的追问

（[00:26:19]）swyx 的怀疑是捆绑与层数："这其实有很多层。我在想，大多数……Cognition、Cursor，这些厂都在试着做一个从下到上的捆绑"，而买方视角的问法是"我作为一家 B2B SaaS 的 CTO，我在这儿想干好我的活——我真的需要这全部六层吗？"

  • ✅ 而回答没有谈层数，直接转向了"这是给谁用的"（规模下限 5–10 个工程师、甜区 10–100、反适配是 Uber / Ramp 这类自建大厂）。⚠️ 本页记这处转向，并把"哪几层可以不建"列为这份清单目前缺的那一半。

⚠️⚠️ 一条来自横评者的反主流判断："在规模上看，表现差异相当明显"（a16z × Assistant Benchmark 第二期，2026-11-04）

来源：a16z：家长式作风会杀死任何产品

⚠️ 立场与口径：提出者 David Pawlan 运营这个品类的横评站，同场两位是 a16z 消费投资合伙人；整期数字全部自述、未经审计。 ✅ 本页仍认为这一条值得保存，理由是提出者是这一期唯一一个在大量同类产品上横向看过运行表现的人——而这个视角本页别处没有。

⚠️⚠️ 一、判断本身，以及它给自己留的有效期

（[00:34:15]–[00:35:16]）

  • ⚠️⚠️ 他说这件事让他开始质疑一条流行命题：

    ⚠️⚠️ "有一件让我开始质疑'软件正在变成大宗商品'这整个概念的事情是：当你在规模上看这些产品时，表现差异相当明显。" ⚠️⚠️ "人们在谈软件不再是护城河之类的，但那里确实还是有一些护城河的。"

  • ⚠️⚠️ 而他给的具体分叉是一条很清楚的二分：一类能在数十万用户量级上正常跑；⚠️⚠️ 另一类"刚开始规模化，表现就立刻劣化，创始人在处理宕机、在想怎么扩容"。
  • ⚠️ 他给自己留的时效很短："也许那条护城河一年左右就能被跨过去，但至少在今天……"
  • ✅ 而他把这件事描述成一次个人关注点迁移，本页认为这增加了这条观察的可信度："我感觉我几乎对其中一些更社交的成分变盲了，因为我整天在和这些 agent 说话，而我开始更多地钻进幕后真正的基础设施层。"
  • ✅ 本页的综合，以及它为什么值得单列：⚠️⚠️ 本页与 AI 商业化与价值捕获 此前关于"软件还剩什么护城河"的材料，论据几乎都落在能力层（模型选择、后训练）、数据层或分发层。而这一条把当下可观测的最大差异定位在运行时的规模化工程上——也就是说在一个模型能力趋同、产品形态高度雷同的品类里，谁能把服务跑住本身就是差异。 ✅ 本页认为这是一条可被检验的断言（它给了自己约一年的有效期），而它的论证形状也很干净：它不主张运行时工程是一条持久的护城河，只主张它是当下这个阶段的实际瓶颈。
  • ⚠️ 他点的另一个仍未解决的工程痛点是记忆："它持续掌握你的上下文、不忘掉那些小事的能力。"
  • ⚠️ 而消费者侧第二大痛点（第一是信任）被他定在交付可靠性上：人们"在想完成一个任务而它不工作的时候真的会很烦"，于是"那我干嘛还用 AI？我本来可以自己上浏览器做完"。 ✅ 他看到的创新因此集中在交付层：商务、浏览器使用、对库存直接做集成以完成结账。

⚠️ 二、一处把能力差异归到架构的解释，以及一条关于感知速度的自我限定

（[00:13:05]、[00:34:15]）

  • ⚠️ 架构归因：在送花测试里表现较好的一个产品要求安装 Chrome 扩展，⚠️ 于是"它的浏览器使用从这一点上有一点优势"——✅ 本页记这是本期唯一一处把表现差异归到架构选择（在用户已登录的本地浏览器里跑，而不是在云端浏览器里跑）而不是模型的解释。
  • ✅ 而他对另一个产品的浏览器可视化给了一条很好的自我限定：它"展示浏览器逐步推进的方式……看起来真的很快"，⚠️ 紧接着是"谁知道背后是不是真的那么快"。 ✅ 本页标注这处，因为它明确区分了感知速度与实际速度——而这对 agent 产品尤其重要，因为可视化本身就是一种延迟掩盖手段。

⚠️ 三、自托管会不会回摆

（[00:35:16]–[00:37:19]）

  • ⚠️ David 本人主要待在"预配置、即插即用"的世界，而理由是方法论上的而非判断："当你不负责搭建本身的时候，横向比较它们更容易。"
  • ⚠️ 他认为自托管有前景的理由是可控："如果你能控制模型、能按你想要的去调它"；他点了 Thinking Machines 在"让人们能随心调自己的模型"上的工作，并说如果这件事能以很容易的方式进入消费形态，"会是一个有意思的空间"。
  • ⚠️⚠️ 而 Josh Elman 给的那条历史弧线本页认为值得记，因为它指向一次可能的回摆：起点是 OpenClaw——"你感觉得把你整台 Mac mini 弄来才能把这套配起来"；然后"我们进入了即插即用的产品，你只要下个 app"；⚠️⚠️ "但我很有兴趣认为，自己搭、自己拥有会再次成为一种范式。"
  • 🔗 ✅ 本页标注这条是本库一条既有线索的下一步：⚠️ David Pawlan 上一期 判定"消费级 agent 基本就是 OpenClaw 的复刻，只是预配置好了"，而产品化增加的全部价值是"不用配置、不会每 7 小时弹报错"。 ✅ 本期在问的是那份价值会不会被重新让回给用户——而本页认为这两条合起来给出了一个判据：如果产品化的增量只是配置与可靠性，那么一旦配置成本下降，回摆就有了条件。
  • ⚠️ 一个相关的开放问题由 Anish Acharya 提出（[00:37:19]）："如果 Instinct 和 Muse 算是 OpenClaw 的消费产品版，那么 Moltbook 的大众市场版本是什么？"（⚠️ "Moltbook" 拼写不可确证，按上下文指那个让 agent 之间自由交谈的 agent 社交网络）。⚠️ 本页记这是一个预测而非观察。

⚠️⚠️ "没人出价"：本页第一条信贷方拒绝时的具体推理链，以及一个把数据中心阻力算成对冲的论证（Jamin Ball / Altimeter，2026-11-07）

来源：Latent Space × Jamin Ball："现在你想为 GPU 融几十亿美元的债？没人出价"

✅ 立场：说话人是 Altimeter 合伙人、Clouded Judgement 作者，✅ 而他主动做了披露且做在第一个实质问题之前："我为 Altimeter 工作。我们在 Anthropic 上有一个很大的仓位。我说的一切都是我的个人观点。" ⚠️⚠️ 因此他全部关于 Anthropic 前景的判断都来自一个持有大额多头仓位的人，本页不采信为中立分析。 ✅ 但本节收的三条（债市、调速器、那串心算）都不依赖 Anthropic 的估值判断。

⚠️⚠️ 一、债市侧：拒绝的机制是穿透集中度，不是资本总量

（[01:22:55]–[01:27:56]）✅ 本页判这是本页此前明确缺失的一环。

⚠️⚠️ "现在你想为 GPU 融几十亿美元的债？没人出价（no bid）。他们就是说债市关着。那些大的债务交易没在发生。"（⚠️ 他的类比是"几乎等于一个 IPO 被撤回"）

⚠️⚠️ 而机制他说得很清楚，本页认为这是本节最该被引用的部分：

⚠️⚠️ "大的信贷基金都在看穿透敞口。任何 neocloud 或者超大规模厂商去融债，信贷提供方会问的最大问题是：承购方（offtake）是谁？因为现实是那才是我真正在承保的对象，那才是客户、才是最终付账的人。"

⚠️⚠️ "而现在付账的人就是 Anthropic 和 OpenAI。……很多信贷提供方在说：我已经觉得吃饱了。我刚刚为这两家之一做了一大堆债。"

  • ⚠️ 他说对象是谁不重要："不管是 CoreWeave、Nebius，还是某个新晋的或者别人。"（⚠️ 新晋那家字幕作 "Volta"，不可确证）
  • ⚠️⚠️ 他给的项目延期链条本页认为可直接当风险清单用：neocloud 与 OpenAI 签合同 → 与 NVIDIA 签 → 让 Dell 打包 → 把债融了 → "然后你猜怎么样？可能会有本地社区起事和拉横幅" → 延期 → ⚠️⚠️ "但债已经融了。总得有人付利息。" ⚠️ 延迟提款（delayed draw）这类结构存在"但都有上限"，于是进到 SLA 与归责（供应链 / 施工 / 运营方 / 社区不满）。
  • ⚠️ 二阶效应："信用违约互换和对冲的价格冲上去了，于是对债务提供方来说，要对冲自己的敞口变得很难。而对冲越贵，你承担更多风险的意愿就越低。"
  • ✅ 而他明确拒绝了"债市钱不够"这个框架，本页认为这处区分有政策含义："我不知道债市是不是特别深。我觉得这更像是一个胃口问题。而且当然什么都有个价格——行啊，你去按 20% 融 50 亿的债。" ✅ 本页标注这把"关门"从容量问题改成了定价问题。
  • ⚠️ 持续性他给的是周期判断："债市只是要经历一点消化不良。他们需要搞清楚：那些被承诺的项目，有没有按时在建？收入有没有回流到我这里？"

🔗 ✅ 本页标注这条与既有材料的层级关系：⚠️ AI 复合体在和各国政府抢资本 是宏观挤出侧（资本总量被争夺）；⚠️ Andy Jassy 的 capex 现金周期 是企业内部侧；✅ 而这一条是第三层：在给定总量下，分配给谁被一个集中度判断卡住。 ✅ 本页判三者不冲突，而这一条是唯一给出了拒绝理由的。

⚠️ 为什么实验室自己不举债：把资产负债表风险外包出去

⚠️ 主持的问题很直接：为什么有 1,000 亿股权能进去，却融不到 500 亿或 1,000 亿的债？

  • ⚠️ 他先说"我不知道我会说他们做不到"，并指出前置条件是"他们需要被评级"。
  • ⚠️⚠️ 主要解释是风险位置的选择："我猜 Anthropic 和 OpenAI 很高兴 neocloud 存在、来承担资产负债表风险。也许他们不想承担那个风险，因为那可能是他们控制范围之外的事情把他们炸掉。"
  • ⚠️ 类比是 fintech："2020 年有一大堆在低利率时做得特别好的 fintech 公司，在高利率时被炸掉……你不想在市场周期翻过去的时候持有一个资产负债表型生意。"
  • ✅ 而他给了一条可回看核对的预测："Anthropic 的资产负债表上原本没有债。现在他们有一些已经建好的额度可以提取。如果将来你开始在他们的资产负债表上看到债，我会不会意外？不会。"

✅ 本页标注这条解释的含义：⚠️⚠️ 若成立，neocloud 这一层的存在理由里有一条与技术无关——它是前沿实验室用来隔离周期风险的结构。 🔗 ✅ 而这恰好解释了为什么信贷方的集中度判断会同时卡住一整层公司：被承保的对象其实只有两个，而中间那一层是风险的持有者而不是风险的来源。 ⚠️ 本页记为推论，他没有把这两条连起来。

⚠️⚠️ 二、一个把"数据中心反对"算成正面变量的论证

（[00:33:18]–[00:35:19]）✅ 本页判这条值得单独记，因为它与本页此前关于数据中心阻力的全部材料方向相反。

⚠️⚠️ "好的一面是，建这些数据中心变得越来越难。表后（behind the meter）也越来越难。所以你确实有了一个对建设的天然调速器，而我觉得我们因此远没那么可能过快地过度建设。"

  • ⚠️ 他的对照是 2000 年前后的光纤："我们当时铺了太多光纤，而对互联网的需求没那么多，于是有大量暗光纤。" ⚠️⚠️ 而判据是一句可被证伪的现状断言："我们今天没有暗 GPU。"
  • ✅ 他同时说了坏的一面，本页认为这处平衡值得记："它也很糟，因为这个行业需要更多算力……模型越强，安全上的担忧就冲上天。防守方也需要更多算力、需要更多能力。"
  • ⚠️ 他把反对理由列了一遍（噪音、空气污染、用水、电力与电费、以及"就是单纯觉得 AI 会把我们都杀掉"），⚠️ 并对其中一条直接表态"说它用水太多——它并没有"；⚠️ 定性是"它变得极度政治化"，并点了中期选举对相关监管的影响。
  • ⚠️ 结论是一条个人信念："我觉得我们会在比世界以为的长得多的时间里处于算力受限状态。"（⚠️ 无时间尺度，本页记为立场陈述）
  • ✅ 而主持给了一条本页认为很有用的框架："我会很好奇市场定价里的世界预期是什么，然后去做功课看我们实际怎么想，而这个 delta 可能是 3 年也可能是 30 年。那是一件非常实质的事情要搞清楚。"

✅ 本页标注这条的论证结构：⚠️⚠️ 它把一个被普遍当作成本的因素（许可与社区阻力）重新算成了对冲——阻力降低了过度建设的概率，于是降低了供给过剩的尾部风险。 ✅ 而"没有暗 GPU"把它从态度变成了可被证伪的现状断言：若出现大规模闲置算力，这条论证即失效。

🔗 ⚠️ 本页关于数据中心反对的既有材料（Mark Cuban 的"契约恐怖主义"归因、a16z 那条分配解释、Vlad Tenev 的持有结构解释）全部在解释阻力为什么存在，✅ 而这是第一次有人把它当作一个有益的约束来定价。本页判两类材料不冲突：它们回答的是"为什么有阻力"与"有阻力的后果是什么"。

⚠️ 三、一串他自己已加限定的心算，以及一条可直接搬用的口径区分

（[01:27:56]–[01:31:59]）⚠️⚠️ 他在算之前说"我们来快速做点有趣的数学"、"我累了"，中途说"现在心算太难了"——本页记为量级示意，不采信为估算。

链条：⚠️ 两家实验室"都说想在年底到 5 GW 左右"（⚠️ "谁知道是这个数还是更多或更少"），⚠️ OpenAI 的 Stargate 是"到 2030 年 30 GW"计划的第一阶段 → ⚠️ 假设两家各从 0 到 30 GW、五年 → 两家自己就加 60 GW → ⚠️ 假设这是全行业总产能的约 40% → 五年内上线约 100–120 GW → ⚠️ **假设每 GW 约 500 亿美元 → 约 5 万亿美元 / 五年 ≈ 每年 1 万亿 → ⚠️⚠️ "你说的是 GDP 的一个非平凡百分比……大概是 GDP 的 5% 上下"，⚠️ 定性是"能和铁路时代的建设相比"。

  • ✅ 而本页判他做这段心算的真正目的是接回第一节："所以信贷市场、债市需要特别特别特别深、特别特别开放，那件事才可能发生。你需要全球性的建设。" ✅ 也就是说这串数字的作用不是预测规模，而是说明为什么债市的胃口是这整件事的承重点。
  • ✅ 而他顺带给了一条可直接搬用的口径区分，本页认为它比那串乘法有用：关于明年新增多少 GW 的争论（半导体分析一侧"大概是 50"，而 Brad Gerstner 在峰会上说"也许更低"）——"我觉得那件事的结论是：那个 50 GW 的数更像是'建成了多少'，而 Brad 更像是'建成且在线、在产 token 的有多少'，因为这两者之间会有缺口。" ✅ 本页标注此后引用任何 GW 数字都该先问是哪一种。
  • ⚠️ 供给侧他给的是转述："你在供应链里跟每个人聊，他们都在说我们手上的订单或者订单意向远超过我们产能的 100%……而我看不到未来几年它放缓的迹象。"（⚠️ 无具体来源，不采信为事实）

⚠️ 四、内存作为反向塑造模型架构的约束

（[01:30:58]–[01:31:59]）

  • ⚠️ 他的观察："开源权重模型看起来更多是在 1,000 亿左右的激活参数上封顶。" ⚠️ 主持说"主要是推理速度的事"。
  • ✅ 而主持补的那条本页认为值得记："这其实很有意思地和他们手上 GPU 的代次绑在一起……他们在基础设施层真的被内存约束，而那实际上塑造了模型架构。"
  • ⚠️ 他对大模型方向的判断："大模型在变得更大，而那只会需要更多内存、更多算力去跑。" ⚠️ 他举 Kimi K3 作为例子（"你需要一整个机架来服务一个模型"）。 ⚠️ 主持自我更正："我以前说它们会封顶……我错了。"

✅ 本页标注这条的方向：⚠️⚠️ 它是本页为数不多一条从基础设施反推到模型架构的因果——而本页此前关于内存的材料多在讲带宽与成本，没有一条把激活参数的上界归到基础设施代次上。 ⚠️ 但这是两人的口头观察、无数据，本页记为待核实的线索。

⚠️⚠️ 本页第一条把数据中心政治阻力连到前沿模型竞争的因果链：供给受限 → 超大规模厂商变造王者（All-In，2026-11-07）

来源：All-In / 数据中心审批冻结、超大规模厂商造王者、4 万亿单日蒸发（⚠️ 自动字幕无说话人标签，逐句归属为本库的编辑判断；⚠️⚠️ Jason 期内自述持有并在增持 SpaceX/Tesla，Sacks 为现任政府官员——相关标注见视频页）

✅ 本页标注这条为什么是新的：⚠️⚠️ 本页此前关于数据中心阻力的材料（分配解释、社区账本、电网的台阶式变化）全部停在"建不建成"这个结果上。这一条第一次把它接到一个产品结果上——谁的前沿模型更好——而接口是一个资产负债表事实：自有容量还是租用容量。

① 受伤顺序：租客先死，而"租客"包括前沿实验室

（[00:56:52]–[00:57:52]）Chamath 的结论链：

"我觉得我们会看到一次放慢。而它有利于超大规模厂商，因为他们有现成的容量。它对 neocloud 非常坏，因为他们是租客。而它对基础模型公司也相当坏，因为他们这么缺这个容量，而且需要它来增长。" ⚠️⚠️ "所以就前沿模型比别人的产品好这么多而言，他们恰恰是最需要这个容量的那一方。这就把超大规模厂商摆到了造王者（kingmaker）的位置上，而他们现在有了一个很有意思的博弈论。"

  • 他给的超大规模厂商名单（[00:57:52]）：Amazon、Meta、Microsoft、Google、SpaceX。⚠️ 本页记下 SpaceX 被放进这个类别，这是本页第一次看到。
  • ⚠️ 他另给了"不是安全上岸"的三条件定义，本页判这比"租客"一词更可操作（[01:10:58]）："安全上岸是说他们有一张堡垒式的资产负债表、一个盈利的商业模式、以及为自己的野心准备的准无限算力。而现在他们是租客——而数据中心里的租客阶层，从本周二起，处境非常危险。" ⚠️ 当天证据是"Google 刚接管了一个 Crusoe 的数据中心。他们把租客挤掉了"（归因到"他们手里有全部核心关键要素，具体说就是电力"）；⚠️ 本库未核实这条交易。

② ⚠️⚠️ 那条机制：它不依赖任何一家公司的意图，只依赖供给约束

（[00:57:52]–[00:58:52]）✅ 本页判这是全条最有迁移价值的一步。

  • 路径一（现状）：继续出租——租给大企业、租给 neocloud、租给基础模型公司。
  • ⚠️⚠️ 路径二（"人迹更少的那条"）："你可以决定把全部增量算力拿去给自己的产品加码。所以 Google 有大量容量正在上线。他们可以说：我要把它给 Gemini。"
  • ⚠️⚠️ 而结果是：

    "这会做什么？它实际上让 Gemini 在质量上相对那些基础模型公司追上来。为什么？因为如果你限制能真正产出算力的资产总量，而其中可供那些领先公司使用的表面积更小，那些领先公司就得付更多钱。用户体验会退化，然后其它产品就有时间追上来。"

  • ⚠️⚠️ 而那条给出时间尺度的口径本页判为这一段最该被引用的数字：

    "而这一点很重要，因为 Anthropic 和 OpenAI 处在一个非常快的递归循环里。他们在一个 60 到 90 天的循环上改进模型。所以现在，在没有无限供给上线的情况下，你可以让这些人慢下来。"

  • ✅ 本页标注它的检验点，因为它和一般的"算力紧张"叙事可以被区分开：⚠️⚠️ 如果这条成立，应该先看到前沿实验室的单位算力成本上升与超大规模厂商自有模型的相对质量改善，而不是前沿实验室的收入下滑。
  • 🔗 ⚠️⚠️ 本页必须做的交叉标注，因为这正好补上既有材料缺的一端：Jamin Ball 同日那份"没人出价"讲的是 neocloud 的债融不到、以及信贷方穿透看承购方（压力的一侧）；✅ 而这一条给的是同一压力下的另一侧——谁因此获得了议价权。两条合起来是一次完整的供给侧重新分配：租客付不起债，房东拿到选择权。

③ ⚠️⚠️ 一个具体到可逐周观察的"造王"动作：那个 90 天双向退出

（[00:58:52]–[01:00:53]、[01:19:05]–[01:21:06]）✅ 本页判这是本条材料里唯一一个具体合约条款，因此也是唯一可以被外部事件直接证实或推翻的部分。

  • ⚠️⚠️ 条款（Chamath 的说法，本库未核实）："SpaceX 和 Anthropic 的算力交易有一个双向的 90 天退出。Anthropic 可以在 90 天内终止。SpaceX 可以在 90 天内终止。"
  • ⚠️⚠️ 行使它的三层后果："这是 Anthropic 所需算力里不成比例大的一块。它让 SpaceX 可以把那块算力按现货价重新定价，而现货价大概是市场价的两倍"（⚠️ 随后上修为"可能不只两倍，大概能到三倍"）→ "所以 SpaceX 资产负债表上来自 Anthropic 的收入可能翻两到三倍，而 Anthropic 除了立刻投降、接受更高价格之外没有选择" → ⚠️⚠️ "它还会向所有其它超大规模厂商表明：他们距离经济产出被优化还非常远。"
  • ⚠️ 对 neocloud 的二阶效应："它接着逼 neocloud 把融到的所有钱拿去说：我有两个选择，就是在今天以任何可得的价格买尽可能多的算力，因为另一条路对我来说是必然的毁灭和破产。所以他们会倾尽最后一口气。"
  • ⚠️⚠️ 收口："所以我觉得全部博弈论真的就归结到这一笔交易，以及 Elon 会不会把它撕掉。因为如果他撕掉，小心点。"
  • ✅ 而本页判最该保存的是随后那场分歧，因为两人分歧的不是事实而是决策依据：
  • ⚠️ Jason 的反方（带持仓，本页记为赌注不记为论证）："Elon 把自己和 Anthropic 团队非常深地对齐了……我不觉得他会就这么把它扔给现货，哪怕那是最好的短中期经济模型" → 预测"在中间某处碰个头"。
  • ⚠️⚠️ 而 Chamath 把判据换成一个阈值，本页判这是唯一可外部观察的表述："我没说扔给现货。我说的是，当现货移动得足够多，哪怕一份长期承购合约也会移动得太多，以致现有合约变成负 EV。所以你就是得把现有合约搬回正 EV 的区间。" → "这跟他们的工作关系、跟 Anthropic 是好公司还是坏公司，一点关系都没有。这是一张电子表格，而电子表格会决定答案。"
  • ✅ 一处读法反转值得单独记：那个 90 天条款几个月前被普遍读成"对 SpaceX 的风险"，Chamath 说"他谈判时看到了拐角后面"，而现在要担心的是反方向——⚠️⚠️ 条款没变，变的是外部供给前景。本页标注这说明同一份合约条款的风险方向是由供给侧前景决定的，而不是由条款本身决定的。
  • ⚠️ 他把这条推广成一条定价判断："如果一堆数据中心被放慢，容量会比人们想的少很多。每兆瓦每月的美元成本会上天，GPU 小时的美元成本会上天。而愿意付这个溢价的，会是那些有巨大资产负债表的超大公司。所以你如果想卖，可以就卖给 Google 或 Meta，你不必卖给 OpenAI。"（[01:21:06]）

④ ⚠️⚠️ 许可证的尾端机制：为什么"在建项目是安全的"这个安慰可能不成立

（[01:15:01]–[01:18:03]、[01:23:07]–[01:24:07]）✅ 本页判这是本条材料里最可检验的一条，而且它拆的是一个正在流传的结论。

  • ⚠️⚠️ Sacks 先说明了自己做了什么核查（[01:15:01]）："我看到比如 Gavin Baker 在说：别担心，那位新州长看起来完全讲理，她没有威胁任何项目。而我去看了 Gavin 看的那些采访，我没看到他说的那些东西。她没有说现有项目受到保护。她只是说在他们通过立法之前不会发新许可。" ⚠️ 德州新任州长的姓在自动字幕里有三种错写，本库不确证拼写。
  • ⚠️⚠️ 而机制引的是第三方分析，本页判这是这条材料的核心，因为它指认了一个具体的技术事实（[01:16:01]）：

    "我看到 SemiAnalysis 的一位分析师出来说：你意识到现在在建的项目，并不一定已经拿到了真正开业所需要的每一张许可吗？换句话说，一旦你建完了数据中心，你可能还得拿一张空气污染许可。有各种各样的许可，有时候你到最后才拿到。" ⚠️⚠️ "所以如果你严肃地、字面地看她说的话——在新的监管体制生效之前不会通过新许可——我们可能最后会得到一堆搁浅的半成品项目。"

  • ✅ 他给了明确的认识论限定："我不是说这一定会发生。我不是在批评她，因为我不知道她会做什么。她甚至还没就职。我只是在指出这件事可以走向很多方向。"
  • ⚠️⚠️ 而那条政治激励论证引的是一个已发生的事实，本页判这是第二可检验的一条（[01:17:03]）：

    "在这次选举里，民主党和共和党双方都在对任何批准过任何数据中心的政治人物投放竞选攻击广告。" ⚠️⚠️ "所以想一想：如果你是政治人物、或者只是一个也许想往上爬的公务员，你在任何东西上盖批准章的激励是什么？我看不到任何有政治抱负的人，会在未来四年里愿意为批准任何东西把脖子伸出去。"

  • 基准情形（可逐季核对）："已经批准并完全许可的那些大概能做完。但还没批的，祝你好运" → "2027 年我们能过去，仍会有可观的 capex。我真正担心的是 2028 年" → "我预期到 2028 年，管线要么关闭、要么大幅缩减。"
  • ⚠️ 而他解释了这为什么对投资决策成立，本页判这条比上面的预测更通用（[01:23:07]）："这些吉瓦级电力的数据中心成本大约 500 亿美元。没人能在不确定的条件下做这种投资。你最不想做的事，就是破土动工然后在做到一半时被法院禁止、遇到工人罢工、或者某个社区团体把它停掉。你在做这种投资之前真的需要确定性的条件。" ✅ 他自己给了一个比"阴谋"更克制的替代解释："这可能不是一个伤害 Trump 经济的阴谋。可能只是正在发生的事情的现实。"
  • ⚠️ Chamath 对民主党一侧的策略建议（[01:18:03]）："他们远不如就说：这是我们想要的，然后从他们那里榨取价值。我们要免费电力。我们要学校。狠狠谈。"

⑤ ⚠️ 一个数据中心说明会的现场样本，以及一句来自受益方的让步

（[00:38:42]–[00:39:44]、[00:54:50]–[00:56:52]）

  • Sacks 的归因（价值在次序区分）（[00:39:44]）："确实存在对 AI 的焦虑、以及可能随之而来的失业。但我觉得人们这么恨数据中心的大原因，是他们感觉这在推高自己的电费单，而寡头们靠数据中心发财、同时他们在多付钱。" ⚠️ 他引的是德州新任州长的说法："数据中心之所以坏，是因为它们在让你的电费单往上涨……而数据中心在用掉你的水。"
  • ⚠️ 现场样本（Chamath 讲的一段公开视频，本库未核实）（[00:54:50]–[00:55:50]）：SpaceX 两位员工去 Cochise County（亚利桑那）讲一个 6 吉瓦数据中心，内容是"他们要怎么把电费成本降低 40%。他们不用水。他们要把财产税降低 20%。他们能产生足够的收入去养起县里的一笔债券" → ⚠️⚠️ "而同时，听众只是在尖叫。"
  • ⚠️⚠️ 而本页判这条材料真正的价值在他紧接着的让步，因为它来自受益方一侧并承认了对方的一个具体诉求（[00:56:52]）：

    "但它也代表已经发生的那些交易是有点过分的（gratuitous）。意思是，最有权势的七八家公司，真的需要一个税收减免，才能投 300 亿、500 亿、然后去赚 3,450 亿、5,000 亿吗？大概不需要。" "我觉得新上任的州长们会说的是：这些东西从桌面上拿掉，取而代之，我们要在我们愿意考虑这件事之前，先看到可以直接度量的经济影响。"

  • ✅ 本页标注这为什么该被单独保存：⚠️⚠️ 本页此前关于数据中心阻力的材料几乎全部来自建设侧，论证形状是"反对者没算清账"。这一条是第一次由同一侧的人承认账本身也有问题——补贴的必要性与投资回报的量级不匹配。 ⚠️ 而本页记下他自己没有把这个让步接到任何政策结论上。

⑥ ⚠️ "token 净进口国"，以及它与同期算力管制预测的冲突

（[01:00:53]–[01:01:54]、[01:18:03]–[01:19:05]、[01:29:11]）

  • ⚠️ Jason 的链条（带持仓）：如果州长们收紧，数据中心会去加拿大、墨西哥、新加坡、马来西亚（中东"因为战争暂时不在桌上，战争结束就会在"）→ "那么做下一个大模型这件工作就不会发生在美国土地上……我们会成为 token 的净进口国" → 后果是"所有那些 30 万、40 万美元的数据中心建设岗位都会消失"、税在当地被征走。⚠️ 技术论证是"我们有 Starlink 和光纤线路……我们有 CDN 技术。这会是不用想的事"。
  • ⚠️⚠️ 而持仓必须标在旁边（[01:19:05]）：他紧接着说 SpaceX"作为股票被严重低估"、"我在这整场疯狂里一直在买入"，并把结论落在"Elon 又一次看到了拐角后面"（太空数据中心）。
  • ✅ Sacks 同意了方向（[01:29:11]）："如果美国不建这些数据中心，它们会在其它国家被建起来，而我们会付钱进口 token。"
  • ⚠️⚠️ 而本页必须记下这条与同期另一条预测在同一事实上相反，因为本期无人把两条放在一起：Friedberg 本期的"政府会把数据中心当公用事业来控制谁拿到算力"（[00:44:46]，本库记为他的"政府会管算力分配"预测的第四次表述，详见视频页第四节 ④）要求算力留在管辖范围内才管得住；✅ 而如果外迁真的接近零成本，那么管制越紧外迁越快，管制就只能管住留在境内的那一部分。 ⚠️ 本页标注这正是本库从 2026-10-02 起替 Friedberg 记下的那个未被回答的问题的一个具体版本，而这是第三次无人追问。