跳转至

"HBM 是一种可憎的内存,只不过是我们手上最好的那种":30 年零个新内存、铜的死期、以及"能源容量等于经济容量"(a16z / Pat Gelsinger,2026-10-09)

  • 嘉宾: Pat Gelsinger(前 Intel CEO、前 VMware CEO,现 Playground Global 普通合伙人)
  • 主持: a16z 一方两人。⚠️ 姓氏全程未被播报,Pat 开场回应时只叫出两个名字:"Rayu"([00:01:02],字幕拼写,本库不还原)与 "Guido"。⚠️ 可用线索有三处,本库照录但不裁定身份:① 开场自述 Pat 是两人的 "former boss"([00:01:02],⚠️ 既可指 Intel 也可指 VMware);② 其中一位自述 "我在 Stanford 教书时也遇到过同样的事"([00:05:03]);③ 谈光交换时一位对 Guido 说 "Nick McKeown……你也认识他一点",随后有一问一答 "他是你导师吗?——他不是导师"([00:37:26]–[00:38:27])。⚠️ 转录稿没有给出任何姓氏,本库不补。
  • 来源: YouTube · 53 分钟
  • 转录稿: sources/a16z/20261009-1Q_7yU7FZ1k

⚠️ 人名与术语还原(自动字幕,均为高置信度):HBM → 稿中多处作 "HPM"/"HBM" 混用;Groq → "Grock";GraphCore → "Graph Core";Optane → "obtained"/"Optane";d-Matrix → "Dmatrix";Cerebras?→ ⚠️ "Cabbrris"([00:24:18],本库无法确定还原,见下方存疑条);Alberto Sangiovanni-Vincentelli → "Alberto Sanji Yavanji Vincentelli";Ed McCluskey → "Ed McCcluskey";Nick McKeown → "Nick Mune"/"Nick Mune";Verilog → "vera log"/"very log";femtojoules → "phentojoules"/"phentojlesw";radix → "radics";III-V 族材料 → "35 material"(出现两次,按上下文为 III–V);Carnot → "car's car"/"carinal";SnowCap → "snowcap";AlvaEnergy?→ ⚠️ "Alva"([00:44:33],公司名无法确定还原,本库不补)。

⚠️ 本库无法确定还原的四处,一律照录并标为存疑:① [00:24:18] 他在 d-Matrix 之外点的第二家公司"Cabbrris"——⚠️ 字形不支撑任何确定还原,本库不猜,只记"他点了另一家在做同类技术的公司";② [00:44:33] 核电那家公司"Alva";③ [00:45:33] "the Oracle, you know, uh, comet, you know, was just I"——⚠️ 这半句明显残缺,本库只能确定他把某个与 Oracle 相关的近期事件当作"数据中心项目违约"的第一个信号,具体是什么事件稿中无法还原,本库不引用这半句的内容;④ [00:07:03] "things like jalapeno today"——⚠️ "jalapeno" 疑为某个芯片/项目代号的误转,本库不还原,只记他举了一个"第一性原理地用 AI 做芯片设计"的例子。

✅ 本页认为这是本库在 AI 算力与基础设施 上最有技术密度的一期,而它的价值集中在五处本库此前完全没有的东西:① ⚠️⚠️ "瓶颈永远在移动"被落实成一份具体的时间账:AI 已经把设计压到 3 个月,但出硅到上架仍要 9 个月;② ⚠️⚠️ 一句对 HBM 的定性judgment——"可憎的内存,只不过是我们手上最好的那种"——加上"过去 30 年零个重要的新内存"这条他亲历的产业史;③ ⚠️⚠️ 他对三条热门架构路线逐条说"我不是粉丝":堆高到 8/16 层、把内存挪出封装走全光、以及 PIM(存内计算);④ ⚠️ "铜 5 米比光 100 米更贵"这条已经翻转的成本对照,以及 "我本来根本不该造 NVL72";⑤ ⚠️⚠️ "能源容量等于经济容量"这条他此前讲过的论点,第一次被他配上了后果:数据中心项目会开始违约。

⚠️ 利益相关:⚠️ 这是一位风投机构合伙人(Playground Global)在另一家风投机构的频道上、与两位前下属对谈。全期他点了至少五家自己投的公司:d-Matrix、一家 stealth 新内存公司("我刚又投了一家")、vertical GaN、SnowCap(超导)、以及 "Alva"(核电,名字存疑)。 ✅ 本页按既有口径处理:把物理与工程论证(可独立评估的部分)当作内容收录,⚠️ 把涉及他投资标的的性能承诺(尤其"超导带来一千倍功耗性能")一律标为自述未核实。

✅ 而本页认为这一期的论证质量高于平均,理由是他反复给自己下限定:"我可能在这件事上是错的"(PIM,[00:33:25])、"我在看一个比我自己更专家的人"(scale-up,[00:39:29])、以及对自己最爱的那条预测的自嘲——"我大约 25 年前宣布了铜的死亡。总有一天我会说对的。"([00:34:25])

概要

  • ⚠️⚠️ 本期最该被长期引用的一条,是他把"AI 让芯片设计变容易"这件事直接换算成了一份时间账,而结论是设计已经不是瓶颈了([00:09:05]–[00:11:06])。他让主持人跟他一起做思想实验:"假设 Guido 和 Pat 一起去做一颗很棒的新芯片",把 AI 工具放出去,"三个月我们就有一个很棒的设计"。然后他开始数后面的时间:
  • ⚠️ "我们还有九个月的硅加工时间。所以我能在三个月里设计出这东西,但我要九个月才能真正拿到规模化的硅。"
  • ⚠️ 他把这九个月拆开了:"首先,我不可能在三个月内从 fab 拿到任何东西——而这还是在我有超级加速的设计流程的前提下。然后我还得进先进封装。3D 封装正在变复杂,所以那又是三个月。然后我还得把它做进一个机架级的方案里,因为现在没有什么东西是一颗芯片了,它是一个机架。"
  • ⚠️⚠️ 而那句后果本页认为是全期最锋利的一句:"因为如果要花我一年半才能真正拿到规模和上面的软件……那我对 AI 负载的理解就已经不适用于我设计的那颗芯片了。" ⚠️ 他给的历史案例是 GraphCore([00:11:06]):"GraphCore 不是一个坏设计,但世界往前走了。"
  • ⚠️ 他要的东西很具体:"我们需要新形式的光刻";"需要不要求 5000 万美元掩模成本就能进原型的设计流程";目标是 "怎么把它压到一两个月"。
  • ✅ 本页认为这段的结构价值在于它给"AI 加速研发"这个命题提供了一个反例形状:⚠️ AI 压缩的是整条链路里已经最快的那一段,而剩下的九个月是物理与资本约束,不吃 AI 的加速。 这与主持人开场那句概括互为一体:"每当你有了让某件事变容易的技术,那意味着瓶颈挪到了别处。"([00:08:04])
  • ⚠️⚠️ 而内存那条判断是本期最该被引用的定性,因为它来自一个亲手参与过至少五种新内存架构、全部失败的人([00:11:06]–[00:12:07]):"正如我描述过的,HBM 是一种可憎的(hideous)内存。它只不过是我们手上最好的那种。"
  • ⚠️ 他列的 HBM 具体罪状有五条:"它是一种糟糕的内存。我得到糟糕的位密度;我被限制在岸线带宽(shoreline bandwidth)上;功耗问题;热问题——而 DRAM 不喜欢热。" ⚠️ 主持人补的那句"把所有东西集中在一个点上"他接了"这很糟糕"。
  • ⚠️⚠️ 而那条产业史的问法与答案本页认为该完整保留([00:22:18]–[00:23:18]):他先自述 "我个人至少参与过五种不同的新内存架构,Optane 只是其中之一,它们都没能见到天日",又说 "我大概熟悉过去 30 年业内发生过的接近 100 种",然后反问主持人:"那么过去 30 年里我们到底有过多少种重要的新内存?" ⚠️ 主持人的回答是一个字:"零。"
  • ⚠️ 他给的清单是:"DRAM、SRAM、flash。好,还有什么?"(⚠️ 主持人提"flash 堆叠算一点吧",他答"勉强算")
  • ⚠️⚠️ 他给的失败原因不是物理而是产业结构,本页认为这是本期最该被记住的一条机制([00:23:18]):"过去三四十年,内存是一个糟糕的行业——因为你一年赚钱,然后接下来四年亏钱。那么我们就去一个五年里只有一年赚钱的行业做 R&D 吧?这一直极其困难,因为它被如此剧烈的商品化周期驱动。"
  • ⚠️⚠️ 而他认为这次不一样的理由正好是那个结构变了([00:24:18]–[00:26:20]):主持人给的事实是 "三大内存厂商现在都在全球市值前 20"(⚠️ 自述,本库未核实),他自己加的数是 "我认为内存行业的市值在过去四年里增加了 2.5 万亿美元"(⚠️ 他先说"几百亿"然后自我更正为万亿级,本库照录这次更正)。落点是:"我认为资本与技术需求的结合现在会让内存创新变得合理。"
  • ⚠️ 他给的技术方向是两类:"把内存和计算拉到一起"(点了 d-Matrix,自述是他投的;⚠️ 另一家公司名存疑);以及新材料——"很多人在看铁电(ferroelectrics)这类东西,找非电容式的高密度内存,找能同时高性能、高密度、可堆叠的内存。" ⚠️ 他明确说自己不看好低成本 flash 路线:"flash 或 MRAM 结构的底层单元速度与性能有点问题。"
  • ⚠️ 而他给的那句结论他自己重复了两遍:"内存创新 30 年来第一次近在眼前。" ⚠️ 他同时自述 "我刚又投了一家新内存公司,还在 stealth"——✅ 本页据此把这条判断标为利益相关方的预测。
  • ⚠️⚠️ 他对三条当下最热的架构路线逐条说"我不是粉丝",本页认为这组否定是本期对 AI 算力与基础设施 最有价值的部分,因为它们都给了物理依据而不是口味:
  • ⚠️ ① 堆高到 8/16 层:不信([00:27:21]–[00:28:21])。机制是 "堆叠的问题在于,随着你走向更高维度的堆叠,整个堆的价值变大了,这意味着堆叠过程里任何单层的良率不能只是线性上升——它必须指数式上升,制造与缺陷特性要指数式改善。当你到八层或十六层高的堆,把那个数学算一遍会变得极其困难。"
    • ⚠️ 主持人提"可以像二维那样做冗余设计",他接受但不让步:"当然。但记住那就是 DRAM 的本性,他们一直有坏块替换、有备用行。所以我绝不是在贬低那个,但即使你做了,你仍然需要良率好到那种程度。如果我有一颗裂了的 die,我不管你在里面建了多少韧性——它就是一颗坏 die。"
    • ⚠️ 他给的落点是 "中层楼":"我不是一个疯狂的 16 层、32 层堆的人。我认为会是不错的三层、四层、五层,最后就成了那个甜点区。" ⚠️ 而内存堆他给得更窄:"我不觉得它会变成八层堆,所以对我来说两层或四层。"
    • ⚠️⚠️ 而他算过一遍整封装的厚度账,本页认为这是这一节最有信息量的一段([00:29:21]–[00:30:21]):计算 tile("现在所有东西都变成 reticle 受限的了",所以要问能不能走更多 chiplet)+ 两到四层内存堆 + "供电需要被集成进去,而且我要它在 Z 方向上,因为我要我的电轨从这里进来" + "相当智能的 RDL 层来跨平台分发信号" + 光学("III–V 族材料结构会靠近这个复合体,因为我要我的 IO 深度集成进这个构造")。⚠️ 结论是:"所以某种程度上,把这些片都加起来,我那个标准件已经差不多八层厚了。而我认为这大概就是你能做到的全部了,至少以我们今天理解的制造来说。"
    • ⚠️ 他对这件事的措辞很直接:"这是一项工程壮举,也是一场制造噩梦。但这就是物理正在把我们带去的地方。"
  • ⚠️ ② 把内存挪出封装、计算与内存之间走全光:不信([00:32:23]–[00:33:25])。⚠️ 主持人把这条明确定位成"堆叠的另一个极端"。 他的机制是 OEO 转换的能量代价:"你在你的核心计算复合体里要求越多的 OEO(光—电—光)接口,就越难,而且你总会有损耗。"
    • ⚠️⚠️ 而那条数量级对照本页认为是全期最可操作的一条物理判据([00:33:25]):"记住,每次计算的飞焦(femtojoules per compute)现在其实好得惊人。而每比特通信的飞焦相比之下差大约一千倍。如果我要花那么多去拿到大的内存池——" ⚠️ 结论是:"所以我自己不喜欢这些做法。我认为它们在某种程度上违背了方案的底层物理。"
    • ⚠️ 他承认这条路线确实给了一样东西:"它给你访问大的内存池。但我为了到那儿烧掉很多功耗。"
  • ⚠️ ③ PIM(存内计算):不信,而且给了一条时间上的嘲讽([00:33:25]–[00:34:25])。机制是对负载的约束:"因为现在我得把我的负载、把这些小块计算推进内存里……这给负载加了约束。"
    • ⚠️⚠️ 而那句判断本页认为是本期最该被引用的一句:"大多数 PIM 想法已经存在了 25、30 年。而我认为 25、30 年之后,它们还会在那儿晃。"
    • ⚠️ 他自己给了限定:"而且我可能在这件事上是错的,特别是考虑到我们现在能通过设计带来的设计灵活性与智能。"
    • ⚠️ 他要的替代方案说得很具体:"给我很棒的内存带宽、高密度、高性能,并且把它放到真正的计算引擎附近。我预计那会是一个在很多种、且不断演化的负载上更可泛化的方案。" ✅ 本页认为"更可泛化"正是他全期所有否定共用的那一条标准——见下文第三节。
  • ⚠️⚠️ 但他对一件事是明确的支持者,而这是他讲了 25 年的预测([00:34:25]–[00:38:27]):"现在我是一个巨大的粉丝——把所有 IO 功能都移到光学。" ⚠️ 他的自嘲值得完整记:"我大约 25 年前宣布了铜的死亡。总有一天我会说对的。"
  • ⚠️ 他的边界划得很清楚,而这正是他与上面那条"全光内存"否定的一致之处:"对我来说所有 IO 都该走光学。但那个核心的计算—内存复合体,不行。"
  • ⚠️⚠️ 而他说这次成本已经翻转了,本页认为这条对照是本期最该被核查也最有预测力的一条([00:35:25]–[00:36:26]):"今天我们的 scale-up 环境里,我们在放大量的铜,而本质上铜正在变成一根越来越短的波导。然后突然之间,要让我的铜在 5 米上工作,比让光在 100 米上工作更贵。所以我认为物理今天就在把我们推向那里。"
  • ⚠️ 被追问"那为什么还没迁过去",他给的是供应链而不是物理:"这是一条复杂的供应链,它从来没有在规模上被测试过。我认为现在每个人都在看某种形式的 NPO/CPO,在 28、29 这个时间框架里——因为我没法在不做那个迁移的前提下,把我的 scale-up 环境扩到大 radix 的计算集群。"
  • ⚠️⚠️ 而他对 NVL72 的那句自我批评本页认为是全期最该被引用的一条反事实,因为它是一位前 CPU 巨头 CEO 在评价竞争对手的旗舰工程([00:36:26]):"其实我本来根本不该造一个 NVL72。它是一个工程奇迹,也是一场制造噩梦。它花了整个行业多出一年半的时间去消化那头野兽。而我们能把它做到规模,这确实很了不起。"
    • ⚠️⚠️ 反事实那半句是重点:"但那真的证明了:如果我们当时有一条更成熟的光学供应链,我们今天会先进得多。我们今天就能造出更好的 scale-up 环境——更好的功耗、更好的成本、更好的能耗。但我们当时没有光学供应链的成熟度来允许那样做,而这些事情不是能轻易解决的。"
  • ⚠️ 他列的剩余工作有四项,并明确说不是基础问题([00:37:26]):"这些东西得在一千万 GPU 的规模上工作";"它得装进封装里";"很多形式的光学不喜欢糟糕的热环境——而糟糕的热环境恰恰是这个游戏的本性";"业内当时没有足够的激光器产能"。⚠️ 落点:"但我在那儿看不到任何基础性的东西。在这个点上它只是大量的硬活。"
  • ⚠️⚠️ 光学那条线的终点是网络架构,而他借 Nick McKeown 给出了本期最简洁的一条架构论证([00:38:27]–[00:39:29]):"我们当年造网络,是为了能处理任何包去任何地方、而对它可能去哪儿毫无知识。而当你想到 AI,它几乎恰好相反——我们做的是大的、可预测的流。"
  • ⚠️ 他让这条描述自己得出结论:"所以就这个描述本身就说明:嗯,那看起来更像一个电路交换(switch),而不是一个包交换。"
  • ⚠️⚠️ 而他把两条线合起来做了一次完整预测:"所以我确实认为这次'走向光学'与'有一个远更可预测、可管理、大流的负载'的汇合——我确实看到:我们会一路把光学带进计算复合体,我们也会一路走到 OCS 或某种形式的光交换,配上更可预测的流。我是说那才是对的架构。"
  • ⚠️ 他随后把 scale-up/scale-out 的区分说成会溶解:"如果我的 scale-up 足够大,那就只是问:我 scale-up 环境的 radix 是多少,以及我什么时候想把它接到其它真的很大的集群上。对我来说那最后是一个相当漂亮的答案。" ⚠️ 他紧接着自我限定:"但我在看一个在这件事上比我自己更专家的人。"
  • ⚠️ 主持人一侧给的是同向但来源不同的论证:"我一直觉得 scale-up 对 scale-out 某种程度上是个人为的区分。你明白它从哪来——我们在用不同的协议,一个是前端一个是后端网络……但如果你退一步从系统架构视角看,它达成的是同一个目标,只是口味和协议略有不同,而我认为随时间会收敛。"
  • ⚠️⚠️ 能源那一节是他此前在本库里讲过的论点,而这一期他第一次给了后果([00:42:32]–[00:45:33])。他的诊断先指向国家层面:"我们国家在能源容量这件事上做得很糟糕。本质上我们有 10 到 15 年时间,我下线煤电的速度和我增加可再生的速度一样,国家在总能源容量上基本是走平的。"
  • ⚠️⚠️ 而那句命题他说得比此前更直接:"这不好,因为在一个 AI 数字时代,能源容量等于经济容量。所以本质上我作为一个国家的经济容量 15 年走平——如果你接受这个论点的话,而我认为它在过去 5 年里是很可证明的。"
  • ⚠️ 他给的当前增速数字是:"即便有了这些,我们可能把国家能源容量提到了每年 4%。"(⚠️ 这里有一处字幕混乱,主持人把 "0 到 1" 听成了 "4x",他更正为 "4%",本库照录这次更正。)
  • ⚠️⚠️ 而本页认为这一期真正新的内容是那条后果,因为它把"能源是上限"从一个抽象约束变成了一个可观察的金融事件([00:44:33]):"从根本上说,能源容量在某种程度上压住了我们能对 AI 狂热到什么程度。因为如果我没法给它们供电,为什么要建一个新数据中心、买一百万片 GPU?而我认为你会看到越来越多的违约(defaults)发生在很多那些数据中心项目上,因为能源不会在那儿。"
    • ⚠️ 被问是不是重大逆风,他的回答分了两层:"我认为它会是一个逆风,而且我认为你已经开始看到一些最初的指标了。" ⚠️ 他随后点了一个与 Oracle 相关的近期事件作为"第一个",并说"这是你将会看到的很多个中的第一个"——⚠️ 但那半句字幕残缺,本库无法还原是什么事件,因此不引用其内容(见页首存疑条)。
    • ⚠️⚠️ 而他对这件事的定性是收缩而非崩塌,本页认为这个区分值得记:"现在,并不是说我们会因此慢下来,但我认为人们会开始问:我真的有那个能源,来为我正在做的资本承诺——为数据中心机架的水泥、为 GPU 采购——做担保吗?所以我确实认为这会是一个上界(upper bound)。"
  • ⚠️ 他列的供给侧约束有三条,而第二条本页认为最该被 中美 AI 竞争 引用:核电 "作为基荷是极好的东西"(⚠️ 他自述投了一家,公司名存疑),而 "美国上一座并网的核反应堆是 20 年前","我们就这么停掉了一个很有能力的产业";⚠️ "不幸的是我们所有的可再生都在中国有很深的依赖,这对我们很不幸";"燃气轮机的交期现在只有八年"(⚠️ "only eight years" 是反讽,本库照录)。
  • ⚠️ 而供电侧他点的具体技术是 800V DC 与单级转换([00:45:33]–[00:46:36]):"走向 800 伏直流数据中心,绝对的。能够消除沿途那么多转换步骤。" ⚠️ 他的玩笑是 "800 伏直流,爱迪生的复仇来了"(⚠️ 指直流—交流之争,本库按此理解)。具体标的是 vertical GaN(自述是他投的):"能够一步完成 800 到 48、或 800 到 12、甚至 800 到 5。" 另点了固态变压器与开关。
  • ⚠️⚠️ 而他在功耗上给了一条本页认为最该被核查的断言,因为它是对行业旗舰产品线的直接指控([00:47:36]):"我们也得说,我们需要改变物理——因为 CMOS 没有改善。NVIDIA 芯片最近五代的每 teraflop 功耗基本是走平的。这不 OK。"
  • ⚠️ 他给的解法是超导:自述投了 SnowCap,"它提供了从根本上改变物理的机会,功耗性能好一千倍"。⚠️⚠️ 本页标注:这是全期最大的一条量级承诺,来自一位利益相关方,全期没有给出任何技术依据或时间表,本库记为未核实的投资叙事。
  • ✅ 而那条"CMOS 走平"的事实性断言本页认为是本期最值得独立核查的一条,因为它可以用公开规格直接检验,且它是他全部"物理必须改变"论证的前提。
  • ⚠️ 他对"一百颗 AI 推理加速器会不会收敛"给了三条理由,而第一条是关于负载而非市场([00:13:09]–[00:18:15])。⚠️ 主持人先把问题逼到了历史口径上:"更挑事地说,历史上任何行业里都从来没有过一百个竞争的处理器供应商。" 他的答案是 "我把它看作一件更临时的事,而且它会收敛",三条理由见下文第二节。
  • ⚠️ VMs 那一节是全期最后一个话题,而他把它收敛成了一条抽象层论证([00:48:37]–[00:52:41]):"每一次创新总是导向下一层抽象。" ⚠️ 他对虚拟机的定性是:"虚拟机这个抽象,不管它是从基础设施层做的还是从应用层做的,我认为它仍然是一个基础性的抽象模型,值得在计算层级里永远有一个位置。"
  • ⚠️⚠️ 而他把 VMware 的经验直接映射到 agent 上,本页认为这是本期最该被 实践中使用 LLM 引用的一段([00:49:37]):"在 AI 语境里,我们想这些 agent 蜂群。那么谁来管理这些 agent?谁来围绕所有 agent 创建安全画像?谁来管理 agent 的性能?本质上,虚拟化与管理的每一个基础元素,都需要在这个下一个计算层级里被重新创造一遍。"
  • ⚠️ 主持人给的那条产品观察本页认为比 Pat 的回答更具体([00:50:38]):"最有意思的是我们现在在造 VM,是为了让它们对 agent 可用,而不是对人可用。而我们在另一些公司看到的是,这改变了很多——改变了形态(form factor)、改变了你怎么营销它们。你希望那个 agent 来为你的 VM 产品做选择。它也改变了你能有多少复杂度,改变了启动该多快。人比 agent 有耐心得多。"
  • ⚠️ 他的回答把设计约束写成了一句话([00:51:40]–[00:52:41]):"虚拟机的每一个方面,如我们今天所知所爱的,它服务的是 agent,而不是服务硬件和人。所以我认为那成了你这一侧的根本设计约束:我怎么让 agent 变得很棒?怎么让它们安全?怎么让它们高性能?怎么抽象它们?怎么迁移它们?" ⚠️ 他自己造的那个词是 "给 agent 的 vMotion"。
  • ⚠️ 但他明确拒绝了"只服务 agent"这个框:"我确实认为需要有——给 agent 的 VMware,和给人的 VMware。" ⚠️ 主持人两次把话题推回 agent("我们就盯着 agent,它们现在有意思得多"),而他坚持把人那一半说完:"我也需要想:人怎么能设定策略、描述那些 constitution、拿到那些 dashboard。而我认为这才是有意思的地方,因为你需要两者都做,不只是其中一个。" ⚠️ 他这里引的是 "Dario 的 constitution"(即护栏/策略),本库照录这次引用。
  • ⚠️ 他对训练与推理会不会继续分化给了一条反向判断([00:40:30]):"作为负载演化的另一个特征,我确实认为训练与推理的分离在未来会变得更少、而不是更多。" 理由是持续学习:"我认为会有一些算法域会说:是的,持续学习成了算法的本性——我确实想让我的推理环境在更新我的模型权重,因为那在给我越来越多的精细化。"
  • ⚠️ 他自己把这条标成了"反对异构"的论据:"这有点是反对越来越异构架构的论证。" ⚠️ 而主持人给的那条仍然成立的差异是规模:"但要有用所需的节点数,推理的直径比训练小。" ⚠️ 他只接了 "今天是这样"。

核心观点

一、⚠️⚠️ 时间账:AI 把设计压到 3 个月,但出硅到上架还要 9 个月

来源同本页([00:07:03]–[00:13:09])。

  • 那份时间账与 GraphCore 的教训,见上文概要。 本节补三条上文没有展开的:
  • ⚠️ 他对"AI 已经能做什么"的边界划得很清楚,而分界线是模拟电路([00:07:03]–[00:08:04]):"有些设计环节仍然真的很难,很多模拟(analog)那一面大概是最好的例子——它们仍然不是可 AI 化的(not AI-able)。你就是需要大量硅数据才能拿到那些。所以你要么在模拟设计上变得极其保守,让你能够——我姑且说——AI 它;要么你就得用笨办法做。"
  • ⚠️ 而逻辑那一侧他给的是明确肯定:"现在很多逻辑功能真的能用 AI 工具与技术以相当惊人的方式完成。你的晶体管预算足够大,设计工具变得足够聪明,几个专家引导工具、告诉它怎么用。"
  • ⚠️⚠️ 他给的历史类比本页认为是全期最有分量的一次自我定位:"我真的认为这会有点像 486 那样——你回头看会说:对,那就是芯片设计新时代的开端。" ⚠️ 而这个类比有依据:他自述 486 是"第一颗实现你今天会认为是现代 EDA 技术的芯片"([00:06:03]),"没有 Verilog,所以我们发明了 HDL——Intel 硬件描述语言,我自己写了那个语言,然后你得给那个语言造一个编译器;没有自动布局布线,所以我们得发明那个",并与 Berkeley 的 Alberto Sangiovanni-Vincentelli 及其学生一起做了 "第一次布局、第一次布线、第一次自动时序管理"。
  • ⚠️ 主持人把这条推到了当下([00:07:03]):"人们回头看 Blackwell 时会不会说,这是 AI 接管设计流程之前完成的最后一代?我们现在是不是处在一个类似的转变里?" ⚠️ 他的回答是 "肯定有那些方面"。
  • ⚠️ 他对"AI 之后的下一个前沿在哪"的回答,本页认为最有价值的部分是他点的那三个瓶颈是并列的,不是依次的([00:11:06]–[00:13:09]):制造规模化(九个月)、内存、功耗。
  • ⚠️⚠️ 而功耗那一条他给了一个本库此前没有的具体数字,本页认为这是本期最该被 AI 算力与基础设施 回填的工程口径([00:12:07]–[00:13:09]):"而且今天大多数功耗仿真方面都很糟。你没有好的 3D 建模工具来做功耗、功耗耗散、热点等等。"
  • ⚠️⚠️ 那个数字是:"本质上我几乎是在对我的整个功耗包络做 guard banding……所以本质上我损失了大约 40% 的功耗在 guard banding 上。所以我必须在功耗建模上变好得多。"
  • ⚠️ 他紧接着说耗散侧同样糟:"然后我的功耗耗散技术也很差。" ⚠️ 主持人补 "供电模型也得变",他接了 "是的"。
  • ✅ 本页认为这条 40% 值得单独标出,因为它是一个可被独立检验的工程声明,而且它意味着"功耗墙"的一部分是建模能力问题而非物理问题。
  • ⚠️ 热那一节他点了材料与冷却两条([00:30:21]–[00:31:21]):"你就是不能有今天这些物理热点,所以你必须更聪明地利用热、扩散热";材料侧 "钻石和其它东西被假设为能更好地做热冷却的方式";以及 "更好的液冷技术,带好的热特性直接坐在它上面"。⚠️ 他对这条的玩笑是:"所以我们工程师正在变成水管工。" ⚠️ 主持人接的是 "没错,我们得在芯片尺度上操心流体力学"。
  • ⚠️ 而他给了一条把供电与散热连起来的因果,本页认为这条很少被这样串([00:31:21]):"如果我能在我想要的电压上更高效地把电送进来、有好得多的功耗响应性和我的电压调节,那我就不会制造那么多热烟囱(thermal chimneys)。"

二、⚠️ 一百颗 AI 加速器会收敛:三条理由,其中第一条是关于负载的

来源同本页([00:13:09]–[00:21:18])。

  • ⚠️⚠️ ① 他不信"大规模专用化",而理由是负载正在不停地往回走([00:14:10]–[00:17:14])。他先描述现状的粒度化:"现在我有专门的 prefill 对 decode。然后人们说我们真的需要一个专门的 midfill 层,不只是 prefill。所以现在我有早期 prefill、又有 midfill。"(⚠️ 主持人补 "如果听 OpenAI 的,可能还有 speculate 和 verify")
  • ⚠️ 他的判断是:"突然之间我的计算机群在负载上变得越来越细碎。而我认为历史上任何时候你看到那种情况,它都是不可持续的。"
  • ⚠️⚠️ 而他给的那个反转例子本页认为最有说服力,因为它是正在发生的:"然后突然之间,当人们走向推理模型时,他们说:我想要某种看起来更像 CPU 的东西。所以突然之间我不想要那个层级了——那没有变成我计算容量的主要部分,我在这边需要更多。"
  • ⚠️⚠️ 他给的第二条负载演化本页认为是本期最该被 AI for Science 引用的一条,因为它预言的是精度需求的回归([00:16:13]–[00:17:14]):"我认为今天的模型也即将经历一些演化性突破。我认为 LLM 某种程度上正在触到极限,而现在当人们看怎么真正建模 3D——一个扁平的 LLM 在你走向分子、化学、成像时效果不好。所以我认为我们会看到那个的极限,这会造成算法域里不同的转移。"
    • ⚠️⚠️ 而那条具体机制是:"我也认为一些最有意思的负载会出现在你把类似 HPC 的东西带回 AI 的地方——突然之间 64 位精度又重要了。"
    • ⚠️ 他举的例子很具体:"想象我的 AI 模型现在在归纳出化学分析里最有意思的五个域。好,那些化学算法会以高精度运行。而哪一块会是负载的主要部分——是拿到我需要跑的那五个算法,还是在不同的化学或生物系统上跑那五个算法?"
    • ⚠️ 他的落点:"所以我确实认为,当我们优化我们的 AI 系统时,它们会把我们带回一些更传统的高性能计算的东西。"
  • ⚠️ 他对自己这条理由的总结是口味加判断:"这种极端专用化在计算架构上,我有点不喜欢它——因为我不认为那会是两三四年后负载的样子。"
  • ⚠️ ② 资本与规模:他的论证是规模门槛而不是技术优劣([00:17:14]–[00:18:15]):"第二是,现在有大概一百个,有多个光学的、有概率式的等等,而它们不会都赢。它们不会都赢,因为归根结底你必须拿到规模,而规模要求你必须赢、必须拿到资本、必须把负载搬上去。所以我认为'你会有一百个这种东西'有点违背逻辑。"
  • ⚠️ 而他把这条量化成了一句具体的资本问题([00:20:16]):"好吧,我能借 500 亿吗?我是说你说的不是小额资本支出。你说的是非常大的资本支出、数据中心、电力、承诺之类的。所以我得把这东西造到规模。而这会抵抗很多异构性。"
  • ⚠️⚠️ ③ 赢家会挑赢家,而这条本页认为是三条里最具体可验证的一条([00:18:15]):"我也预期赢家们会挑一些赢家——一个 OpenAI、一个 NVIDIA、一个 Anthropic 会说:我喜欢这一个,因为它不只是硬件,而是硬件和软件怎么协同演化。"
  • ⚠️ 他给的形状是:"这里有十个我可以挑的,我喜欢那一个。而这确实要求在软件和负载演化上投资,才能利用那些平台。"
  • ⚠️⚠️ 而主持人给了一条明确的反论,本页认为这次交锋是本期最有价值的一处分歧,因为两人都接受对方的事实但给了不同权重([00:19:16]–[00:21:18])。主持人的论证是历史约束已经松动:"历史上我们标准化到一两个架构,是因为不同指令集很难,我们得造多个编译器——本质上是软件复杂度规定了你只能有一个很小数量的硬件平台。"
  • ⚠️⚠️ 而那条新事实是:"这一部分似乎正在因为 AI 而改变。今天写一个优化的 kernel——我认为(某家)就是个很好的例子,他们基本上说:人类已经没法再编程这东西了,但一个 agent 蜂群用一晚上就能做到,而那就是我们需要的全部。"(⚠️ 稿中公司名残缺为 "I mean I think was a great example",本库不补)⚠️ 推论:"所以基本上你可以说,如果你能造出一颗有某种能力的芯片,现在在它上面造充分利用它的软件层容易得多得多。这会不会导致我们有多一点的异构性,就因为编程那种异构性变容易了?"
  • ⚠️ 他部分接受了这条:"我确实认为它改变了瓶颈落在哪里。" ⚠️ 但他的回答是把瓶颈换到另外两处:"第一个瓶颈就是我们已经谈过的那个——造这些东西仍然要一年半。第二个瓶颈是,不仅要一年半把它们弄进机架、规模化,还要让它们有用。"
  • ⚠️⚠️ 而他给的那条"异构性会被藏起来"的预测本页认为是这次交锋最有价值的产出,因为它同时承认了双方([00:21:18]):"显然大玩家——我们在 NVIDIA 对 Groq 这件事上看到了——会拥有一部分那种异构性。而两年后,你分不出 Groq 在 NVIDIA 内部是什么,它就只是另一个。所以你会看到架构把异构性藏起来。而对我来说那完全没问题——我是说那就是分层、那就是抽象一直在做的事。"
    • ⚠️ 他的收口是:"但我认为这些力量是强大的力量,我姑且说——暴露出大量的异构性?不,我认为它会被抽象到下面去。但归根结底,把这些东西造到规模仍然很难。"
  • ⚠️ 主持人在后面又从第三个角度提了一次异构性([00:41:32]):"不同类型的 AI 负载需要非常不同的底层——有些更受计算限制,有些更受内存带宽限制。如果你有一个小的 diffusion 负载,那个最优的卡看起来和一个要在大规模上运转的 15 万亿权重 LLM 非常不同。" ⚠️ 他的回答是规模经济,而这次给了具体数字形状:"但我现在说的是把一百万片 GPU 放到我的数据中心里工作。你说对那个特定的 diffusion 负载我该放点这样优化的东西,所以我现在要放一千片那个、为那个负载我需要两千片这个——突然之间你就拿不到规模的灵活性了。" ⚠️ 他补的运营成本项是:"管理和升级、连接、故障域,所有这类事情要花我多少。"(⚠️ 主持人开玩笑 "agent 会做所有升级,所以不再是问题了",他接了 "是啊,谢谢,一切都变容易了"——本库记为玩笑,不作为观点。)

三、⚠️⚠️ 他全部否定共用的那一条标准:可泛化性

本页的综合,依据分散在全期([00:14:10]、[00:17:14]、[00:28:21]、[00:33:25]、[00:34:25]、[00:41:32])。

  • ✅ 本页认为这一期值得单独提炼一条本库自己的观察:Pat 在这一期里说了五次"我不喜欢/我不是粉丝",而五次的理由可以归成同一条标准——方案是否对还没发生的负载保持可泛化。
  • 反对大规模专用化(prefill/midfill/decode 分层):⚠️ "我不认为那会是两三四年后负载的样子。"([00:17:14])
  • 反对 8/16 层高堆:理由是良率必须指数改善,而 "至少以我们今天理解的制造来说" 做不到([00:28:21])。
  • 反对全光的计算—内存互连:理由是每比特通信能量比每次计算能量差约一千倍([00:33:25])。
  • 反对 PIM:⚠️ "这给负载加了约束",而他要的是 "一个在很多种、且不断演化的负载上更可泛化的方案"([00:34:25])。
  • 反对按负载类型分机群:理由是失去规模的灵活性与运营可管理性([00:41:32])。
  • ✅ 而他唯一不设限地支持的那两件事,恰好都是"不绑定负载形状"的:所有 IO 走光学([00:34:25]),以及让内存本身变好——高密度、高性能、靠近计算([00:34:25])。
  • ⚠️ 本页标注:这是本页的综合而非他的原话。 ✅ 但本页认为这条标准有迁移价值,因为它给"该不该专用化"提供了一个可操作的提问方式——不是问"这个方案今天快多少",而是问"如果负载在 18 个月内换了形状,这个方案还剩多少"。 ⚠️ 而它的反面风险也该记下:这条标准会系统性地低估任何在窄负载上先取得规模的路线,而 NVIDIA 本身的 CUDA 历史 正是他此前承认 Intel 误判过的一次。

四、⚠️ 能源:从"防泡沫上限"到"项目违约"

来源同本页([00:42:32]–[00:47:36])。

  • "能源容量等于经济容量"、15 年走平、每年 4%、违约预测、800V DC 与 vertical GaN,均见上文概要。 本节补两条:
  • ⚠️⚠️ 本页认为这一期在能源线上最该被记住的是口径的变化:✅ 在 All-In 2026-07-15 那期 里,他把能源容量讲成一条让他安心的东西——"没人会在没有能源的情况下买 GPU、建数据中心,所以你能有多泡沫有个上界。我从中得到不少安慰。"** ⚠️ 而这一期同一条论点配上的是后果而不是安慰:"你会看到越来越多的违约发生在很多那些数据中心项目上。"
  • ✅ 本页认为这不是改口而是同一论证的两端:上限既保证了不会无限泡沫,也保证了已经签出去的承诺里有一部分兑不了。⚠️ 但本页把三个月间的语气变化记为一次值得追踪的时间线,而不是合并成一条立场。
  • ⚠️ 他对这一波硬件复兴的整体定性是全期最乐观的一句([00:46:36]–[00:47:36]):"功耗又酷起来了";"然后你在冷却系统里也会需要所有那些,所以会有一堆创新——涡轮机、制冷剂,突然之间它们又成了激动人心的新技术";落点是 "所以对我们所有硬件人来说,这就像眼前的一场文艺复兴"。⚠️ 主持人补的那句"在 25 年之后"和"我得回去重读卡诺效率、热力学第一定律是怎么回事",本库记为这一节的气氛而非内容。
  • ⚠️ 本页的交叉标注:✅ 本库在能源约束这条线上已有多份材料,而这一期的独特贡献是把约束定位到了供电链的具体转换环节(800V DC、单级 GaN 转换、固态变压器)而不是发电侧总量。 ⚠️ 发电侧的三条(核电停滞 20 年、可再生依赖中国、燃气轮机八年交期)均为他自述,本库未核实。

五、⚠️ 职业史那一段:本页只做索引,但其中一条有方法论价值

来源同本页([00:01:02]–[00:07:03],约占全期前七分钟)。

  • 事实线:16 岁意外拿到奖学金,跳过高中最后一年半去技校;18 岁被 Intel 招走("我从没坐过飞机");从技师做起,"286 末期进设计团队,386 的第四号工程师,486 的架构师与设计经理",而这些 "全都是在我做本科、硕士和博士工作的同时"。⚠️ 他的自评:"这是你可能拥有的最好的职业生涯——你白天在学,晚上把它付诸实践。"
  • ⚠️ 主持人把这段与 a16z 自己的项目挂上了钩([00:01:02]):"最近 Andreessen Horowitz 创建了这个 Horowitz Andreessen Academy,是去找 16 到 22 岁的有才华的人,把他们放进一个现代教育设置里,这样他们能为自己做事或加入今天的公司做好准备。你有类似的经历。" ✅ 本页标注:这是频道自有项目的一次引用,本库记为语境而非论证。相关期次见 Horowitz Andreessen Academy 发布 与 Amjad Masad 对它的内部质疑。
  • ⚠️⚠️ 而那条有方法论价值的是他与 Stanford 教授的两次争论,本页认为它解释了他全期的论证风格([00:04:03]–[00:05:03]):一位教授在课上提出一种新的 carry look-ahead adder 设计,"所以我说,好,我正在 386 的 carry look-ahead adder 上工作,那让我去试试它",两天后回来说 "它不工作","接下来两堂课就是我和我在 Stanford 的教授在争他的设计为什么不工作"。⚠️ 他加的那句背景是:"他有一本书正要出版,用的就是那个设计。所以他很恼火,这对他时间上很敏感。"
  • ⚠️ 第二次是 built-in self test:"Ed McCluskey 在 Stanford 是我的教授,他算是那个东西的父亲,而我们围绕他大多数想法为什么不好、对真实芯片不实用,有过很棒的争论——而我当时正在把 built-in self test 用到 386 上。"
  • ⚠️ 他也提了 John Hennessy 是他的论文导师,玩笑是 "显然他混得还行,我是说我帮了他的职业生涯"。
  • ✅ 本页认为这段可以当作读他全期技术判断的一把钥匙:⚠️ 他的否定几乎全部采取"理论上可以,但在真实制造/真实负载上不工作"的形状,而这正是他自述的 18 岁到 24 岁的训练方式。 ⚠️ 本页同时标注这把钥匙的局限:同一种判断风格也会让人系统性地低估还没有真实数据的新路线。
  • ⚠️ 他与主持人都提到这种"产业—学界摩擦"是硅谷的特性([00:05:03]):"我认为那是让硅谷如此独特的一部分……创业精神就在这里的水里,开公司、新想法、挑战教授。而你在 Stanford 这种地方当教授,就不能不预期被挑战、并享受它。" ⚠️ 主持人补的那句是 "那座象牙塔进出的人流量不错"。

六、其余几处,本页只做索引

  • ⚠️ Optane 的死他给了一次很短但本页认为值得记的交换([00:22:18]):主持人说 "我们想不起上一次内存创新是什么时候,可能是 Optane。我猜你跟那个有点关系。" ⚠️ 他的回答只有五个字:"是啊,那个死了。" ⚠️ 而随后那句 "我们杀了它" 被两人重复了三遍,本库照录但不裁定是谁说的。
  • ⚠️ 他对 reticle 限制给了一条提问而不是答案([00:29:21]):"假设我现在有一块很棒的计算 tile,那块 tile 需要多大?我是说现在所有东西都变成 reticle 受限的了。我能不能走向更多有更好良率特性、更好热特性的 chiplet?" ✅ 本页标注:他没有回答这个问题,照录为开放问题。
  • ⚠️ "在网络里积累的在封装光学经验能不能迁到 GPU"这一问,他的回答是能但加了规模条件([00:37:26]):主持人说 "我们大概在网络里积累了很多在封装光学怎么工作的经验,我认为其中很多会很好地迁移到 GPU",⚠️ 他的回答是:"我确实认为会。但突然之间,这些东西得在一千万 GPU 的规模上工作。"
  • ⚠️ 他对持续学习给了一句修辞式提问但没有展开([00:39:29]–[00:40:30]):"你的大脑会停止学习吗?" ✅ 本页照录,但标注他随后谈的是权重更新与数据集规模,没有谈算法可行性。
  • ⚠️ 全期有两个话题被明确提出但因时间放弃了,本页记下因为它们标出了这一期的缺口([00:47:36]、[00:48:37]):主持人自述 "过去一个小时我是个糟糕的时间管理者,还有那么多话题没覆盖";⚠️ 明确被点名放弃的是网络("我本来还想讲网络,但我觉得我们没时间了")。✅ 本页标注:这意味着 OCS 那一节([00:38:27]–[00:39:29])是全期关于网络的全部内容,没有更深的展开。

⚠️ 本页的六条限定

  1. ⚠️⚠️ 这是一位风投合伙人在另一家风投机构的频道上、与两位自述曾是他下属的主持人对谈。 ⚠️ 全期他点了至少五家自己投的公司(d-Matrix、一家 stealth 新内存公司、vertical GaN、SnowCap、以及核电那家名字存疑的公司),而每一家都恰好坐在他论证的落点上。 ✅ 本页按既有口径处理:把物理与工程论证(能量数量级、良率指数性、guard banding 40%、铜/光成本翻转)当作可独立评估的内容收录,⚠️ 把投资标的的性能承诺一律标为自述未核实。
  2. ⚠️⚠️ 本页认为最该被核查的三条断言:"NVIDIA 芯片最近五代的每 teraflop 功耗基本走平"([00:47:36],这是一条可用公开规格直接检验的事实性声明,而它是他全部"必须改变物理"论证的前提);⚠️ "超导带来一千倍更好的功耗性能"([00:47:36],全期零技术依据、零时间表,且来自他的投资标的);"内存行业市值过去四年增加约 2.5 万亿美元 / 三大内存厂商都在全球市值前 20"([00:24:18]–[00:26:20])。
  3. ⚠️ "我损失了大约 40% 的功耗在 guard banding 上"([00:13:09])本页单独标出,因为它是全期最具体、最可操作的一条工程口径,而它的含义是功耗墙有一部分是建模能力问题而非物理极限。⚠️ 但他没有说这 40% 是什么口径(单芯片?机架?峰值还是平均?),本库不补。
  4. ⚠️ 页首列了四处本库无法确定还原的字幕,其中两处本页明确不引用内容:[00:45:33] 那半句与 Oracle 相关的"第一个违约信号"(⚠️ 本库只记他认为这类事件会变多,不记具体事件);[00:24:18] d-Matrix 之外那家公司的名字。⚠️ 另两处是 [00:44:33] 的核电公司名与 [00:07:03] 的 "jalapeno"。
  5. ⚠️ 第三节"可泛化性是他全部否定的共用标准"是本页的综合,不是他的原话。 ✅ 本页认为它有迁移价值,⚠️ 但同时记下它的反面风险:这条标准会系统性低估任何先在窄负载上取得规模的路线,而 CUDA 正是他此前在本库里承认 Intel 误判过的一次(见 Pat Gelsinger 人物页)。
  6. ⚠️⚠️ 本页记下两处口径变化与一处缺口:① "能源是防泡沫上限"从 2026-07-15 的"让我安心"变成这一期的"会看到项目违约"——本库记为同一论证的两端,不合并成一条立场,但记为值得追踪的时间线;② 他这一期对"AI 做芯片设计"的态度明显比"AI buildout 乐观"那一期更分化(逻辑可以,模拟不行,而真正的瓶颈在 AI 管不到的九个月里);③ ⚠️ 网络被明确点名但因时间放弃,所以本期关于网络架构的内容只有 OCS 那一节,没有更深展开。