跳转至

"agent 会被 P99.9 卡住,而人不会":给 agent 造的云、2200 亿 capex,以及"从来没有一个瓶颈,只有最新的那个瓶颈"(a16z / AWS CEO Matt Garman,2026-10-08)

  • 嘉宾: Matt Garman(AWS CEO;EC2 的首任 GM,自述 2005 年作为商学院实习生做过"AWS 对谁最有用"的分析,答案是创业公司)
  • 主持: a16z 一方(⚠️ 姓名全程未被播报)。⚠️ 可辨认的线索有三处,本库照录但不裁定身份:① Garman 举权限的例子时说"你不会想直接给它 Ragu 的权限"([00:14:05],字幕作 "Ragu",是全期唯一一次出现主持人的名);② 主持人自述"on-prem 这件事我当年显然尽了最大努力把他们留在那儿",而 Garman 接的是"你当年在 on-prem 上造了很多东西,现在想把那些都搬进 AWS"([00:02:00]);③ 主持人自述"我们是你最早用 Nitro 的合作伙伴之一"([00:33:13])。⚠️ 三条合起来指向一位有企业本地基础设施背景、现在在 a16z 的人,但转录稿没有给出姓,本库不补。
  • 来源: YouTube · 56 分钟
  • 转录稿: sources/a16z/20261008-rn_afJaPldg

⚠️ 人名与术语还原(自动字幕,均为高置信度):Trainium → "tranium"/"training"/"in Tranium"、Kiro(AWS 的编码 agent)→ "Kira"、Codex → "Codeex"、Airbnb → "Ambmb"、Snapchat → "Snapshot"、JPMorgan Chase → "JPMC"、五个九 → "59s"/"five ends"、P99.9 → "P999"、fungible → "funible"、AI 存在性风险 → "AI extension risk"(出现两次)、《The Goal》(Goldratt)→ "the goal"(主持人与嘉宾都读作书名)、forward deployed engineer → 稿中在 "FDE" 与 "FTE" 之间混用(按上下文一律为 FDE)。

⚠️ 本库无法确定还原的两处,一律照录并标为存疑:① [00:50:19] 那句"这些很强的模型会不会变成 attack surfaces……kind of mythosphere"——⚠️ "mythosphere" 无法还原;本库此前在多处记过 Mythos 这个发布作为威胁感知的转折点,所以这里可能是对它的引用,但字形不支撑,本库不引用这半句;② 他提到自研芯片起源时说"我们找到这一家在 offload 卡上有一些 ARM 核的公司……后来我们把他们收了",但全程没有说出公司名(⚠️ 稿中只有"this was the product / this is the team",本库不补)。

✅ 本页认为这是本库在 AI 算力与基础设施 上最重要的一期之一,而它的价值集中在四处本库此前完全没有的东西:① ⚠️⚠️ "agent 作为用户"在超大规模云厂商一号位口径下的具体技术后果——而最硬的一条是"agent 会被 P99.9 卡住,而人不会";② ⚠️ 一条本库此前没有的 GPU 分配口径:对最终收到的请求"以某种形式说是"的比例约 60%;③ ⚠️⚠️ 瓶颈的"永远只有最新那一个"框架,加上一份本库见过最完整的在建约束清单,以及"约束不可完全替换地理"这条限定;④ ⚠️ Trainium 的角色反转——"也许是现在市场上最好的推理芯片",而名字是按训练取的。

⚠️ 利益相关与一条口径说明:⚠️ 这是 AWS CEO 在一家风投机构的频道上接受采访,而主持人自述"我们所有的创业公司都在问怎么拿到 GPU""我们会继续把他们送到你这儿来"——所以这既是产品叙事,也是一次面向 a16z 投资组合的渠道沟通。 ⚠️ 全部性能、份额与收入数字均为 Garman 口述,本库一条未核实。 ✅ 但本页认为他的限定密度高于平均:他主动说自己公司"命名能力很差"、承认有些系统对 agent 场景"算是过度工程"、承认数据中心舆论上"我们需要更主动发声"、以及在 eval 这件事上说"我其实不确定今天有谁真的擅长解决这些"。

概要

  • ⚠️⚠️ 本期最该被长期引用的一条,是他给"agent 作为用户"找到的那个具体技术差别([00:08:04]):"很多人和 agent 的用例是相似的……但你也在意延迟是什么样、吞吐是什么样、怎么确保底层引擎真的快、可扩展。而他们其实非常在意尾延迟(tail latencies),这很有意思——人不总在意 S3 的 P99.9 延迟,而 agent 确实在意、而且会被它卡住(get blocked by that)。"
  • ⚠️ 而他把这条直接变成了一句竞争主张:"这也正是为什么 agentic workflow 在 AWS 上往往比在别处表现更好。" ⚠️ 本页标注:这是一条未核实的性能声明,但它背后的机制(agent 的长链路会把尾延迟累积成阻塞,而人类交互会把它平均掉)本页认为是可独立评估的。
  • ⚠️⚠️ 他给的第二条"agent 不是人"的后果是一次本库没见过的坦率承认:有些东西对 agent 来说是过度工程的([00:13:05]–[00:14:05]):"很多 agent 想创建一个数据库、干一点活、然后让这个数据库消失。" 主持人接的是 "而你真的需要那个数据库有五个九的持久性吗——正是。"
  • ⚠️ 他的承认很明确:"当你创建一个 Aurora 数据库、作为你的生产数据库时,你确实想要五个九的数据(持久性)、想要可用性……而对 agent 用例,那可以说是——或者不用'可以说'——对我们需要的东西来说是过度工程的(overengineered)。"
  • ⚠️⚠️ 但他明确拒绝了最直接的解法,而本页认为这条拒绝比承认更有信息量:"我们有这样一个信念:我们并不真的想有一个非持久的选项,那也会造成问题——因为你永远不太清楚被创建的那个数据库是想留很久还是很短。" ⚠️ 所以他们选的是更难的路:"我们在努力去想怎么同时做到这两件事:你可以很快创建它、扔掉它,而且不真的浪费很多资源;但如果你确实想要它持久、长期留下,它实际上能长成一个大的生产数据库。"
  • ⚠️⚠️ 而他列的那份"agent 需要的全新原语"清单,本页认为是本期最该被 AI 算力与基础设施 引用的一条([00:14:05]–[00:15:06]):"是不是有一些 agent 会想要的、我们以前根本不需要的新积木?" 他点了四样:compute sandbox、gateway、⚠️ "给 agent 的权限 vs 给人的权限、或者 service role 权限"。
  • ⚠️ 他强调这不是复用:"这不是把现有的积木用得不一样,而是全新的积木。"
  • ⚠️⚠️ 而权限那一条他说得最具体,本页认为这是全期对 agent 安全最可操作的一段:"很清楚你会想要给 agent 不同的权限。你不会想直接给它(主持人的)权限然后让它去做任何你能做的事。你其实想要非常有时间盒的、短期的权限,只去做一个任务。你可能根本不想给它整个工具的权限——你可能想要非常细粒度的、关于 agent 能做什么的权限。"
  • ⚠️ 沙箱那一条他给了一条产业观察([00:15:06]–[00:16:06]):Firecracker(他们的 microVM)"我们大概十年前发明的",⚠️ 而"很多做沙箱的创业公司都在用 Firecracker"。他的解释是巧合而非预见:"它不是为 agent 而生的,但它对 agent 其实相当好用——因为你能非常快地起起来,它们有很好的安全边界,而且你没有传统大 VM 那种虚拟化开销。"
  • ⚠️ 而"给 agent 降低开户门槛"这件事他给了一个很具体的产品变化([00:10:05]–[00:12:05]):过去二十年新建 AWS 账号要自己定义 VPC、定义 IAM 角色,"这些在你做大之后都是超级重要的事",但新用户"现在只是想用这些服务,不想操心那个"。
  • ⚠️ 现在的做法:"你不必做那些事。你不必给它信用卡。你可以用你的 Gmail 账号注册……所有那些东西都在背后按默认处理好了,而在不到 30 秒内你就跑起来了。"(⚠️ 他自己说"我们在慢慢放量,我不确定现在是不是已经完全放开了")
  • ⚠️ 而他强调的真正设计点是没有迁移:"最棒的部分是它不是一个简化版账号、然后你还得迁移。你已经在一个真正的 AWS 账号里了,以后需要的时候再去做那些事情就行,所以之后没有迁移、没有搬家。" ⚠️ 他给的原则:"怎么让它对客户不是一个选择,而是一个通往深度功能的平滑 on-ramp。"
  • ⚠️ 他也坦率承认了这一层此前是输的:"有些用例你本来就不在某个云上、你只是在试点什么,你说部署——老实说很多时候那会去到我们某些有更易用层的合作伙伴那里。"(⚠️ 他紧接着说"顺便说,我们也很喜欢这样")
  • ⚠️⚠️ capex 那条口径本页认为是本期最该被核查的数字([00:17:06]):"2026 年 2200 亿美元。" ⚠️ 他自己给的量级形容是:"这是我们有过的最大的一笔支出——也许是任何公司在单一年份里有过的最大支出。" ⚠️ 而他明确说不减速:"我们预计短期内不会放慢,因为需求就是巨大的。"
  • 营收口径([00:01:00]):"大约 1690 到 1700 亿美元",增长 37%。
  • ⚠️ 采购口径([00:20:08]):"我们最近宣布未来几年要买 200 万片 NVIDIA GPU。" ⚠️ 他自己加的那句话本页认为值得记:"而谁知道这够不够。"
  • ⚠️⚠️ 而"从来没有一个瓶颈"这个框架本页认为是本期最有迁移价值的一条,因为它直接否掉了"下一个瓶颈是什么"这个提法([00:27:11]–[00:29:12]):主持人问 2027–2028 哪个约束最严重、哪个会缓解,⚠️ 而他的回答是从一本书开始的:"我记得本科时我们读了《The Goal》……结果发现从来没有一个约束,永远只有最新的那个约束。所以你必须考虑所有的约束,而你一撞上一个,就又有另一个。"
  • ⚠️ 他对 2028 的直接回答是拒绝预测:"2028 年会发生的那个约束是什么?我其实不知道。我认为会有一个。"
  • ⚠️⚠️ 而他给的那份在建约束清单本页认为是本库见过最完整的一份:"对我们来说每个月都是:你有没有足够的电力?然后一旦电力不再是约束,可能就是内存、可能是 TSMC 的产能、可能是 HBM、可能是网络部件,也可能是供应链里某处的一个小故障——比如连接器之类的。" 他在后面又补了硬盘、SSD([00:29:12])。
  • ⚠️⚠️ 而那条关于地理的限定本页认为最该被记住,因为它解释了为什么总量充足也不够([00:28:12]):"它们发生在哪里也很重要。所以可能是:嘿,我们在印度尼西亚有一大堆电力,但在德国不够。所以你也得想清楚你想要那个产能在世界的什么地方——因为结果发现不是所有东西都是完全可替换的(fungible)。有些是,有些不是。"
  • ⚠️ 而他们的应对是往下穿透供应链,而且是十年前就开始的([00:29:12]):"我们大概十年前就看到这个问题要来了,就开始不只是想'我们需要追踪多少台服务器',而是把整条供应链想透——往下四层、五层,哪个部件可能给我们造成问题,并确保我们在那上面有了保障供应。" ⚠️ 他给的历史触发事件是泰国洪水导致的硬盘短缺。
  • ⚠️⚠️ 电力这条的变化幅度他给了一个很有画面感的对照,本页认为这是本期最该被引用的一段([00:25:10]–[00:26:10]):"如果你回到 15 年前,如果我们需要更多电,我们就让电力公司再给我们几兆瓦——几十兆瓦,他们就直接给了,因为 10 兆瓦不算多,而那对我们继续增长来说足够了。"
  • ⚠️ 而现在:"现在我们得自带电力。所以我们为电力项目付钱、为可再生项目付钱。我们是过去十年里每年最大的可再生电力采购方之一。" ⚠️ 两种模式他都做:"我们会付资本、付这个项目的钱,然后它进电网,然后我们拿到这部分的 credit";"有时候我们也做 behind the meter(表后)。在我们这个规模上是个混合。"
  • ⚠️⚠️ 而规划期的变化本页认为是这一段最硬的一条:"那是你要想到 20 年之后的规划——怎么想电力、怎么想输电、怎么想那笔资本。而这是我们以前从来不必想的事情,是我们以前根本不必做的规划。" 供应侧同理:"我们以前想服务器需求是多个季度的事;现在我们要往前做多年——26 年需要什么、27 年需要什么、28 年需要什么。"
  • ⚠️ 而他把这条变成了价值主张:"这也是我们给客户带来的价值之一,一件客户确实做不到的事。他们不会去做电力,他们不会去规划自己 2028 年的内存占用——他们做不到这件事。"
  • ⚠️⚠️ GPU 分配那条比例是本库此前没有的口径([00:19:07]):"我最近看到我们对最终收到的请求里,大概 60% 以某种形式说了是——有时候晚一点,有时候在不同的区域,有时候是和客户想要的略有不同的配置。"
  • ⚠️ 而他明确说这是一个主动的选择而非能力所限:"你说得对,我们本可以把每一片 GPU 或 AI 加速器都卖给那些大型前沿实验室然后就收工。我们选择不这么做,因为我们其实想继续把整个生态做大。" 他给的三条理由是分散化、"我们知道这些将来会是大公司"、以及"整个生态更健康对我们更好"。
  • ⚠️ 他对创业公司在 AWS 的历史权重给了一个数([00:03:00]):"今天我们估计,可能 30% 到 40% 的 AWS 营收来自那些在 AWS 生命周期里某个时点曾经是创业公司的公司。"(⚠️ 他自己说"这是个不精确的数字")
  • ⚠️ 而他对这件事的坦率收尾值得记:"但这很难。就像很多人说的,这是个好问题;但它仍然是个问题。而你的每一家创业公司都想要更多。"
  • ⚠️⚠️ 而他对"是不是泡沫"给的回答,本页认为最有价值的部分不是结论而是那条集中度对照([00:22:09]–[00:23:10]):"因为我们采取这种分散化的做法,我们的产能并不绑在一个客户上。你去看一些 neocloud 或者市面上其它一些供应商,你有时会看到 30%、40%、50%、60% 集中在一两个客户上。"
  • ⚠️⚠️ 而他给自己的数是:"我们远远不到那个程度——我们最高也就是个位数百分比,而且通常比那更低。" ⚠️ 本页认为这是本期最该被核查的一条,因为它是一条可被财报检验的结构性声明。
  • ⚠️ 他的第二条论证落在负载构成上:"因为我们有那么丰富的一套服务,AWS 是人们真正来上生产负载的地方。所以我们今天的大部分使用其实是核心计算、存储和推理——而推理是那个应用的一部分。所以这些是我认为不会消失的负载。"
  • ⚠️ 而他对 ROI 给的是逸事式证据,本页标为未核实:"你去跟客户聊,问他们'以今天的能力、今天的成本,你看到对业务的正回报了吗',几乎每个人都会说'哦,是的'。所以你会觉得:那这不会消失,不存在一个让他们停止在这上面花钱的泡沫。"
  • ⚠️ 他对创业公司层面的泡沫则直接承认:"而且你知道 VC 模式——是不是每一家十亿美元的创业公司都能成?不,不会。但那就是这个游戏,而这已经是 50 年来的事实了。" ⚠️ 他的类比是互联网泡沫:"互联网那次有一个泡沫、一堆互联网公司没活下来,而互联网仍然是个东西……而那些有持久业务的公司——Google、Amazon 这些——它们做得相当好。"
  • ⚠️⚠️ Trainium 的角色反转本页认为是本期最该被 AI 算力与基础设施 回填的一条([00:38:16]–[00:39:16]):主持人指出"名字听起来是训练芯片,但所有人都拿它做推理"。
  • ⚠️ 他先自嘲了命名:"vocally self-critical——我们在命名上很糟糕,这不是我们的强项。原本我们有一颗叫 Inferentia 的芯片做推理、Trainium 做训练。"
  • ⚠️⚠️ 然后给了那条判断:"而随着模型越来越大,结果发现你其实想在这些非常大的系统上跑推理——结果发现 Trainium 其实也许是现在市场上最好的推理芯片。从绝对性能和性价比的角度来看。"
  • ⚠️ 被问"是内存带宽吗"时他没有给技术细节:"它的架构就是和别人的有点不一样,而且便宜得多。" ⚠️ 本页标注:这是全期技术深度最浅的一处,他明确没有展开。
  • ⚠️ 状态口径:Trainium 3 已在市场,Trainium 4 已宣布但未发布;⚠️ "我们的产能已经卖光了,大概到明年年底左右";⚠️ "Bedrock 上的大部分流量都跑在 Trainium 上";⚠️ "我们和 Anthropic、OpenAI 都有很好的协议在 Trainium 上构建",另有"半打到一打创业公司"。
  • ⚠️ 而他说训练侧的接受度也在变:"特别是到了 Trainium 3 和 4……大家看过那个架构后说:对,那也是我希望我的训练集群将来所在的地方。"
  • ⚠️⚠️ 而自研芯片那条起源故事本页认为是本期最完整的一段产业史,而它的形状是"每一步都先证明再加码"([00:33:13]–[00:37:16])。见下文第五节。核心数字是 Graviton:⚠️ "便宜 20%、性能好 20%,而且过去大概五六年一直是这样";⚠️ "我们每年落地的 Graviton 芯片比任何其它类型都多";⚠️ "我们前 100 大客户里大概 90% 以上都在他们的机群里以某种形式用了 Graviton";⚠️ "我们有客户把整个机群搬过来、把服务器数量砍掉了一半"。
  • ⚠️⚠️ 而企业 agent 那一节他给的两条阻碍,本页认为第一条是本期最该被 实践中使用 LLM 引用的一条([00:40:16]–[00:43:16]):
  • ⚠️⚠️ ① 思路错了:"我们原先看到的是,企业有一个工作流,然后他们说:太好了,我让一个 agent 去做同样的工作流。" ⚠️ 而他们劝的是:"不要只是复制 Bob 做第 1、2、3、4、5 步,所以 agent 也做第 1、2、3、4、5 步,然后 Bob 在最后检查一遍——那不是你想要的模型。你其实该退一步说:如果我想达成某件事,一个 agent 能怎么用不同的方式做到?它可以用大规模并行的方式做,可以试 50 种不同的东西……要重新思考一台计算机会怎么解决一个问题,而不是一个人会怎么解决一个问题。"
  • ⚠️ ② 信任与自治:"企业感到紧张,可能很恰当地(maybe appropriately)让他们没法直接说'去吧,放开干'。你其实不想让一个 agent 发疯、不小心删掉一个生产数据库,那会相当糟。" 他们在建的是护栏、权限、"不会删掉生产系统、不会犯灾难性错误"的保证。
  • ⚠️ 他对企业现状的判断:"大多数企业建的 agent 都相对简单直接……而且基本是非自治的,还是人在环里。" ⚠️ 但他同时说 "客户今天仍然从中拿到了很多价值"。
  • ⚠️⚠️ 而 eval 那一段是本期最坦率的一处,本页认为值得单独记([00:43:16]–[00:45:17]):被问企业是不是在学做 eval 系统,⚠️ 他的回答是 "老实说,他们需要帮助",然后列了一串问题:"怎么有一个持续的测试回路?怎么想合理的 goal seeking?怎么把数据标注成让 eval 真能近似你在生产里要做的事?怎么在生产里度量并回测,这样你不会看到 drift?"
  • ⚠️⚠️ 而那句承认本页认为是全期最该被引用的一句:"所有这些都是企业今天不知道怎么解决的问题。我其实不确定今天有谁真的擅长解决这些。"
  • ⚠️ 这也是他给 FDE 热潮的解释:"这就是为什么你看到这么多 FDE 团队冒出来,AWS 和我们的合作伙伴都在大力投入 FDE 这种打法——这是客户最需要帮助的单一最大领域。"
  • ⚠️⚠️ 而他给的 FDE 模式本页认为与本库此前收到的另一种形成了直接对照:"我们的看法是我们想训练我们的客户让他们自己能做这件事。这不是那种传统的、我想要一个永远持续的人力驱动业务、你一遍遍付咨询费。我们的看法是:走进一个准备好接手的客户,在 45 天里做这些工作——教他们怎么做 eval、怎么把数据标注好、和他们并肩做——然后在 40 到 45 天结束时你就离开,那个客户已经准备好了。" ⚠️ 他给的依据是客户意愿:"这就是客户告诉我们他们想要的——他们不想在未来五年被一支外部队伍绑住。"
  • ⚠️ Bedrock 的卖点他收敛成了一条数据边界([00:45:17]–[00:47:17]):"我们有一个保证:你的数据永远不离开你的 VPC。所以如果你跑在 Bedrock 里,你的数据不会回到模型提供方,他们永远看不到你的 prompt。" ⚠️ 他对这条给了一个很强的措辞:"让那些数据回到模型提供方,我认为是一件危险的事。"
  • ⚠️ 他主动回顾了一次被批评的历史,本页认为这段自述值得记:"如果你记得三年前我因此挨了很多骂……我们因为慢于进入 AI 世界而挨了很多骂。而我们说:我们不会只是匆忙推一个服务出去,我们真的想想清楚怎么保护客户数据、怎么建一个对我们已知用例持久的服务。" ⚠️ 他现在给的结果是:"而现在人们从概念验证走向生产时,绝大多数都落在 AWS 的 Bedrock 上。"
  • ⚠️ 而他给的那条迁移方向是本页认为最该被核查的一条:⚠️ "这也是为什么你看到 OpenAI 的负载在往 Bedrock 迁移,为什么你看到 Anthropic 真的在非常快速地增长。"
  • ⚠️⚠️ 开源权重 + 自有数据这条路他给了一条本库此前没有的"实际发生在哪"的观察([00:47:17]–[00:49:18]):"很多客户相信他们有有意义的专有数据,如果能混进去——做一些后训练、做一些微调——到一个开源权重模型上,他们可以蒸馏下来,实际能以更低价格得到一个表现更好的模型。"
  • ⚠️ 他给了一条前置条件:"这里面有一堆东西得跑通。他们确实需要有一个好的 eval 来真正证明那是真的。"
  • ⚠️⚠️ 而那条"在哪做"的观察本页认为是这一节最有信息量的部分:"大多数人今天是在 SageMaker 里做这件事……但其实如果你去看人们在哪里做,他们今天确实是在 AWS 上用 SageMaker 做,而且他们也通过 SageMaker 托管推理。" ⚠️ 主持人的概括是 "SageMaker 获得了新生",而他的回应把企业的行为说清楚了:"它一直是个模型构建平台。而现在,如果你想想企业在这个世界里在做什么——他们基本上实际上是在建自己的定制模型。"
  • ⚠️ 安全这一节他给了一条产品与一条口号([00:50:19]–[00:51:20]):产品是 Continuum——"用这些很强的模型帮客户加固他们的环境……帮客户找到他们此前没找到的漏洞,而最重要的是做优先级排序,因为我们知道他们环境的上下文:它是怎么配置的、权限在哪里、哪里可能有补偿性控制让利用变难或变易。"
  • ⚠️⚠️ 口号是:"客户在某个时点会需要机器速度的安全,而不是人速度的安全——不是一个告警、某个人进去看一眼。" ⚠️ 本页标注:这与本库 Kevin Mandia 两天前那期的"人留在检测与响应环里就一定太慢" 是同一条判断,而两人分别站在云厂商与安全厂商一侧。本页认为这构成一次有价值的同向佐证。
  • ⚠️ 他对"强模型是风险还是机会"的回答是两者:"是的,那对客户环境是一个真实的风险,但它也是一个真实的机会。"
  • ⚠️ Continuum 的来源他说得很直白:"Continuum 基本上就是我们把内部做的事情暴露出来。"
  • ⚠️⚠️ 而内部使用那一段里,本页认为最该被记住的是他对自己工程组织的描述([00:53:21]):被问哪里收益最大,他说 "显然是软件开发,这是真实答案",⚠️ 而机制是:"我们叫他们 frontier team,他们思考的是 agentic development 而不是传统开发。而这不是代码补全——它真的是 agent 优先:agent 写所有的代码,你只是在管理一支 agent 团队、并驱动它。"
  • ⚠️ 他强调不只是写代码:"是软件、我是说产品开发整体,不只是写代码……我们推出新产品的速度和过去是大不一样的。"
  • ⚠️ 非工程侧他点了两个例子([00:52:21]):他们把 Amazon Quick 推给了每一位 Amazon 员工;⚠️ "我看到 HR 团队在建 agent,去驱动那些过去需要几人团队花几周做的事,现在一个人几小时就能做";财务团队建 agent "去想怎么从各处拉税务规则并确保我们在一堆不同的东西上合规"。⚠️ 而他给的结构性意义是:"过去被软件开发者卡住的事情,现在业务线的人能够自己解锁、更快地创新。"
  • ⚠️⚠️ 而组织形态那一问他明确说没有答案,本页认为这条承认比任何预测都有用([00:54:22]–[00:55:22]):"我不知道那个神奇答案。我们在积极思考。" ⚠️ 他说正在试 pod 制,而给的那个具体变化是:"在一个产品组织里,你过去会有一个团队长期拥有某一类能力,可能有 10 个人在做那件事。而今天你能创新得这么快,那件事不必是 10 个人了——可以是三到四个人。"
  • ⚠️⚠️ 而他指出的后果本页认为是本期最该被 AI 与就业 引用的一条,因为它说的不是裁员而是流动性:"而他们造东西造得这么快,你其实想把他们挪到不同的项目和问题上去。所以要同时既运营和维护你已经造的东西、又在一个像 AWS 这么大的组织上保持敏捷与灵活地调动——这是我们正在实验和尝试的事。"
  • ⚠️ 他对人数的判断是温和的:"会有很多人、很长一段时间。我确实认为组织会变。" ⚠️ 主持人插的那句"agent 管人、人管 agent"他没有接。

核心观点

一、⚠️⚠️ "agent 作为用户":三条具体的技术后果

  • 尾延迟、Aurora 的过度工程、以及四样新原语,均见上文概要([00:08:04]–[00:16:06])。本节补三条上文没有展开的:
  • ⚠️ 他对"创业公司想要什么变了"给的那条总结([00:06:01]):"我们越来越多看到的是那些想要一个'能很好地和 agent 一起工作、而不只是和人一起工作'的云的团队。" ⚠️ 而具体的需求形状他点了两样:"怎么想一个定义良好的 API 接口,让 agent 真的能轻松穿行与协作";以及 ⚠️ "怎么做到比如三秒内启动一个数据库,真正达到一些让 agent 兴奋的能力"。
  • ⚠️ 他对"是不是有专门给 agent 的新服务"的回答是两条并行,本页认为这条分工值得记([00:07:01]):"我会说我们做的是优化了一些已有服务,让它们既能为人工作也能为 agent 工作。" ⚠️ 而专门为建 agent 设计的他点了 agent core 与 Bedrock。
  • ⚠️ 他举的那个新东西是 AWS Context([00:08:04],⚠️ 自述当时处于 preview/beta):"它让你能建一个 context 层,这样 agent 可以更容易地在你各种 data lake 里找到它们想要的所有数据。" ⚠️ 而他给的理由正是人与 agent 的行为差异:"不管你的数据存在 Aurora、存在 S3 还是 AWS 里别的地方,可以建这个 context 层——人不一定会以那种方式去访问数据,但 agent 其实很乐意横跨那么多不同的东西。"
  • ⚠️ "遗留服务要不要重构"这一问他的回答把问题分成了两层([00:09:04]–[00:10:05]):"核心的底层积木我认为状态真的很好。我认为有一个可用性层(usability layer)是我们在思考的。"
  • ⚠️ 他描述的现实使用形态值得记:"我们发现绝大多数客户会去告诉他们的编码 agent——不管是 Kiro、是 Claude、还是 Codex——他们会说:我想在 AWS 上构建,这是我的凭证,这是我的东西,这是我想怎么部署。然后 agent 很棒,它们就去做了。"
  • ⚠️ 而他承认输掉的是另一种起点:那些"本来就不在云上、只是在试点什么"的用户,"很多时候那会去到我们某些有更易用层的合作伙伴那里"。
  • ⚠️ 而他对"开发者被 agent 替代、infra 团队也会被替代"这个提法的回应是从基础设施就绪度谈的,没有接人力那一半([00:12:05]–[00:13:05]):主持人的提法是"开发者被 agent 取代了,很快 infra 团队也会被 agent 取代",⚠️ 而他的回答是:"我们大部分基础设施本来就被搭建得足够好、能承接这个规模,这很好。" 然后他就转到了 Aurora 那个"过度工程"的例子上。✅ 本页认为这是一次有意的转向,照录但不替他补。

二、⚠️⚠️ 瓶颈:永远只有最新的那一个

  • 《The Goal》那个框架、在建约束清单、以及地理不可完全替换,均见上文概要([00:27:11]–[00:30:12])。
  • ⚠️ 他对约束种类的穷举本页认为值得完整记,因为它跨越了四个层级([00:17:06]):"在某个点你受限于:你能多快建数据中心、你能多快部署资本、你能多快拿到内存和芯片这些东西。" ⚠️ 而他加的那一条本库此前很少见:"不管是电力、数据中心、资本、内存、芯片,它们在不同时点都是约束——还有建楼的施工人员,施工人员今天是很紧的。"
  • ⚠️ 他对供应链管理的组织安排给了一条([00:29:12]):"我们追踪并思考成千上万、乃至几十万个部件……有些我们依靠供应商去管,有些我们直接管。我们有一整个团队做这个,我认为他们是行业领先的。" ⚠️ 他们也看制造的地理分散:"我们也会想制造上有没有分散化。" ⚠️ 他自己的限定:"我们永远不会在这上面做到完美,但永远会有一个不同的供应约束。"
  • ⚠️ 而弹性的丧失他给了一条本页认为很重要的承认([00:21:08]):"我们在相当长一段时间里其实是在需求之前投资的。而我认为最痛的一件事是,随着 GPU 的真正爬坡,很多弹性不幸地消失了。" ⚠️ 他的期望是:"希望我们在核心计算、存储这些东西上能回到那种弹性还在的状态。" ✅ 本页认为这条值得记,因为"弹性"正是云最初的核心卖点,而它在 AI 负载上被消耗掉了。
  • ⚠️ 他对规划流程变化的那条总结([00:24:10]–[00:25:10]):被问流程是否剧变("你不是在写十亿美元的支票,你在写 500 亿美元的支票"),他的回答是 "是也不是",然后点了真正变的那部分:⚠️ "比如你到底怎么估计 2028 年的需求?有些事情是我们现在必须考虑、而以前根本不必考虑的。"
  • ⚠️ 而他对"你们应该最先知道"这个追问的回答本页记为口径而非预测([00:23:10]–[00:24:10]):主持人的论证是 AWS 对需求的视野无与伦比("你横跨全球、横跨每个细分:企业、大实验室、AI 原生公司"),"所以如果有谁该叫出那个拐点,应该是你"。⚠️ 他的回答是:"我希望如此,那是我们的计划,而且老实说我们花了很多时间思考它。我们在怎么花股东资本上非常有意图性,而且我们认为我们在做很好的投资,我们有很多关于如何有意图地投那笔钱的保护措施。" ⚠️ 他引了 Andy(Jassy)的公开表态作为落点:"AWS 的潜力真的真的很大,而在接下来十年里这个潜力就在那儿。任何时候你有一个那么大的机会,你就想投进去追它。" ✅ 本页标注:这是一个口径回答,没有给出任何拐点判据,本页不把它当作需求预测。

三、⚠️ 数据中心的社会许可:一次"我们该更主动发声"的自我批评

  • ⚠️ 主持人的提问带着明确立场([00:30:12]):"显然有很多关于数据中心的广泛争论,而我们站在哪边是清楚的。但你认为作为一个行业,我们在解释数据中心为什么对美国、以及总体上对世界有好处这件事上,是不是做得不好?"
  • ⚠️ 他同意并给了自我批评:"我同意,我认为我们需要更主动发声、更坦率。"(⚠️ 他两次用了 "vocally self-critical" 这个 Amazon 内部用语)
  • ⚠️ 他给的三条实质内容:
  • ⚠️ 水:"我们的数据中心用水量真的真的非常小。我们大部分用自由空气冷却(free air cooling)。"
  • ⚠️⚠️ 税收,而他自己点出了传播上的失败,本页认为这是这一节最有意思的一条:"我最近看到一份报告,我们运营的某个社区里,那个县的每个人每年少交 5000 美元的税,因为我们带来的税收。而我们不告诉他们,他们甚至不知道——对他们来说它就是不可见的。" ⚠️ 他的推论:"我觉得如果你告诉那些社区'顺便说,如果我们不在这儿,你的税单会比现在多 5000 美元',他们对那边那栋楼的想法可能会有点不一样。"
  • 高薪就业:"我们怎么给我们运营所在的社区带来高薪工作。"
  • ⚠️⚠️ 而他把行业内部做了切分,本页认为这是本期在这条线上最该被记住的一条,因为它是一位头部厂商一号位在公开场合划同行([00:31:13]–[00:32:13]):"而不是所有数据中心运营方都那么做。我认为外面有一些被充分记录的例子是不好的……他们不太在意监管,他们认为规则不适用于自己,或者他们就是不考虑这些、很快就上线。而我认为这给整个行业造成了问题,因为所有人都被归到那一类里去了。"
  • ⚠️ 他的收口是把多数留在"好人"一侧:"我认为数据中心社区的大部分、不只是我们,其实是相当好的行为者,只有少数几个不是——而我认为正是那几个造成了最近的一些焦虑。我们只需要在突出谁是好公民、谁不是这件事上做得更好。"
  • ⚠️ 他还给了一个很直白的修辞工具:"你通常去一个社区说:那你是不是不想用 Netflix 了?他们会说:不不不,我还是想要 Netflix。"
  • ⚠️ 本页的交叉标注:✅ 本库在这条线上已经有多份材料(Meta 的在地账本、Satya Nadella 的 20 年纵向数据、Barrett Lyon 那一侧最强硬的表态、All-In 的"数据中心民调 -80")。 ⚠️ 而这一期的新内容只有两点:那条"每户每年少交 5000 美元税而我们不说",以及那次公开划同行。 ⚠️ 本页按既有口径把这一整节记为立场而非事实——它来自需要社会许可的一方。

四、⚠️ GPU 分配、集中度与泡沫

  • 60% 的"说是"率、个位数客户集中度、以及他的泡沫论证,均见上文概要([00:16:06]–[00:23:10])。
  • ⚠️ 他对创业公司为什么重要给了一条非商业理由,本页认为这条值得记([00:04:00]):"而且不只是因为商业结果,也因为这是我们学习的来源。这些是处在技术边缘、理解什么是可能的创新者,他们在推我们的服务、告诉我们他们想要更多什么、什么能帮他们更快。而很多时候他们推得比银行、医疗公司或政府更狠。"
  • ⚠️⚠️ 而他给的那条前瞻机制本页认为是本期最该被引用的一条商业逻辑:"这真的帮我们变得更好,并确保我们走在那个浪潮之前——银行五年后会想要的某种能力,是创业公司今天就想要的。"
  • ⚠️ 他对"创业公司这些年变了什么"给了两条,而第二条是"没变"([00:05:01]–[00:06:01]):
  • ⚠️ 变的是起点规模:"创业公司起步的规模比我们刚开始时小得多——他们可能拿到 1000 万美元融资、有一个在慢慢迭代的 app 想法。现在是从第一天起他们就被估值十亿美元、有 2 亿美元融资。就是一个团队加一个想法,然后突然就值十亿美元了。"(⚠️ 主持人插的那句"他们就从我们的办公室直接去你的办公室"他接了"没错")
  • ⚠️ 没变的是架构关切,而他把这条变成了对 neocloud 的竞争论证:"他们还是在想:一旦我扩起来,我怎么想架构?怎么想安全?怎么想性能?怎么把我的 IAM 设置好,让我有超过三个员工时这东西还能工作、还能扩?" ⚠️ 落点:"这很多时候正是他们喜欢 AWS 而不是只去一个 neocloud 的原因——他们确实需要所有那些别的安全与能力。"

五、⚠️⚠️ 自研芯片:一条"每步先证明再加码"的产业史

来源同本页([00:33:13]–[00:39:16])。

  • ⚠️ 他自己先把这段故事定了性,本页认为这句话是理解整段的钥匙([00:33:13]):"这其实是个很迷人的故事,而我认为它是一个很好的例子,说明 Amazon / AWS 会怎么创新、怎么随时间迭代、怎么继续把我们能做的想得更大——但是一路验证过去(prove our way there),而不是(一步到位)。"
  • ⚠️ 第一步:网络卸载(约 13–14 年前)。起因是"我们看到整体资源上有相当显著的虚拟化税(virtualization tax)",而"客户在告诉我们:我想要裸金属性能"。做法是"我们拿了一张网络卸载卡,把我们所有的网络虚拟化都虚拟化并拉到那张卸载卡上,这样网络虚拟化就更接近裸金属性能"。⚠️ 他对当时结果的描述很克制:"那时候还不完全是裸金属,但它接近了,更接近了。"
  • ⚠️ 第二步:存储虚拟化也要卸载,而这是收购的由来([00:34:13]):"然后我们就很兴奋,我们说:好,那如果我们也能把存储虚拟化挪出去呢?而当时没有一张网络卸载卡能做到这个。然后我们找到这一家公司,他们在一张卸载卡上有一些 ARM 核,他们当时是为了别的原因做的——我记不住他们原本的用途了——而我们想:你能不能用那些核来做存储虚拟化和其它一些功能?他们说:也许可以。"(⚠️ 公司名全程未出现,本库不补)
  • ⚠️ 他说收购的理由是团队:"就是爱上了那个团队——真的很创新、真的很有使命感、真的想解决问题。所以我们就把他们收了。"
  • ⚠️⚠️ 第三步:Nitro 的那条安全主张,本页认为这是本期最该被记住的一条架构后果([00:34:13]–[00:35:15]):目标是"一台裸金属服务器,上面没有虚拟化、没有 VM 虚拟化,所有东西都通过卡上的 API"。三条收益是性能、资源利用率、⚠️ 以及安全隔离——"我们当时可以合法地(legitimately)告诉人们:对于跑在那上面的你的任何 VM,我们没有访问权。"
  • ⚠️ 而他对竞争格局给了一条很有意思的解释:"这在过去十年给我们带来了巨大的好处,而说实话我们一直领先、别人一直比较慢,因为这不是一件人们能泛化地做的事。"
  • ⚠️ 第四步:既然卡上有 ARM 核,那就做服务器(Graviton)([00:35:15]–[00:36:16]):"我们说:如果我们把那个变成一台服务器会怎样?我们先用 Graviton 做了,那是一台非常弱、非常小的服务器。" ⚠️ 而客户反应是正面的:"他们说:我很想有一台 ARM 服务器,这超级有意思。"
  • ⚠️⚠️ 而他给的那条下注依据本页认为是全期最清晰的一次技术判断:"我们看了并看到 ARM 核在变快的那个斜率,还看到功耗利用率和那条曲线——你就知道这个架构在哪里会对某些部分真的很好的那个交点会发生。而它们只是需要有人来驱动这个生态、把一些拼图放到位。"
  • 结果数字见上文概要。 ⚠️ 他给的客户价值表述:"这是客户降低账单最容易的单一方式。"
  • 第五步:Trainium(约五六年前启动),以及它的角色反转——见上文概要。 ⚠️ 他对当初判断的坦率程度值得记:"我们看到了 AI 算力的兴起——远没有预期到今天这个样子,但仍然看到它会是个重大推动。"

六、⚠️ 企业 agent:两条阻碍、eval 的空白,以及 FDE 的一种模式

  • 两条阻碍、eval 那句"我不确定今天有谁真的擅长"、以及 45 天 FDE 模式,均见上文概要([00:40:16]–[00:45:17])。
  • ⚠️ 他对"企业 agent 已经是多大的生意"给了一个模糊但正面的口径([00:40:16]):"它今天已经是一个相当大的生意了,但我认为它有一个巨大的机会去真正改变每一个客户、每一个工作流。" ⚠️ 本页标注:全期没有给出任何企业 agent 的收入或使用量数字。
  • ⚠️ 他对"green field 思维"给了一条针对投资组合的话([00:41:16]):"我相信你那些创业公司也是这么想的——怎么帮客户 green field 地解决一个问题,而不是复制今天正在发生的事。" ⚠️ 而主持人补的那句"大家在跑 agent 机群、swarm 或者你怎么叫都行,这些天很常见"他接受了,并给了那条企业侧的现实限定:"一家保险公司不一定那么前倾,但他们很想搞清楚怎么能有一个更好的审批工作流之类的。"
  • ⚠️ Bedrock 与开源权重那两节见上文概要。本节补一条他对模型中立性的表述([00:47:17]):"我们也提供开源模型、提供专有模型,我们围绕那些提供一整套能力,比如 agent core。我们建这些积木,这样用你想要的任何模型建 agent 都更容易——无论它们在 Bedrock 里还是在 Bedrock 外。你可以用 Gemini 或者其它东西。"
  • ⚠️ 安全那一节见上文概要。本节补他对 CEO 们实际在问什么的概括([00:49:18]):"他们大多想说的还是回到这个:当我上线 agent 时,我怎么能信任它们会做我想让它们做的事?" ⚠️ 他列的控制项是:"怎么确保 agent 有正确的权限?它们有正确的沙箱吗?怎么确保你有正确的一套护栏?怎么非常有意图地想清楚你想要 agent 做什么和不做什么?有没有人在环里?"

七、其余几处,本页只做索引

  • ⚠️ 他对 AWS 还有多少空间给了一条本页认为很重要的口径([00:01:00]):"我们仍然处在这个业务能变成什么、以及对客户的机会是什么的早期阶段。大多数负载今天仍然有很大一部分跑在本地(on prem)……所以你看到来自 AI 的顺风,也看到来自迁移上云的顺风。" ✅ 本页标注:这条值得记,因为它说明在他的口径里 AI 并不是 AWS 增长的唯一来源,迁移仍然是。
  • ⚠️ 他对客户名单给了一份本页照录的清单([00:18:06]):前沿实验室一侧是"Anthropic、OpenAI、Meta 以及其它大客户";大企业一侧是"Salesforce、JPMorgan Chase 这类",⚠️ 而他指出后者的需求形状不同——"他们对更少数量的 GPU 或加速器有需求,有时他们想要 Trainium,有时他们想要 NVIDIA GPU"。
  • ⚠️ "你们是不是每一种服务器部件最大的买家"这一问他没有确认([00:27:11]):"我不知道这个……我确信我们是外面比较大的部件采购方之一。而谁知道是不是所有人(之中最大),而且这取决于你怎么想、怎么度量。" ✅ 本页认为这条克制值得记,因为主持人把它当成了"可以存档的事实"来提。
  • ⚠️ capex 的历史拐点他直接说不知道([00:20:08]–[00:21:08]):被问 AWS 自身 capex 什么时候跨过 10 亿或 100 亿,⚠️ 他说"我不知道,我得回去查",只给了方向:"过去大概三四年,我们的 capex 明显加速了,相当有意义地加速。"
  • ⚠️ 他对"组织该怎么变"的回答见上文概要。本节补他对员工感受的描述([00:55:22]):"它很有趣、而且对我们的员工是赋能的。他们其实很喜欢,因为他们能更快地构建、做更多。但是那里面有真正的工作要做。" ⚠️ 本页标注为自述,期内没有任何员工侧的独立证据。

⚠️ 本页的六条限定

  1. ⚠️⚠️ 这是 AWS CEO 在一家风投机构的频道上接受采访,而主持人自述"我们所有的创业公司都在问怎么拿到 GPU""我们会继续把他们送到你这儿来"。 ✅ 本页按此处理:把机制性论证(尾延迟、瓶颈框架、芯片演进路径、agent 权限模型)当作可独立评估的内容收录,⚠️ 把全部性能、份额与收入数字一律标为自述未核实。
  2. ⚠️⚠️ 本页认为最该被核查的三条数字性声明:"2026 年 capex 2200 亿美元,也许是任何公司单年最大支出"([00:17:06]);⚠️ "我们单一客户集中度最高只是个位数百分比,而某些 neocloud 是 30%–60%"([00:22:09],这是一条可被财报检验的结构性声明);"对最终收到的 GPU 请求约 60% 以某种形式说了是"([00:19:07])。
  3. ⚠️⚠️ 两条性能声明本页明确记为未核实的竞争主张:"agentic workflow 在 AWS 上往往比在别处表现更好"([00:08:04]);"Trainium 其实也许是现在市场上最好的推理芯片"([00:38:16])。⚠️ 后者尤其需要注意:被问到技术原因时他只说"架构就是有点不一样,而且便宜得多",没有给任何可核验的依据。
  4. ⚠️⚠️ 数据中心社会许可那一整节(第三节)本页记为立场而非事实——它来自需要社会许可的一方。⚠️ 其中那条"某个县每人每年少交 5000 美元税"是他转述一份未具名报告,本库未核实。 ✅ 但本页认为那次公开划同行("只有少数几个不是好行为者,而所有人都被归到那一类")本身是一条值得记录的产业表态。
  5. ⚠️ 页首列了两处本库无法确定还原的字幕,其中一处本页明确不引用:[00:50:19] 那半句 "kind of mythosphere"(本库此前多处记过 Mythos 作为威胁感知转折点,但字形不支撑引用)。⚠️ 另一处是他自研芯片起源里那家被收购公司的名字,全程未出现,本库不补。
  6. ⚠️⚠️ 本页记下三处他被问到但没有回答的问题,因为它们本身是信息:① "开发者被 agent 取代、infra 团队也会被取代"——他只回答了基础设施就绪度那一半,没有接人力那一半([00:12:05]);② "你们应该最先叫出需求拐点"——他给的是资本配置口径,没有给任何拐点判据([00:23:10]);③ 企业 agent"已经是一个相当大的生意"——全期没有任何收入或使用量数字([00:40:16])。