开源基础设施与治理¶
AI 时代的公共软件底座由谁维护、靠什么钱撑住、被谁决策。本库此前的开源讨论集中在"开源模型 vs 闭源模型"(见 中美 AI 生态对照);本页处理的是另一层——开源基础设施项目本身的组织学。
主要素材来自 游凯超(vLLM / Inferact)(2026-07),辅以 志鹏、vLLM Omni 团队、朱邦华、江鋆晨 的月球大叔系列,以及 Peter Steinberger(OpenClaw)、Gavriel Cohen(NanoClaw) 的个人 agent 开源项目。
一、伯克利谱系:为什么重要的开源基建总从同一个地方长出来¶
来源:游凯超访谈 [00:38:57]–[00:39:57]
- 谱系:BSD(操作系统)、RISC-V(芯片)、RAID(存储)、Spark、Ray、vLLM——共同点是都由在读学生从 research project 发起,再变成学生主导维护、社区壮大、最终成为工业界基础设施。
- David Patterson 的"5 年关停论"(2014):每个实验室/研究中心只做 5 年就够了,因为5 年恰是博士生毕业周期。伯克利由此一脉相承:AMP Lab(→ Spark)→ RISELab(→ Ray)→ Sky Computing Lab(→ vLLM)。
- 游凯超的推论:"实验室的 5 年周期和工业界的需求周期一旦共振,就会诞生一些重要的项目。" 他 2023 年正是据此判断 vLLM 是下一个,并主动申请去伯克利。
- 副产物:这套机制也决定了项目不能挂靠学校——实验室按设计就该 5 年关停,"所以实验室不是一个具备这样资格的实体"([01:04:41])。
谁适合维护开源项目(一条很具体的人力经验,[00:40:59]–[00:42:01]):低年级博士生急着开新方向发论文;博士后期急着找工作;最合适的是博士中后期、无毕业压力、又对开源有兴趣的人。这实际上意味着开源基建的核心人力供给来自一个极窄且不稳定的时间窗口——这也直接通向下一节的问题。
二、开源社区撑不住工程:三个具体约束¶
来源:游凯超访谈 [01:34:20]–[01:37:25]
本库对"开源可持续性"最有说服力的一段——不是理念之争,而是三个卡死工程的现实约束:
| 约束 | 内容 |
|---|---|
| 人力不确定 | 参与者来去自由,"没有办法支撑你长期做一个重要的 feature" |
| 法务:无主体可签 NDA | vLLM 常做新模型/新硬件的发布前支持,对方法务要求保密协议——但"开源社区它不是一个实体",谁来签?对方还会追问"这次是这些人、下次是另一些人,里面有没有我的竞争对手" |
| 算力:从"一台机器"到"一个集群"的断层 | 2024 年模型小,单机单卡能做很多事,也有公司捐机器;2025 年很多优化必须是集群级,"他给我一台机器已经是顶天了"。只能"各处乞讨":花一个月劝人给机器,拿到后马不停蹄用(一个月到期),而且随时可能被收回——"甚至通知你说接下来一个小时我马上要用" |
游凯超对那一年的自评罕见地直白:"我们 25 年其实我觉得说实话,我们做的不是很好。"
这三条恰好构成了"必须成立公司"的完整论证,也解释了一个此前本库未处理的问题:为什么一个 GitHub 上最活跃的项目仍然会撑不住。
三、基金会 + 公司的双层结构¶
来源:游凯超访谈 [01:02:37]–[01:08:47]、[01:44:29]–[01:47:30]
vLLM 的解法是两件事同时做,且顺序是先捐后开:
- 捐给 PyTorch 基金会 = "保险杠"。基金会是独立法人(可注册商标、有法务、可接受募捐),但不参与技术治理,"代码什么的其实还是自己要写"。真正锁死的是商标——"你不能把 vLLM 闭源了之后,然后再说我支持 vLLM 项目"。
- 公司(Inferact)= "支柱"。Ion Stoica 的历史类比:Linux 需要 Red Hat、Kubernetes 需要 Google、PyTorch 需要 Meta、Spark 需要 Databricks——"vLLM 的体量已经达到了前几个项目的体量,但是没有一个这样的公司在支持"。
- 为什么必须是创业公司而非大厂:大厂会带来立场偏见,"可能有别的大厂不服它,所以所有人不会跟它一起走"。具体到 vLLM:Meta、NVIDIA、AMD 都在用也都投入资源,但"他们之间可能本来就会打架,因为 Meta 是 AMD 和 NVIDIA 的客户",只能做参与者决策、做不了战略决策。
- 一个失败的对照实验:Simon Mo 曾试图借 Character AI 之力支持 vLLM(从公司抽人、要机器),结论是"最终还是发现没有办法靠别人"——公司里只能有一个小团队"用爱发电","你很难说服公司高层说我有一个正经业务的公司、然后我需要全力来支持 vLLM 开源项目的发展"。
- 两者为何不矛盾:"如果我们想做闭源的话,我们就可以自己去找家公司做了。"
- 商业化反而增强社区:有了公司才能签 NDA("他们的法务也很开心")、才能合规采购算力(此前"资金放在谁的口袋里都是一个问题")、才能招人买机器。而且——
"社区对一个开源项目的意见,并不是说他能在项目里面写多少代码,更多的是说这个项目能不能给他带来收益——新模型发布时是不是又能支持了、新硬件发布时是不是又能支持了。"
当下的议价地位决定了冲突尚未真正发生:"我们不接这样的商业客户。我们现在是供少于求的状态……所以可以非常爽快地拒绝我们不想做的事情。"([01:46:29])——⚠️ 这是一个有时效性的前提:一旦供求反转,社区与商业客户的冲突才会真正被检验。这是本页最值得跟踪的证伪点。
商业模式([01:48:32]):Endpoint Service(直接卖 token)/ BYOC(客户有机器、公司供软件)/ 生态合作,统一按量收费——"我们不是技术外包,我们不是在售卖我们工程师的时间;我们产生的价值取决于我们为你多产生了多少 token、为你的机器又节省了多少成本。" - 与 AI 商业化与价值捕获 呼应:这是基础设施层用"节省的成本"而非"投入的人时"定价的一个具体样本。
四、分级治理与"仁慈的独裁者"¶
来源:游凯超访谈 [01:20:03]–[01:24:07]
- 结构:4 位 BDFL(Simon Mo、Woosuk Kwon、游凯超、李卓翰 + Red Hat 若干)→ 十来个核心维护者 → 几十个 committer → 约 2000 名贡献者;决策层每周碰一次。之上还有 PyTorch 基金会引入的大公司治理层(NVIDIA、AMD、Red Hat、亚马逊、Google),"我们作为项目维护者的职责之一,也就是协调这些大公司之间的合作"。
- "独裁"的实例:把 beam search 基本从引擎中删除——推荐系统用户持续抱怨,但主流 workload 的推理形式已不适配它,"如果持续维护它,只会给模型和推理引擎的适配带来越来越多的复杂性、不可维护"。其余多体现在优先级:优先大集群上的大模型,几百兆的小模型不列高优先级。
- 一句概括:"最大的挑战就是你要梳理事情的优先级,要做什么,更重要的是不做什么。"
- 创始团队的不可替代性:被问及有没有"换过领导还发展很好的开源社区先例",回答是 "我觉得换过领导之后,这个项目基本上就很难发展得很好了。"
五、⚠️ AI slop:开源的基本假设被打破¶
来源:游凯超访谈 [01:24:07]–[01:30:17]。本页最具时效性、也最值得本库长期跟踪的一节。
- 背景:2025 年 GitHub 统计中,按贡献者活跃度排序 vLLM 是整个 GitHub 上最活跃的项目。
- 2026 年 5 月发现:有培训机构提交垃圾 PR 来包装学员简历——只要能合进 vLLM,学员简历上就能写"vLLM 项目贡献者"。
"这对我们来说是一个非常大的变化,它彻底打破了我们对于开源社区的用户都是善意的这一基本假设。"
- 应对:引入认证机制、更重视知名机构的贡献、拉黑机器人账号("10 分钟之内提交 20 个 PR,这种人一定是机器人……我们叫做 AI slop,完全没有营养的东西")。
由此推出的结构性预测:
"代码变得如此廉价,以至于维护者花时间去看别人的 PR,不如自己让 coding agent 再写一遍——然后他自己还有更多的 context 说我想让 coding agent 怎么写。"
"未来开源社区的演进方向,会更多地掌握在机构和这些重要的贡献者手中,一些个人贡献者他能做的事情其实会变少。社区会变成维护者和用户两部分:用户只需要提交 bug report 或 feature request,你就不需要贡献代码了。"
他认为这是开源社区的整体方向而非 vLLM 一家,并援引 PyTorch 核心维护者 Edward Yang 的同类表述("与其花时间去看别人的 PR,不如我自己重写一遍")。
⚠️ 本库内部的一处直接张力(不做裁决)¶
| 志鹏(2026-05,vLLM-Omni committer) | 游凯超(2026-07,vLLM 主库 BDFL) | |
|---|---|---|
| 个人贡献者的位置 | 上升通道敞开——"做 contributor 初期,你对仓库的贡献远小于你在贡献中学到的东西";一年从零基础到 committer | 空间收窄——代码廉价化,社区分化为维护者与用户 |
| 对新人的建议 | 改文档 → 抢 issue → 适配小模型,单卡可入门 | 认证机制、更重视机构贡献、拉黑疑似机器人账号 |
两条判断相隔两个月、同出 vLLM 生态一线,且并不逻辑互斥(志鹏描述的是已发生的路径,游凯超预测的是未来的分布)——但它们对"现在该不该劝人从贡献开源入门"给出的实践指导是相反的。本库两条并存。
六、AI 能不能接管开源维护¶
来源:游凯超访谈 [01:27:12]–[01:30:17]
- 对 OpenClaw 的观察(本库首次由另一个大型开源项目维护者评价其治理):"OpenClaw 感觉已经变成了纯 AI 治理的方式——AI 提交 PR、AI 来审、AI 来合并,已经变成了一个 AI 自治的社区。" 但方向好坏"不是很好说"。
- vLLM 为什么不能这样做——理由不是能力而是时间方向:
"我们做的很多事情,它不是来解决现有的一个问题,它很多时候是解决接下来将要发生的问题——比如我们要支持接下来三个月内要发布的新模型。所以我们在维护代码的时候,脑海里还必须想着接下来三个月的模型、接下来半年一年要推出的新硬件要怎么支持。所以这个项目维护的过程中必须是带着大量的个人 context 去做的,这一部分目前还没有办法交给 AI。"
- 总体尺度:"AI 可以帮我们走完 90% 的路程,但是还有 10% 的关键的、画龙点睛的那一部分,是需要人来提供支持的——需要提前预判、顶层设计。"
- 与 志鹏 的"编程在编两样东西"(实体 code 会被取代,脑海里的架构心智模型暂时不会)是同一判断的两种表述;也与 AI 与就业 中"人的价值转向 verifier/设计决策"一致。
七、开源基建的长期投入问题¶
- 游凯超举的反面教材:SSH/SSL 一类的基础加密设施长期"就只有那么几个人在自己维护",直到十多年前一次漏洞事故"导致可能全世界都在裸奔",之后才有人成立基金会注资。
"开源基础设施建设一直是老生常谈的话题——它们都很重要,但是直到它们出问题之前,大家都觉得不需要投入。"([01:31:17]–[01:33:19])
- ⚠️ 转录作 "OpenSSH",但所述事件(漏洞致全球暴露 + 事后成立基金会注资)与 2014 年 OpenSSL Heartbleed 及随后的 Core Infrastructure Initiative 吻合,疑为口误或转录误识。
- 对照 vLLM 的运气:它是在出事之前就拿到了资金与组织结构的少数案例——2023 年就有基金给项目本身几十万美元级资助,2024 年 Sequoia、真格以捐赠形式支持开源社区,2025 年底成立公司时"其实我钱已经准备好了"([01:38:25]–[01:39:26])。
八、与开源模型之争的关系¶
本页处理的是基础设施层的开源,与 中美 AI 生态对照 中的模型层开源之争(美国是否该封杀中国开源模型、蒸馏、权重 vs 输出)是两个不同的问题,但有一处交叉值得记:
- 游凯超给出的事实是——"每一个模型的发布背后都跟着 vLLM 的支持,每一个芯片厂商都会主动来靠近 vLLM"([01:40:26])。即中美两侧的开源模型共享同一个推理底座。
- 这为 姚顺宇"知识已无秘密、纸面趋同"补了一层机制性解释,也意味着模型层的开源封禁讨论绕不开一个中立的、由基金会持有商标的公共基础设施。本库尚无 KOL 正面处理这一交叉,留作待跟踪问题。
九、⚠️ 一条与"开源正在赢"叙事相反的机制(Decagon,2026-07)¶
本库关于开源模型份额的记录长期在两条线上拉扯:一条是 Jason 的"OpenRouter 上开源份额已超 50%、自托管是不入账的暗 token",另一条是 Sacks 的"心有余而力不足"(企业想多元化但大多没有技术能力建 token 路由中间件)。
Decagon 那期 给了第三种解释,而且是一条机制而非一个数字([00:08:02]):
"现在企业里虽然对开源有很多炒作,但开源推理的份额其实在下降。因为大家在起一堆新用例,而如果你在起新用例,你当然会用前沿模型,直到它跑通为止。" "但这些用例里有些会死掉,有些企业会说'好,我们要继续发布并推广它'——一旦到了那个点,他们就有强烈动机转开源,因为便宜得多也快得多。"
⚠️ 结构含义:开源份额是用例成熟度的滞后函数,不是一个单调趋势。 在用例爆发期,开源份额会被新用例稀释而下降,即使每个成熟用例最终都转向开源。
这条为什么重要:
- 它说明 Jason 与 Sacks 可能在用不同时点的截面互相反驳——同一份统计在用例爆发期与成熟期会给出相反的方向。
- 它给"企业会不会自己做后训练"提供了一个时间表而非是非判断:会发生,但慢,因为难点不在决定用开源,而在 eval——"⚠️ 我们的 eval 极其针对我们自己,你不能拿一个公开 eval 集来顶事,我们必须自己造基准和 eval",再加上模型风险治理与安全流程的惯性,"一次只能起那么多用例"。
- 它也解释了为什么应用层公司在这件事上有规模经济:Decagon 转开源的动机是延迟不是成本(语音 agent 上线后延迟成硬约束,而"前沿实验室确实有小模型,但你没法按你想要的方式控制它们"),而且他们只干客服这一件事,所以为这个用例做微调的固定成本能摊薄——"但如果你是那家企业,值得把宝贵的研究资源拿去调一个客服行为的模型吗?大概率不值得。"
与"闭源必然更聪明"的对立¶
⚠️ 同期他们给了本库最强的一条相关技术判断([00:05:00]):
"推特上这些辩论的权衡往往被说成:我们要非常贵的最聪明的模型,还是把它变笨一点换便宜?我其实认为那是一个假的权衡……当我们微调更小、更笨的模型时,它们只是没那么通用,但在我们要它做的那个具体任务上,它们确实超过又大又聪明的 SOTA 模型。" "所以我们最后三样全拿到了:更好、更便宜、而且更快。"
现状数据(公司自报):90% 的工作流跑在开源上;剩下 10% 用闭源前沿模型做新项目与开放式探索型任务(如让一个 agent 去审阅一百万条对话、造出主模型的变体并比较)。
"模型工厂":开源的运维成本是持续的¶
([00:09:02]–[00:10:03])他们强调这不是一次性工程:"我们不是建好一套开源模型然后就完事、两年后再回来看。"随着前沿能力变化会冒出新用例,所以他们不断训练全新模型、淘汰不再相关的旧模型;Decagon Labs 被定义为"某种意义上的模型工厂——建它就是为了压缩'新模型出来'到'对我们任务有用的微调模型掉出来'之间的时间"。
这条对本页主线(谁来维护公共软件底座)的意义:开源模型的"使用"和开源基础设施的"维护"一样,真实成本不在获取,在持续跟进——他们为此养了"一个很贵的研究团队"。
⚠️ 开源模型互相借零件:从口号到可操作(Baseten,2026-08)¶
来源:Latent Space 访谈(Philip Kiely & Ali Taha)
本页此前的"开源优势"论证多在治理与商业模式层(基金会+公司双层结构、Decagon 的模型工厂、开源基建靠谁撑住)。这一节补的是技术层最具体的一条——开源的可组合性在推理服务商手里是逐周落地的工程,不是口号([00:16:11]–[00:21:11]):
- 给 GLM 5.2 装上 Kimi 的眼睛:GLM 5.2 没有视觉,于是把 Kimi 的视觉编码器嫁接过来。做法是编码器冻结、主干冻结,只训中间的投影层(仅几百万参数)——"眼睛是冻的、大脑是冻的,我们只是在训练眼睛和大脑之间的连线"。训练从"描述这张图里有什么"起步,后来改成每张图配一组问答("图里有没有鸟?有没有科学家?")才真正 grok。
- 结果:MMLU Pro 约 56%,"不算前沿,但你的 GLM 5.2 质量一点没损失——没有图片时它的行为与原来完全一致"(推理时直接跳过编码器即可)。⚠️ 连误答都保留了结构:"给它 Stephen Hawking 的照片,它可能说是爱因斯坦——它仍然理解这是一位有重大成就的男性科学家。"
- 换掉低效的层:MiniMax M3 的头用全注意力,导致投机解码时 KV cache 极大、n² 瓶颈严重;于是把这一层换成另一模型的 GQA 层,再"用对的训练"把接收率训回来。
- 本节的收束句(Philip):
"你突然就有了 Kimi 的视觉、GLM 的权重、DeepSeek 的注意力,全在一个模型里。这就是开源的力量与美——你可以把这些不同组件组合成一个比任何单独一个都更好的系统。"
- ⚠️ 但代价被同时说清了:这类改造的难点全在训练——"如果某一层低效,替换是很可能也很必要的,挑战在于你怎么保证训得对"。这与本页 Decagon 的"模型工厂" 是同一条结论的两种表述:开源模型的真实成本不在获取,在持续跟进与再训练能力。
⚠️ 一条分模态的限定:开源在视频上远没有赢¶
本页与 AI 商业化与价值捕获 里的"开源商品化"叙事基本以 LLM 为样本。本期给了它一条重要限定([01:14:45]–[01:15:46]):
- LLM 侧:"Kimi K3 已经几乎可比最好的闭源模型;差距曾经是 6 个月,现在基本没有了。"
- 视频侧:差距是天壤之别,而且形成了恶性循环——"我可以让你花 10 美元生成一整部 3 小时电影,闭源要 1000 美元;我便宜 100 倍,但那还是 1000 美元,媒体公司还是会用闭源做全部镜头"→ 需求少 → 创新少 → 开源 checkpoint 更少。
- ⚠️ 方向甚至在逆转:原本发布开源模型的视频实验室已把最新模型闭源。
本库标注:本页此前记录的"开源正在闭合差距"是文本模态的观察,不应外推到生成式视频。这条同时记入 中美 AI 生态对照——本期讨论的默认开源模型(GLM、Kimi、DeepSeek、MiniMax)全部来自中国,"支持新模型"在美国推理服务商的实践里主要就是支持它们。
十、同一个项目的另一侧:Simon Mo 的美方政策语境版本(2026-08)¶
来源:a16z 访谈(Simon Mo + Matt Bornstein)
本页此前的 vLLM 材料全部来自 游凯超(中方维护者、中文播客、组织学问题意识)。2026-08-06 这期是同一项目的另一位 BDFL、在美方风投频道、面向政策语境。事实基座高度重合,问题意识完全不同——游凯超被问"开源社区靠什么撑住",Simon Mo 被问"开放权重在中美政策战里站在哪一边"。
交叉验证的三条事实¶
| 事实 | 游凯超(2026-07) | Simon Mo(2026-08) |
|---|---|---|
| 生态位 | "每一个模型的发布背后都跟着 vLLM 的支持,每一个芯片厂商都会主动来靠近 vLLM"(游凯超访谈 [01:41:28]) | 支持 1000+ 模型架构、day zero model release;NVIDIA/AMD/Google/Amazon/Intel 的新芯片确保 vLLM 能跑,"很多情况下拿它当 benchmark"([00:08:03]) |
| 伯克利谱系 | AMP Lab → RISELab → Sky Computing Lab,David Patterson 的"5 年关停论" | "我们来自 UC Berkeley,有很长的开源软件与系统研究传统……开源是你能遇到最多使命一致的人的地方"([00:31:21]) |
| Ion Stoica | "Linux 需要 Red Hat、Kubernetes 需要 Google、PyTorch 需要 Meta、Spark 需要 Databricks" | "一直是开源优先:我们需要造的东西尽量在开源里造,而我们能交付的价值是把最后一公里做完"([00:36:22]) |
⚠️ 一处只有中方一侧留下记录的事:游凯超提到 Simon Mo 曾试图借 Character AI 之力支持 vLLM 而失败("最终还是发现没有办法靠别人")。本期 Simon 本人没提这段。两条不冲突,但失败记录只存在于另一侧的讲述里——这本身值得记。
⚠️ 一条与"个人 context 不可替代"互补的论证:部署足迹不可替代¶
本页 第六节 记的是游凯超的论证:vLLM 的维护必须带着大量个人 context(要预判三个月后的模型、半年后的硬件),所以交不给 AI。
Simon 给的是另一个维度([00:26:16]、[00:28:18]–[00:29:19]):
- 模型是在给定硬件、给定架构上训出来的,"但一旦放到野外,每个人的集群拓扑和用例都不一样"——
"关键是你怎么把'一个用例'变成'几乎无穷个用例'。" 有人往边缘设备适配,有人跑史上最大规模;要对语音 agent 可靠,也要对编码 agent 可靠。他称之为"一整个村庄的事"。
- 规模本身就是验证机制:要抓住"大约 0.00001% 的概率才出现的最后一批 bug",就需要尽可能大的部署足迹。"事实上今天很多推理云和 API-as-a-service 底下用的都是开源推理引擎,因为那里有太多经过实战检验的配方可以直接站上去。"
两条合起来才是完整的:"这层为什么不能被一家公司闭源做掉"——上游要靠个人 context 预判,下游要靠部署足迹暴雷。
⚠️ 开源模型怎么养活自己:本页的第三种机制(许可证分层)¶
本页此前记录了两种:基础设施层按 token 计费(vLLM / Inferact)、以及 Decagon 的"模型工厂"(应用层自己养研究团队)。Simon 给了第三种,是模型实验室自己的([00:19:14]–[00:23:15]):
- 起点:开放权重曾像软件一样是 Apache 2——"拿去改,随便你怎么用,这是给世界的礼物"。
- 转折与三个样本:
- Llama:日活或 ARR 超阈值须单独与 Meta 签商业协议。⚠️ Matt Bornstein 的一手补注:"当时那些数字是特意挑的,你能查出来全世界大概只有两家公司符合他们排除掉的那个定义。"
- MiniMax M2.7:发布时带针对使用方式的条款。
- Kimi:带衍生作品条款——"当时的大新闻就是 Fireworks 和 Cursor 关于他们怎么在 Kimi 模型上做二次开发"。
- ⚠️ Matt Bornstein 的辩护是本节最该被引用的一段:"我不认为这是贪婪。" 开源软件靠人捐时间、或大公司授权员工捐时间支撑,"这在 AI 里根本行不通——我没法晚上回家跟朋友一起'为了好玩'训一个前沿开源模型",那要几百万甚至几十亿美元的算力。
- Simon 的类比是制药:怎么保证新药 R&D 得到可持续融资——因为知道药上市后有一部分收入回流去养下一轮。⚠️ Matt 立刻指出类比的不对称:一个分子一旦发布,"你拥有最强的控制——别人根本没法制造它,那是最闭源的形态";而模型放出来任何人都能拿走、使用、扩展。
这一节对本页主线的意义:本页开篇问的是"公共软件底座靠什么钱撑住"。三种机制现在齐了——基建层卖 token、应用层自养研究、模型层收分层授权费。⚠️ 三者共同的前提是没有一种靠捐赠时间维持,这与本页第一节记录的伯克利学生驱动模式已经不是同一个时代。
⚠️ 一条对"开源份额"记录的收束¶
本页 第九节 记了 Decagon 的反直觉观察——企业里开源推理的份额其实在下降(新用例爆发期都先用前沿模型)。Matt Bornstein 从推理侧给的是方向相反却不冲突的观察([00:07:03]):
"在任何给定时刻——包括现在——OpenAI 和 Anthropic 的模型总体上都比开源模型用得更广、更关键。但我认为我们在大约一年前跨过了一个门槛。"门槛是新的应用公司在解"我怎么不只是当 OpenAI 的壳","这个问题的答案最后就是开源"——因为需要自己的 mid-training、post-training、推理部署技巧,"闭源厂商不会给你这种访问权限"。他点名 Cursor、Decagon、Harvey。 "所以开源变得非常核心,而这件事并不总是可见的,因为它被深埋在这些产品里。"
⚠️ 本库把两条合成一句准确表述:开源在"已跑通的用例"里是默认,在"新起的用例"里不是——所以任何单一时点的份额统计都会因为统计口径落在哪一侧而给出相反方向。⚠️ 注意 Matt 点名的 Decagon 正是那条"份额在下降"的来源公司,两条出自同一频道、相隔 6 天,这不是矛盾而是同一现象的两层。
⚠️ 护栏误杀:开放权重的第四种采用动因¶
本页与 AI 商业化与价值捕获 此前记录的"转向开源"动因有三种:成本、延迟(Decagon 的语音 agent)、数据主权。Simon 给了第四种,而且是一条一手证词而非行业观察([00:33:22]):
Inferact 与 vLLM 内部很多开发者正在从 Fable 5 撤退——他们研究 GPU kernel,"哪怕只是一个 invalid memory access 报错,我们都在触发红线"(前沿 AI 研究相关的护栏)。代价不可恢复:"你有一个两小时的任务,触发了红线(假阳性),然后你全部的工作就没了。"于是"很多开发者今天在用比如 Kimi K3,就因为它质量相近、护栏对我们来说是合理的"。
他由此推出的终局论证([00:32:21]–[00:33:22]):如果内容审核这个问题永远解不掉(他认为会非常难),那么"可信用例会默认走向开放权重,因为那是你确知护栏被削弱、或者护栏由你自己控制的地方"。
⚠️ 这条为什么属于本页而不只属于安全页:它把"谁维护公共底座"的问题推进了一步——如果闭源模型在专业工作上系统性误伤,那么基础设施从业者本身会成为开放权重的结构性用户群,而这批人恰好就是维护这层底座的人。完整记录见 LLM 安全 与 中美 AI 生态对照。
注册表这一层:谁在维护,以及资助缺口的量级(2026-08)¶
来源:a16z / AI 正在学会黑客攻击(Socket 的 "Fas" 与 Truffle Security 的 Dylan,Black Hat 2026 现场)
本页开篇问的是"公共软件底座由谁维护、靠什么撑住",此前的材料集中在推理引擎与模型层(vLLM / Inferact / 伯克利谱系 / 许可证分层)。这一节补的是更下面的一层:包注册表与其上的包本身——而且是从它被攻破时的角度看。
现状描述¶
- 注册表大量由志愿者运行([00:06:03],Fas):"我们喜欢盯着注册表,因为很多注册表是志愿者在跑的,资源不足、资金不足,那里有很多风险,而这会向整个生态的其余部分级联。"
- 包本身也是:"我们都依赖的很多包背后是单个人。几乎可以肯定——我们知道——软件里有很多漏洞,而没有资源去找它们。"
- ⚠️ 一个具体样本:Truffle Security 在 Ruby Gems 发现过一个缓存问题,可以窃取任意 token、拿到任意账号、给任意包装后门。对方"很好合作,很快修了",但这正是一个资源不足的组织([00:19:09])。
⚠️ 本页第一条给出量级的资助建议¶
([00:19:09]–[00:20:09])Dylan 问的是一个很实际的问题:一家公司选技术栈时,该不该把"这个包管理器背后有没有安全团队"算进决策?
Fas 的回答分两半:
- 换语言不现实——"很难让人因为这个就整个换语言,如果他们已经建在上面了。"
- 可操作的那一半:"最可行的事情是大家应该出钱资助这些东西。要多雇一两三四五个安全人员,在这些基金会里其实花不了多少钱,但能带来非常大的差别。"
"不需要很多家公司各开 2.5 万、5 万美元的支票,就能给这些人带来很大差别。"
- 主持人补的一条本页此前没有的资助形态:"或者给他们多点推理算力去跑测试、去打补丁。"
⚠️ 这条与本页"许可证分层"那一节的关系:Matt Bornstein 论证的是模型层没法靠捐时间维持("我没法晚上回家跟朋友一起为了好玩训一个前沿开源模型")。这里给的是注册表这一层仍然靠捐时间维持、而且已经撑不住了——但缺口的量级小到荒谬(几张 2.5–5 万美元的支票)。两层的融资问题差了三到四个数量级,却都没有解决。
责任分配:一条清晰但被自我限定的立场¶
([00:17:09]–[00:19:09],Fas)顶级 maintainer"没有安全团队,没有企业 SLA,他们是志愿者,只是把代码放在 GitHub 上"。因此——
"责任其实落在使用者身上,要去审自己在用什么。很难说'我们是家公司,我们在网上找到这段代码,直接部署到生产环境了,这是别人的错'。不是的,这些软件的用户对自己引进环境的东西确实负有一部分责任。"
但他立刻加了限定:"我不想把太多责任推到人身上,因为这是个难题。"
⚠️ 本库标注:这与本页此前记录的 FFmpeg 维护者视角(AI 批量生成的安全报告构成"对维护者的拒绝服务攻击"、激励错位)是同一结构的两侧——那边是上游被外部安全流程压垮,这边是下游主张自己应当承担审查责任。两条合起来给出的图景是:报告与修复之间的鸿沟,不是靠把责任推给任一侧能解决的,而是缺一层被资助的中间人。
⚠️ 强制 2FA:一条同时给出日期、机制与副作用的措施¶
([00:16:09],Fas)npm 已宣布计划在 2027 年 1 月起要求任何新发布之前必须有人工交互式 2FA 确认。
- 判断:"那大概会彻底杀死整个蠕虫这个概念。"
- ⚠️ 代价被明说:"会极度具有破坏性,因为所有人都把这套接到自动化上了(GitHub Actions 触发发布)。所以他们做这件事的时候基本上会把整个生态搞坏。但我认为这是对的决定。"
- 覆盖不到的部分:"还有其它由志愿者运行、没有 GitHub 和微软背书的生态,它们大概不会做这些改动,所以我认为我们还会继续看到这类事。"
⚠️ 这条对本页最重要的地方在于它揭示了一个此前没被记录的不对称:有大厂背书的注册表能承担"搞坏生态"的代价去换安全,没有背书的不能。安全能力因此会沿着资助结构分层,而不是沿着技术能力分层。完整攻击面记录见 LLM 安全。
⚠️ 芯片厂商侧的开源动机:生态成功即自己成功(刘洺堉 / NVIDIA Cosmos,2026-08)¶
来源:张小珺 / 刘洺堉
来自 刘洺堉 在 张小珺第 150 期。本页此前的开源动机来自三类主体:社区维护者(vLLM)、模型公司(DeepSeek、Baseten 讨论的那批)、以及以开源换分发的应用公司。芯片/算力供给方是个空缺。
开源了什么¶
([01:58:33]–[01:59:35])不只是权重:模型 + 训练框架 + 部分合成数据。他给的理由是透明本身——"我们把能讲的东西都讲得尽量清楚……也希望别人可以利用我们开源东西做出跟 Cosmos 类似的东西"。
⚠️ 他明确把这条与当下趋势对照:
"我们这几年看到的现象就是这些 Frontier Lab 很多都走向闭源,即使写 paper 也不愿意讲出那些关键的环节。我们决定走不一样的道路。"
并且:"我不担心别人可以做出一模一样的东西。"
动机不是理念,是生态¶
([00:23:42]–[00:24:42]、[01:50:25]、[02:42:17]–[02:43:17])他的表述始终落在同一条链上:在 NVIDIA 生态上建的公司成功 → 它们服务更多客户 → 用更多 GPU → NVIDIA 成功。所以他对同行的喊话是:
"如果说你用我们做出比我们更好的模型,这模型也是开源的,让大家可以用……所以你就比我们好,我们也觉得这是一件好事。"
⚠️ 面对"英伟达又想来卖我卡了"的直接反诘,他没有回避:"对,那你需要做运算嘛。" 他把这类比成云厂商——"他们买了大量的 GPU,但他赚了更多的钱"。本库认为这种不加修饰的自陈反而提高了这条材料的可信度:它不是把开源包装成利他,而是明说了利益结构。
与 DeepSeek 的关系¶
([01:59:35]、[01:51:26])他说不算直接因果,但对 DeepSeek 的评价具体:"第一个把 MoE 开源的一个公司"、"它的用心把这个逼到极致",影响深远——"从这影响的角度来看,我觉得是相通的"。⚠️ 更实际的影响在方法论侧:做 Cosmos 时他强调迭代速度,"我那时候深受 DeepSeek 的影响,因为 DeepSeek 是很惊人的公司,它可以一年内迭代三次"。
⚠️ 一条自陈的界限¶
他也说清了 Cosmos 与它服务对象的关系不是零和:NVIDIA 同时投资了 Yann LeCun 的 AMI Labs 与 Fei-Fei Li 的 World Labs,定位是 enabler;而更需要帮助的是那些"不像 Fei-Fei 或是 Yann LeCun 资金雄厚"的公司([01:49:24]–[01:50:25])。本库标注:这是一个投资方兼基座提供方的自我描述,没有第三方验证。
关联¶
- 与 同一个项目的另一侧:Simon Mo 的美方政策语境版本:Simon Mo 讲的是推理层开源的政策处境,刘洺堉讲的是模型层开源的商业动机。两条合起来,本页在 2026-08 拿到了开源栈两层的供给侧自述。
- 与 开源模型互相借零件(Baseten,2026-08):Cosmos 开源训练框架与合成数据,是"借零件"这个说法在基座侧的一次落地。
⚠️ 开源是一个位置函数,不是一个立场(肖志斌,2026-09-07)¶
来源:月球大叔 / 肖志斌
本页此前的开源论证多来自参与者(Simon Mo、游凯超、Eiso Kant)。肖志斌(20 余年芯片架构师)刻意不按价值判断回答(视频页,[01:21:11]–[01:23:13])。
- 硬件侧([01:20:08]):硬件很少开源,RISC-V 这种开源 IP/指令集比较少见;大量 IP(SerDes 等)都要 license。
- 软件侧:软件开源造就了互联网的繁荣——他举的组合是 Google 的几篇论文 + x86 服务器 + 开源 Linux + 开源大数据处理系统。
- 对个人:绝对是好事——技能可迁移("从一家公司到另一家公司,技术和 knowledge 可以转移")、可私有化部署 agent、数据自己把控。
- 对企业:取决于你在什么位置。⚠️ 领先的大模型公司一旦开源,前期巨额训练投入如何收回成本是个大问题;后来者开源则可以把自己的生态做大。对使用方企业,开源方案若能做到合规与 safety 有保证,可以降低成本,也可以作为对大模型公司的 leverage。
- ⚠️ 对国家:同样是先来后到的问题——
"如果中国是在美国的位置上,中国也不一定会开源。后来者通过开源的方式追赶,是业界比较常见的一个模式。"
本页把这条记为一条去道德化的解释——它与本页既有的各方论证角度都不同:不问谁该开源,只问谁在什么位置上开源是划算的。
一条跨地缘政治的社群观察¶
([00:31:34]–[00:32:35])RISC-V 圈子里美国的 SiFive、台湾的 Andes、国内阿里系出来的一批创始人彼此多是校友朋友——"即使在中美地缘政治这么紧张的情况下,大家在开源这一块的配合或者合作还是非常多的。" 月球大叔 补了一句芯片厂商大会与学术大会上"一水的华人面孔,都是师兄师弟那种感觉"。
⚠️ 一条普及性事实([00:31:34]):英伟达自己的 GPU 芯片里很多控制器/处理器大量使用 RISC-V。
⚠️ "AI 知道一个成熟开源项目哪些地方 tricky":把项目历史当作先验(徐天音,2026-08-22)¶
来源:月球大叔 / 徐天音
徐天音 在讲他们如何用 AI 给系统建形式模型时,给了一条本页此前没有的用法(视频页,[01:13:55])。
背景:给系统建形式模型时,最难的判断是"该建模什么、不该建模什么"——全都建模跑不动,建得太简单又发现不了问题。这件事过去靠老手经验或天才学生的直觉。
⚠️ 他们现在把这一步交给 AI,理由是:
一个成熟的开源项目走过很多年,AI 其实知道哪些部分 tricky、哪些部分不太可能出问题。于是我们就告诉 AI:根据你的经验,这类代码很难、很容易出错,你要更仔细地建模;那个地方历史上可能从来没出过问题,你就不用建模,直接抽象掉。AI 做这件事做得非常好。
⚠️ 本页认为这是本库第一次看到有人把"开源项目的历史本身"当作模型的一种可调用的先验知识。 它的前提条件值得同时记:只有长期公开演化、被大量讨论过的项目才具备这种可被学到的历史——这是开源相对闭源的一条新的、此前没被提过的优势。
⚠️ 同一段里的风险也要一并记([01:14:56]):"AI 不是人,它可能 reward hacking——能产出一个看起来正确、但不是你要的模型。" 详见 LLM 安全页。
⚠️ "十天清单"与 12 周内的份额翻转(All-In,2026-09-26)¶
份额翻转¶
([00:40:37]–[00:41:38])四人围绕同一张 Vercel 图表——过去 12 周内 token 用量从"闭源 80 / 开源 20"翻转成"开源 80 / 闭源 20"。Chamath 的说法是"技术市场史上没见过这样的浪潮"。⚠️ 本库不核实该图表本身,只记录它在本期被四人一致当作 Anthropic S1 的头号风险因子。分析见 AI 商业化与价值捕获。
Friedberg 的"十天清单"¶
([00:20:20]–[00:22:22])⚠️ 以下机型与数字全部照录口述,本库未逐条核实;型号名有自动字幕误识风险,明细与对照表见视频页。
| 日期 | 发布 | 他给的说法 |
|---|---|---|
| 09-09 | DeepSeek 4.1 Flash | KV cache 相比 V1 从 39 万字节降到 890(⚠️ 单位存疑) |
| 09-17 | Bonsai 2(Prism ML) | Qwen 的 fork,270 亿参数、98% 的大 Qwen 性能、5.9 GB,可跑本地 |
| 09-20 | Qwen 2.1(阿里) | openweight,图像生成上超过 Google 的 Nano Banana 2 |
| 09-22 | 小米 MiMo Pro | 3090 亿参数、完全开放,多数 benchmark 上与 Claude Opus 5 持平 |
⚠️ 他要立的论点不是任何单条,而是密度([00:22:22]):"这里面任何一件事,一年前都会炸穿互联网,而它们全发生在过去十天。"
⚠️ 由此推出的政策结论:可执行性问题¶
([00:22:22]–[00:23:22])这是本页此前缺的一条——不是"开源该不该被限制",而是"限制在物理上还执行得了吗":
"开源权重已经在互联网上,是免费的,你可以下载下来在自己电脑上跑。我不知道在哪个世界里我们会有一个警察国家,来砸开你家门、把你的台式机拿走、检测你有没有在本地跑 LLM。"
配套的一句量化归纳([00:23:22]):"90% 的 AI 用途根本不需要数据中心。"⚠️ 这条是本期反驳 Bernie Sanders 超级智能禁令法案的前提,也与本库此前记录的"封杀中国开源模型"主张(2026-07-24 那期)构成同一节目内跨两个月的立场演进——从"要不要封"变成"封不住"。
⚠️ 中间层视角的补充:开源模型的分发也要靠人做¶
来源:Latent Space:OpenRouter × Stripe
([00:23:18]–[00:24:19],Alex Atallah)⚠️ 本页此前默认"开源权重放出来就等于可用"。这条明确反对:
"模型不是那种能把所有特性列在网页上的产品——它们全是黑箱,包括开源权重的那些。所以你需要有人往这个屋子的每个角落打光。"
具体证据是 Mistral 的第一个 checkpoint 只发了磁力链接,没有 API([00:23:18]);以及 Mixtral 8x7B 引发 provider 竞价、价格下来约 80%,被他称作"第一个清楚的例子,证明 provider 市场以对开发者有增值的方式跑通了"([00:44:38]–[00:46:40])。
⚠️ 蒸馏是对抗集中化的主要力量,而代价是单一栽培(2026-09-11)¶
本节回答的是一个本页反复出现的问题:为什么模型供应商没有塌缩成一两家?
- ⚠️ John Schulman 的机制([00:18:43]):"凡是能靠 RL 学到的,基本都能很容易蒸馏走,因为那只是很少的 bits"——只要拿得到展示该行为的轨迹就能蒸。
- ⚠️ "持续学习并不能阻止蒸馏"([00:19:47]):即使你的模型每天都在变好,别人也可以每天蒸一次,两个循环同速运转。
- ⚠️ 真正难的不是权重也不是思维链,是 prompt 分布([00:19:47]–[00:20:47]):"即使你有模型的完全访问权、拿得到思维链,蒸馏也远非平凡——因为你得用足够宽的、真实的 prompt 去问它。"(这条与 中美 AI 页记录的"路由服务数据" 是同一条论证的两半。)
- ⚠️ 一个漂亮的不对称:蒸馏者比前沿实验室轻松([00:22:51]):想要"一个好政客"的能力,蒸馏者只要去问前沿模型、让它生成轨迹;而要造出第一个会这个的模型,你得真的去搞到政客每天在干什么的数据——"说'我要一个像这样的东西'然后让 AI 生成十亿个变体,比一开始造出这个东西容易得多。"
- ⚠️ 另一种可能的形态([00:18:43]):公司专属模型——从部署中学习、让公司持续改进自己那一份;这既可能由当前的寡头提供,也可能由某个现在还小的公司提供,"这会让局面变一变"。
- ⚠️ 代价:单一栽培(本页此前没有这条)([01:26:58],John Schulman):因为太多人在蒸馏(而且多数从 Claude 蒸),所有开源权重模型的写法都像 Claude、带同样的 tics——"这让我挺担心的。" ⚠️ Beren Millidge 的归因反驳:"这不是 RL 这个方法的问题,是数据的问题。"
⚠️ "按美元 5%,按 token 超 60%":开源在产业里的真实位置(Ali Ghodsi,2026-09-18)¶
⚠️ 这是本页迄今最有用的一组比例(自述,本库未核实)([00:57:21]):"按美元算,开源大约 5%,非常少;但按 token 数算,超过 60%。"
- 产品侧对照([00:58:21]):像 Decagon 这类公司"对外产品侧几乎到 90% 开源",而内部使用则"我们不在乎,直接用前沿,不考虑成本控制"——但规模一大就会回头管。
- ⚠️ 本库标注:这个落差说明开源模型承担了大部分工作量,却只拿到很小一部分收入——它同时解释了为什么开源的战略意义(中美 AI)与开源的商业意义(价值捕获)在本库里总是对不上。
- ⚠️ 他给出的浮现模式([00:56:21]–[00:57:21]):expert 模式(小而便宜的开源模型调用大的,或反之,或互相乒乓)+ 多路复用 harness;"我们会走到一个不再对所有事都用最聪明模型的世界——而那恰是过去两年的范式。" 主持人观察到的模板是:用 Fable / Astra 做架构 → 便宜模型做实现 → 再用 Fable / Astra 做审计。
- ⚠️ 后训练这条路的适用边界([00:58:21]–[01:00:22]):"我们也帮你预训练"那部分"根本不成立——现在有太多很好的预训练模型";成立的是"拿一个很好的开源模型 + RL 做到在某个特定重复任务上极强"——成本能砍、速度能快、IP 归自己;⚠️ 但"大型企业只需要基础的自动化,现在让它们做这个太过了",而真正的拦路石是 eval(见 评估与基准)。
⚠️ 一条反向案例:新架构为什么选择不开源(Stefano Ermon,2026-09-18)¶
⚠️ 本页大部分材料在论证开源的好处,这条记录的是一个明确的反向选择及其理由([00:19:18]–[00:31:26]):
- 他的护城河清单:早期是 IP 与商业秘密;然后是服务引擎——⚠️ "你在 vLLM 或 SGLang 上跑不了扩散 LLM,我们必须自己造",所以"就算你训出了扩散 LLM,没有那个 vLLM 的等价物,你照样卡住";再是真实客户的反馈与由此造出的 eval 和数据;以及自建的 SFT / RLHF / RL 全栈。
- ⚠️ 他明说这正是不全部开源的原因,并同时列了代价:社区贡献少、采用更难、on-prem 部署更难。
- ⚠️ 而他描述的生态现状对本页有直接含义([00:29:23]–[00:30:26]):"开源的东西基本没有,有一些开源模型但都不太好",这让部署更难、客户也不习惯。本库标注:开源作为基础设施的红利是范式绑定的——它目前几乎全部落在自回归 transformer 这一条路径上。
⚠️ "此刻是开源维护史上最好的时候":与本页核心判断正面相反的一份(DHH,2026-08-26)¶
本页第五节(游凯超:AI slop 打破开源的基本假设)记录的是维护者侧的负面冲击。DHH 以 25 年开源维护者的身份给出完全相反的结论,而且他给的是同一类事实的另一种读法。本库并列记录,不作裁决。
他的论证¶
- 对"AI 贡献淹没维护者"的回应很不客气([00:28:51]–[00:29:57]):"这是一条免费贡献的矿脉,你可以要也可以不要,你却在抱怨它存在?"
- 核心论证基于中位数而非均值([00:31:00]–[00:32:02]):他说自己看过数千甚至上万名程序员的产出,多数人的 PR 并不符合你想要的样子——不写清 why、不补注释、不复查、不写单测、bug 报告缺关键信息。"而这些事 agent 会做,只要你让它做。"所以中位程序员的 PR 已经被 agent 的 PR 超过了。
- ⚠️ 一条社会学侧的理由(本页此前没有的角度)([00:32:02]–[00:33:05]):拒绝 agent 写的 PR 心理成本低——"不是你写的,所以我可以直接说不要"。他认为维护者长期背着过多"必须让每个贡献落地"的焦虑与神经质,而这正是开源维护的隐性负担。
- 另一侧的收益([00:34:07]):大量非传统程序员(或其它领域的程序员)第一次能把想法贡献进来,他从中挑最好的——"否则那些想法只会留在他们脑子里"。他把整件事类比为宗教改革:程序员曾是人与计算机之间的神职阶层,这层中介被去掉了([00:29:57])。
- 对"不还是需要高手把住质量线吗":"100% 需要,而这一直都是开源的事实。"([00:31:00])
- 量级([00:34:07]–[00:35:08]):Quattro 三个月合并 1000+ PR,访谈时还有约 400 个未合并(一周翻一倍)。他早已不逐个审 PR:让 agent 审、agent 在 VM 里验证 bug 修复,自己只做"合不合"的决定。
⚠️ 为什么两边会得出相反结论(本库的读法,不是他们任何一方的话)¶
差异更像角色与项目类型的差异,而不是事实分歧:
| DHH / Omarchy | 游凯超 / vLLM | |
|---|---|---|
| 决策结构 | 单人 omakase("我是厨师",[02:11:34]) | 多方协作、企业用户在生产环境依赖 |
| 错误成本 | 发行版可快速迭代、用户自愿尝鲜 | 推理引擎回归会打到下游所有部署 |
| 对低质 PR 的处置 | 直接关,心理成本低 | 需要评审带宽,关掉也要解释 |
| 增量贡献者 | 视为纯收益(挑珍珠) | 视为审阅负担的分母 |
两人都同意的一条:仍然需要高水平的人把住质量线。
一条经验数据(⚠️ 口述、未核实)¶
- 他转述 Shopify 的 Mikhail(CTO)做的统计([02:28:06]):回溯所有生产事故到对应被合并的 PR,比较"人审的 PR"与"agent 审的 PR",结果agent 审过的 PR 引发的生产问题少得多——而且用的是半年前的模型。这是本库目前唯一一条关于 agent 做 code review 的量化证据,但为口述转述,本库未核实。
⚠️ 买方侧的开源动机:成本、效率,以及"没法按我们想要的方式去调它"(Daniel Ek / Spotify,2026-09-28)¶
⚠️ 本页此前的开源动机材料几乎全在供给侧——NVIDIA 的"生态成功即自己成功"、肖志斌的"开源是一个位置函数"、Ghodsi 的"按美元 5%、按 token 超 60%"。这一节是买方侧的一条:一家有数亿用户的消费产品公司为什么两边都用。
- 他的历史框架([00:39:26]–[00:40:26]):⚠️ "技术一直在开与闭之间来回……第一轮是 Windows 对 Linux,然后是 iOS 对 Android。我们最后落到的位置,往往是两个都有。" 他明确表态此前公开为开源模型发过声、会继续。
- ⚠️ 一手实践([00:40:26]):Spotify 一方面大量使用前沿模型,一方面有一批自己微调的模型——"我们两样都做,而这实际上让我们更有创新力,让我们能做到一些用前沿模型做不到的事。" 他给了三个理由:成本、效率,以及⚠️ "有时就是因为我们没法按我们想要的方式去调它"。
- ⚠️ 本页认为第三条是新增量:本页既有的买方理由基本都是价格(Friedberg 在同一期给的 13 美分对 30 美元 00:39:26)与部署位置。"调不动"是能力可及性的问题,不是价格问题——它与 Almeida 对 API 层 safety alignment 的反对("开发者要围着它编程")指向同一种受阻感,但 Almeida 的解法是换一类模型,Ek 的解法是自己微调一个开源的。
- ⚠️ 本页同时标注它的局限:这是一句经营者的概述,没有给出任何模型名、规模或占比,无法用来估计开源在 Spotify 工作负载里的实际份额。
⚠️⚠️ "开源模型是它所携带的那套基础设施的特洛伊木马":一家西方开放权重实验室的完整打法(Misha Laskin / Reflection AI,2026-10-09)¶
来源:No Priors / Misha Laskin(Reflection AI 联创兼 CEO)(人物页:Misha Laskin)
⚠️ 利益相关前置:⚠️⚠️ 这是一家刚发布第一个开放权重模型(Beam)的实验室 CEO,而本期几乎每一条判断都指向"开放权重会赢、而且该由西方做一家"。 ✅ 本页按既有口径处理:收录机制性论证,⚠️ 全部性能与份额数字标为自述未核实。
⚠️⚠️ 一、本页此前最缺的那条:一份真实的开放权重训练账本¶
- ⚠️⚠️ Beam 的规格与两段算力(视频页 [00:12:11]):"5000 亿参数总量、230 亿激活";预训练 "6,000 张 GB300,跑了几周;但现在有了基础设施效率,我们大概 12 天就能做完,可能更少";⚠️⚠️ RL 是 "一万多张 GB300 跑四周——所以实际上花在强化学习上的 flops 更多"。
- ⚠️ 原因是作业形态:"强化学习作业更复杂,因为你要同时做大规模推理——带着各种给 agent 用的沙箱——以及训练。"
- ✅ 本页标注:这是本页第一次拿到一个开放权重模型可引用的预训练/RL 配比。 ⚠️ 而它的限定是:这是一个追赶者在特定世代上的配比,不能外推成前沿实验室的普遍配比。 ⚠️ 他自己点出了为什么这类数字能公开([00:08:08]):"身为一个开放模型实验室的好处是,你也可以公开地谈这些事。"
- ⚠️⚠️ 而本页认为最该被保存的是那条"为什么必须自己预训练",因为它直接否掉了"在别人的开放基座上做 RL"这条路——而那恰恰是这家公司最初的赌注([00:07:08]):"结果发现你确实需要预训练你自己的模型,才能让强化学习在规模上工作得很好……这些东西耦合得太紧了,你两件都得做。" ⚠️ 最初的计划是相反的([00:05:05]):"我们当时认为会有一个很好的开放模型基座,某个人会建出来、我们可以建在上面做研究。" ⚠️ 而推翻它的第二个理由正是本页的核心议题([00:06:07]):"所有好的开放模型都来自中国。西方没有真正好的开放模型,而我们需要一个作为基座。"
⚠️⚠️ 二、份额翻转:一条可被第三方数据检验的结构性声明¶
- ⚠️⚠️ 那条数字(视频页 [00:25:21]):"大概六个月前,闭源是多数、开源是少数;而你去任何一个 gateway——比如 OpenRouter 或者 Vercel——它几乎恰好翻转了,从 70/30 的闭对开,变成了 70/30 的开对闭。" ⚠️ 他的预期是加速。
- ✅ 本页标注:这是本页收到的第四条开源份额口径,而四条的分母完全不同,必须分开读:⚠️ Ali Ghodsi 的"按美元 5%、按 token 超 60%" 是平台内负载口径;⚠️ All-In 那条"12 周内份额翻转" 是另一套口径;⚠️ 而这一条是 gateway(API 路由层)口径。 ⚠️ 本页不把它们合并成一条趋势线。
- ⚠️⚠️ 而他给的终局类比同时预测了两件事,本页认为这是本期最有结构价值的一条:"我怀疑这个世界看起来会和操作系统没太大不同——世界上 95% 以上的服务器跑在一个像 Linux 这样的开源操作系统上。但那并不意味着闭源的东西不值钱——微软和苹果都是极其值钱的公司。"
- ⚠️⚠️ 而他对本页既有的"开源会压掉价值"论证给了最直接的一条反驳:"一个很大的不同是,我认为我们也会看到大量经济价值流向开源——仅仅因为即使模型是完全宽松许可的,你运行它所需要的其它一切仍然很贵。算力仍然很贵。像 GPU 这样的硬件加速器就是一个比 CPU 更贵的算力基底,所以需要围绕它建一种不同的云。" ✅ 本页认为这条值得单独记,因为它指出 Linux 类比有一个关键的不成立之处:开源操作系统跑在便宜的通用算力上,而开放权重跑在稀缺且昂贵的加速器上——所以价值不会像 OS 那样被完全挤到上层。
⚠️⚠️ 三、"租 vs 拥有":本页第一个把开放权重商业化讲清楚的框架¶
- 核心框架(视频页 [00:22:19]–[00:24:20]):"开源和闭源模型的商业化在某种意义上是很相似的。你真正想做的是最大化推理。而区别在于,它基本上是推理的租用 vs 拥有。"
- ⚠️⚠️ token 的拆解本页认为是这一节最该被引用的一段:"当你买一个 token,你是在租整个栈的一小片——harness(如果里面有 agentic harness)、模型、推理软件、集群管理软件、它跑在上面的那些 GPU,而所有这些都被摊销进了一个 token 里。" ⚠️ "为什么要拥有"他用了租房—买房类比,动机落在控制权上。
- ⚠️⚠️ 而开放权重公司卖的正是那些"被当作理所当然"的部分:"开放模型是宽松许可的。但为了让客户真的能用上它,他们需要所有其它那些东西:集群管理软件、推理软件、harness 等等。" ⚠️ 服务在他的框架里是需求驱动器而非利润中心:"服务和开放模型是一个推理生意的需求驱动器。"
- ⚠️⚠️ 而他对"只卖推理"给的否定本页认为是最可操作的一条([00:30:28]):"很难进去只说'我们要给你推理'。那没有成功过。" 定位是以方案驱动,理由是 "让 AI 原生公司采用开放模型的,是他们自己构建自己的方案;而企业就是需要更多的帮助"。
- ⚠️ 企业转向的触发点很具体([00:29:26]):"你必须经过租用阶段才能走到拥有";"如果你一年在闭源模型上花一亿以上——这完全不罕见——那你就会开始想:也许我该想出一个更优的做法。"
- ⚠️ 他还点了一条本页此前没有的供给侧原因:on-prem 复兴部分来自算力短缺——"如果你是企业、从你最喜欢的 hyperscaler 那里消费,很多时候就是没有足够的算力,也很难在那里拿到好的价格",形态是找 Dell 这类供应商搭裸金属、把服务做进企业内部。
- ⚠️⚠️ 而他对企业定制形态的判断与行业流行口径相反,本页认为这是本期对买方侧最有价值的一条([00:27:25]–[00:28:26]):推理服务商报的是 "90% 以上是定制过的",⚠️ 但他自己把这个数的适用范围打掉了("今天专用推理的最大客户是 AI 原生公司……比如 Cursor、Cognition、Abridge、Harvey——他们有一整个产品就是一个开放模型的大型定制"),⚠️ 而他的判断是:"企业 token 消耗的大多数不会来自定制过的模型,而是来自定制过的系统——你拿了一个开放模型,其实还没微调它,只是围绕它定制了一个 agentic harness,让它能为某个 KYC 流程之类的工作。" ⚠️ 机制是路径依赖:"AI 原生公司建的是原生的、本身就是数据收集器的产品;而企业大多围绕已有产品和工具做架构,那里有很多摩擦,没法直接一枪打到微调。"
- ⚠️ 而定制怎么做而不碰客户数据,他给了一条很具体的流程([00:19:17]):"并不是说你要训练在客户的数据上,而更多是你在搭建评估;而如果你能为他们的任务搭好一个评估,那你就能生成近似它的合成数据,并得到很好的泛化。" 垂直是金融 KYC/合规、网络防御、法律。
⚠️ 四、竞争结构:"一切都在被商品化"¶
- 公式(视频页 [00:31:29]):"持久收入 = 你能提供的智能密度(intelligence density)× 你有多少算力 × 你和那些组织有多少信任。"
- ⚠️⚠️ 而他对"哪一层会被商品化"这个流行问法是全盘否定([00:32:30]):"现实是一切都在被商品化。整个栈上的每一层都如此超级竞争,以至于它在被商品化,而模型的毛利率会被压缩。"
- ⚠️⚠️ 而主持人给了一条一手佐证,本页认为这是本期最有价值的外部证据,因为它来自投资方而不是开放权重的卖方([00:33:31]):"我们看到很多 AI 原生公司在非常激进地谈他们的闭源合约,因为开源生态存在。所以这是明确为真的。" ✅ 本页标注:这条把"开放权重的存在本身就压低闭源价格"从推断变成了观察。
- ⚠️ 他给公式加的时代限定是算力稀缺("在之前的竞争情形里你可能会说这几个玩家都没差异化,但结果是如果你真的很厉害、而且你有算力,那就没问题"),⚠️ 而他自己对这条的时效打了问号("也许这是暂时的,但我不认为它在一段时间内会是暂时的")。
⚠️⚠️ 五、"特洛伊木马":开放权重作为供应链锁定工具¶
- ⚠️ 他的起点是一句本页认为很反常的肯定(视频页 [00:35:35]):"中国出来一个很好的开源模型生态,对世界其实是巨大的好处。西方有那么多公司因此建起了更持久的生意。" ⚠️ 反事实是"高木必摧"效应:"如果你是应用开发者、建了个很棒的东西,那它就会被一个闭源模型提供方吸收掉。" ✅ 本页认为这句肯定比他任何一条指控都更该被记住,因为它来自最有动机贬低对方的位置。
- ⚠️ 他的真实关切是极数而不是国别([00:36:36]):"你不想要一个在任何给定维度上单极的世界。如果闭源是 10 家、20 家,那没问题;但只有一两家,那就有点可怕了。类似地,你不想让所有人在想要拥有时去构建的那个智能来源只来自一个国家……但资本支出非常高,所以至少两个就很好了。"
- ⚠️⚠️ 而那个比喻是本期最该被长期引用的一句,也是本页第一条把开放权重与供应链锁定连起来的论证([00:41:42]):"开源模型是它们所携带的那套基础设施的特洛伊木马。所以你有一个开放模型,但光有它并没什么用。于是你就买进了某个国家的整个软件生态和基础设施生态。"
- ⚠️ 路径很具体:"今天也许某个美国盟国 X 会在美国芯片上跑一个中国模型;但很快——而我们其实已经在看到了——像华为这样的中国公司会进来提供一个全栈方案,然后把那个国家的供给锁进去。"
- ✅ 本页标注:这与他自己的商业模式是同一条机制的两个用途——⚠️ "光有权重没用、你还得买周边"既是他赚钱的方式(第三节),也是他对竞争对手的威胁判断。 ⚠️ 地缘侧的细节与三条对中国实验室的指控见 中美 AI 竞争。
- ⚠️ 他对美国位置的自我定位不乐观([00:43:42]):"在这件事上我认为美国在开源上一直处于劣势(on the back foot)。" ✅ 而他明确拒绝接下主持人那句"不再了":"中国的竞争者就是真的非常非常好,所以美国这边的生态是现在才刚开始形成,但确实还有一些要追的。" ⚠️ 本页以他自己这条限定为准,不采用主持人收尾时"第一个处在前沿那一档的西方模型"那个定性。
⚠️⚠️ 六、"开放即安全":本页记下它的存在,但完整论证与三条限定在安全页¶
- ⚠️ 骨架三条(视频页 [00:44:44]–[00:54:53]):历史依据是1990 年代强加密之争("这个世界的默认状态其实是:开放即安全");机制依据是 Linus's law 的外推("只要有足够多的眼睛,大多数安全与安全性漏洞也会变浅");最锋利的一句是 "当你移除网络攻击能力时,你也移除了网络防御能力"。
- ⚠️⚠️ 本页不在这里展开,因为它需要三条限定一起读——⚠️ 核心经验证据无法核验、他自己那条"对齐是打地鼠"削弱了乐观版本、"开放即安全是默认状态"只举了一个案例。 ✅ 完整版本见 LLM 安全 与 视频页第五节。
⚠️⚠️ 开放模型经济为什么结构性更慢:一条信息流断裂的解释,以及"预训练比后训练更可接近"(Nathan Lambert,2026-10-14)¶
来源:a16z / Nathan Lambert(人物页:Nathan Lambert)
⚠️ 身份变化:他已离开 AI2,正在创办非营利开放实验室 Trillium,本期为发布周。⚠️ 本页因此把"Trillium 要做什么"全部记为计划,期内无已交付成果。
⚠️⚠️ 一、本页此前缺的那条:开放栈被切成三家,信息不回流¶
- ⚠️ 本页此前讨论"开源落后多久"多用时间差口径;✅ 这一期给的是一条结构性机制,而它不依赖任何时间估计。
- ⚠️ 闭源那一侧他归为整合优势([00:19:08]):"闭源实验室整合度那么高,他们有高效的推理……他们能规划,而且他们最先进入那些价值很高的市场。" ⚠️ 他点名编码是今年的故事("收入就这样从零到一千亿",未说口径,本页按口头估算记录)。
- ⚠️⚠️ 而开放那一侧的问题是三段分工加信息断裂,本页认为这是本期最该被引用的一句([00:20:08]):"你有开放模型的构建方,然后你有开放模型的推理公司,然后你有开放模型的后训练公司——而来自那些客户的信息,也就是你需要模型会做什么这类东西,不会很容易地流回模型构建方。"
- ⚠️ 第二条是规模经济:"他们也没有那种规模经济去服务那么多用户、服务得那么高效、在推理上有那么高的毛利。"
- ⚠️ 他的落点是时间而不是胜负:"这就是为什么我认为开放模型经济要花久得多才能建起来。"
- ⚠️⚠️ 而补偿性收益本页认为是企业侧该引用的那条判据([00:21:08]):采纳路径很长(内部专长 → 一套"真的对得上收入"的内部评测 → 自己微调,或去找 Thinking Machines / Prime Intellect),⚠️⚠️ "但在这个过程的尽头,他们拥有真正的所有权——那就是模型权重、没有条款与条件、能跑在他们自己的硬件上、而且他们算出来能有 ROI。" ⚠️ 驱动力是数据不能出门:"有很多东西他们就是不能通过 API 送出去。"
- ⚠️ 他对自己这条判断给了明确的不确定性:"我真的不知道会发生什么。我觉得现在太早、还不知道。" ⚠️ 他也校正过自己的一次时间判断:"我以为[行业整合]这两年前就会发生,而开放模型公司活得比我想的久多了。"
- ⚠️⚠️ 他的分层预测本页认为值得记([00:05:02]):"随时间会出现开放模型的这些层级——有最好的闭源模型,你可以为它要最好的毛利;然后有近前沿模型,落后一步,而那些会是开放的",理由是近前沿去接一个利润可能更低但不同的市场(例如有私有企业数据的那些)。
⚠️⚠️ 二、本页最反直觉的一条:预训练比后训练更可接近¶
- ⚠️ 他自己不做预训练,理由是可替换性([00:44:18]):"这就是为什么我不做预训练。我乐于自由——我可以用任何基座模型……我现在能从竞争里受益。"
- ⚠️⚠️ 但他对预训练的门槛评价是正面的:"预训练的科学……工具相当可得,而且你有所谓的 pre-training ladder,那是你用来测试你的想法能不能 scale 的决策工具。而预训练数据不像环境那边在长——一阶近似就是你在互联网上训。" → ⚠️⚠️ "但做出一个扎实的预训练模型并不是天文数字那么贵。所以我认为你不必花十亿美元就能拿到一个非常好的基座模型。"
- ⚠️⚠️ 而反转在后训练([00:48:22]):"做一个受控的'我们就开始预训练我们的模型',在我看来远比'我其实不太懂语言模型、我要搞清楚这整个后训练的事'更可接近——后者简直是蛮荒西部。" ⚠️ 理由是后训练的边界已经模糊:"它会糊进后训练、糊进这个中训练——你在那里开始推理行为、从你更老的模型里把它们拿过来、在它们上面做 RL、种子行为……这个循环比预训练复杂得多。"
- ⚠️⚠️ 而他给开源后训练的机会判断是一句很强的话([00:49:22]):"在开源里,要在 state of the art 上做出非常大的复利式进展,并不需要那么多资本——因为门槛非常低。不是说接近,是完全不接近。" ⚠️ 而他对自己在 AI2 的诊断是组织性的:"我觉得我们的后训练说实话在落后,就是因为我们的循环时间不够快。"
⚠️ 三、一条由开源一方自己提出的互惠指控¶
- ⚠️⚠️ 他对新进入者不看空,一部分理由是开源工具,而紧接着是一条具体批评([00:45:20]):"你可以从 Megatron 出发……他们 fork 它,然后就再也不发布了。所有那些著名的开放模型实验室都是这么做的——他们拿开源代码,把它变成自己的东西,而他们很多人不往上游推。" ⚠️ 他的措辞是 "我一直对此感到惊讶"。
- ⚠️ 他点出的新模型公司硬约束([00:46:21]):"你必须过'我们第一个模型必须落地'这道锁。如果你整个公司的基础是'模型是最好的',而你不在那个范围里、你又不发布,那你就在倒计时上。" ⚠️ 他举 Thinking Machines 为正面例子("他们非常透明——他们说这不是最好的模型",而第二个模型加上 Tinker 之后 "他们起飞了");⚠️ 并提到 Meta 可能再发开放权重模型的传闻(按传闻记录)。
⚠️⚠️ 四、Trillium 的两项计划,其中第二项本页此前完全没有¶
- ⚠️ 第一项:为高杠杆任务做开源 RL 环境([00:31:12]–[00:33:13])。做法是全合成:prompt 一个前沿模型生成某类问题 → 用几个不同 prompt 生成多样性 → 用模型 rollout 等办法找 bug 并剔除有 bug 的那些(他举自己指导过的一项终端任务工作,UW 与 AI2,点名 Hamish Ivison;⚠️ 工作名字幕作 "T-Max",本库不写定)。
- ⚠️⚠️ 而他对门槛的定性本页认为最该被引用,因为它把障碍说成意愿而不是技术:"而这个过程并不神奇。就是你把每一个数据点都读一遍,你的数据就会变好。但就是没有那么多机构愿意投入做好这些环境所需要的几千到几万美元、然后把它发布出来——因为利润动机太高了。" ⚠️ 那个轶事:"我跟作者开玩笑说,你大概能把这份数据卖一百万美元、然后再发论文;而他们说'没人……我们在意的是做对的事'。"
- ⚠️ 他说清了为什么这值得(理由是研究基础设施而不是性能):发布环境连同 rollout,别人就能在上面研究 eval awareness、找不同行为、看 RL 之后随时间的变化——"而这就是博士生花一年去看、然后产出知识的那种基础设施单位。"
- ⚠️ 外部性论证是时间尺度上的:"所有 CS 研究,好处大约在十年后落到科技产业上。这就是为什么更多人该支持开放:如果你要在这个行业干十年,受益的会是你的同侪。"
- ⚠️⚠️ 第二项:把 RSI 做成一本公开台账——详见 AI 做 AI 与自动化研究。⚠️ 本页只记它的开放基础设施属性:开源的 SFT / 中训练栈 + 公开的任务清单、选择理由、算力口径与保存下来的轨迹,⚠️ 每六个月复查一次([00:39:17]–[00:41:17])。
- ⚠️ 他明说自己不是唯一在做的:⚠️ 一个学界的 "open RSI" 项目上周才启动(他与之无关联),并点名 EleutherAI、Hugging Face、以及"Open Athena,那是 Marin 和 Stanford"。✅ 他的态度是 "有不同的路子来做这件事是好的,因为你需要不同的看法和不同的结果"。
- ⚠️ 他对人才被抽走的诊断([00:33:13]):"短期赢的机会太大了——跟朋友创业五个月之内就为自己的生意拿到九位数回报的机会……而这些人可能本来会做更多开源工作,或者是那些离开博士项目的人。" ⚠️ 主持人接的那句是 "化石燃料——我们别把它全耗光"。
⚠️⚠️ 一条来自重度本地部署者的反向记录:差距从"六个月"重新拉大到"大概一年"(2026-10-16)¶
⚠️ 归属声明:这期六人圆桌的自动字幕没有说话人名,本库未做说话人分离;本节出自同一位嘉宾的连续发言(他自述有四台 DGX Spark),但本库无法确定是谁(依据见 六人组页)。
✅ 本页既有材料里关于开源追赶的口径大多是"差距在缩小"或"分模态地已经赢了"。这一条方向相反,而且来自一个自己花钱买机器跑本地模型的人,所以单独记。
他的判断([00:49:28]–[00:50:30])¶
- 本地模型的实际能力:"它确实能干成事,很好玩,对任何能用验证硬磨下去的 hill climbing 问题都有用。" ✅ 注意这条限定——他认可的是有外部验证器可以反复磨的任务。
- ⚠️⚠️ 但日常工作不行:"对真正的日常工作没用。前沿(OpenAI)和字面意义上的其他一切之间有那么大一道鸿沟,我不觉得目前可行。"
- ⚠️⚠️ 而时间判断是本节的核心:"曾经有个时刻开源模型只落后六个月;然后 Opus 出来——5.5 这个最新的,还有 6.1——前沿又直线上冲,开源就不在那儿了,可能差一年。"
- ✅ 本页标注他给的机制是阶跃而不是斜率:不是开源变慢了,而是前沿出现了一次台阶。⚠️ 这与同期另一位对"新一代"的描述一致([00:51:30]):能力线会被逼近却跨不过去,"直到你突破那个天花板,然后你到下一个能力平台,大家再追上来"。⚠️ 若这个描述成立,"落后多少个月"本身就是个会周期性抖动的指标,本页此前的几条数字都该这样读。
- ⚠️ 本节的硬件细节值得单独记,因为它说明了本地部署当下的经济学:他买机器的理由是预判涨价——"GLM 5.3 Flash 出来的时候我一看模型体积就想,哦,这些东西要涨价了。所以我立刻给我爸发消息,让他去俄亥俄的 MicroCenter 在涨价之前替我买下来。" ✅ 他自己的评语是最好的一句旁白:"我在算力上赚到了钱,这很蠢。它不该升值。"
- ⚠️ 本库记一处不一致不替他统一:同一段里他跑的本地模型既说 GLM 5.3 Flash 又说 V4.1 Flash。
- ⚠️ 同期另有一位站在模型供给侧([01:13:46]):自述 "我们在做一批会相当不错、而且会开源的模型,很快出来",⚠️ 公司名在自动字幕里作 "RC",本库不写定。 ✅ 本页不把上面那条"落后一年"的判断记在她名下。
⚠️⚠️ 蒸馏之争的一次结果核对:主张被对方行为验证,以及"小专家模型抢份额"(All-In,2026-10-17)¶
来源:All-In 2026-10-17(主播团,嘉宾 Ben Horowitz)
✅ 本页此前记录过 2026-07 那场"该不该因蒸馏限制开放权重模型"的政策之争(完整论证见 2026-07-24 那期)。这一期第一次有了结果,可以做一次事后核对——而本页认为这是本页上最少见的一类材料:一条政策主张被对立方自己的行为验证。
⚠️⚠️ 事后核对:KYC 那条主张¶
- 新事实([01:05:45]–[01:06:46]):本周 Anthropic 发博客称已消除 90% 到 99% 的蒸馏。
- 2026-07 的对照([01:06:46]–[01:07:46]):当时 Anthropic 推的是自己是"工业规模蒸馏攻击"的受害者、需要政府介入、开放模型是 IP 盗窃的产物;当时的政治后果很具体——华盛顿确有一场打击开放模型的推动,于是 50 家大公司(含 NVIDIA、Dell、Microsoft,a16z 亦签署)联署公开信反对过度限制开放权重模型,另有 200 家创业公司签了另一封。
- ⚠️⚠️ Sacks 当时的主张与现在的对照([01:07:46]):"我当时的论点是,阻止蒸馏应该由模型公司自己来做,因为蒸馏一旦发生,马已经出栏了,政府没法把马塞回去。得由公司自己更了解自己的客户。"(他把 KYC 这条明确归给 Chamath。)落点:"现在他们出了一篇博客说他们做的恰恰就是这个,也恰恰就是我预测的。但那不是他们当时在倡导的。"
- 他给的反事实([01:07:46]–[01:08:46]):若当时按对方要求立法,"蒸馏会继续,只会让市场更不竞争"——"只有公司自己能架起技术防线"。结论:"幸运的是行政方面当时拒绝了用那种方式监管开源。于是 Anthropic 不得不真的去建那个检测蒸馏的技术能力。而他们做到了,他们把它停住了。"
- ✅ 本页的处理:这一条是可核对的事实性对照,本页按"主张被对方行为验证"收录——⚠️ 但需要两处限定:①"90%–99%"是厂商自述,本页未核实;②"技术上可自我防御"被验证,不等于"当初的政策诉求不必要"被证伪——反事实分支(若立法,开放模型会受损且蒸馏仍继续)本身无法被观测。⚠️ 而 Sacks 同段那条"模式归纳"("指出技术问题 → 跑去找政府 → 搞恐慌运动,而不是自己去修")是立场,证据地位与上一条不同,应分开读。
- ⚠️ 本页另记一条来自嘉宾的道德对称论证([01:13:50]):"要建他们的模型,他们蒸馏了过去两千年里每一位作者、每一位创作者、每一位科学家的作品",而"蒸馏一个模型甚至不违法,它只是违反服务条款"。✅ 这与 Sacks 在 2026-07-24 给的"自噬论证"是同结构的第二次独立到达,本页记为相互印证而非同一来源。
⚠️⚠️ "每个工作负载都会有自己的定制小模型":一条可独立检验的企业趋势¶
- 具名例子([01:14:50]):博客发出前一天,Brian Armstrong 发推称 Coinbase 微调了 Qwen 3.5 的 90 亿参数版本来找欺诈,测试中把欺诈交易砍了约 30%,同时比 Opus 4.5 更快、便宜得多。⚠️ 本页未核实这组数字。 Sacks 特意向听众说明"这其实参数不多"。
- ⚠️⚠️ 趋势判断([01:14:50]–[01:15:50]):"对很多企业工作负载,你不需要一个通用超级智能、不需要一个前沿模型。你需要一个在你自己数据上训练过的小专家模型。" 而机制是算力经济而非能力:"这些小模型会越来越重要,因为算力越来越紧——对给定的一块 GPU,你是在把性能榨到最大;当你用一个巨大模型去跑一个平庸的工作负载,模型越大就越贵、越耗算力。" 结论:"每个工作负载都会有自己的定制小模型。"
- ✅ 本页标注三处接口:
- Coinbase 是 Sacks 2026-07-18 "心有余而力不足" 那条论证的第二次具名出场(他当时举的正是 Coinbase 与 DoorDash 作为"少数有技术能力自建路由/微调"的企业)。⚠️ 本页记下:三个月后他举的仍然是同一家公司——"有能力的企业是少数"这个前提并未被这期推翻,反而被重复举证加强了。
- 与 Ali Ghodsi 的"按美元 5%、按 token 超 60%" 同向:小模型抢的是 token 份额而不是美元份额,⚠️ 因此"开源在抢份额"与"开源收入占比低"可以同时成立,不构成矛盾。
- 与 Nathan Lambert 的"开放模型经济结构性更慢" 不冲突:那边讲的是开放模型生态自身的迭代速度,这边讲的是企业侧的采用动机;⚠️ 一个生态可以在迭代上落后、同时在特定工作负载上持续抢份额。本页并列记录。
- ⚠️ 本页不采信的部分:Sacks 从"博客时机"推出的动机结论("看哪,Anthropic 现在开始了一场针对小模型的恐慌运动")。时间先后是事实,动机是推断。关于"小模型是最安全的模型"这条论证的适用边界,见 LLM 安全与治理。
⚠️⚠️ "75% 到 90% 的 token 用量会流向 open weight":本页可证伪程度最高的一条预测(Arvind Krishna / IBM,2026-10-21)¶
来源:All-In 2026-10-21(嘉宾 Arvind Krishna / IBM CEO、Nikesh Arora / Palo Alto Networks CEO) ⚠️ IBM 卖混合云与企业 AI 平台,"企业应当自己跑模型"对 IBM 直接有利。本节记为带立场的判断。
- 🔎 预测本身([00:14:09]):"我不知道是 75% 还是 90%,但这就是我会给的区间——全部 token 用量都会流向 open weight 模型。" ✅ 本页把它设为跨期追踪项——它比本页收录过的多数"开源会赢/不会赢"的说法都更可核对,因为给了指标(token 用量份额)与区间,⚠️ 虽然没有给时间窗。
- 他给的三条理由彼此独立([00:12:07]–[00:14:09]):
- 经济学:今天每百万 token 约 20 美元("上一代")、最极端 50 美元;拿一个中国 open weight 模型(他点名 Kimi K3,约 8000 亿参数)自己跑 GPU 加"大概一周的工程量"的优化,可降到每百万 token 1–2 美元。"世界上哪家企业会不接受一个便宜 10 倍、在这里是 40 倍的答案,而它实际上能干 95% 的活?" ⚠️ 无并发、利用率与运维口径。
- ⚠️⚠️ IP——本页认为这条此前几乎没有被讨论过:如果 chain of thought 能被别人捕获、记录和审计,你实际上就是在把自己的 IP 送出去;而没有一家会把前沿模型给你自己跑,于是回到 open weight。✅ 本页标注:这把"要不要自托管"从成本问题变成了商业秘密问题,而推理链越长这条理由越强——它会随模型能力提升而加强,不是减弱。
- 地缘政治:今天最好的 open weight 模型是中国的;⚠️ 他的风险判断很具体——"放进沙箱自己跑危险很小;从云上用是另一回事";而他"非常怀疑未来一两年西方不会出现同样有能力的 open weight 模型","这些东西的差距最多是 6 到 12 个月"。⚠️ 无基准、无口径。 🔗 与本页 2026-10-16 那条来自重度本地部署者的反向记录 直接对立:那边说差距从六个月重新拉大到约一年,这边说最多 6 到 12 个月。本页并置不裁决,但指出两者的口径不同——一侧是实际部署体感,一侧是 CEO 的粗略判断。
- ⚠️ 剩下那部分是真需要还是惰性? 主持席追问得好,而他点了自己的行当([00:14:09]–[00:15:09]):"开发者很懒。除非你加一道控制,他们会用最贵的那个答案,因为那容易。" ✅ 他的分界:实验阶段允许,但用在生产上"除了极少数用例,我怀疑它值不值"。
- ✅ Nikesh 从安全侧给了同一结论的另一条路径([00:12:07]):和平时期的 defender model 更可能拿一个 open weight 模型、用自有专有数据训练、自己管权重,理由是可审计、可解释。⚠️⚠️ 本页注意到这两条路径的归宿一致但动机不同——IBM 侧是成本与 IP,Palo Alto 侧是可解释性与审计,而后者在受监管行业里可能是更硬的约束。
⚠️⚠️ "rewrite in Rust 是开源的一次性升级",以及三条商业开源的具体做法(Supabase,2026-10-28)¶
来源:Latent Space / Supabase(Paul Copplestone & Ant Wilson) ⚠️⚠️ 利益相关:该期主持人是 Supabase 种子轮天使投资人,且该期是该播客首个赞助期。
⚠️⚠️ 一、依赖变成可选之后:重写到哪一层为止¶
([01:07:36]–[01:10:37])主持人的问题有两层:大型商业开源的未来是什么;以及⚠️⚠️ "你们的依赖现在变成可选的了——你可以直接 vibe code 出任何你想要的东西。"
- ⚠️⚠️ 回答的框架是"重写到哪一层为止":"我觉得 rewrite in Rust 是一个有效的机制。" ✅ 而他讲的内部对话很具体:团队里有人说"我在把我们做的所有东西都用 Rust 重写",他的反问是"你要重写到什么层级?你要重写数据库吗?你要重写 Postgres 吗?"
- ⚠️ 限制是成本:"你不想把你真正的创新 token、真正的 token 花在把一切都重写上。"
- ⚠️⚠️ 而预测是收敛到一个赢家:"几乎每个工具大概都会塌缩进——比如说 Rust……而在你做完这一轮迭代、所有东西都跑在这种高效语言上之后,你就不会每次都把所有东西重写一遍了。会有几个赢家。" 以 Postgres 为例:"现在能用 Rust 重写吗?大概能。而那个功能仍然有价值,所以如果那发生了,大概会有一个 Rust 版的 Postgres fork,而它就是那个类目的赢家。"
- ⚠️⚠️ 本页必须标出一处事实错误:同一段里他说"Postgres 是用 Haskell 写的"——Postgres 是 C 写的。✅ 本页判断这不影响论点结构(某类工具最终被重写一遍、然后只剩一个赢家),但该句不可引用。
- ⚠️ 他们自己还没做,而且"很多东西是 Elixir"(理由是 BEAM);✅ 而主持人那条被接受:"但现在你可以相当容易地换范式了,只要你能过掉所有测试。"
- ⚠️⚠️ 而本节最该保存的是那条第三方提议与它的定性([01:09:37]):Vercel 的 Malte 的一条推——拨出一笔钱,把所有 C / C++ 层的依赖重写成 Rust,"因为我们就是知道那更好:更安全、更正确";✅ 主持人给它的定性是 ⚠️⚠️ "而它是开源的一次性升级。"
- ⚠️⚠️ 嘉宾的回应是赞同 + 一条预测失败的理由:"作为一个想法我挺喜欢。但我不认为它会发生,因为人们就是喜欢自己来。" ✅ "不过作为一个想法,我们作为公司会 100% 支持它。"
- ✅ 本页认为这条值得保存的原因是它可检验:技术上可行(有人出钱就能做)、社会上不会发生(人们喜欢自己重写)。⚠️ 这是本页少见的一条带明确失败机制的预测,几年内可以直接回看。
- 🔗 ⚠️ 本页标注它与上文"⚠️ AI slop:开源的基本假设被打破"一节的关系:那一节讲的是 AI 让低质量贡献的供给暴涨;⚠️⚠️ 这一条讲的是同一能力的另一面——它也让"把整个依赖树升级一遍"从不可能变成只差一笔钱。本页认为两条应当并读,因为它们是同一个成本下降在两个方向上的后果。
⚠️ 二、Apache 2 覆盖专利:一条具体的许可动作¶
([00:08:06])⚠️ 自述。 OrioleDB(Postgres heap 存储引擎的 drop-in 替换)发布为 Apache 2,而⚠️⚠️ "我们其实是买下了这项技术、继续开发它,然后我们付钱买下了那项专利,现在免费给出去——而 Apache 2 许可覆盖了那项专利。" ✅ 本页认为这条值得记的原因是它少见地把"开源"落在了专利处置上,而不只是代码许可。(Multigres——Postgres 生态 operator 的从头重写——也自述完全开源,平台侧仅邀请制。)
⚠️ 三、社区股权:本页同类材料里最具体的一条¶
([00:35:17]–[00:37:19])
- 原计划是众筹轮,⚠️⚠️ 然后花了一年跟律师纠缠:"按我们想让参与的人数,不让大家成为合格投资人就没有机制能做到";✅ 破局的问题是他们自己问出来的:⚠️⚠️ "那如果他们不投资呢?如果我们就把股票给他们呢?" 律师回去研究后说"其实确实有一个机制——如果你真的只是想把股票送出去,你可以"。
- ⚠️ 规模(自述):"我们现在划出了大概一百万美元的 Supabase 股票,基本上要给一批社区成员。"
- ⚠️⚠️ 第一个被点名的人给了一个可核对的量级:Gary Abbott(Discord 里叫 Gary Austin)——"六年里在 Supabase Discord 回答了两万个问题","其中一万三千个是在问题被提出的第一小时内回答的";✅ "而他不是个 Grok bot,他是个真人。"
- 🔗 ✅ 本页标注这与上文"开源基建的长期投入问题"与"注册表这一层的资助缺口"的关系:⚠️⚠️ 那两节给的是"钱不够、谁该出";这一条给的是一种此前没有记过的支付形式——股权,而且是绕开合格投资人限制的赠与。
⚠️ 四、刻意不知道自己的开源装机量¶
([00:39:20])⚠️⚠️ "我们相当刻意地不去知道。我们在开源版本里不放任何追踪。" ✅ 于是规模是靠客户上门才暴露的:有大型制药公司来说"我们在跑你们开源项目的 100 个实例,你们能给我们一个产品吗"——⚠️ 而这正是他们那个企业机群管理产品(Control Tower)的来源。 🔗 ⚠️ 本页标注这与上文 Simon Mo 那条"部署足迹不可替代"的张力:那条把部署足迹当作开源项目最硬的资产;⚠️⚠️ 而这一条说明足迹本身可以是不可观测的——厂商主动放弃了测量它的能力,代价是只能靠入站线索发现需求。
⚠️⚠️ 本页第一条正面交锋:"代码变便宜"会不会取消开源供应链的理由(Jay Parikh / Microsoft CoreAI,2026-11-08)¶
来源:Latent Space × Jay Parikh(GitHub Universe 现场)(⚠️⚠️ keynote 后的现场采访,受访者是 Microsoft CoreAI 的 EVP,全部数字为自述或自家年度报告,本库一律记为自述口径)
✅ 本页标注这条为什么是新的:⚠️⚠️ 本页此前关于开源的材料讨论的是开源会不会在能力上追上、经济上为什么更慢、以及 token 份额会流向哪里。这一条问的是另一个问题:如果写代码的边际成本大幅下降,"用别人的代码"这件事本身还剩多少理由。
① 挑战(主持人给的,本页判这个提法本身是材料)¶
([00:17:15])
"我觉得 GitHub 和我们这条开源供应链,是建立在'代码很贵'这个前提上的。而也许现在代码很便宜了。也许安全评审其实也很便宜了,而实际上加固我们系统的最好方式就是把一切 vendoring 掉、或者把一切重写掉,因为它便宜。然后就不依赖开源。" 具体化成一个数:"我的依赖是 2,000 个每个人都在用的核心软件件。它们全都是可被攻击的表面积。也许我就把它们减到 20 个。"
② ⚠️⚠️ 反驳:一条成本转移论证,而它不依赖任何产品优势¶
([00:18:18])✅ 本页判这是全条最有迁移价值的一步。
✅ 他先接住了这个问题:"我不觉得这太离谱,因为这确实是我们被问到的一个问题。" ⚠️⚠️ "我也不觉得那是万灵药。因为,嘿,我在我的东西里用了 2,000 个开源项目,我要去掉其中 1,980 个,然后用剩下的 20 个——但那 1,980 个现在得由我来维护了。" "所以这是那种你必须选择把你的钱、你的人、你的时间放在哪里的情况。"
- ✅ 而他的处方是一个方向选择而不是一个产品:"我觉得开源里正在发生的事情有太多是重要且有价值的。我不觉得那会停下来。如果说有什么变化,我觉得开源对企业、对构建者、对创作者的价值只会从这里继续上升。" → "所以让我们去解决那个问题,也就是让开源里的东西变安全,而不是所有人都走进某种围墙花园的路子。"
- ✅ 本页标注这条的位置与检验方式:⚠️⚠️ 它把答案定位在维护责任的归属上,而不是生成成本上——重写一次是便宜的,但拥有那段代码之后的每一次安全修复、现代化与升级都变成你的。 ✅ 检验方式很具体:如果 vendoring 真的成为主流,应该先看到企业内部代码库规模与内部安全/维护投入同时上升,而不是只看到依赖数下降。
- ⚠️⚠️ 而本页必须记下他没有处理的一步,因为这正好是这条论证的薄弱处:挑战的前提有两段(代码变便宜、安全评审也变便宜),而他的反驳只针对第一段。如果维护与安全评审本身也被 agent 大幅压低成本,那"那 1,980 个得由我维护"就不一定是决定性的成本。 ⚠️ 本期没有人提出这一点,本页记为该接着做的工作。
- 🔗 本页既有的相邻材料:Nathan Lambert 关于开源经济为什么结构性更慢、Supabase 的"rewrite in Rust 是开源的一次性升级"(⚠️⚠️ 本页标注这两条的方向相反很有用:Supabase 那条说的是重写在开源内部发生、是升级;而本条说的是重写从开源搬到企业内部、是成本转移。同一个"重写变便宜"的事实,落点取决于重写出来的东西归谁维护。)
③ ⚠️ 供应链侧的具体动作(自述)¶
([00:16:14])Microsoft 安全团队与 GitHub 安全团队协作,既加固平台也与开源维护者合作,具体是"限制像 npm 这样的包管理器的暴露面,包括设置时间延迟、以及下架被攻破的仓库"。⚠️ 全部为自述能力声明,无口径、无第三方核实。 🔗 相邻材料见 LLM 安全 与 All-In × Nikesh Arora(PHP 漏洞周)(⚠️ 主持人在本期也提到了"最近 PHP 那件事")。
④ ⚠️ 一组可逐年核对的平台口径(Octoverse,自家报告)¶
([00:03:01]–[00:04:01])2.25 亿开发者、"覆盖世界上每一个国家";连续第二年"每一秒都有一个新开发者加入"(✅ 主持人当场换算成"3,150 万");170 亿次 code push、343 亿次 commit、13 亿个 PR;开源社区贡献同比"涨了两倍半"、约 15 亿次(⚠️ 这个数在转录稿里残缺,本页标出此处不可直接引用)。
- ⚠️⚠️ 而本页必须把另外两个数字分开记,因为它们出自主持人开场的独白、不是受访者说的,而且没给来源([00:00:00]–[00:01:00]):"GitHub 上大约 40% 的 pull request 是 agent 创建的"、"agent 总量在 6 个月里涨了 6 倍"。✅ 本页标注一条推论:如果这两个数字成立,那么上面那 13 亿个 PR 里有相当一部分不再对应人的决策,于是"PR 数"作为开发活动指标的含义已经改变——而本期无人处理这件事。
⚠️⚠️ "大多数开源仓库将来都会变成 agent 运行的 software factory":一条预测,以及它抽掉的那个前提(Stanford CS146S,2026-11-08)¶
来源:Latent Space × Mihail Eric(嘉宾 Mihail Eric / Stanford 兼任教授、Monaco 的 Head of AI;主持 swyx)
⚠️⚠️ 一、那条预测¶
([01:23:40])它出现的位置很关键:它是对"零依赖最安全"这条主张的一次回应。
"我有个信念——大多数开源仓库、如果不是全部,将来都会变成实质上由 agent 运行的 software factory。那时候会怎样?"
- 现成例子:Warp 把自己的开源终端当成一个 software factory 在跑(🔗 本库该项目侧的一手材料见 Warp 那一期)。
- 他对形态的描述:"这几乎意味着,是的人还在参与,但参与得越来越少——肯定不是每一个人都在以过去同样的程度 review 每一件进来的东西。"
- ✅ 他对后果明确表示不知道:"这让这个代码库对安全问题更脆弱还是更不脆弱?这有点难说。" ⚠️ 他说连他认识的在开源里工作的人也"在试着搞清楚那个稳定点到底在哪"。
⚠️⚠️ 二、本页认为这条预测抽掉的那个前提¶
([01:22:39]–[01:23:40])前一分钟 swyx 刚给出开源的经典辩护:
"开源的全部意义就在于——阳光是最好的消毒剂。你对你自己定制的软件依赖会非常慢才发现问题,因为你只有你自己的用户,而他们不会向你报告。但如果这东西全世界有十万个用户,总会有人发现点什么。"
- ⚠️⚠️ 本页的归纳:这条辩护依赖的是人的多眼审查。而嘉宾那条预测说的正是人类 review 的覆盖率会下降。 ✅ 于是两条合起来指向同一个待观察量——开源项目里人类 review 的实际覆盖率,而本期无人给出任何数据。
- ✅ 本页判这是本页此前没有的一条论证形状:⚠️ 本页既有材料里"开源 vs 自建"的权衡基本在成本与控制力上展开;而这一条把权衡放在审查供给上——开源的优势从来不是代码质量,而是审查人数,而审查人数正在被同一批工具替换掉。
🔗 三、与同日那期正好拼成完整的一件事¶
- ⚠️⚠️ 同日 Jay Parikh 那期 处理的是需求侧:swyx 递的提法是"代码便宜了,也许最好的加固方式就是把一切 vendoring 掉……我的 2,000 个依赖也许就减到 20 个",而换来的反驳是"那 1,980 个现在得由我来维护了"——⚠️ 即维护责任不会消失,只会从开源社区搬进企业内部。
- ✅ 而这一期处理的是供给侧:⚠️ 开源社区自己也在用 agent 顶上那份维护工作。
- ✅ 本页判两条合起来才是完整的机制:⚠️⚠️ 便宜的是生产,贵的是此后的持有成本;而持有成本在两侧都没有消失,只是两侧都在用同一批工具去顶。于是"代码变便宜会不会取消开源的理由"这个问题,目前双方给出的答案都是"不会取消,但会改变是谁在维护、以及有多少人在看"。 ⚠️ 两期同日发布、互不知情,而方向一致。