Sebastian Raschka & Nathan Lambert
背景 : 两位以教学/写作见长的 ML 研究者。Sebastian Raschka ——《Build a Large Language Model from Scratch》《Build a Reasoning Model from Scratch》作者，主张"从零手搓是最好的学习法"。Nathan Lambert ——Allen Institute for AI（AI2 ）后训练负责人、OLMo 团队，RLHF 权威（著有 RLHF 专书），"RLVR"一词的共同提出者（Tulu 3）。channel slug : 作为 lex-fridman 频道嘉宾收录。
立场与关注点
架构自 GPT-2 几乎没变 ，真正进展在训练配方（pre/mid/post-training）与系统（FP8/FP4）；MoE/MLA/GQA 都是"旋钮"而非范式变化。三条 scaling law（pre-training / RL / inference-time）都还在走 但低垂果实已摘；关键定律是 RLVR 可 scale、RLHF 不能 。完全开放（data+code）阵营几乎只在西方 （OLMo 为代表）；中国开源生态以超大 MoE 见长、动机是全球 uptake。对 AGI 时间线保守：能力是 jagged 的 ，"一个模型统治一切"的梦正走向专用化；被低估的真实影响是"让全人类知识人人可及"。
关注教育与"struggle 的价值"、996/burnout、SF 泡沫等 AI 从业生态问题。
呼应与分歧
与 姚顺宇 ：在"纸面趋同、无 winner-take-all、蒸馏/追赶便宜、pre-training 未死"上高度一致，构成本库美方综述 × 中方一线 的双向印证。
与 Mark Chen 、Noam Brown ：共享 jagged frontier、evals 危机、渐进 takeoff 判断。
与 Eric Jang ：都从 RL 原理讨论 RLVR/价值函数；Nathan 从 RLHF 侧、Eric 从 self-play 侧互补。
与 Jensen Huang ：都把中国开源视为生态加速器，但两位补充了"美国大厂因安全不付费中国 API → 开源是切入市场的手段"这一机制。
已收录访谈
⚠️⚠️ Nathan Lambert 的重大身份变化与一次文献级论证（2026-10-14）
来源：a16z / Nathan Lambert
⚠️⚠️ 身份变化 ：他已离开 AI2 ，正在创办一家非营利开放实验室 Trillium ，本期为其发布周（视频页 [00:01:01]）。⚠️ 本库上文记载的"AI2 后训练负责人"自此为历史身份。
⚠️ 他自己给的离开原因是组织性的 ："当我离开 AI2 时，我觉得我们的后训练说实话在落后，就是因为我们的循环时间不够快" （视频页 [00:48:22]）。
⚠️ 名字来由 ：延龄草是一种在树冠长出叶子之前就开花 的春季短命植物，"对把养分散布到春夏的生长循环里是必不可少的" （视频页 [00:33:13]）。
⚠️⚠️ 本库认为他在本期最该被引用的是蒸馏之争里那条文献级反方，因为它是本库在这条线上第一份可检查的技术理由 （视频页 [00:11:04]）："基于公开文献，我很难说蒸馏是一个主要因素。因为在人们试着做开放后训练配方的那套完全开放的文献里，所有开放模型的构建者都还卡在用一个真的很过时的 Qwen 模型上——因为你搞不定怎么把 teacher 做对。"
⚠️ 他的假设 ：开放的那部分共同预训练数据里有某种中训练上的东西 ，让"从最好的模型拿推理轨迹 → SFT → 数字上去"这条路走不通。
⚠️⚠️ 而他拿自己的工作下注 ："如果我当时在造模型的时候能拿到 Claude 的推理轨迹……我其实不确定那会不会让我们的模型好很多。"
⚠️ 时代差是论证的核心 ：此前后训练远更依赖 SFT （RLHF 时代），⚠️ 而"现在这件事已经变形成了 RL 为主的环境。但很难把这种后训练映射到今天推理模型里在发生的事情上" 。
⚠️⚠️ ✅ 而本库认为这段之所以可用，是因为他紧接着列了对自己不利的反证 ：中国的 Claude 代理账号与中间商、巨量 token、"甚至有 Kimi 在自家产品里给用户提供 Claude 的情况" ，以及 "我知道中国公司在[偷推理轨迹]这件事上远远领先，因为 AI 安全社区是后来才发表的……我觉得每个中国实验室都有一个懂这类事情的团队" （视频页 [00:12:04]）。⚠️ 他对这些的态度是坦白的困惑 ，并说 "是的，我们也该盯着它" 。
⚠️ 他自己的量级口径是 "蒸馏帮他们几个月" ，而他明确说这是在信息受限下基于文献得出的 。
⚠️ 政策立场 （视频页 [00:14:05]–[00:16:06]）：⚠️⚠️ "我不知道为什么你该让政府介入一项服务条款违规。我甚至不认为服务条款是一份签署的合同……你能做的就是取消他们的访问权。" 他反对 KYC 、支持实验室自己做防护 （并指出"只在必须签企业协议的产品里提供"是可行路径），⚠️ 而他对落地形态的预测是 ："你不会用国会的政策去监管蒸馏。你大概只会用联邦层面的行动去让他们的日子变得烦人。" ⚠️ 成本收益判断是 "如果你对蒸馏做任何事，我觉得你造成的伤害会大于好处，因为他们不会停"。
✅ 本库标注：这与 Jensen Huang 页上既有的"中国开源是生态加速器"方向一致 ，⚠️ 而这是第一次有一位开源研究者从技术证据而非产业利益一侧给出同向论证。 ⚠️ 本期主持人读了 Jensen 关于蒸馏的那段话（"那叫竞争"），Nathan 回应 "我非常同情这个立场"；⚠️ 本库按二手转述记录那段引语。
⚠️⚠️ 而他对中国实验室安保的那条推断方向与通常相反，本库认为值得单独记 （视频页 [00:04:02]）："中国政府会做一些会让美国人大吃一惊的事情。而我认为那让我觉得中国实验室对安全的态度要严肃得多——因为在中国，对公司做某些事的反应要激烈得多。" ⚠️ 他明说不展开，期内无任何证据，本库记为他的推断。
⚠️ 而他对"为什么开源"的解释是分发而非价值观 ："如果他们造出模型、然后试着从中国卖 API，没人会知道他们。没人会知道 Moonshot AI。极少有人会知道智谱。" ⚠️ 他主动排除了政策解释 （"政府有参与吗？……并不是那样。他们就是在试着做一家创业公司"）。
⚠️⚠️ 他的 RSI 立场与一条明确的证伪条件 （视频页 [00:55:23]）：核心论据是量纲上的不对称——"所有的 scaling law 都是算力的指数级增加换性能的线性增加……这件事我很难去反着赌" ；结论是 "我不认为这必然会变成那种模型自己造自己的快速起飞。是人的瓶颈。"
⚠️⚠️ 证伪条件 ："如果一个 AI 模型真的发现了某种与 transformer 非常不同的东西、给出非常不同的性质、解锁了一种新型的智能——那这是值得据此更新的。" ✅ 本库认为这是这条线上少见的、由怀疑一方主动给出的翻盘条件。
⚠️⚠️ 而他真正担心的东西与 RSI 无关 （视频页 [00:56:24]）："那张 AI 能力曲线并不必然让我担心；但那张 AI 能力曲线配上公共网络安全这些方面几乎不存在的准备——需要有比现在更多的准备。而这才是比'RSI 要来了并解锁新风险'更让我担心的东西。" ⚠️ 他主动加的那条区分必须一起引用 ："不害怕快速起飞，并不意味着你不担心风险。"
⚠️ 一次干净的自我修正 （视频页 [00:50:22]）：原预测是闭源实验室会像 Apple 那样做模型与 harness 的垂直整合 ，并据此认为这是开放模型的弱点 ；⚠️⚠️ 而实际是 "那么多人为不同的事情用不同的 harness，以至于模型公司被施压，必须让自己的模型能在各种各样的 harness 里工作" ，结果 "相当均衡了" 。✅ 本库记为一次由市场结构造成的预测失效。
⚠️ 他对 agent swarm 预期同一循环重演，并自承还没有词 ："它不是 harness，它更像一个协调系统。"
⚠️ 他对自己判断不确定性的标注本库认为该记 ："我真的不知道会发生什么。我觉得现在太早、还不知道" （开源经济走向）；"我以为[行业整合]两年前就会发生，而开放模型公司活得比我想的久多了" 。