"蛋白质不是积木——这话我天天说,但我其实不信":AlphaFold 到底解了什么、"先去找那条 scaling law",以及"可解释,对谁可解释?"(Latent Space / Pushmeet Kohli × Sal Candido,2026-10-10)¶
- 嘉宾: Pushmeet Kohli(Google DeepMind;⚠️ 期内未播报职务,他自述的路径是安全研究 → 计算机视觉 → 贝叶斯理论 → 判别式机器学习与深度学习 → AI for coding → 科学,并自述与 John Jumper 共同讨论过 AlphaFold 要解的到底是什么问题);Sal Candido(Biohub;⚠️ 职务未播报,自述 "很久以前在 Google" 的职业经历)
- 主持: ⚠️⚠️ 全程未被播报姓名。⚠️ 可用线索有三处,本库照录但不裁定身份:① 他自述 "我们都是建模者"([00:01:02]);② "如果你跟我的朋友聊,他们都会说这里还有太多事要做"([00:15:12],指蛋白质结构预测社区);③ 他自述 "我喜欢定量的预测"([00:28:18])。⚠️ 本库不补。
- 来源: YouTube · 33 分钟
- 转录稿: sources/latent-space/20261010-NufiHZfMwaw
⚠️ 形态提示:这不是一期播客访谈,而是一场会议现场的圆桌。⚠️ 主持人开场说 "多么激动人心的一个上午,这么多很酷的发布"、"生物科学的未来正在这里被宣布"([00:00:00]),而两位嘉宾都提到了"我们今天宣布的这个 effort"([00:04:04]、[00:29:20])。⚠️⚠️ 本库无法从转录稿确定那是什么会议或什么发布——⚠️ Sal 提到的组织字幕作 "the BBI"([00:04:04]),本库无法确定还原,照录不解释。 ✅ 本页因此把全期当作"一次面向同行的现场讨论"来读:它没有产品叙事,但也没有任何可独立核验的数据。
⚠️ 另记一处元数据变化:⚠️ 本库在发现环节看到的标题是 "Can AI Cure All Disease?",而抓取时标题已改为 "Why AlphaFold Didn't Solve Protein Folding"。 ✅ 转录稿 frontmatter 记录的是后者,本页按后者命名——而这次改题恰好对应了全期最锋利的那一节。
⚠️ 人名与术语还原(自动字幕,均为高置信度):AlphaFold → "Alphaold" / "Alpha Volt" / "alphafold too"(全程混用);PDB → 一处作 "PTB";cryo-EM micrographs → "crym microraphs" / "cryomm microraphs";pLDDT → "PLDDT";GDT → "GDT" / "GD";Feynman → "Fleman";CZ CELLxGENE → "cell by gene";metagenomic → "metagenomic"(正确)。
⚠️ 两处本库只做概率性标注、不当作确定还原:① ⚠️ Pushmeet 说 "我在 DeepMind 时 Rich 和我们在一起,在思考 bitter lesson 这个想法"、"Rich 当时在 DeepMind 做的那场讲座"([00:05:04])——⚠️ 稿中只有名 "Rich";bitter lesson 一文的作者是 Rich Sutton,所以这几乎确定指他,但本页在引用时仍保留原样的"Rich"并在此标注;② ⚠️ "the BBI"([00:04:04]),见上条。
✅ 本页认为这是本库在 AI for Science 上最该被长期保存的一期,尽管它只有 33 分钟,原因是四处本库此前完全没有的东西:① ⚠️⚠️ AlphaFold 的核心作者之一亲口把"蛋白质折叠问题已解决"这个叙事拆开——而拆法不是谦辞,是指出目标函数本身就不是那个问题;② ⚠️⚠️ "scaling law 不是到处都有,大部分工作是去找到那条 scaling law"——本库第一条把 scaling law 当作要去寻找的对象、而不是前提的表述;③ ⚠️⚠️ "可解释,对谁可解释?"——以及由此得出的"要的不是可解释性,而是行为刻画 + 不确定度校准";④ ⚠️ bitter lesson 的第三种读法:它说的不是算力赢,而是"不要对解法有宗教式的立场"。
概要¶
- ⚠️⚠️ 本期最该被长期引用的一段,是 Pushmeet 把"蛋白质折叠已解决"这个叙事拆开的方式,而关键在于他拆的不是精度而是目标([00:16:12]–[00:18:13])。他先给了一句本库认为极少见的自我否定:"当人们说蛋白质是构建单元(building blocks)这个叙事时——蛋白质不是积木,它们也不像积木那样行动。我天天都在说'蛋白质是构建单元',但其实我不信这句话。蛋白质极其复杂、它们是无序的、它们的形状可能随语境改变。"
- ⚠️⚠️ 然后是那句定义性的拆解,而他把它归到与 John Jumper 的讨论上:"John Jumper 和我过去常讨论这件事——我们到底在解什么?我们并不知道蛋白质真正采取的基态(ground state)是什么,也不知道蛋白质采取的结构的真实分布是什么。我们实际在做的事,基本上是:某个人得到了一个结构、把它存进了 PDB,而我们在试图复现、得到同一个结构。⚠️⚠️ 那就是我们做的事。而它恰好有用。但那并不意味着我们已经理解了全部的蛋白质动力学。"
- ✅ 本页认为这段的分量在于它把"已解决"这个判断的失效点定位得非常具体:⚠️ 被解决的是"复现 PDB 里的沉积结构"这个可度量任务,而不是"蛋白质在真实语境里取什么构象分布"这个科学问题;而前者之所以被当成后者,是因为它恰好有用。
- ⚠️ 他对两种受众给了不同的表述策略,而本页认为这次坦率值得记:"在最高层上,说'我们取得了进展'更容易沟通;但我们当中的科学家、在这个会场里的人——我们知道(实情)。而我认为这才是我们必须理解、并且有共同基础的重要一点:还有很多工作要做。"
- ⚠️⚠️ 而他把这一整段的落点明确放在了资金上:"我们取得了进展,有很多值得庆祝的。但请不要停止对蛋白质结构预测和蛋白质动力学的资助,因为我们才刚刚开始。" ✅ 本页标注:这条让整段的动机变得清楚——它既是科学澄清,也是一次经费倡议。本库按既有口径把后半记为立场。
- ⚠️⚠️ 而 Sal 给的那条关于 scaling law 的表述本页认为是本期第二重要的内容,因为它把一个在本库里长期被当作前提的东西变成了要去寻找的对象([00:01:02]–[00:02:03])。主持人的提问是 "数据有没有一个 bitter lesson?",而 Sal 的回答先走到了一个常见误解上:
- ⚠️⚠️ "我认为关于 scaling law 的一个误解是,scaling law 到处都有、而且它们总是存在。我认为很多工作其实是去找到那条 scaling law。"
- ⚠️ 他对"找到之后"的描述是一句工程师式的落点:"我们真正在做的很多事,是去弄清楚:在什么情况下,如果你往里投更多算力、投更多数据,你真的会得到一个更好的结果。而那之所以是个很好的情形,是因为一旦那样了,你基本上就可以转曲柄了——它变成一个工程问题,而这是我喜欢的东西。"
- ⚠️ 他指出这件事同时取决于架构与数据,而数据那一侧他给了一条近乎同义反复但很有用的约束:"如果你没有带着正确的信息统计(information statistics)的数据来解你想解的那个问题,你就不会得到一个有你想要的能力和理解的模型。你只能真正从你拥有的数据里把信息拉出来,然后用它去泛化到更远。"
- ✅ 本页认为这条该被 LLM 训练流程 与 AI for Science 同时保存,因为它改变的是"要不要 scale"这个问题的提法:⚠️ 在有 scaling law 的区域里 scale 是工程;而在没有找到 scaling law 的区域里,投算力不产生可预期的回报,而生物学的大部分恰好在后者。
- ⚠️⚠️ 而 Sal 对"建模者会不会只做有数据的问题"这一问给的回答是本期最坦率的一段,而它同时给出了正反两面([00:03:04]–[00:05:04])。他的开场是 "哦,当然会。我不替所有建模者说话,但我很懒,所以我会用手上有的东西。"
- ⚠️⚠️ 正面那一半他给了一个很具体的反直觉案例,本页认为这是本期最该被引用的一条经验:"当你做常规机器学习时,你真的在找你能找到的最纯净、最高质量的数据样本。但如果你像我一样,你其实是那种会跑到后屋去、在别人的垃圾里翻找的人。"
- ⚠️⚠️ 案例是:"当我们训练一个蛋白质语言模型,我们训练在 metagenomic 序列上——那不是最高质量的数据。事实上我可以向你保证,那里面很多数据甚至不是一个真正完整的蛋白质。然而它让模型在设计真实、能工作的蛋白质上的表现变好了,在理解那些我们知道是真实存在的蛋白质上也变好了。"
- ⚠️⚠️ 而反面那一半他点得同样明确:"但那也能把你带到一个负面的地方,就是你说:那我们就把那些容易生成的数据规模化吧。而我认为那不一定是该做的方式。"
- ⚠️⚠️ 而他给的那条社区层面的机制本页认为是本期最有结构价值的一条,因为它把"数据偏置"解释成了分工的后果而不是个人懒惰([00:05:04]):"如果你只有建模的人,我们会倾向于已经存在的数据。如果你只有生成数据的人,他们会倾向于那些容易被生成的东西。但如果你能作为一个社区在每一步上一起、以开放的方式工作,那你才真的能弄清楚我们需要的是什么数据——然后你才能找到那条 scaling law。"
- ✅ 本页标注:这条把"开放协作"从一个价值主张变成了一个纠偏机制,而它的论证形式是指出两个单边激励各自的偏向。 ⚠️ 他自述 Biohub 的做法是 "在开放中工作、与社区一起工作、推动整个社区前进",本库记为自述。
- ⚠️⚠️ 而 Pushmeet 对 bitter lesson 给的是本库此前没有的第三种读法,而他的依据是在场听过原讲的经历([00:05:04]–[00:07:05]):"我在 DeepMind 时 Rich 和我们在一起、在思考 bitter lesson 这个想法。而我从 Rich 最初那场——他其实是在 DeepMind 做的那场讲座——里拿到的东西,不是关于数据有不有用、或者我们该怎么想机器学习。"
- ⚠️⚠️ 他的读法是:"我的理解是他在讲某种更概念性的东西,而那个概念性的东西是:有时候当我们看问题时,我们会以一种非常宗教式的方式去想解法。'我是个建模者',或者'我是个数据生成的人'。而我认为那才是那个 bitter lesson——如果你带着那种心态去接近问题,你可能不会成功。"
- ⚠️⚠️ 落点是一句很短的原则:"问题先行,而你在解法空间上应该保持灵活。两种都该试。"
- ⚠️ 他对当年机器学习圈的批评很直接:"那个时候机器学习里发生的事是,人们说:我们是机器学习研究者。数据集就在那儿,这里是一些训练数据、这里是一些测试数据,而我们只优化模型——而那是坏掉的。" ⚠️ 他补的那一条是维度不止两个:"进入这个过程的不只是数据或建模,还有专业知识(expertise)。"
- ⚠️⚠️ 而他给了两个同一方法、相反结论的案例,本页认为这组对照是本期最有操作价值的内容([00:07:05]–[00:08:07]):
- ⚠️ AlphaFold → 投建模:"我们看了用现有数据集能做到什么,因为我们既没有那种核心专业能力、顺便说也没有那种资源去说'让我们把 PDB 扩大一个显著的量级'。" ⚠️ 他对既有数据的评价是:"全世界的组织和科学家为构建那份数据所投入的量是无价的。" ⚠️ 结论:"所以在那里你必须聚焦于——怎么把钱花在建模上以拿到最大的收益。"
- ⚠️⚠️ 细胞基因组学 → 结论相反:"在其它领域,如果你接近的是细胞基因组学,我们用了同样的方法问:如果你看细胞基因组学,用 CZ CELLxGENE 能做什么?而在那里,经过一堆工作之后非常清楚的是——⚠️⚠️ 数据还不到位,没法去追'构建虚拟细胞'那个宏大野心。"
- ✅ 本页认为这组对照是本期最该被迁移的一条方法:⚠️ 同一个"先问问题、再选解法"的流程,在一个领域里导出"别碰数据、全力建模",在另一个领域里导出"现在建模是浪费、先去产数据"——而判据是现有数据集相对于目标的覆盖度,不是领域的热度。
- ⚠️ 他给新人的建议是三句([00:09:08]–[00:10:09]):"把自己想成一个多学科的人";"先理解问题——你为什么在做这个问题?我们想达成什么?";以及一条关于约束的:"理解那些约束,然后停下来、试着快速失败,看看哪些路径在长期上是可行的、能把你带到你要的那个 impact 水平。"
- ⚠️⚠️ 而"手工艺 vs 规模化"这一问引出了本期两位嘉宾唯一一次明确的互相修正,本页认为这次交锋值得完整保留([00:10:09]–[00:15:12])。主持人的提法是 "AlphaFold 2 本质上是一件艺术品——一堆非常精心手工打造的特征,解法的每个部分都经过很有意图的思考;而现在的共识似乎是转向更可规模化、更通用的策略",并把问题落到资源配置上("固定的钱可以给算力、可以给人才、可以给数据,我们是不是该先聚焦规模?")。
- ⚠️⚠️ Pushmeet 的回答是为归纳偏置辩护,而理由是数据效率([00:11:10]–[00:12:10]):"那不是一件偶然的事。我们做了很多实验,但它背后有一个愿景、有来自生物物理与生物化学的科学直觉——那些氨基酸残基不是各干各的,它们在被其它残基影响。那就把它烘进去(bake that in)。如果你从科学社区学到了什么,就用它、用那个信息去鼓励模型、给它那个不公平的优势。"
- ⚠️⚠️ 而机制是:"它确实让模型的数据效率高得多,因为它不必把所有东西都重新复现一遍。"
- ⚠️⚠️ 他紧接着把"数据"这一侧也从规模改成了手艺,本页认为这句是本期对数据工作最该被引用的一条定性:"策划好数据本身就是一门手艺。并不是说你会说'多放点数据'——如果你只是把同样量的数据复制一遍,你哪儿也去不了。所以它不只是 big data,它是 good data。而真正理解什么数据的覆盖度对在这个问题上取得进展是必要的——这其实我会说是一个更有意思、也更有挑战性的问题本身。"
- ⚠️⚠️ 而 Sal 先同意、然后明确反驳了问题的框架本身([00:13:10]–[00:15:12]):同意那一半是一条标准但有用的曲线:"如果你有比较少量的数据,那在模型里有更多归纳偏置肯定会帮到你——而你其实需要它才能在更小的数据规模上拿到结果。随着你得到越来越多数据,你会看到模型有时能找到你并不一定知道的东西,而那个归纳偏置如果不完全正确的话,反而会拖住你。所以随着东西变好,确实存在那个转折点(tipping point)。"
- ⚠️⚠️ 而反驳那一半是:"但我也有点反对你的问题,因为我认为规模化这件事本身其实也有很多手艺。" ⚠️ 他给的依据是两层:"有大量算法工作真的要投进去——把这些模型拿来、在更多数据上训练它们、投更多算力、把它们做得更大";以及基础设施与推理速度那一层。
- ⚠️⚠️ 而他给的那条架构观察本页认为该被精确保留,因为它同时说了两件相反的事:"我们其实看到事情正在越过 transformer、走向更定制(bespoke)的架构——而我完全不认为我们处在一个后 transformer 的世界里,但我们在修改那些架构,让它们更适配目的、即使在互联网规模的数据上也能工作得更好。"
- ⚠️⚠️ 他对"数据"这个词本身的替换本页认为是本期最值得记下的一处用词修正:"它更多是信息(information)而不是数据。你怎么拿到模型需要的下一批信息?" ⚠️ 而落点是一条持续的双重工作:"在每一步、每一个规模上,什么才是能从那批数据里榨出最多的正确架构?"
- ⚠️⚠️ 而"可解释性"那一节本页认为是本期对 评估与基准 最重要的贡献,因为 Pushmeet 把问题整个换掉了([00:21:14]–[00:28:18])。起点是主持人引的费曼那句 "我不能创造的东西,我就不理解",以及他给的当代反转:"而现在我们处在一个很容易在完全不理解的情况下创造东西的世界里。"
- ⚠️ Sal 先给了一条历史降温:"我们在 AI 出现之前很久就在用魔法黑箱设计东西了。" ⚠️ 但他认为理解仍然重要,而他的提法是一个很具体的工程问题:"随着智能变得越来越便宜、越来越可得,你可以把它部署去学关于世界的越来越多的东西——但然后你怎么把那些知识从机器里拉出来(pull that knowledge out of the machine)?"
- ⚠️⚠️ 而他给了一条本库此前没有的一手可解释性结果([00:23:15]):"我们在我们的模型上做了很多可解释性的工作,而你在里面找到很多信息。我认为人们知道蛋白质语言模型在它们的表示里学到了某种结构的概念——而我们还发现了关于某些功能的信息,也发现了关于运动(motions)的信息。"
- ⚠️ 他的推论是:"所以我认为即使从我们现在已有的模型里,也还有很多东西要被解锁。"
- ⚠️⚠️ 而他给的那条框架本页认为值得单独记:"归根结底,你会预期一个 world model 会从'试图把所有这些信息压缩进模型'这件事里涌现出来……它怎么做它的工作?它怎么设计一个蛋白质?嗯,它把演化的所有信息都压缩进了这个模型。所以除了它能吐出对我们有用的东西之外,光是看它内部有什么,就一定有东西可学。"
- ⚠️⚠️ 而 Pushmeet 的回答是把"可解释性"换成两个分开的问题,本页认为这是本期最有迁移价值的一条区分([00:24:16]–[00:27:18])。他先用一个反事实说明哪一个才是刚需:
- ⚠️⚠️ "AlphaFold 其实并不完美——AlphaFold 2 当时在那个集合上是 90 GDT。但即使它是 95 GDT,而 pLDDT 分数完全没有被校准(uncalibrated),谁会信任它?它就会魔法般地给出好答案,但突然告诉你'这里非常非常有信心',而你会为它工作一年、然后发现它完全是错的。"
- ⚠️⚠️ 结论:"那个不确定度度量的校准是极其重要的。"
- ⚠️⚠️ 而他的区分是:"所以在那个意义上我们确实有理解,而且我们在理解 AlphaFold 2 如何表现(behaves)这件事上取得了很多进展。而那不同于'它是怎么工作、怎么找到那个解的'。" ✅ 本页标注:行为刻画(behavioral characterization)与机制可解释性被他明确分成了两件事,而他主张前者是使用模型的前提、后者不是。
- ⚠️ 他对后者给了一个正面案例,而有意思的是他把它当作"泛化"的证据而不是"可解释"的证据:"AlphaFold 2 在最高层上是可解释的,因为……这是它的泛化能力,而我们在发布前并没有发现它。当我们发布 AlphaFold 2、把权重放出来,人们发现它是一个很好的无序蛋白质预测器——它能搞清楚蛋白质的哪些部分是无序的。所以这说明它泛化了。"
- ⚠️⚠️ 而那句"对谁可解释"本页认为是本期最该被长期引用的一句([00:26:18]):"现在,可解释性问的是这个问题:对谁可解释(interpretable by whom)?如果你说的是对一个人类理性系统可解释、带着人脑的认知与计算限制,那么不——AlphaFold 2 不可解释。但如果你问的是,AlphaFold 2 对一个大得多、复杂得多的模型是否可解释——也许它是,只是我们不懂。"
- ⚠️ 他给的具体形式是一个可操作的实验设想([00:27:18]–[00:28:18]):"如果你给未来的某些大型前沿模型访问激活层的权限,然后说:好,你能预测 AlphaFold 会做什么吗?也许它们能预测,而它们会提出一个关于 AlphaFold 2 实际上是怎么解释、怎么产出这些结果的理论。"
- ⚠️⚠️ 而主持人做了一次概括,Pushmeet 用一个词确认了它——本页认为这句概括是全期对实践者最可操作的一条([00:27:18]):"所以你的看法是,严格意义上的可解释性并不是必需的;而确保模型可被信任、从而让人类能做出可执行的决策,才是人们该聚焦的东西。" ⚠️ 他的回答是 "正是(exactly)"。
- ⚠️ 他随后给的那条使用纪律是:"所以理解模型的行为刻画、以及它的强项与局限,我认为这是极其重要的;而我们不能在没有那种行为刻画的情况下就使用这些模型,否则它不会帮我们、反而会伤害我们。"
- ⚠️ 而 Sal 的"自行车"类比本页认为是本期对"模型该建在什么层级"最清楚的一条表述([00:19:14]–[00:21:14]):"我把我们现在建的这些模型想成——你有个人在试图理解一辆自行车是怎么工作的,而你在建模它上面的一根辐条(spoke)。那些模型可以随时间变得越来越好,但你真正需要做的很多事,是从辐条的模型走到轮子、也许再走到整辆自行车,因为那才是人们真正想理解的东西。"
- ⚠️⚠️ 而他把当下的误用也放进了同一个类比里,本页认为这半句比前半句更锋利:"而且把这个类比继续下去——看起来人们想用这辆自行车的模型去设计一辆皮卡车的某个零件。"
- ⚠️ 他对现有模型的定性是两面的:"它们相当有用,但它们并不正好是大多数人想解的那个问题——它们服务一个非常特定的目的,然后你也可以用它们去做别的,比如设计新蛋白质,而那不是你一开始会从那里出发的东西。"
- ⚠️ 他同时明确表示不该放弃折叠模型:"但我同意你——我认为我们应该继续努力做折叠模型,因为我认为它们会继续变得越来越好。"
- ⚠️ Pushmeet 的"魔杖"问题指向的是 cryo-EM 原始数据,而他自述试过并失败了([00:18:13]–[00:19:14])。被问"如果能挥魔杖变出更多的某样东西来加速功能/动力学/设计",他的回答是从自己的视觉研究背景出发:"我心里那个计算机视觉研究者对 cryo-EM 显微图(micrographs)超级兴奋。我当时想:这个 PDB 数据是什么?我应该在源头工作——我不要那些结构,它们一定漏掉了所有的数据。我应该直接在 cryo-EM 显微图上操作。"
- ⚠️ 他要的目标很具体:"现在,让模型能在那个层级上、用正确数量的数据扩放,并把那里被捕获的所有动力学与分布信息抽出来——那会是一件了不起的事。"
- ⚠️⚠️ 而他对自己尝试的结果给了一句很短的交代,本页认为这次承认值得记:"我试过,我做了,但——它需要更多工作。" ⚠️ 他对谁来做的预期是:"我想在某个时间点,也许比我更强的人会去试一把,然后我们会到某个地方。"
- ⚠️⚠️ 而最后那个"多久能在临床看到 AI 结果"的问题,Pushmeet 的回答是直接拒绝这个提法,本页认为这次拒绝比任何时间表都有用([00:28:18]–[00:30:20]):"我是说,重点是——'AI 的结果进临床',我认为这是个 ill-posed(提法不当)的问题。AI 今天已经在药物发现过程的每一个部分被使用了。所以从那个角度看,它已经在那儿了。"
- ⚠️⚠️ 而他把问题重写成了"在加速什么":"但如果你问我的是,我们什么时候会看到那个 10 倍或 100 倍的时间线加速——那么另一个问题就是:我们在加速什么?是 lead optimization?是靶点发现?是临床前、还是毒理那部分工作?"
- ⚠️ 他给的时间口径只有一句模糊的:"我想在接下来这几年。" ⚠️ 而条件句是:"我们需要攻克生物学的一些硬挑战,只有那样我们才能拿到那些真正的加速解锁,从根本上改变药物发现会怎么发生。" ⚠️ 他把这一条与"今天宣布的这个 effort"直接挂上了,✅ 本页标注这是一次面向会议议程的表态。
- ⚠️ Sal 的回答同样拒绝给数:"所以什么时候会出现一个完全由 AI 做出来的药?我不知道。很难知道。" ⚠️ 他只给了方向:"但我确实认为我们会在这里非常非常快地看到快速进展,因为所有这些工具都在被使用。"
- ⚠️⚠️ 而 Sal 收尾时给的那条"10x 而不是 10%"的方法论本页认为是本期最该被独立保存的一条管理论证,因为他给的理由不是野心而是搜索范围([00:31:21]–[00:32:22]):"很久以前在我的职业生涯里、其实是在 Google 的时候,我学到的一件事是——有时候通过看'要做到 10 倍的改进需要什么'来接近一个问题,比看'10% 的改进'更容易。"
- ⚠️⚠️ 而那条理由是:"而那并不是因为那一定是一条更容易的路。是因为它让你能采取一个更宽的视角、看到一些你此前没有在接近的解法;以及真正做到它的路径是什么。你会回去、从第一性原理看:我们要怎么做这件事?"
- ⚠️ 他明确拒绝把它做成二选一:"所以我认为 10% 和 10x 这两种方法都有价值,我们应该两个都做。"
- ⚠️ 他把它接回了机构使命上:"我只是很高兴在 Biohub 我们有一个我认为非常美、非常高远的使命陈述——治愈所有疾病。而如果你想做到那个,你真的需要去弄清楚什么是那个 10x 的路径。" ✅ 本页标注:这正是本期在发现环节时的原标题("Can AI Cure All Disease?")的来处。
核心观点¶
一、⚠️⚠️ AlphaFold 解的不是蛋白质折叠问题,而是"复现 PDB"这个任务¶
来源同本页([00:15:12]–[00:18:13])。
- 那段拆解、"蛋白质不是积木"的自我否定、以及经费落点,均见上文概要。 本节补三条:
- ⚠️ 主持人的提问已经预设了社区内外的落差,本页认为这个提法本身值得记([00:15:12]):"新闻会说蛋白质结构预测已经被解决了。但如果你跟我的朋友聊,他们都会说这里还有太多事要做——功能、动力学、还有设计,都还是完全敞开的问题。" ⚠️ 他给的时间尺度是 "AlphaFold 2 发布大约五年了",⚠️ 而他的追问是四选一的诊断:"是不是还有另一次大跃迁在发生?有没有阻碍?我们是还没有正确的数据?还是没有正确的算法或想法?还是这是一件我们能看到在未来演化、只是时间问题的事?"
- ⚠️ Pushmeet 的回答先给了一条关于科学方法的一般性框架([00:16:12]):"我认为科学运作的方式,基本上是通过隔离出某样东西、然后一步一步取得进展。" ✅ 本页标注:这条框架正是他随后拆解的依据——AlphaFold 隔离出的那一步是"给定序列,复现一个已沉积的结构",而把这一步的成功读成整个问题的解决,恰恰是忽略了隔离这个动作。
- ⚠️⚠️ 而他对"已解决"这个叙事的处理不是否认进展,而是把两种真话分开,本页认为这是本期最值得学的一处表达纪律:⚠️ "在最高层上更容易沟通我们取得了进展"(对外为真);⚠️ "但科学家当中我们知道实情"(对内为真)。✅ 本页认为这段同时承认了简化叙事的功能性与它的代价,而代价被他说得很具体:资助可能因此停止。
- ⚠️ 本页的交叉标注:✅ 本库在 AI for Science 上已有多份材料讨论"模型提出候选、实验负责验证"这个分工,而这一期补的是更上游的一条:⚠️ 当"验证"的那份参考数据本身就不是科学问题的答案(PDB 里的结构是实验条件下的一个构象,而不是构象分布),那么在它上面度量出的"解决"就只是任务意义上的。 ⚠️ 这与 Periodic Labs 那期"科学发现按定义就是你没被训练过的东西" 是同一张网的两个结点。
二、⚠️⚠️ "大部分工作是去找到那条 scaling law"¶
来源同本页([00:01:02]–[00:05:04]、[00:07:05]–[00:08:07])。
- Sal 的那条误解诊断、metagenomic 反直觉案例、社区偏置机制,以及 Pushmeet 的两个相反案例,均见上文概要。 本节补两条:
- ⚠️⚠️ 本页认为这一节最该被迁移的是那组相反案例的判据,所以在这里把它写成一条可用的问法:✅ 不是问"这个领域该 scale 还是该做手艺",而是问"相对于我要的那个目标,现有数据集的覆盖度够不够支撑一条可预期的 scaling 曲线"——⚠️ AlphaFold 的答案是够(于是全力建模,因为扩 PDB 一个量级既无专业能力也无资源);细胞基因组学的答案是不够(于是"数据还不到位,没法去追构建虚拟细胞那个宏大野心")。 ⚠️ 本页标注:这条问法的形式是本页的综合,两个案例的事实与结论都是 Pushmeet 的原话。
- ⚠️ 而 Pushmeet 对 PDB 的那句评价本页认为值得单独记,因为它把"数据是护城河"讲成了一件历史事实而非战略([00:08:07]):"全世界的组织和科学家为构建那份数据所投入的量是无价的。" ✅ 本页标注:这解释了为什么在蛋白质结构这一侧"自己产数据"不是一个可选项——不是因为不想,而是因为那份积累的规模不是一个项目能复制的。
- ⚠️ 他对约束的那条实操建议本页认为是本期对研究者最直接的一条([00:10:09]):"也许有约束——你只能生成特定数量的数据,或者只有特定的模型规模你训得起。理解那些约束,然后停下来、试着快速失败,看看哪些路径在长期上是可行的、能把你带到你要的那个 impact 水平。"
三、⚠️⚠️ 归纳偏置 vs 规模化:一次两边都成立的交锋¶
来源同本页([00:10:09]–[00:15:12])。
- Pushmeet 的数据效率论证、"good data 不是 big data"、Sal 的 tipping point 曲线与"规模化本身也有手艺"的反驳,均见上文概要。 本节补三条:
- ✅ 本页认为这次交锋之所以值得完整保留,是因为两人并没有真的分歧,而是在回答两个不同的问题:⚠️ Pushmeet 回答的是"在数据受限的科学领域,先验知识值不值得花代价烘进模型"(答案:值得,因为它买到的是数据效率);⚠️ 而 Sal 回答的是"规模化是不是一条不需要手艺的傻路"(答案:不是,它有算法、基础设施与架构三层手艺)。 ⚠️ 本页标注:这是本页的综合,两人都没有这样概括。
- ⚠️⚠️ 而 Sal 那条 tipping point 的表述本页认为该被 LLM 训练流程 保存,因为它给了归纳偏置的失效条件([00:13:10]):"随着你得到越来越多数据,模型有时能找到你并不一定知道的东西,而那个归纳偏置如果不完全正确的话,反而会拖住你。" ✅ 本页标注:注意条件是"如果不完全正确"——他并没有说归纳偏置总会变成负担,而是说它的正确性在高数据区会被检验出来。
- ⚠️⚠️ 而他那条架构观察本页认为需要被精确引用,因为它常被读反([00:14:11]):"我们其实看到事情正在越过 transformer、走向更定制的架构——而我完全不认为我们处在一个后 transformer 的世界里,但我们在修改那些架构。" ✅ 即:他说的是 transformer 正在被按用途改造,而不是被替代。 ⚠️ 本页认为这与本库既有的几条"后 transformer"方向的材料(扩散路线、递归语言模型)应当分开读——那些是替代提案,这一条是对现状的描述。
- ⚠️ 他那处用词修正本页也认为值得单独记:"它更多是信息而不是数据。你怎么拿到模型需要的下一批信息?" ✅ 本页标注:这与他自己的 metagenomic 案例自洽——那批数据质量很差(作为数据),但带来了新的信息(作为信息)。
四、⚠️⚠️ "可解释,对谁可解释?"以及用行为刻画替代可解释性¶
来源同本页([00:21:14]–[00:28:18])。
- 费曼那句的反转、pLDDT 校准那个反事实、行为 vs 机制的区分、"对谁可解释"、以及主持人那句被确认的概括,均见上文概要。 本节补三条:
- ⚠️⚠️ 本页认为那个 pLDDT 反事实是本期最该被 评估与基准 引用的一条,因为它给出了"精度不是最重要的指标"的一个具体机制([00:24:16]–[00:25:18]):⚠️ 90 GDT 加上校准好的置信度是可用的;而 95 GDT 加上未校准的置信度是有害的——因为它会让使用者"为它工作一年、然后发现它完全是错的"。 ✅ 本页标注:这条把"校准"从一个统计学细节提到了与能力同级的位置,而论证是关于使用者时间成本的,不是关于分数的。
- ⚠️ 而那个"无序蛋白质预测器"的发现过程本页认为值得记,因为它说明了开放权重与能力发现的关系([00:26:18]):"当我们发布 AlphaFold 2、把权重放出来,人们发现它是一个很好的无序蛋白质预测器……而我们在发布前并没有发现它。" ✅ 本页标注:这是一条由外部使用者发现的、作者自己不知道的能力。 ⚠️ 本页认为它与 Misha Laskin 同一批摄取里"足够多的眼睛让漏洞变浅"那条论证 指向同一机制的正面版本——⚠️ 那一条讲的是发现缺陷,这一条讲的是发现能力,而两者都依赖权重可得。
- ⚠️ Sal 那条可解释性的一手结果本页认为该被保存,因为它是具体的而不是方向性的([00:23:15]):⚠️ 蛋白质语言模型的表示里除了"结构的概念"(他说这是人们已知的),他们还找到了关于某些功能的信息、以及关于运动(motions)的信息。 ✅ 本页标注:"运动"这一条尤其值得记,因为它正好落在 Pushmeet 说"我们没有理解蛋白质动力学"的那个缺口上——⚠️ 如果语言模型的表示里已经编码了动力学信息,那么缺口可能部分在读取而不在数据。 ⚠️ 本页同时标注这是本页的推论,Sal 没有这样说,而且他没有给出任何量化结果或论文引用。
五、其余几处,本页只做索引¶
- ⚠️ Pushmeet 的研究路径他自己列了一遍([00:18:13]):安全研究 → 计算机视觉 → 贝叶斯理论 → 判别式机器学习与深度学习 → AI for coding → 科学,自评 "我的背景相当杂(eclectic)"。✅ 本页标注:这条与他对 bitter lesson 的读法("不要对解法有宗教式的立场")自洽,而这是本期他唯一一处关于自己的材料。
- ⚠️ Sal 对自己工作方式的自评只有两句,但本页认为它们定义了这一期的两种气质:"我很懒,所以我会用手上有的东西"([00:03:04]);"一旦那样了,你基本上就可以转曲柄了——它变成一个工程问题,而这是我喜欢的东西"([00:02:03])。
- ⚠️ 主持人在"设计 vs 理解"那一问里自己插了一条立场([00:22:14]):"我认为很多科学家真的想理解东西,而终点也许没那么重要;但话说回来,我们在这里是要把 translational medicine 当成一个问题来解决的,对吧?" ✅ 本页照录为会议语境——"解决 translational medicine"在全期被当作共同前提而没有被定义。
- ⚠️ 全期有一处时间压力被明说([00:28:18]):主持人说 "那是两分钟警告",然后把最后一个问题压缩成 "快问"。✅ 本页标注:这意味着临床时间表那一节(本期唯一触及落地的部分)是在倒计时下回答的,两位都没有展开。
⚠️ 本页的五条限定¶
- ⚠️⚠️ 这是一场会议现场的圆桌,而两位嘉宾都提到了"我们今天宣布的这个 effort"([00:04:04]、[00:29:20])。⚠️ 本库无法从转录稿确定那是什么会议或什么发布(Sal 提到的组织字幕作 "the BBI",本库无法还原)。 ✅ 本页因此把两处与该发布直接相关的表态记为面向会议议程的立场:Sal 的 "这真的是去问:我们需要什么数据来解这个问题",以及 Pushmeet 的 "这也是为什么我们今天宣布的这个 effort 极其重要"。
- ⚠️⚠️ 全期没有任何可独立核验的数据。 ⚠️ **唯一的量化值是 "AlphaFold 2 当时在那个集合上是 90 GDT"([00:24:16]),而他自己没有说是哪个集合(本页按上下文理解为 CASP 系的评测集,⚠️ 但稿中只有 "on that sort of set",本库不补)。✅ 本页按既有口径把全期当作概念性讨论收录,而不是数据来源。
- ⚠️ 主持人姓名全程未播报,⚠️ 本页只照录三条身份线索(自述"我们都是建模者"、"我的朋友"指结构预测社区、"我喜欢定量的预测"),不裁定身份。 ⚠️ 两位嘉宾的具体职务也未被播报,本页只记机构(Google DeepMind / Biohub)。
- ⚠️ 页首列了两处概率性标注:① "Rich" 几乎确定指 bitter lesson 的作者 Rich Sutton,但稿中只有名,本页引用时保留原样;② "the BBI" 无法还原。 ⚠️ 另记一处元数据变化:本库发现环节看到的标题是 "Can AI Cure All Disease?",抓取时已改为 "Why AlphaFold Didn't Solve Protein Folding"。
- ⚠️⚠️ 本页记下三处属于本页综合而非嘉宾原话的内容,引用时不应归给他们:① "问'相对于目标,现有数据集的覆盖度够不够支撑一条可预期的 scaling 曲线'"这个问法的形式(第二节,事实与结论是 Pushmeet 的);② "两人并无真分歧,而是在回答两个不同的问题"这个调和(第三节);③ ⚠️⚠️ "如果蛋白质语言模型的表示里已编码动力学信息,那么缺口可能部分在读取而不在数据"这条推论(第四节)——⚠️ Sal 只说了他们找到了关于 motions 的信息,没有给任何量化结果或论文引用,也没有把它接到 Pushmeet 的动力学缺口上。