"模型学到的是化学家,不是化学":用 1,800 维"谁做的"向量就能预测活性、以及一个"一个周末拉出 1 万次 SAR 战役"的物理接地 RL 环境(Latent Space AI for Science / Ian Quigley,2026-10-14)¶
- 嘉宾: Ian Quigley — Leash Bio 联合创始人兼 CEO。自述背景是 genomics methods development 而非化学,与联创 Andrew Blevins(CTO)同出 Recursion([00:18:06])
- 主持: Latent Space 的 "AI for science" 子系列(RJ,自述 "Mirror OMIX 的 CTO";Brandon Anderson,Atomic AI 做 RNA 疗法)([00:01:00])⚠️ 姓名拼写来自自动字幕:本期作 "R.J. Haniki" / "Mirror OMIX",本库既有页面曾记为 RJ Honicky / Honakee / Honiki、MiraOmics / Mirror Omix,均未核实,本页沿用既有写法并在此标注差异
- 来源: YouTube · 110 分钟
- 转录稿: sources/latent-space/20261014-hQSBJVreLms
⚠️ 标题变更记录:本库在 discover 环节看到的标题是 "Why Models Trained on Public Data Learn the Chemist, Not the Chemistry",抓取时已改为 "From Wet Lab to RL Env: 10,000 Drug-Discovery Campaigns in a Weekend"。✅ 两个标题各对应本期一半内容,本页标题同时保留两条。
⚠️ 专名还原(自动字幕,高置信度):DEL(DNA-encoded library)→ "Dell" / "Adele" / "del"(全程混用,本页统一写 DEL);ChEMBL → "Kemble" / "Kembbo" / "Kembo";Boltz → "Bolts" / "Bolt";combinatorial → "cominatorial" / "comatorial";co-folding → "coalfolding" / "co-olding";kinases → "kynases";ADMET → "adnet" / "adap" / "admit" / "AdMet";Qwen → "quins";lumacaftor → "lumicaptor" / "lumacaptor" / "lumac";Clever Hans → "Clever Hunt"(一处);CASF-2016 → "cast 16";Enveda / Viswa Colluru → "Inveta" / "Vishwaluru";Noetik / Ron Alfa → "noetic" / "Ron Alpha";Alex Rives(ESM)→ "Alex Reeves";Sri Kosuri → "Shri Kasari" / "koseri";GenePT → "gene PT"。
⚠️ 四处本库判为不可靠、未写定:① Andrew Blevins 的姓(稿中作 "Blevens" / "Levens" / "Bleven" 三种);② Hermes 化学侧 embedding 的名字(稿作 "Kvera",本库无法确认);③ Kaggle 冠军姓名(稿作 "Victor Schlapov")与赞助化学库来源(稿作 "Shiaoji Louu"、上海的 "Alpha Mal");④ 主持人提到的两家对照公司(稿作 "Excel from Zera"、"Laya"),⚠️ 本页只照录"主持人点了两家做类似扰动实验但不做池化筛选的公司"这个事实,不写名字。
✅ 本页认为这是本库在 AI for Science 与 评估与基准 两页上最该被长期保存的一期,原因是它给出了四样本库此前完全没有的东西,而且每一样都带可核验的实验设计: ① ⚠️⚠️ "模型学到的是化学家,不是化学"这条断言被做成了一个判决性实验——把分子完全不用任何化学结构表示、只用一个 1,800 维的"谁做的概率"向量,去 ChEMBL 上预测活性,效果与用化学式一样好; ② ⚠️⚠️ 一次自己出题、自己公布"没人赢过随机"的 Kaggle 竞赛(2,000 支队伍,最难那档无人优于随机,top 5 里三个是教程 notebook),而出题方随后把全部原始数据公开以回应"是不是只有菜鸟参赛"的质疑; ③ ⚠️⚠️ 一条通过 attention map 抓到的具体作弊模式——"模型在给蛋白质起外号",以及一条用物理实验(定点突变)去堵这个作弊口的闭环; ④ ⚠️⚠️ 一个本库此前没有的 RL 环境构造方式:把已经测完的池化筛选数据做成"即时查表的湿实验室",于是 "一个医药化学家一辈子能见几十次的 SAR 战役,他们上周末拉出了 1 万多次"。
概要¶
- ⚠️⚠️ 本期最该被长期引用的一段是开场即给出的那个"模型学到的是化学家而不是化学"的实验,而关键在于它不是一个担忧,而是一个有判决力的对照设计([00:00:00]、[00:47:21]–[00:51:23])。缘起是一则逸事:他和联创 Andrew 在 Recursion 看屏幕上的一个小分子,一位医药化学家路过只瞥了一眼就说 "看着像某某某的分子"。
- ⚠️ 他们当时的反应是:"哦不,你光走过去就能说出这是谁做的?太可怕了。" ⚠️ **而这件事困住他联创 "大概六七年",每隔几个月喝啤酒时就会说"我们真该搞清楚这问题有多严重"([00:46:21])。
- ⚠️⚠️ 他把"为什么这是个问题"讲得极其干净([00:47:21]):"你会从很多组那里拿数据,因为那很诱人。而如果模型光看分子就能认出化学家,那模型也许就能推断化学家的意图——这意味着它可能什么都没学到。" 主持人接了一句 "不,它学到了东西——只是没学到物理",他答 "它们没在学你想让它们学的那个东西。"
- ⚠️⚠️ 第一步实验([00:47:21]–[00:48:22]):从 ChEMBL(他称之为"这类数据最大的仓库")取发表过 30 篇以上论文、600 个以上分子的每一位化学家,共 1,815 位,训一个只看分子、预测作者的分类器 → top-5 准确率 60%。他的定性是 "这是一个非常非常容易的问题"。
- ⚠️ 混淆模式本身有信息量:出错的地方是"两位化学家出现在同一批论文上、且在同一个机构"。✅ 他的推论是个体有可辨识的"化学签名风格",而学生与受训者会继承其中一部分。
- ⚠️⚠️ 而第二步才是本页认为最该被引用的那一步,因为它是判决性的([00:50:22]–[00:51:23]):他们把分子表示成"完全不含任何化学结构或化学式"的东西——只是一个 1,800 维的"谁是创作者"的概率向量;拿这个表示去 ChEMBL 上训一个预测活性的模型,结果是 "它的效果和你用化学式一样好",而且 "如果你把两者合起来,并不会有意义地更好"。
- ⚠️⚠️ 他的结论:"我们真的认为它在学大量的社会学。它不是在学 ground truth,它学的只是那些试图开发这些分子的人的选择与指纹。"
- ⚠️ 而他明确说这不是在贬低化学家:"那不是他们想做的事。他们是想用尽可能少的化学系列拿到两个药——他们当然会那样做。" ⚠️⚠️ 落点是那句本页认为最可引用的:"但当你在尾气(the exhaust)上训练模型,你可能就有麻烦了。"
- ⚠️⚠️ 他给的"指纹从哪来"的机制有三层,而本页认为第二层最少被讨论([00:49:22]–[00:50:22]):
- ① 风格:个体的化学签名 + 受训者继承;
- ② ⚠️⚠️ 缺席本身就是指纹:"当你在这些机构里做化学家,下单做一个分子再去测是挺麻烦的。所以你会做出很多很多'不去做'的选择,而你不会把那些写下来。" 理由可以是太贵、合成组说做不了、没有现成的 building block、或者"我觉得它不会 work"。✅ 本页认为这条是整段里最该被迁移的:不做某件事的决定从不进数据集,但它决定了什么进了数据集。
- ③ 迷信:主持人插了一句 "医药化学家是我见过最迷信的人之一",他接着举例——"这个 building block 在那个进了临床的项目里 work 过,我很喜欢它,也许它有助于溶解度,所以我会把它放进我喜欢的东西里";于是模型学到 "化学家喜欢这个,所以它大概是 work 的"。
- ⚠️⚠️ 而同一段里的"按分子量排序"是本页认为最该被 评估与基准 回填的一条配套证据,因为它把同一个病症量化到了一个公开 benchmark 上([00:51:23]–[00:53:24])。主持人给的事实是:在大多数公开数据集里,"把分子按分子量排序"就是你能拿到的最大的单一预测因子之一,而在 CASF-2016 上它"并列第一"(⚠️ 稿中紧接着又修正为"第二名,差距非常小",本页照录这处自我修正,不裁定究竟是第一还是第二)。
- ⚠️⚠️ 而两人对此给的定性是本页认为最重要的一句:"但这不是化学的内在属性,这是这个数据集的属性" — "是的。这是'什么东西被做出来、什么东西被测试'这件事的社会学属性。"
- ⚠️ 机制同样具体:化学家找到一个 hit 之后不断加官能团(先为结合、再为溶解度),"他们就一直往上加,直到它足够好",于是分子越来越重、越来越巴洛克。✅ 他给的那句直觉本页认为值得单独记:"如果一个东西 work,他们就会对它做更多事情"——所以重分子恰恰是被优化过最多次的那些。
- ⚠️⚠️ 本期第二块主体是那场 Kaggle 竞赛,而本页认为它的价值几乎全在"eval 怎么切"上,不在排名上([00:27:12]–[00:34:15])。
- 数据侧的量级:当时最大的公开聚合库 BindingDB 约"不到三百万"条物理相互作用,他们一次放出 约 40 亿条(约千倍)。⚠️⚠️ **而这批数据 "全部由一个人在我家地下室里测出来"([00:27:12])——他补充那是一间 "层高 7 英尺的地下室公寓"。✅ 本库按自述记录,不核实。
- ⚠️⚠️ eval 的三档难度是按化学结构关系切的,而不是随机切([00:30:14]–[00:31:14])。赞助的化学库约 1.3 亿个分子,结构是"一个中心 hub(一个叫 triazine 的化学母核)+ 三根 spoke":
- 易:共享一根 spoke(building block),另两根不同;
- 中:不共享任何 building block,但 hub 相同(所以 spoke 可能相似但不相同);
- ⚠️⚠️ 难:换成 Leash 自己设计的另一个化学库——没有共同 hub、没有共同 building block、连接化学都不同。
- ⚠️ 而他明说 "我们不会告诉任何人我们这么切了,我们只说'这就是 eval',然后看会怎样",并确认自家那个库是藏在私榜里的**([00:32:14])。
- ⚠️⚠️ 结果([00:31:14]):2,000 支队伍参赛;共享 building block 的那档有性能提升;只共享 hub 的那档视靶点而定有一些提升;⚠️⚠️ "而当你走到最难的那一档 eval,没有任何人好于随机。"
- ⚠️⚠️ 而 top 榜本身的构成本页认为同样该记:"top 5 里有三个是那个带噪的教程 notebook"([00:31:14])。冠军用了一个略不同的方法,"他的也不错,但和所有其他人一样——不优于随机"。
- ✅ 本页认为最该被引用的是他们对"是不是只有菜鸟参赛"这个质疑的处理方式([00:38:16]):"我们公布这些结果、说没有人好于随机之后,确实收到了一些反弹,有人说'你这竞赛里到底有没有厉害的人参加?也许大家只是差,也许全是一年级研究生'。" ⚠️⚠️ 他们的回应是把全部数据整体公开——原始 read counts、二值标签、所有 eval,放在 Polaris(他称之为"Recursion 运营的一个非营利组织")上——"如果外面有人觉得自己很厉害,那就请给我们看看,因为我们希望这个问题被解决。" ⚠️ **而他的现状判断是 "我们还没看到任何人在那批东西上表现很好"。
- ⚠️ 一条顺带的表示法结论([00:33:15]–[00:34:15]):他们鼓励有化学背景的参赛者去试 3D 图、球面卷积网等各种"花哨"的分子表示法,结果 "我们当时用的那个最朴素的 SMILES 基本上打败了其它一切"。他的定性很克制——"不是摧枯拉朽式的,但好得足以让我们继续用这个方法"。⚠️ SMILES 不编码 3D 结构,是图的一次遍历被写成文本串。
- ⚠️⚠️ 而他们对这个结果的情绪反应本页认为是本期最能定位这家公司立场的一处([00:34:15]–[00:35:15])。他先自报框架:"我们这边是极度吃了 bitter lesson 药的(extremely bitter lesson pill)";然后是那句"delight":
- "其中一部分感受是某种喜悦——哇,这比我们想的难得多。那其实挺好的。" ⚠️ 理由是一条纯粹的 bitter lesson 式推理:"因为如果这个问题和我们知道的所有其它问题一样,那么只要你能从一个可规模化的测量体系里拿到不错的信号,你就该去把它拿到。" 主持人补的那半句是关键:"尤其当你的可规模化测量体系本身很难、而且你有做这件事的专门知识。"
- ⚠️⚠️ 他还披露了一条对自己不利的事前概率([00:32:14]):"我们当时给了大约 5% 的概率,认为 co-folding 方面最近的进展会让我们公司整个失去意义。" ✅ 本页认为这条值得记:发布一份千倍于现有规模的数据集,同时承认它有 5% 的概率证伪自己的公司。 主持人的落点是 "而你会想在投入十年人生之前知道这件事"。
- ⚠️⚠️ 本期第三块是"模型在给蛋白质起外号"这个具体作弊模式,本页认为它是本库在可解释性用于纠偏这条线上最可操作的一份材料([01:11:32]–[01:14:36])。背景是 Hermes 用了 cross attention,所以可以直接看它在氨基酸空间里看哪里。
- ⚠️ 他们的两重预期都落空了:第一直觉是它会看结合口袋;更克制的预期是它会看所有残基(因为它大概还不懂)。⚠️⚠️ 实测是两者都不是——"它在看一些很短的氨基酸片段,既远离蛋白质的功能部位,也远离那些在很多蛋白质之间长得很像的部分。"
- ⚠️⚠️ 而他给的解读是本页认为本期最好的一个命名([01:12:33]):"我们意识到 Hermes 大概是在给这个蛋白质起一个外号(nickname)。它不是在想'这是功能部位',而是'我不需要学那个。我可以记住这里和别人不一样的那 10 个或 12 个氨基酸,我就背下来。'"
- ⚠️ 为什么是非保守区:进化上一段好用的蛋白质片段会被在别的蛋白质之间反复洗牌,形成保守结构域(生物学家用它来推断蛋白家族与功能),所以保守区不能用来区分个体——而非保守区变化多、正好适合当标识符。
- ⚠️⚠️ 而他明确把这个现象与 co-folding 模型的那个失败归为同一类:"它和你拿 co-folding 模型去把口袋破坏掉、它还是硬把分子塞进去是一脉相承的——它不知道在发生什么,它只是编了个外号。"
- ⚠️⚠️ 堵口的办法是把它变成一个数据问题,而不是一个损失函数问题([01:13:34]–[01:14:36]):用定点突变造出"看起来几乎完全一样、但行为差别很大"的蛋白质对,于是外号策略失效——"如果它对这两个行为不同的东西用同一个外号,它就会干得很差。" 重训之后再看 attention map,"现在 Hermes 会相当均匀地看所有这些东西。"
- ⚠️ 他对这条修正的范围给了一个重要限定:"它不一定是针对某一个基因的。更像是一个一般性的问题——'我再也不能有效地用这个外号策略了'。"
- ✅ 本页认为主持人在这里给的那条方法论定性值得与之一起保存([01:14:36]):"我觉得 mech interp 最务实的用处一直在生物学……而它之所以在性质上不同,是因为你是反过来走的——你是从模型那里学关于生物学的东西,而不只是试图解释它在想什么。" ⚠️ 而他给的理由是语言的缺席:"在这些机器学习模型里没有语言可以依靠。所以除了检查模型内部,你完全不知道它在想什么。" ⚠️⚠️ 本页标注:本期恰好同时是这两种用法——"从模型学生物"(attention map 指出哪个残基在和分子的哪部分相互作用)与"抓模型作弊"(外号策略),而后者才是驱动他们改数据的那一半。
- ⚠️⚠️ 本期第四块、也是新标题指向的那一块,是把已测完的池化筛选数据做成一个 RL 环境,而本页认为这是本库目前最具体的一份"物理接地但即时可查"的 RL 环境构造说明([01:15:38]–[01:23:43])。
- ⚠️ 起点是一次路线转向:"最近我们发现非常有成效的,其实是转向语言模型",具体做法是 "我们在用可读、可解释的英文来表示这些小分子、这些蛋白质、以及它们的行为",而他对效果的定性只有一句 "结果这个做得还挺好"([01:15:38])。
- ⚠️ 主持人给的先例是 GenePT:有 Stanford 的研究者(主持人自述记不起作者、并说那人"甚至不是真的在生物领域,是个统计学家")直接用基因描述文本的 embedding** 来替代专门的生物 embedding,"而这件事的妙处在于,现在你有无数人年投进去理解每一个基因,而这些都被文本 embedding 在某种程度上捕获了"([01:15:38]–[01:16:40])。
- ⚠️⚠️ 课程设计(curriculum)他讲得很完整,而本页认为每一步都该记([01:16:40]–[01:17:41])。底座是开源语言模型——他点名 Qwen 与 GLM,并说 "以及别人也在用的那些东西"。⚠️ 本页标注:这是本库第一条"美国生物科技公司在其核心科学 pipeline 上直接用中国开放权重模型"的一手自述,建议 中美 AI 竞争 回填。
- ① "这是一个结构,用自然英语描述它";
- ② "给我这两个非常相似的分子之间的 diff,用自然英语";
- ③ "这里有一些是 binder、有一些不是,你能告诉我们你认为 binder 为什么结合吗"——⚠️ 并且配上 hard negatives(两组很接近的集合),让它把理由写成可读的英文,他对这点的评价是 "我们认为这很好"。
- ⚠️⚠️ 而循环本身是这样的([01:17:41]–[01:18:42]):给模型 10 个 binder 和 10 个非 binder(彼此接近),要它判断 binder 为什么结合;然后 "现在我们给你机会去跑你自己的实验。这里有一个几百万分子的目录——你挑 5 个或 10 个,去检验你关于它们为什么结合的假设。"
- ⚠️⚠️ 关键在于反馈的延迟:模型去查他们已经收集完的数据,"它会立刻拿到答案,就像一个 coding sandbox",然后更新假设。⚠️ **目标是 "用尽可能少的步数拿到最好的 binder,非常像一个医药化学家会做的事"。
- ⚠️ 主持人的归纳与他的确认是本页认为最该被引用的一句定性:"所以你基本上造出了一个 reinforcement rollout" — "它就是一个 reinforcement rollout,而且规模一直在变大,里面全是这些 activity cliff、全是不同的蛋白质变体。"
- ⚠️⚠️ 而它还能往上长一层:因为 activity cliff 式的小改动是因果的、可复现可测量的,"你也可以用这些轨迹来产出 reasoning traces,而且规模相当可观。"
- 当前配置([01:18:42]、[01:21:42]):10 个 binder + 100 个分子的预算 → "大概 100 到 200 次调用"的多步推理 → 从 650 万个分子里拿出最好的 binder。他的评价克制:"所以看起来它是 work 的。"
- ⚠️⚠️ 而那个数字对照是本期标题的来源,也是本页认为最该被引用的一条量级([01:21:42]–[01:22:43]):一个在药企工作的医药化学家做的事叫 SAR(structure activity relationship)战役——"你一辈子大概会见到几十次,也许 50 次"。⚠️⚠️ "而就在上周末,我们拉出了 1 万多次。而且我们还没怎么使劲。"
- ⚠️⚠️ 他对"为什么这条路优于把 Hermes 继续放大"给的理由只有一句,但本页认为它是本期最可迁移的一条([01:19:42]):"我们认为它对记忆化问题(the memorization problem)抵抗力强得多。"
- ⚠️ 论证是:他们对加入突变体之后 Hermes 的 attention 落点很满意,但"随着你往模型里加更多参数,它们也会把那些突变体背下来";而 "看起来用自然语言是这个问题上一个相当好的正则化器(regularizer)"。
- ⚠️⚠️ 而他给了一条明确的比较性主张,本页按断言记录:"我们不知道还有别的什么问题,有一个物理接地(physically grounded)、而且这么可规模化、这么快的强化学习循环。" ⚠️ 对照是实体 lab-in-the-loop:那些也必然受限于资源,"它们仍然要先选做什么、不做什么,而那些循环会花更长时间"。
- ⚠️ 主持人点了两家做类似扰动实验的公司(姓名见页首不可靠清单),而他们共同的区分点是:那些公司不做池化筛选,"而且据我所知还没搞出怎么把它变成一个纯查表的东西。所以你就可以跑巨量的 rollout。"
- ⚠️⚠️ 而本页认为本期最该被单独引用的那条机制,是它把第一块与第四块接上了——这个 RL 环境之所以不带化学家社会学指纹,恰恰因为没有人挑过要测什么([01:22:43]):
⚠️ 实验设计的细节:三条本页认为可独立迁移的做法¶
⚠️⚠️ 一、"把口袋打破":一条用物理实验给模型造负样本与反事实的闭环¶
- ⚠️⚠️ 起点是一个纯计算的测试,而结论对当前 SOTA 不利([01:01:28]–[01:02:28]):拿一个在训练集里有代表的蛋白质(有一个口袋,模型见过里面塞着小分子长什么样),只改氨基酸序列去把口袋填平("像灌水泥一样")、整个移除、或变大很多。⚠️⚠️ "你做这些事里的任何一件,至少我们目前看到的是——如果你用当前最先进的模型去看它会怎么做,它会把那个小分子硬塞进口袋原来所在的位置。" 他的解释是 "因为它只是记住了它在哪里",主持人接 "而这很糟"。
- ⚠️ 他给的"如果模型真懂物理该怎样"是具体的:口袋里会有少数几个氨基酸提供氢键位置、还有一些 π 堆积之类,"这些东西在你测量它们的物理世界里非常非常重要;所以如果你把它们破坏了、而模型理解物理,那它大概就该知道自己不能把分子塞进去。"
- ⚠️⚠️ 而他点出了结构训练集的根因:"这些结构训练集里没有好的负样本,因为能进去的东西是……",主持人替他说完 "它们没有很多这种真正会打乱这些行为的变体",他补 "而且没有人会去为这些东西做一堆晶体结构"。
- ⚠️⚠️ 而他们的物理版做法是一条带三重对照的闭环,本页认为这是本期最该被完整保留的实验设计([01:03:30]–[01:06:31]):
- ① 筛野生型,拿到一批 hit;
- ② ⚠️ 竞争实验:"假设我们知道别人已经找到了一个会进那个口袋的化学物。那就把它买来,扔进去,再跑一次筛选"——高浓度的已知结合物会把平常进这个口袋的那些分子挤出去。他对这件事的频率是 "我们一直在做";
- ③ 定点突变:按那个口袋里的氨基酸去改制造该蛋白质的 DNA 构件,"现在我们把这一个残基物理地突变掉,放一个大块头进去,口袋就满了"。⚠️ 他指出这一步现在容易了:"因为我们有 AlphaFold、有 Boltz,有这些结构模型,你可以用它们来设计你的蛋白质";对刻画不充分的蛋白质则用保守性分析并有驻场结构生物学家;
- ④ 判读:"看,被那个堵孔的东西挤出去的化学物,在我们破坏口袋之后也同样消失了" → "所以现在我们有很好的证据说明它们全都进那个口袋。"
- ⑤ ⚠️⚠️ 而本页认为最该记的是对"你会不会只是把整个蛋白质弄坏了"这个标准质疑的那条对照([01:05:30]):"我们只丢掉了被竞争物踢出去的那些化学系列。所有在蛋白质别处结合的那些都完好无损。" ✅ 即:同一次筛选里结合在其它位点的分子充当了"蛋白质没坏"的内部对照。
- ⑥ ⚠️⚠️ DEL 的组合性在这里给出了统计力,而这是单分子实验拿不到的([01:06:31]):"因为 DEL 的组合性质,也许我有 5 个不同的化学系列、每个是几百个分子,而另一组是同样那几百个分子、只在一个 building block 上有一处改动。" ⚠️ **于是判读变成 "这一个小东西让整个群体行为发生了巨大位移,而这是一个大群体",落点是 "这一个 building block 上的侧基显然在和这一个氨基酸残基相互作用,因为我们有 5 个独立的群体行为位移的例子。它很美,非常非常清楚。"
- ⑦ ⚠️ 突变有时让分子结合得更好,而这也是信息源([01:05:30]、[01:09:31]–[01:10:32])。他们展示的那张图:横轴野生型、纵轴突变体,彩色团块是化学系列;有一团指向上方(结合变好);而同一口袋里的第二个突变会把所有团块整体踢出、全部趴在横轴上。
- ⚠️ 规模:"大周的时候我们一周筛 100 个蛋白质构件"([01:05:30]);"很多很多百次这类筛选"([01:11:32])。
- ⚠️⚠️ 而他给的"负样本从哪来"的答案本页认为该被 评估与基准 回填,因为它不依赖任何标注([01:02:28]–[01:03:30]):"我们拿到负样本的方式是,我们对基线条件下那些分子的数量分布有很好的理解。" ⚠️ 即:筛选里某批分子富集说明结合;把口袋破坏后它们不再富集,"那一个氨基酸替换让一批化学系列掉了出去"——负样本是同一批分子在被扰动条件下的缺席**,而不是别人标注的"不结合"。
⚠️ 二、eval 怎么切:building block 聚类留出,以及一条关于 XGBoost 的反直觉结果¶
- ⚠️ Hermes 的架构被他自己定性为"刻意极简"([00:40:18]–[00:41:19]):"目的不是做一个 state-of-the-art 模型,而是'我们想快速试东西'",于是是 ESM 蛋白 embedding + 一个预测 SMILES token 的化学 embedding,"就这样,两个非常非常简单的 embedding,然后我们用 cross attention 把它们放在一起,然后用它预测一个二值标签"。⚠️ ESM 的出处他描述为"一个曾在 Meta、后来出去开公司、最近被 Chan Zuckerberg 接走的组",主持人点名该组的人曾上过本播客(姓名见页首还原)。
- ⚠️ 为什么是 attention 而不是 MLP([00:41:19]–[00:42:19]):他们在别的工作里见过一些蛋白质结构的图模型,"我们把那些位置坐标打乱,而其中一些模型的性能基本没变"——于是他们要确保模型至少在看蛋白质与小分子结构之间哪些部分在相互作用。⚠️ **主持人把这叫 "图像生成里的 Picasso 问题"(CNN 只抓局部特征、没有全局拓扑,把鼻子翻过来也照样认),并指出 DEL 上的对应失败是模型"把分子分解成三个 building block 的和"。他对 cross attention 的定性是 "它是一个 inductive bias",而不是强制。
- ⚠️⚠️ 切分方式([00:43:20]–[00:44:20]):除了按是否共享 building block切,他们还按相似度对 building block 做聚类,然后让整个簇在训练集与测试集之间不重叠——"这样我们就避免整簇的重叠"。⚠️ 他明说共享 building block 时性能更好,而他们怀疑原因就是记忆化**。
- ⚠️⚠️ 而那条 XGBoost 的结果本页认为是本期最该被回填到 评估与基准 的一条方法论,因为它给出了一个"分布外程度"的刻度尺([00:44:20]–[00:45:21])。他的基线纪律是无条件的:"所以对我们做的几乎每一件事,我们都会用 XGBoost 这类东西,你就该用这种东西来看看情况如何。" ⚠️ 主持人配了一句行业笑话:年轻从业者花六个月优化心爱的模型,有人路过跑个 XGBoost / 随机森林就把六个月的工作打败了。
- ⚠️⚠️ 结果是:XGBoost 随着 building block 聚类切分越来越远而稳定下滑(共享 2 个 → 共享 1 个 → 不共享 → 整簇不重叠,逐级更差),而 Hermes 在这些不同的切分体系下相当平稳。
- ⚠️ 他自己的落点:"你真的得走到挺远的分布外,XGBoost 才会真的崩掉。" ⚠️ 而他补了一句本页认为很能说明这家公司风格的:"这个我们在几张图和一些发表的工作里有,但我们没有太大声嚷嚷过。"
- ⚠️⚠️ 泛化测试的设计是"只在内部数据上训、只在外部数据上测"([00:56:25]–[00:58:26])。他对自己这个做法的定位是 "我没见过别的组只用内部产生的数据来训这个任务的模型",理由是去拿外部数据很诱人(外面蛋白质靶点太多、而别人筛的蛋白质远没他们多)。
- 规模:Hermes 那篇里 "大概 1,300 万次测试、跨大约 500 个蛋白质靶点"(⚠️ 他自己说 "I want to say" / "some huge number",本页按约数记录),正负样本"选得非常仔细"。
- 对照:当时的 SOTA 结构模型 Boltz。⚠️ 他的结论有明确限定:"我们能做到的是,在那些公开数据集上、就这个结合问题而言,大致和那些人做得一样好"——⚠️ 而他主动说"我们的模型做不了那个模型能做的很多事情"。
- ⚠️ 公平性的两条限定本页照录:① 需要一些 trick 才能做到大致公平的对照;② ⚠️ "Boltz 大概也在这批数据上训过",而他对此只说 "有点算是"、"我们没完全弄清他们训在哪些子集上"。✅ 不同蛋白家族上互有胜负,他的归因是训练集分布不同。
- ⚠️⚠️ 而那个 BRD4 的例子是本页认为最该被引用的一处泄漏证据,因为它是反向验证的([00:58:26]):他们一个测试集里有一个分子与 PDB 里的某条目完全相同,而 PDB 是 Boltz 几乎肯定见过的训练数据。⚠️⚠️ "我们的模型在那个分子上表现相当差……而 Boltz 在它上面是完美的。" ✅ 他的解读是 Boltz 大概已经在晶体结构里见过这个蛋白质和这个分子,并给了一句很有分寸的评价:"所以他们在这上面超强——那说得通。感觉挺好。" ⚠️ 本页标注:这是一次由第三方数据点同时验证"对方见过"与"自己没见过"的对照,而它的说服力来自双向——自己差、对方满分,且有可查的共同条目。
⚠️ 三、"更有钱的实验室为什么不能直接把你们规模化掉":一条写得很具体的过程护城河¶
- ⚠️⚠️ 这一问来自本期一个值得记的格式细节:嘉宾自己要求了一个 "don't come at me, bro" 环节,而主持人明说"大部分是 Claude 提的最难的问题"([01:25:46])——⚠️ 他们只有 24 小时准备,而这个环节的缘起是他上周参加的一场癌症治疗学会议,一半时间讲内容、一半时间接受"非常激烈的拷问",他的形容是 "既可怕又鼓舞人心"。✅ 本页标注:本期至少三个最硬的问题(DEL 的 out-of-library 泛化、bitter lesson、Kosuri 悖论)出自模型生成的提纲,这是本库第一次在转录稿里看到主播明确把提问权外包给模型,建议 在实践中使用 LLM 记一条。
- ⚠️⚠️ 问题是 "bitter lesson 才是真正的法则。什么阻止一个更有钱的实验室把你们的 DEL 引擎规模化掉?",而他的回答不是数据量、不是资本,是作弊模式的目录([01:42:52]–[01:44:54]):
- "在 Leash 和在 Recursion,我的团队都犯过太多错误,不小心撞进那些仅仅由于'做实验室工作'这件事就会产生的作弊模式(cheating modes)。这类东西非常多。"
- ⚠️⚠️ 而他把它拆成一条组织要求,本页认为这是本期最该被引用的一句:很多这类问题与用元数据追踪批次效应(batch effects)有关,"所以你必须在你的组织里建一种文化:我们必须追踪所有这些东西,我们必须造工具去追踪所有这些东西,而且我们必须让那些工具没有摩擦,这样真正在做实验的人才真的会去记录它们。"
- ⚠️ 然后是回溯要求:"然后你必须回头看一直追溯到公司创立的所有数据,确保你得到的结果是真正一致的;而当你看到大的变化,你必须找出是什么驱动了它们,然后你必须去缓解它们。" 他对总量的定性是 "这就是一个巨大巨大的工作量"。
- ⚠️ 还包括重建:"我们也基本上从零重建了筛选流程,从零重建了很多蛋白质表达流程",并有一批评估蛋白质生产好坏的代理指标与过滤器。
- ⚠️⚠️ 落点:"它需要一种很独特的文化、耐心、以及愿意去犯这些错误",而"除非你有那种对实验错误真的有嗅觉的人,否则要复制它会花一些时间"。主持人归纳为 "process moat",他答 "我真的这么认为。"
- ⚠️⚠️ 而他为这条护城河给的那个具体例子是本页认为全期最漂亮的一处工程智慧,因为它把一个药物的作用机理变成了一条数据质控信号([01:44:54]–[01:45:54])。问题是"你们怎么知道你们的蛋白质是好的":
- 蛋白质错误折叠在粗暴情形下能检出(跑胶看大小),"但如果它只是轻微错折,那可能很难"。
- ⚠️⚠️ 而有一类药的职责恰恰就是把错折的蛋白质重新折好——分子伴侣(molecular chaperones,他说"你也可以叫 correctors")。其中很有名的一个是治疗囊性纤维化的 lumacaftor。⚠️⚠️ "我们化学库里有一批长得像 lumacaftor 的化学物。那你猜当我们筛蛋白质的时候,它会打中什么样的蛋白质?" —— 错折的蛋白质。
- ⚠️ 而这是撞上的:"我们是偶然发现的——我们看到这些化学系列在各种不同的蛋白质类型上不停冒出来,就想'老天,那是什么?'然后你开始看蛋白质表达、看它当时进行得怎么样,就发现:哦,它是在情况不好的时候出现的。"
- ⚠️⚠️ 于是它成了一个过滤器:"所以现在我们可以把它当成一个过滤器——如果我们拿到一堆 lumacaftor 类的 hit,那个蛋白质大概就没折对。我们大概不想用它当训练数据,我们大概想用稍微不同的条件重跑它、让它对蛋白质更友好,然后再看那些 hit 长什么样。"
- ⚠️ 他对这件事的门槛要求很直白:"除非你在用那种程度的注意力去看,否则真的很难。而且你得造工具让你能看这些东西,还得有知道要去找这些东西、并且认得出它们的人。"
- ✅ 本页标注:这条与本期的 Clever Hans 那一半是同一个认识论的两面——⚠️ 两者都是"模型抓到了一个真实但不是你想要的信号",而区别只在于一个毁掉数据集(化学家指纹)、另一个被改造成了质控工具(lumacaftor hit → 蛋白质没折好)。本页认为这是本期最可迁移的一条态度:作弊信号找到之后不一定只能被消除,有时可以被征用。
⚠️ DEL 本身:本页只记那些会影响"它能不能当训练数据"的部分¶
来源:Latent Space AI for Science / Ian Quigley
- ⚠️ 主持人对 DEL 的开场定性本身是一条行业判断,本页照录([00:02:00]):"我见过的每一个碰过 DEL 的人,出来的时候都严重创伤。我不认识任何一个说过'DEL 是个好主意,我们来做几百上千个'的人。" ⚠️ 结尾他又回到这句,并说"不知怎么你把它弄成了……你也创伤了,但是以一种好的方式"([01:45:54])。
- 机制([00:03:01]–[00:04:01]):目标是让小分子结合到致病蛋白质上。传统做法是一管一个化学物、把蛋白质一管一管蘸过去,"那基本上要花掉永远"。DEL 的做法是一管里放大量化学物,每个小分子物理连着一个 DNA 条形码;蛋白质固定在磁珠上,像鱼钩一样蘸进去,把结合的拉出来、测它们的 DNA。
- 量级对照:一次一管的化学库最大也就低个位数百万;而 DEL 做出来的最大的一个是 40 万亿个分子(⚠️ 他紧接着说"大到那种程度会有些问题")。最小的他见过 5 万个分子。
- 组合化学:building block 数量远小于最终乘积(可能是平方或立方关系),几千到几万个 building block 就能生成几百万到几千万个分子。⚠️⚠️ 而他点出这件事对机器学习特别友好的理由,本页认为这是整期的技术基石([00:05:01]):"你有所有这些彼此看起来非常相似、只差一两处改动的组合",于是 "你可以识别出:哦,是小分子的这一部分在驱动结合,因为我看到另一部分有很多变化但对行为影响不大。"
- ⚠️⚠️ "只有一种可规模化的技术"这条他自称是 hot take,本页认为该被 AI for Science 记住([00:05:01]–[00:06:03]):"如果你要去做生命科学的事、并把它和机器学习方法耦合起来,城里真的只有一种可规模化的技术,而那个技术是拍照。而测 DNA 序列是另一种拍照的方式。"
- ⚠️ 他点名了对照:Recursion 真的在拍细胞的照片,Enveda 也在做,"而几乎所有其他人,用空间组学那些东西或别的办法,做的都是照片与测序的某种混合——而测序也是照片"。⚠️ 他也点了反方并自己限定:"外面会有做蛋白质组学的人不同意我——但我还是会说那个规模还没到。"
- ⚠️ 成本趋势是他的基本盘:测序 "便宜得像土一样",而且一直在变便宜;"有一阵子降价有点停滞,但现在一批新公司起来了,又在把它往下压"。✅ **他明说 "我们非常看测序成本下降的轨迹,它对我们怎么想数据收集和我们做的规模都有影响"。
- ⚠️ 三条"DEL 为什么让人创伤"的标准批评,以及他们各自的答案——本页认为这组问答才是本期的技术信用来源:
- ① ⚠️⚠️ DNA 结合蛋白造成的假阳性([00:10:03]–[00:11:03])。问题是:有大量蛋白质的本职工作就是与基因组相互作用,而你的试管里有一大堆 DNA。✅ 他们的解法是冗余条形码:"我们有大量条形码,每一个都编码某一种特定的小分子。这里是一个小分子——很好,现在我们有 32 个或 48 个不同的条形码,全都编码这同一个小分子。" ⚠️ 于是如果某一个 DNA 条形码的富集远高于其它(尽管小分子完全相同),就是在结合 DNA;⚠️⚠️ 而漂亮的部分是你还能把序列反查回来:"你可以看你富集到的那段序列,然后把这些蛋白质已被描述过的 DNA 结合偏好恢复出来"——比如一个转录因子已知结合某 6~8 个核苷酸的序列,"哦很好,我们找到了共识结合基序",落点是 "所以我们的蛋白质大概被做对了"。✅ 本页标注:一个假阳性源被改造成了蛋白质生产的正确性验证——与前面的 lumacaftor 过滤器同一思路。
- ② ⚠️⚠️ DNA 标签很笨重,会影响分子行为([00:12:05]–[00:14:05])。他的答案按目的分叉,而本页认为这个分叉是本期最该被记住的一条区分:
- 若目的是推进药物项目:必须保证带 DNA 与不带 DNA 之间有保真度,而这要你真的去把化学物在不带 DNA 的情况下合成出来、跑功能实验。⚠️ 损耗率:"在我们手里容易的大约 90% 能 work,难的大约 50%"(⚠️ 他补"别人的经验不同")。
- ⚠️⚠️ 若目的是机器学习训练:"所有这些带着 DNA 条形码的化学物都在那个试管里。你跑了实验,其中一些结合了、一些没有,而那是你从世界上物理测量到的真实信号。所以你就把你的模型条件在这个条形码的存在上,然后继续训你的模型。" ⚠️ 具体做法是 "我们训模型时会放一个占位符,标记 DNA 的位置"。主持人把这条讲得更清楚:"你的思路是'我在想这个分子在没有 DNA 时会怎么表现',但我们知道它在那儿,而我们不假装它不在。"** ✅ 本页标注:这是把一个"污染"重新定义为"已知的实验条件"——代价是这些标签不能直接当药物候选的判据,而他明确承认了这个代价。
- ⚠️ 可复现性是他为这条背书的证据([00:13:05]):"当我们重跑实验——做新批次的蛋白质、在好几个月的时间里做一批新的化学库——大体上我们拿回同样的 hit、顺序也一样。所以它极其可复现、很稳健。"
- ③ ⚠️⚠️ 标注错误,而他给的对照是本页认为最该被回填的一条降温([00:26:12]–[00:27:12]):池化合成里有些反应会不完全,"你以为你有的那个标签可能有点偏",他们为此在构建化学库时设计了很多对照。⚠️⚠️ 而关键是对照组的数字:"当人们研究阵列式化学库(一管/一孔一个化学物)那些标签有多准时……通常偏差是 20% 到 30%。这是一个巨大的错标问题。" ⚠️ **他的判断是 "我们认为它大概和 DEL 里的错标相当,也许更糟"。✅ 本页标注:这条把"DEL 脏"这个批评换了个参照系——一管一个的"干净"做法本身就有 20–30% 的错标,而这个数字在本库此前的材料里没有出现过。
- ⚠️⚠️ 而本页认为本期在策略上最该被引用的一处是他们与经典 DEL 用户的激励完全相反([00:16:05]–[00:18:06]):
- 经典用法:只对一个很难的靶点感兴趣(通常别的技术都试过了、都没成),所以会花两到六个月培养大批量蛋白质、做纯化、跑功能实验来说服自己"它得足够好才值得跑这一次筛选";而既然感觉是一次大动作,激励就把人推向"要一个大 DEL、要尽可能多的多样性"。⚠️ 他对这个激励并不批评:"这很合理,而那就是他们的动机。"
- ⚠️⚠️ Leash 的反转:"我们筛非常非常非常多的蛋白质,而我们不那么被'为某个高价值靶点找到单个结合物'驱动。我们只想在大量蛋白质上拿到非常非常多有活性的化学材料。"
- ⚠️⚠️ 而回报不在靶点侧,在化学库侧——本页认为这是本期最该被迁移的一条实验设计思想:"我们的每一个化学库都会被对几百个靶点筛过,所以我们能非常非常好地刻画我们的 DEL 的行为。"
- ⚠️⚠️ 具体收益是能看见化学本身的怪癖:"我们有一个化学库做过几次,尽管是同一个化学库,它的行为确实不一样——而我们在对几百个蛋白质筛过它之前根本不知道这件事。"
- ⚠️ 而它还反过来变成蛋白质生产的诊断工具:"随着你把这个化学库刻画得越来越多,它真的帮你评估、甚至排查你自己的蛋白质生产流程。" ✅ 本页标注:这与 lumacaftor 过滤器、与冗余条形码反查结合基序是同一条线上的三个例子——他们把"大量蛋白质 × 同一化学库"这个笛卡尔积的每一个方向都当成了对另一个方向的质控。
- ⚠️ 固定预算下的两轴权衡他讲得很干净([00:36:16]–[00:37:16]):两个轴是化学物数量 × 蛋白质数量;可以把钱花在给已有的小集合做更高分辨率的测序,也可以拿更多分子、指望噪声被平均掉。⚠️⚠️ 他们的选择是放弃那个 1 亿化合物的大库:"我们有这么一大批小分子,比如这个一亿化合物的库,而它对我们的帮助不如把一个更小的库刻画得更好。" ⚠️ 理由是要在两个轴上都拿到变化,而不是一个轴——"而不是像'三个蛋白质配十亿个化学物'"。
- ⚠️ "Recursion 黑帮"(Recursion mafia)是本页认为该记下的一条组织谱系([00:19:07]–[00:20:08])。他列了四家,并说 "它们都互相押韵":Leash(他自己)、Noetik(Ron Alfa)、Enveda(Viswa Colluru、August Allen、Hanna Gordon、Dave Healy)、Known Medicine(Katy Rose Skelly;⚠️ 他说"几年前被某家接走了",字幕作 "PAS",本库不还原)。
- ⚠️⚠️ 而他给的共同配方很具体:"所有这些公司基本上都在看不同的有趣生物学问题、而测量极度嘈杂,然后他们从 Recursion 拉人进来搞定'哦,我们挺擅长嘈杂的测量,我们来看看能不能从这个特定角落里榨出信号'。"
- ⚠️⚠️ 他对自己团队的能力来源给了两条,而第二条本页认为是本期最该被引用的一处自我定位([00:18:06]):① 他和公司里几个人来自真正的基因组学方法开发背景、而不是化学背景,所以 "我们知道要怎么调实验协议才能从这些古怪的 assay 里拿到好信号";② ⚠️⚠️ "加上在 Recursion 的很多年。我们在高维生物学里犯了老实说很多错误,在黑暗里到处撞,搞清楚有哪些失败模式会让模型在 Recursion 产出的高维成像数据上作弊。"
- ⚠️⚠️ 而他给的那个例子就是本期"外号"现象的前身:"哦,这里有这样的噪声源,我们得去追它;还有——你能不能预测这次实验是在哪台仪器上跑的?如果你能,那就非常糟。" ✅ 本页标注:本期从头到尾只有一个主题,就是"模型会去抓那个比你想让它学的东西更容易抓的信号",而仪器、化学家、蛋白质外号、分子量是它的四个化身。
⚠️ 商业与证伪:Kosuri 悖论,以及他承认对方说得对的那一半¶
来源:Latent Space AI for Science / Ian Quigley
- ⚠️⚠️ 本页认为本期最诚实的一段是他对 "Kosuri 悖论" 的回答,因为他先把对方的一半让掉了([01:35:50]–[01:38:51])。主持人把它叫做 "机器学习与发现的 Kosuri 悖论",出处是 Sri Kosuri 的一条推文(⚠️ 主持人说本人几周前上过本播客、那期还没发,并自责"我居然没在他那期提这个"):
- 悖论:要造一个好的机器学习模型,你需要大量高质量数据;你显然有这个能力。但如果你需要那些数据来训模型,那你到底要模型干什么?因为你直接去把东西采集来就好了。
- ⚠️⚠️ 他的让步很明确:"如果你唯一的理由是去为某个特定靶点拿到好的化学材料,那他当然是对的。" ✅ 本页标注:这是本期唯一一处他承认一条反方论证在其射程内完全成立,本库按明确让步记录。
- ⚠️ 他保留的那一半有两条:① 优化速度与资本效率——如果你已有广泛铺在很多靶点上的化学材料、能驱动对化学行为更深的理解,那么优化早期材料的方式有潜力快得多,⚠️ 尤其"在我们做到的这个规模上、在我们能用的这么低的资本投入上",并自述 "我们在 Leash 没有融很多钱,而我们筛了极大的量";
- ② ⚠️⚠️ 跨领域迁移,而这是他主动说出"这才是我提语言模型那条线的原因"的地方:"如果我们在化学推理上变得非常好,那我们就能在很多不同行业和它们的应用上变得非常好,而不必真的跑去在所有那些领域里做筛选。" ⚠️ 他点的例子是 农业、兽医学、材料科学,并给了类比——蛋白质折叠模型变好之后,有团队开始去做从未被筛过、或极难筛的靶点。⚠️⚠️ 他对这条的终局表述是:"如果你有足够多这种工程化 activity cliff 的变化,你真的会到一个你能做所有事的点——到那时你就再也不需要去筛任何东西了。"** ✅ 本页按愿景记录,不记为结论。
- ⚠️ 规模数字(自述,本库未核实)([01:39:51]):约 2,000 个不同的蛋白质构件被开发与筛选;公司史上约 5,000 次筛选;每次对至少 650 万个分子。
- ⚠️⚠️ 他对"是不是世界第一"的措辞本页认为值得完整照录,因为它是本期自我设限最明显的一处:"当然几乎和地球上任何其他人一样多。也许比所有人都多。大概不是。大概有几个组……但就突变的数量而言,我觉得大概比所有人都多。这在我看来挺可能的。"
- 成本对照:"如果你去 CRO 一次一个地做,视你要多少手把手的服务,大概每个要 10 万美元。"
- ⚠️⚠️ 而主持人紧接着给的那个反问,以及他的回答,本页认为是本期最该被引用的一条自我降温([01:40:52]):"650 万个分子,这不算多分子,尤其因为它是组合空间——大家会说 10 的 40 次方这种大数字。"
- ⚠️⚠️ **他的答案是 "远远不够(Not remotely)"。✅ 本页标注:一个把"规模"当作核心叙事的公司 CEO 在被问到自己的规模够不够时直接说"远远不够",本库按明确的自我降温记录。 ⚠️ 他能给的正面证据只有一条:只在内部数据上训的模型能外推到 ChEMBL 那些"非常不同的化学空间角落"。
- ⚠️ 路线图是两个方向同时推:在化学空间不同角落里做更多化学库——一侧是非常精细的改动(为了 activity cliff),另一侧是很粗的大改动(为了抓新蛋白质与新蛋白形状)。
- ⚠️ 潜力/亲和力(KD)那一问他没有给结论([01:41:52]–[01:42:52]):相对排序"相当可做"(证据是重复筛选给出同样顺序的同样 hit),但"用 read 数当 KD 的代理——不太行"。⚠️ 他们在往 SPR 等生物物理测量走、想造一个"potency ladder"放进被筛的化学材料里,⚠️ 而他的自评是 "我不会说我们已经擅长这个"、"我们觉得也许能拿到某种合理的、粗糙的换算,但我不会说我们到那儿了"**。
- ⚠️ 一条混杂因素他主动点出:"有很多蛋白质我们遇到过,结果发现那个 DNA 条形码本身——有些蛋白质没有被描述为 DNA 结合蛋白,而我们发现它们是。"
- ⚠️ "你是不是在解错的问题"这一问本页认为双方都给了可引用的东西([01:32:50]–[01:34:50])。主持人的算术是:一个成功药物的全流程成本 "低的说 2 亿美元、高的说 10 亿美元",而发现阶段只是几百万,所以发现只占总成本很小一部分。
- ⚠️ 他的答案是指向具体的高价值早期问题:有一批遗传学证据很好、但用小分子极难成药的靶点;最直接的例子是细胞因子类炎症适应症现在用抗体来做,而做成小分子药片就能替代输液、不需要冷链运输。⚠️ 他说 "我们确实对很多这些细胞因子有选择性的材料";并在另一处说他们手上看起来有选择性的起始材料覆盖"大概 700 个靶点"([01:31:49])。主持人替他说出了言下之意:"所以你基本上要把抗体市场毁掉",他的回答是让步式的——"对某些东西它很好、对某些东西它很棒"**,且抗体那边因为蛋白质折叠做得好而正在快速进步。
- ⚠️⚠️ 而他自己给的那条限定本页认为比答案更重要,因为它承认了选题偏置([01:34:50]):"更广地说,这有点是一个路灯问题(lampost problem)——在生命科学里我们能做大量可规模化测量的地方,就是这些早期问题。" ⚠️ "我们没法真的跑一个一百万只小鼠的实验,我们没法跑几百万次一期临床。" ⚠️ **他对未来的表述是 "我们会在那些事情上变好、会带着更好的数据和更好的推理与物理模型往生物抽象的更高层爬",但现在能做足够多测量的技术就是这些早期手段。
- ⚠️ 而主持人提出的那个"oracle"反设本页照录为对话内容而非断言:如果有一个 AI oracle 能保证 ADMET 都好、且泛化到这个人群,那你临床试验的所有失败就都消失了;而他对此只接受了一个较弱的版本——⚠️ "ADMET 性质我大概可以说;但你大概不需要临床结果,就能有信心直接跑一个小鼠研究。"
- ⚠️⚠️ 商业模式他给的是"分拆新实体",而其中那条关于副产物的对照本页认为值得单独记([01:30:49]–[01:31:49]):他们在和一些人谈合伙成立新实体去推进手上的化合物;⚠️ 而他点出"在大多数领域,你造引擎时顺带产生的那些子集本身没有内在价值"——
- ⚠️⚠️ "没有人想买关于政治理论的 reasoning traces。" ⚠️ 而这里不同,因为筛选的副产物里 "会有我们产生出来的小金块":不只是"这个分子好",而是"这里是它为什么好",加上专有的、在别人难成药的靶点类别上有活性的化学材料**。
- ⚠️ 他对这批机会的态度是克制的:"你不会想把那 700 个都追下去",它们是经济价值与可取性各不相同的机会。
⚠️ 其余几处,本页只做索引¶
- ⚠️ 小分子 vs 抗体的基础对照([00:21:10]–[00:23:10]):抗体是细胞做的大分子,很难进细胞、也很难做成药片(所以要注射);小分子能进细胞、能做药片,"如果你家里有药片,它们几乎肯定是小分子"。⚠️ 他对 AI 进展不对称的判断本页认为是本期最该被 AI for Science 引用的一条分界:蛋白质类药物的行为"我们已经取得了相当好的进展"(他点名 Isomorphic、Chai、还有一家字幕作 "Nava"),"而我们的论题是,这些能力对小分子路径真的还不在这里。而那就是我们建这家公司的一个原因。"
- ⚠️ 小分子的双刃:能穿细胞膜、能穿过肿瘤防御、更容易过血脑屏障——"但同时它们做所有这些事,因此更容易有毒性和其它副作用";监管路径因此比抗体更坎坷(已知问题包括肝毒性、心律失常)。
- ⚠️ 他们对毒性的技术答案与主业同形([00:24:11]):相当一部分 off-target 毒性来自小分子结合到别的蛋白质上,"所以我们也去把那些蛋白质做出来、也用我们的化学去筛那些蛋白质"。⚠️ 而他对终局的表述很大:"说我们的志向是把每一个蛋白质都筛过、然后再推进到人类之外的那些,一点都不夸张。" ⚠️ 做人类之外的理由有两条:拿到蛋白质的变异,以及判断该跑小鼠模型还是大鼠模型(因为物种间蛋白质略有不同,化学材料行为也不同)。
- ⚠️ activity cliff 与"magic methyl"([00:59:27]–[01:01:28]):他把刻意追求的目标说成 "有意选择的 activity cliff"——两个东西看起来非常相似、只差一点点,而那一点点驱动了行为上不成比例的变化。⚠️ 医药化学家的说法是 "magic methyl",而他对这个概念的定性很克制:"它有点神话性质,不完全是真的"——一个分子上有或没有那一根"刺",就决定它工作得很好还是完全不工作。⚠️ 而 DEL 天然带这个性质(三个 building block 里两个可以相同),蛋白质侧则靠"我们非常刻意地在那些蛋白质里工程化突变"。
- ⚠️ building block 的尺度他给了一个数字:忽略氢的话"大概 6 到 30 个"原子,而存在只差一个原子替换的 building block 对([01:00:28])。
- ⚠️ 他点出的那条设计张力本页认为值得记([01:00:28]–[01:01:28]):粗粒度多样性(为了在差别很大的大量靶点上找到结合物)与细粒度的极微小改动(为了教模型那些非常微妙的差别)之间有冲突,"所以在设计我们自己的化学材料时,我们必须跨越这种张力"。
- ⚠️ DEL 的几何与"哪些化学空间角落我们大概很差"([01:23:43]–[01:25:46]):现在常跑的一种是 Y 形(forked)设计,另有线形、大环(macrocycle)类的环形。⚠️ 约束包括 DNA 该接在哪、building block 的商业可得性、以及把它们缝起来所需的化学;⚠️ "定制的东西要更久,而走快一点对我们更有吸引力"。⚠️⚠️ 他对覆盖缺口的承认很直接:"肯定有一些化学空间的角落我们大概很差",而某个化学库"可能对某几类靶点很好、对另外几类很糟"。
- ⚠️ "东西容易拼起来也就容易拆掉"这个 DEL 批评他基本驳回了([01:26:47]–[01:27:48]):多年来 DEL 化学里连 building block 最常用的是酰胺键,而那在体内相当可被消化;⚠️ 但"过去大概四年里"出现了一批对 DNA 友好(连接过程中不破坏 DNA)、能给出碳-碳键、碳-氮键的化学,所以 "我其实不太担心那一部分"。⚠️⚠️ 他真正担心的是 building block 多样性:例如把一个氮绕着环移到每一个位置是"非常非常想要"的,但"对我们现在在生成的各种 building block 来说,你大概不太可能从商业上拿到"。
- ⚠️ ADMET 与一条"6 个月到小鼠 PKPD"的自述([01:27:48]–[01:29:48]):"我们从化学库 hit 直接走到小鼠里不错的 PKPD,花了 6 个月,而且只用了非常少的几轮 medchem 循环。" ⚠️ 他把速度归因到化学库设计阶段就为"drug likeness"做了优化——做法是一个类 Thompson sampling 的优化:定一个优化函数(要结合这些、避开那些,再加上 ADMET 预测模型),生成一批候选的合成化学库、按这个函数打分,然后只做更小的一个。⚠️ **他自己的限定是 "至少那几个我们这么做过的系列"。
- ⚠️ PKPD 的具体内容:那是一个做炎症的化合物,跟踪的是小鼠血里的细胞因子水平,"它们做了我们想让它们做的、也是我们基于药物靶点预期它们做的事"。
- ⚠️ "按旨意移除一个瓶颈"这个本频道固定收尾问题,他给了两个答案([01:46:54]–[01:48:55])。第一个答案他自己也承认是在搭便车:测序成本正在"像石头一样往下掉",而他要的就是 "更便宜的测序、更多分子"。⚠️ **主持人追问"那为什么还要更便宜的测序",他的回答是 "我只是对这个趋势感到高兴"。⚠️ 本页标注:本期关于测序成本的具体数字由主持人给出("第一个基因组花了十亿美元,现在一千美元"),而他只补了一句"我觉得可能是一百"——本库按口头估算记录,不写定。
- ⚠️⚠️ 而他被追问后给的真正答案本页认为值得记,因为它指向的是正交验证能力:他想要大规模并行的小分子纯化。⚠️ 现状是 HPLC 这类"小玩意""没有一个是真正很好的、可大规模并行的"**;⚠️ **而他想要它的理由是 "我们在那个已经让很多人创伤的古怪 assay 里跑了所有这些分子;如果能把大量分子弄到另一个非常干净、纯化好、容易操作的 assay 里,那就太好了——因为那样你就能真正正交地验证你做的所有那些测量。" ✅ 本页标注:这是本期唯一一处他点出自己整套数据的系统性风险所在——所有测量都来自同一种 assay,而他想要的东西正是用来独立核对它的。
- ⚠️ 他也自觉地避开了标准答案:"当然,所有人都抱怨 GPU 之类的东西",主持人接 "GPU 就是所有人都会说的——除了 GPU 之外"。
- ⚠️ 结尾的招募表态本页按自述记录([01:48:55]):"我们在招机器学习的人,我们想和伙伴谈";他对公司的定性是 "一个物理接地的基底(physically grounded substrate),用于各种有意思的推理与生物医学应用"。⚠️ 公司规模他在另一处给了:"我们是个很小的店,一共只有 10 个人"([01:22:43])——⚠️⚠️ 而他在同一句里给的增长预期是本页认为该记的一条:"我真的很期待我们的实验语料以当前 2 倍、10 倍、100 倍的速率增长的时候,因为那时这些 agent 可以探索的空间会急剧扩张。"
⚠️ 本页的五条限定¶
- ⚠️⚠️ 本期几乎所有数字都是嘉宾自述,且没有一处在期内被独立核验。✅ 但本页认为它的证据结构好于一般的创业者自述,有四条可查理由:① Kaggle 的那批数据与全部 eval 已公开在 Polaris 上,而公布的结论对他们自己有利的方向是"别人都做不到"、对他们不利的方向是"我们自己也没赢";② ⚠️ 他主动公布了"我们当时给了 5% 概率认为这会让我们公司失去意义";③ ⚠️⚠️ 他在被问到规模够不够时直接答"远远不够";④ ⚠️⚠️ 他对 Kosuri 悖论明确让掉了一半。⚠️ 本页仍按自述口径记录全部量级(约 2,000 个蛋白质构件、约 5,000 次筛选、每次 ≥650 万分子、40 亿条交互、1 万多次 SAR 战役、6 个月到小鼠 PKPD),不转为事实。
- ⚠️⚠️ "1,800 维创作者向量与化学式一样好"这条是本期最重要的结果,而它也是本页唯一一条本库认为应当优先去找原始出处核对的。⚠️ 他说这是一篇"圣诞期间发布"的博客("Clever Hans post"),并说有排行榜和一个在线小游戏可玩,但期内没有给出链接、论文、具体指标(哪个 metric、哪个子集、相差多少)。 ✅ 本页因此把"一样好"与"合起来并不会有意义地更好"都按他的原话记录,不量化。
- ⚠️ 归属在本期是清楚的,但不是逐句清楚。✅ 只有一位嘉宾,所以嘉宾侧无歧义;⚠️ 但两位主持的发言在自动字幕里不可区分(无 SPEAKER 标签),而两位主持本身都是 AI-bio 创业者、都给出了实质性的技术内容(Picasso 问题、分子量 / CASF-2016、GenePT、mech interp 在生物学的反向用法、Kosuri 悖论的引入、药物总成本的算术)。⚠️⚠️ 本页因此把所有主持方发言统一记为"主持人",不区分 RJ 与 Brandon——⚠️ 唯一例外是开场的自我介绍([00:01:00]),那里姓名与机构是被明确播报的。
- ⚠️ 本期有一个格式细节会影响怎么读后 20 分钟:"come at me, bro" 环节的硬问题大部分由 Claude 生成([01:25:46]、[01:27:48]、[01:42:52] 三处明确点到"这是纯 Claude 的"),而主持人只有 24 小时准备。✅ 本页标注:这解释了为什么那一段的问题覆盖面很齐(DEL 泛化、ADMET、bitter lesson、商业模式、化学空间大小)但追问不深——提纲是生成的,而追问需要现场判断。 ⚠️ 本页按内容收录,不因提问来源打折。
- ⚠️⚠️ 本页记下三处属于本页综合而非嘉宾原话的内容,引用时不应归给他:① ⚠️⚠️ "池化筛选之所以能当 RL 环境,是因为它的覆盖不由人的偏好决定,于是化学家指纹在这批数据里不存在"这条缝合——⚠️ 他确实说了"必须包含人类不会做的选择"、"必须有反事实"、"不能偏向让它学化学家社会学指纹"([01:22:43]),也确实在另一段讲了化学家指纹([00:47:21]–[00:51:23]),但他没有把两段明确接起来;② "作弊信号找到之后可以被征用而不是只能被消除"这条态度性归纳(lumacaftor 过滤器 + 冗余条形码反查结合基序 + 化学库刻画反过来诊断蛋白质生产,三个例子都是他的,归纳是本页的);③ "仪器、化学家、蛋白质外号、分子量是同一个现象的四个化身"这条合并(四个例子都是期内的,合并是本页的)。
- 人物:Ian Quigley · Latent Space 主播
- 主题:AI for Science · 评估与基准 · LLM 训练流程 · 中美 AI 竞争 · 在实践中使用 LLM