跳转至

Eric Nguyen

Radical Numerics 联合创始人兼 CEO。斯坦福博士（Chris Ré 组，课题是长上下文），与同实验室的 Michael Poli 做了 Hyena 卷积架构的第一版设计，由此转向 DNA——HyenaDNA（百万上下文，只读）→ Evo（第一批生成式基因组学模型，一作；发现新 CRISPR-Cas 系统，Science 封面 + TED）→ Evo2（第一个由 AI 从零生成的基因组，一个噬菌体）→ Omni（Radical Numerics 的当前模型）。

本库收录他的两个理由：

  1. ⚠️ 他是本库第一份一手的生物安全/生物防御材料。LLM 安全 页里"生物武器"此前只作为清单项出现，从没有人讲过防守侧实际长什么样；他给了四根支柱、现有系统的失效模式，以及一个本库此前没有的攻击类别（同功能、不同拼写）。
  2. 他是本库 generative genomics 这条线的源头，并顺手给了"AI 从零生成了一个基因组"那条新闻一个重要的量级降温。

⚠️ 利益相关：他同时造设计能力与卖防御能力（他自称 dual mandate），而"防守方远远落后"这个判断同时就是他公司的市场论证。

核心观点（2026-09）

来源：Latent Space：生物安全是一场军备竞赛

技术主张

  • ⚠️ Omni 的核心是一次"从 NLP 搬方法"（[00:11:20]–[00:14:24]）："在生物和基因组学里，我们基本只见过 base model 被训出来——做了预训练，但基本上是未对齐的。"于是他们给基因组模型加上 mid-training / post-training（任务特殊 token、Q&A 式结构喂进模型，所以不必再微调 embedding，开箱即用）。⚠️ 他说结果连他们自己都意外："哪怕只做了一点点，它就开始成为 state of the art。"
  • ⚠️ SOTA 落在非编码调控区与长程区间（[00:22:47]–[00:23:51]）——此前所有模型都弱的地方。他给的两个理由数字：编码区只占基因组约 1.5–2%，而"许多、如果不是大多数疾病都在这些非编码区"。机制是野生型与突变的似然比，他叫它 surprise factor（[00:26:54]）：保守通常意味着更健康，不常见则可能致病。
  • ⚠️ 他定的对标标准值得单记（[00:32:07]）：长期 SOTA 的 CADD 是集成法，"连别人家最好的模型也会被它混进去，再加个 SVM，厨房水槽都扔进去"——"既然他们厨房水槽都扔，我们就不能挑一个模型说我们比它强，我们得对标现在人类所能做到的全部。"
  • ⚠️ DNA 里的 chain of thought（[00:33:11]–[00:37:14]）：DNA 没有描述思考的词，所以他们把"思考"换成打分递增的序列轨迹——给模型看排序后的低分 RNA aptamer，让它接着写，它复现出了被留出的更高分序列。⚠️ 湿实验室验证仍在进行中，本期只有 in silico 结果；而主持人点明的限定更重要："做筛选的其实是实验的生物学本身"（[00:45:25]）——模型学的是一条由湿实验室产生的定向进化轨迹。
  • 他认为范式可推广到任何"序列 + fitness score"：AMR / 噬菌体设计（每年约 200 万人死于细菌感染）、⚠️ 与一家国家实验室合作的稀土矿物提取蛋白（要选择性结合；动机是"为美国战略性地保障稀土供应链"）、转录因子设计。
  • ⚠️ 一条他自己也解释不了的迁移（[00:37:14]–[00:39:17]）：模型只在 DNA 上预训练，RNA 只在 mid-training 里出现过一个数据集，而 RJ 指出哺乳动物 RNA 通常没有共进化压力——"说实话我不确定。我们也很意外。"他的猜测是DNA 里带着大量进化信息，这支持他们"先 DNA、再叠模态"的路线。目标词是 general biological intelligence。
  • ⚠️ 对"虚拟细胞"的批评（[00:39:17]）："人们谈虚拟细胞时往往只聚焦 RNA 和转录本，然后就想泛化到描述一整个细胞。但一个细胞显然远不止那些……你要从那个系统所有的信号或传感器去学。"被问会不会通向超智能时他很克制：⚠️ "谁知道呢。但我有信心这类范式会把我们带得比现在远得多。"
  • ⚠️ "6,000 个碱基对"这条降温（[00:53:41]）：被问 Evo2 的噬菌体基因组设计怎么做到超长上下文时——"那是另一个组做的……那个上下文其实相当短。他们之所以从噬菌体开始，就是因为它属于最短的基因组之一。我记得大概是 6,000 个碱基对左右。"（当前上下文 200 万；人类基因组 30 亿。）
  • mech interp for bio（[01:03:59]–[01:09:07]）：⚠️ 他主动交代"我们处在很早的阶段，团队还在搭"。层级由简到繁：GC 含量 → 重复 → 转录因子 motif → 疾病，旗帜性提法是 ⚠️ "mapping the manifold of disease"。转录因子是实际目标（衰老研究围绕它），理由是组合空间大到没法人工做。自然语言还不是模态之一，"但会是"——⚠️ 他认为融合语言相对直接，难的是生物模态之间的融合。

生物安全（本库收录他的主因）

  • ⚠️ dual mandate 的理由是"它们是同一批模型"（[01:11:09]–[01:12:12]）："一个既在造设计能力的团队，其实也最适合造防御能力……一个擅长生成的模型，恰好也非常擅长判别一个序列是不是致病的。"
  • ⚠️ 一段现场观察（[01:11:09]）：他在一个 AI-科学家 panel 上听到"最大风险是什么"——"他们每一个人都讲了生物武器。而我很好奇：那这些人在为此做什么？基本上我什么都没听到。我去看那些公司，他们在那些方向上没有大的投入。"本库标注：这条观察在本库的材料分布上是成立的。
  • 生物防御的四根支柱（[01:13:13]–[01:14:14]，他们做前三根）：检测与监测（机场拭子、下水道采样）、归因（天然？敌对国家？某国某实验室的人工改造？）、对策、威慑（"那更像政府层面的事"）。
  • ⚠️ 现有系统的失效模式（[01:14:14]–[01:15:15]）：生物防御社区主要靠把序列对齐到已知病原库——失效于 ① 不在清单上的新东西；② 被刻意混淆的东西（"不只是字母层面不匹配，还有功能层面"）。
  • ⚠️ "同功能、不同拼写"：本库此前没有的攻击类别（[01:15:15]–[01:17:21]）。因为新一代模型是功能/结构感知的，可以刻意造出功能等同病原、但字母完全不同的序列；他点名引用微软的 "paraphrase" 工作（蛋白语言模型保结构换拼写，并专门测了会不会打穿现有检测系统）。
  • DNA 合成公司这一环：发设计过去、物理 DNA 寄回来，"像个亚马逊包裹"。⚠️ "平心而论，很多 DNA 合成公司是有检测工具的，但我会很强烈地假设它们不是基于 AI 的，而且大概不够鲁棒。"
  • ⚠️ 他们最初的动机场景（[01:17:21]）："在一个大概有数十亿、数万亿个 agent 在互联网上构建和采取各种行动的世界里，很离谱的是它们根本没有任何工具来判断自己是不是在造危险的东西。"
  • 两层防护（[00:10:16]）：自然语言层的护栏是需要的（"像 Claude，如果你聊病毒，它直接就把你关掉"），⚠️ 但还需要生物序列层的护栏——"理解底层的那个基质本身"。
  • ⚠️ 他不承诺挡住一切，而是把目标往下调（[01:19:22]–[01:21:26]）：被问误杀会压死正常科研时，他换掉了问题——"如果我们想的是怎么 100% 阻止危险设计，那是个更难的问题。我们问的是：在设计侧有大量人在推前沿；而防守侧，前沿技术被用在那里了吗？答案是没有。"落点是：⚠️ "基准是改进……它必须完美才有用吗？我不这么认为。"
  • ⚠️ 他明确接受"军备竞赛"框架（[01:23:31]）："设计侧会变得更有能力，防守侧必须努力跑到前面；而那又会激励别人在设计侧继续往前……在我们看来，防守侧一直远远、远远落后。所以我们想做的是把防守侧带到大致持平。"⚠️ 这是一条关于"当下不对称"的论证，不是关于终局的论证——主持人问的"在前沿同时推两侧是否净为零"在本期没有被回答。
  • ⚠️ 他的威胁模型不依赖能力上限，只依赖节奏（[01:25:34]）：⚠️ "我广义上担心的是：我们在降低所需专业知识的门槛、以及人们能多快把这类东西做出来。而那意味着体量在某个点上会指数级增长。"
  • 两类来源，排序反直觉：有意的（存在有过"非常非常非常大"生物项目的国家行为体；⚠️ 公司一位顾问亲身见过这些设施并参与退役；"和平时期没那么可怕，战争时期尤其可怕"）；⚠️ 无意的——他认为近期更可能："他们本来想做某个东西去研究，结果它跑了出去……我觉得那些场景看起来最可能。"
  • ⚠️ 本库标注：把"无意泄漏"排在"国家武器化"之前，是本库这条线上此前没有出现过的排序——此前所有生物/核类比默认的威胁都是有人恶意使用模型。
  • ⚠️ 他对自己是否焦虑的回答，以及其中的张力（[01:27:42]）："它让我睡不着吗？不一定。整体上我更是个乐观主义者……我认为收益远大于潜在的危害。"本库记下这与他同段里"体量指数增长、无意泄漏近期最可能"之间的张力，不裁决。

两条方法论/组织判断

  • ⚠️ "专业知识越多越悲观"，以及由此来的招人判据（[01:28:47]–[01:29:50]）："你在某件事上专业知识越多，你对那个空间就越悲观。在生物里你特别能看到这一点——你对某个疾病领域熟到不行，然后有人引入点新东西，你就会说：哦，但这个呢、那个呢。他们非常悲观，而且大概也情有可原。"所以他要的是⚠️ "确实懂那个领域、但仍然是 dreamer 的领域专家"。
  • 这条是他自己经历的反推（[00:57:48]–[00:58:50]）：他花六个月问人"如果我能生成 DNA 你觉得有用吗"——⚠️ "离奇的是，几乎我在斯坦福谈过的每一个科学家都觉得这是个蠢主意。"被告知的四条理由是：那不可能；⚠️ "我们人类自己都不懂规则，你怎么能指望 AI 学会它？"；⚠️ "你连对错都没法判断，它怎么学？"；以及"重复字符太多、DNA 太噪、一堆垃圾"。他的回答："我听到了所有这些理由，而我就是特别犟。"
  • ⚠️ 他对当时的做法也没美化："我们训第一个 Evo 时完全不知道它会不会 work……我们就想：训个大的吧。这挺荒唐的。"第一个"起鸡皮疙瘩"的结果是有人把第一个 checkpoint 扔到 ProteinGym 上、与蛋白专用模型打成竞争——"因为我们从没告诉模型什么是蛋白。"
  • 一句话 takeaway（[01:29:50]）：人们常觉得必须在"做前沿 AI"与"做自己真正在意的事"之间选一个——⚠️ "我想让人们带走的是：你不必选。"

与他人观点的交叉

  • ⚠️ 与 Xaira 的 X-Cell 正交而非重复：两家都在批评 scGPT / Geneformer 那一类观测数据训出的模型，但处方不同——Xaira 说"描述性数据学不出因果，要扰动数据"，Eric 说"模态太少，要融合所有传感器"。本库认为这是 AI for science 页目前最清晰的一处路线分歧。
  • ⚠️ 与 John Platt（同一子系列、相隔一天）构成两组对照：
  • 方法同形，verifier 不同：两边都把科学问题化成"序列/代码 + 一个分数，然后迭代改进"；⚠️ 但 Platt 的分数由代码当场算出，Eric 的分数由湿实验室产生，所以 Eric 这条的迭代速度受物理世界限制——接上 Lila Sciences 的"实验室即 verifier"。
  • ⚠️ 对领域专长的态度方向相反：Platt 说"领域专长不会消失，因为它通向 taste"；Eric 要的是"仍然是 dreamer 的领域专家"，理由是专业知识带来悲观。本库并列不裁决。
  • ⚠️ 他的威胁模型与 Ali Ghodsi 的"CVE 从公布到被武器化：从年到小时" 是同一论证形式的跨领域复现：不依赖能力上限的假设，只依赖节奏。本库记为一个可跨领域复用的论证模板。
  • "同功能、不同拼写"在结构上与本库已有的攻击类别同形：Black Hat 那期的"payload 即 prompt"、Chess.com 的"机器产出冒充人类产出"——检测器盯表层，攻击方改表层、保语义。⚠️ 生物这一侧特别的是"语义"是物理功能，保真度有物理保证（结构→功能），不像 prompt 注入那样依赖模型的解读。
  • 与 Greg Brockman 有一条未核实的交集：Eric 说 Brockman 从 OpenAI 休息四个月帮 Evo2，"凌晨三点在 Slack 上找他调 bug"。⚠️ 本库已收录的 Brockman 本人那期未提及此事，本页只照录。

已收录访谈

日期 视频 主持 主题
2026-09-23 生物安全是一场军备竞赛 Latent Space "AI for science" 子系列（Brandon + RJ） GLM 与 Omni 的 mid/post-training、非编码区 SOTA、DNA 里的 chain of thought、dual mandate、生物防御四支柱、"同功能不同拼写"、"你没法给一个人打补丁"、门槛下降 → 体量指数增长