刘子鸣谈 AI for AI:元模型、physics of AI 与中美 neo labs 资本狂潮(张小珺,2026-07-31)¶
- 嘉宾: 刘子鸣 —— 清华大学人工智能学院助理教授、上海期智研究院 PI、创业公司首席科学家;北大物理本科 → MIT 博士(导师 Max Tegmark)→ Stanford 博后(神经科学 + AI);KAN(Kolmogorov-Arnold Networks)一作
- 主持: 张小珺(《商业访谈录》第 149 期)
- 来源: YouTube · 101 分钟
- 转录稿: sources/zhang-xiaojun/20260731-H3Gs4QUHvA4(本地 GPU 转录,faster-whisper large-v3-turbo)
⚠️ 本期无任何字幕轨(含配音轨),转录稿为本机 GPU 跑 whisper 生成。说话人分离失败(cuDNN 版本不匹配,回退为无标签转录稿;CPU 重试被脚本判定过慢而跳过),因此本页的发言归属全部按内容判断。好在这是标准的双人访谈、问答边界清晰(张小珺提问、刘子鸣作答),误配风险低。
⚠️ whisper 中文转录把大量专有名词转错,本页按公开信息与上下文校正。对照表:
刘子明= 刘子鸣(依视频标题);小俊/小金= 小珺;七智研究院/七次研究院= 上海期智研究院;Max Tachmark/Techmark/Tagmark= Max Tegmark;姚舜宇= 姚顺宇;科茂·库洛夫和阿诺= Kolmogorov 与 Arnold;朱泽源= 朱泽园(Zeyuan Allen-Zhu);Physics of RMs/R&M= Physics of Language Models;田园栋/亭文洞= 田渊栋;凯明= 何恺明;Elias Escaver= Ilya Sutskever;Beater Lesson= Bitter Lesson(Rich Sutton);Skilling Law= Scaling Law;Linear Tension= Linear Attention;玻璃二相性= 波粒二象性;平清宇宙/平静宇宙= 平行宇宙;地骨/地鼓= 第谷(Tycho Brahe);孔一挤的长山= 孔乙己的长衫;帧流/振留= 蒸馏;驱昧/驱媚= 祛魅;外滑= 外化;虚手= 需求。⚠️ 三处需要特别小心的转录问题: 1.
原模型/圆模型实为「元模型」(meta-model)——他自己的定义是"关于模型的模型""关于模型的世界模型"([00:55:04]),即 meta。本页统一写作元模型。 2.干与看混转,实为 GAN 与 KAN 两个不同的东西:2017 年把他领进 AI 的是 GAN(生成对抗网络),2024 年他自己提出的是 KAN。转录稿里两者常写成同一个字,须按年份与上下文分辨。 3.formal实为 FOMO([00:44:51]),"一级市场是一个非常 FOMO 的状态"。⚠️ 末行 [01:39:55]「中文字幕志愿者 李宗盛…明镜与点点栏目」是 whisper 的幻觉尾巴(模型吐出的无关字幕组署名),与本视频无关,请勿引用。
⚠️ 另有几处本库无法核实的人名,转录稿原样保留、本页标注存疑:他在 Stanford 的好友
高温浩(做 AI for chemistry)、Anthropic 可解释性团队的Vesker Nee、清华 AI 院的陈永超老师、孙天祥的FIRS系统名。他创业所在公司名被转成圆环智能/圆魂智人两种写法,本页不下断言。本期是本库第一份中方 neo lab 创始人的完整自述,价值有三层:① 一条明确自称"非主流"的 AI for AI 技术路线,且给出了可证伪的路标;② 一段用自己的大脑做了 60 天训练的人体实验,这是本库中最不寻常的一手材料;③ 关于 2026 年中美 neo labs 融资狂潮的亲历体感,以及中美投资人耐心的直接对照。
说话人映射(据补做分离的 speakers.md;转录稿本身无标签,此处认人属 wiki 层编辑判断): SPEAKER_01 = 刘子鸣(嘉宾,85.4%);SPEAKER_03 与 SPEAKER_02 都是张小珺: - SPEAKER_03(11.4%)是对谈段的她——全程为提问方(如 [01:25:42]"你觉得有着应用公司的生态位吗"); - SPEAKER_02(2.3%)是片头/片尾旁白——[00:00:00]"Hello大家好,我是小俊 我们此前访谈过谢赛宁……", 片尾"好了今天……"也落在此标签。旁白单独录制,被分成另一标签,不是第三个人。
SPEAKER_03 = 张小珺是按"提问方 + 占比"推断的,节目内没有她在对谈段自报姓名;与内容无矛盾。 SPEAKER_00(53 秒,50 段)为碎片,判为伪影。
概要¶
张小珺在开场给出本期的问题意识([00:00:00]):此前访谈过谢赛宁等海外 neo lab,而 2026 年中国也涌现了一批新型实验室——"有研究背景的老师或者学生正在成为一级市场的新宠儿,他们普遍很年轻,有名校科研背景,第一次创业,在还没有产品的时候就能以估值数亿美金融资"。她判定当下资本最活跃的两个方向是世界模型与 auto research(即 AI for AI)。
刘子鸣 2026 年 3 月回国、4 月底入职清华、5 月底开始融资,他对这波资本潮的形容是"太疯狂了"([00:00:00]、[00:43:50])。
核心观点¶
一条自称"非主流"的 AI for AI:AI for physics of AI for AI¶
这是全期的中枢论证([01:09:19]–[01:11:22]),他自己要求把它显式说出来:
"我需要显式地说明我的想法是挺非主流的。AI for AI 绝大多数人想到的是——我直接用 AI 去提升 AI 就好了。但我说 stop,中间其实还有一步:我们要先做 physics of AI……但人做 physics of AI 太慢了,古法科研太慢了,所以我需要用 AI 来帮我们做 physics of AI。所以我的 AI for AI 的全称应该是 AI for physics of AI for AI。"
支撑它的是一条关于数据的论证([01:09:19]–[01:10:22]):
- AI for X 能成功的前提是 X 有大量数据。自然语言能被 AI 处理,是因为有海量语料。
- 但 AI research 没有大量结构化好的高质量数据——"我们才创造 AI 几十年"。具体说,"训练一个模型、拿到它的训练曲线"这样的映射关系"目前还非常不轻浮(稀缺)",连这门语言本身都还没有被规模化。
- 而"结构化"这件事本身就需要 physics of AI。 这是他与"直接拿 coding agent 去做 AI for AI"路线的分界点。
⚠️ 60 天把自己当模型训练:元模型的由来¶
这是本库中最不寻常的一段一手材料([00:47:58]–[00:53:03]):
- 2026 年年初开始,他每天随机拉一个数据集、随机拉一个模型来训练,并在跑实验之前先要求自己预测这条训练曲线会长成什么样。做了约 60 天,每天做,有时一天两次。他说个人网站的博客专栏里能查到记录([00:49:00])。
- 一开始预测能力非常差,"可能连趋势都预测不对";训练四五十天之后开始变准——甚至前几天做 language 相关实验、当天做 vision 相关实验,也能预测准([00:49:00]–[00:50:01])。
- ⚠️ 他明确说不清自己是怎么做到的:"我只是训练我的脑子……我现在还没有办法把我脑子里的东西写成自然语言。它可能是一种视觉的 reasoning,然后可能还有一些潜空间的 reasoning,但我其实也说不清楚这些潜空间 reasoning 是什么。"([00:50:01])
- 他用了 grokking 这个词形容拐点:"训练到四五十天的时候,我突然 grok 了,我突然顿悟了。" 这段"近似于苦行僧似的一种修行"让他相信元模型是可能的([00:50:01]–[00:51:02])。
- 元模型的定义:输入是一个模型(外加数据集是什么、优化器是什么),输出是这个模型的训练曲线([00:50:01])。
- 动机回到物理学:"如果我能够预测清楚接下来会发生什么,那相当于我脑子里其实是有一个关于 AI 的世界模型……物理学就是我拿来我的物理理论,不用去做实验,通过计算就可以预测出之后会发生什么。"([00:51:02])
- 下一步是"把自己拷贝一份、把自己的脑子外化"([00:52:03]):人一天最多做一两个实验,"这是人的 bandwidth",而一个模型"一个 batch 就可以见到几千组东西"。"如果我日复一日把自己当元模型去训练,我可能要训练 1000 年,可能需要几千年,但是我活不了那么久。"
- 元模型可能没他抽象能力强,"所以它可能需要四五百次"(他自己四五十次),"但多消耗一点计算资源也无所谓"([00:53:03])。
- 用途是事前排序:有 100 个架构不知道选哪个,把架构作为元模型的输入前传 100 次做预测,"这是非常便宜的一个事情";最后还是要真做实验,但筛选想法这一步被加速了([00:53:03]–[00:54:03])。
- 张小珺给了一句很好的并列([00:54:03]):世界模型预测下一个 state,语言模型预测 next token,"你们是预测 next curve"——他直接确认了。
训练数据与算力形态([00:55:04]–[00:56:07]):
- 元模型的训练数据就是模型本身:生成一个模型 → 训练它 → 拿到训练曲线 → 得到一个 (模型, 曲线) 的 data point,再用监督方式训元模型。
- ⚠️ 算力形态与大模型公司完全不同,这是一条容易被忽略但很实的判断:需要挺多计算资源,但不需要很大的集群、不需要卡间 communication 做得很好,因为要做的是大量小模型。
- 关键指标是多样性而非规模:"我们强调的是要让这个元模型见过很多人看起来非常奇怪的架构——或许就是这个架构,能够帮助我们跳脱出 Transformer 现在这个 local minimum。"
- 终极目标:"下一个 Transformer 不是人发现的、不是人拍脑袋发现的,而是通过我们这个元模型预测出来的。"
天文学三阶段:AI 现在在 1.5 阶段,也可能只有 0.5¶
这是本期最好用的一个框架([00:25:29]–[00:27:32]):
| 阶段 | 天文学 | 对应 AI |
|---|---|---|
| 1 · 数据 | 第谷大量记录什么星在什么时候什么地方 | 大量实验 |
| 2 · 经验公式 | 开普勒拟合出行星轨迹是椭圆,得三大定律 | Scaling Law("我们为数不多知道的几个经验规律") |
| 3 · 理论 | 牛顿说三大定律仍不本质,一个引力公式全部压缩掉 | 尚未出现 |
- 他的定位:"我们现在处于第 1.5 个阶段"——有了大量实验,但经验规律还不多,Scaling Law 与开普勒定律地位类似,"我们现在还远远没有到 AI 的牛顿这个状态"。
- ⚠️ 但他随即给了一个更悲观的版本,这是本期最尖锐的一句([00:26:31]–[00:27:32]):
"有的时候我又会说,我们可能现在是 0.5。为什么这么说呢?因为第谷它好说歹说,它把望远镜对着了星空,它会去测各个星区的星星在什么地方。但是我们现在过度地聚焦、过早地收敛到比如说像 Transformer 这种类型的架构上,我们似乎已经失去了探索其他类型架构的 motivation……就有点像是第谷它就盯着一片星区,然后过分地沉溺于这片星区……忽略掉了对其他星区的观察。"
结论是"可能连第谷时代都还没到,可能连大数据的时代都没到"——因为"我们这个数据它是只针对 Transformer、只针对很少的几种模型有效的"。 - 整个框架也是他所谓"压缩"的展开:他引 Ilya Sutskever 的 "Intelligence is compression",认为符号是一种极致压缩的体现([00:23:28])。
Transformer 中了硬件彩票,而语言模型是"反 Bitter Lesson"的¶
- 他明确呼应谢赛宁在张小珺此前访谈中的观点([00:18:21]):大语言模型是反 Bitter Lesson 的——它成功的点在于语言,不在于模型。因为"语言是我们人类演化了百万年、相当于自然给我们的一种馈赠","你做什么样的模型,只要这个模型能够把这些馈赠给吃下去,那它就是一个好的模型"——"它可能是 Transformer,但平行宇宙里它可能是另外一个模型"。
- 由此他同意 "Transformer 其实在算法上也没有那么厉害,它是中了这个硬件的彩票"([00:17:20])。
- 一条很干净的祛魅表述([00:20:25]):"它牛不是因为它叫 Transformer,它牛是因为它能够在上下文上有比较高效的信息传播;ResNet 也是,它牛不是因为它叫 ResNet,它牛是因为它能在深度方向上有很高效的梯度传播。"
- 推论:后 LM 时代模型设计会变得更重要([00:19:22]–[00:20:25])。因为语言已经是被压缩得很好的模态,所以那里的架构设计相对不精巧;但视觉等模态没有被压缩好,这正是世界模型公司要解决的问题。而人擅长的恰恰是从海量信息里识别最重要的部分("那个地方有个果子我要摘下来吃""那个地方有只老虎我不能被它发现")——"这种抽象的能力恰恰是现在的 AI 还不具备的"。
KAN 的由来:一个被导师两次否掉的 side project¶
这段既是研究史也是方法论([00:10:14]–[00:16:19]):
- 2022 年底 ChatGPT 出来后,Max Tegmark 让整个组换方向做机制可解释性,理由是"大语言模型太危险了,那我们要保证它的安全,我们就需要理解它内部到底是怎么工作的"([00:10:14])。
- KAN 是刘子鸣自己的 side project,Max 一开始不同意。Max 甩给他一篇 1989 年 Tomaso Poggio 的论文,说 Kolmogorov-Arnold 定理没办法变成真的算法——那篇论文构造了一个 worst case,在最坏情况下找不到严格的两层光滑表征([00:10:14]–[00:11:15])。
- ⚠️ 他的反驳是一条典型的物理学家式论证([00:11:15]–[00:12:16]):"作为物理出身的人,有的时候并不那么关心最坏情况是什么样的,我们关心的是一般的情况……你数学上告诉我这个东西最坏情况不 work,但是物理上我们关心的东西都是有很漂亮的结构的。我们人能生活在这个宇宙里面,我们这个宇宙就不是最坏的宇宙——我们才能够演化出生命,才能够在这里问这个问题。"配一句 "all models are wrong but some are useful"。
- 花两周做出原型后,Max 仍然不满意:"但是我并不知道你这个网络内部到底发生了什么,你还是造了一个黑盒子出来。"于是他又花一周做可视化——⚠️ 顺带一条时代注脚:"那个时候我还是一个不相信 coding agent 的人",代码是一行行手写的,"那个可视化花了我一周的时间,那现在可能一个小时就够了"([00:13:16])。
- Max 被可视化说服("Max 是一个超级的视觉动物,其实我也是"),因为"我们居然能够看到这个网络它的脑子里面到底在想什么,而不仅仅是它端到端的预测是什么"([00:13:16]–[00:14:17])。
- 动机是一个"执念":AI 的哲学是基于连接主义的、是神经的,而物理是基于符号的,"两个东西不统一就很不好"。他从 2021 年就在想怎么构造一个既是神经网络、又是符号公式的网络——类比波粒二象性([00:14:17]–[00:15:19])。
- ⚠️ 一个有意思的顺序:他是先从"神经/符号二象性"这个角度把方程写出来,过了几天才知道那就是 1957 年 Kolmogorov 与 Arnold 写出来的方程,并因此获得了万能逼近的理论背书([00:15:19])。
从 KAN 到 physics of AI 的跳跃([00:16:19]–[00:17:20])——这是理解他全部工作的钥匙:
"KAN 对我来说它更像是一个例子:我人通过拍脑袋,我能够去设计出一个新的架构。KAN 成功之后,我想的不是怎么样把 KAN 应用到不同的场景,而是我在想:我怎么样复现"我能提出新架构"这件事情。"
由此得出他的核心主张:"设计模型本身应该是一门科学"——"不应该像我们现在这样,Transformer 拍脑袋拍出来的、GAN 拍脑袋拍出来的、ResNet 拍脑袋拍出来的,这个就非常的不 scalable。我觉得我们不应该 scale compute 或者 data,我们应该 scale AI 模型的设计。"
physics of AI 的三个方向,以及一条对整个行业的批评¶
三个方向都是从"我们所居住的这个宇宙"类比来的([01:04:13]–[01:07:15]):
- 空间上更细:不只看端到端行为,也看内部神经元与内部表征——"有点像是我们去做解剖"。
- 时间上更细:不只看最后时刻的性质,也看它是怎么演化来的。对应生物学那句 Nothing in biology makes sense except in the light of evolution——"如果你不从进化的角度理解生物,生物里没有东西是可以理解的"。
- 平行宇宙间看得更细:即控制实验(名字来自 Max Tegmark 是平行宇宙理论提出者之一)。对应朱泽园 Physics of Language Models 里扫相图(phase diagram)的方法论——同样是 H₂O,不同压强温度有不同的相。
⚠️ 由此引出本期最有实操价值的一条批评([01:07:15]):
"我们很多时候会有一些 know-how,就是什么 trick 它 work 了、什么 trick 不 work,其实很多时候是针对这个相而言的……我们现在之所以很混乱,是因为所有的人都在说"我的这个 trick work",但是没有人回答"我的这个 trick 在什么时候 work"、我的系统在什么相里面它才 work。"
他把这条接到 no free lunch theorem 上:既然没有一个模型、一个 trick 能在所有数据集所有任务上都更好,那么"physics of AI 的任务就是去理清楚每一个 trick、每一个架构,它的适用条件是什么。这个才是一种做科学的态度,而不是说你做出来一个东西,你就在那里去卖'哎呀我们这个东西好',但是全然忽视掉了它好是有一些适用条件的。"
⚠️ 对 Anthropic 机制可解释性的评价:来自做过同一件事的人¶
这是本库中少见的、由同路线研究者给出的内部批评([01:07:15]–[01:14:25]):
- 他警惕"可解释性"这个词,也不认为必须做到 neuron level。
- 一手的自我否定:他们组 2022 年底至 2023 年初做了大量这类工作,"我们自己意识到,这样的一些故事其实有的时候没有那么的 robust——你可能换一个随机数种子,它这个故事就完全不对了",或者"解释得有点过于微观了:好处是非常具体,坏处是不一定鲁棒"([01:07:15]–[01:08:17])。
- 对 Anthropic 的 sparse autoencoder / transcoder 路线(把 superposition 的混合表征伸展到高维但稀疏的空间,抽取原子概念):"这个我个人觉得是有一些 wishful thinking 在里面的。"([01:13:24])
- ⚠️ 但他同时明确表达尊重,理由很具体:"我仍然很尊重它们,因为我 2022 年底 2023 年初我们做机制可解释性其实也是同样的 approach,所以我们知道这个东西里面有什么样的一些水分。"([01:13:24])
- 一手的人事与谱系信息:Anthropic 可解释性团队的 Samuel Marks 等人、以及他在 MIT 带过的一个本科生最后都去了 Anthropic;⚠️ 他称 Anthropic 那个"Claude 怎么做加法"的工作是他们组一篇 paper 的后续衍生([01:13:24])。
- ⚠️ 他的态度最近发生了反转,且理由值得记([01:14:25]–[01:15:27]):此前他觉得机制可解释性和 AI 的物理学一样——是好目标,但太难了,是"几百年、几千年"的事,因此不 promising、令人 frustrated。放到 AI for AI 的框架下他重新估值了:"之所以需要几百年需要几千年,是因为我们没有办法自动化。那一旦我们能自动化了,这个进展其实是可以很快的。"他把机制可解释性称作 Biology of AI(AI 的生物学),与 physics of AI 并列。
- 具体的态度转变有一个锚点:唐杰宣布要投入巨额资源到机制可解释性上,"如果半年前的我看到,我会觉得这是在干嘛",现在觉得"它确实是一个好的目标"([01:14:25])。⚠️ 注意转录稿中这笔投入前后数字不一致:[00:02:01] 说"投资百亿",[01:14:25] 说"万亿级别",本库不采信具体数额。
symbolic vs connectionist:agent 就是往回拉的那一点¶
- 短期需要符号/结构,长期不需要,理由是 Bitter Lesson:"短期当你数据不够的时候,你需要去引入结构;长期当你数据特别多的时候,你就不需要结构了"([00:57:07]、[01:10:22])。他给的"短期"尺度是——"这个短期我指的可能是 100 年以内"([01:11:22])。
- ⚠️ 一条很好的重新解读([01:11:22]):
"Agent 某种意义上就是把这个连接主义又往符号主义往回拉了一点。所谓的 harness 就是说你不能太自由了,我要给你一些约束。某种意义上我觉得 coding agent 其实是在说明符号主义把连接主义又往回拉了这样一点。"
- 他自嘲不敢说"符号主义",因为"太多符号主义的 hater,我一讲我们是符号主义,大家就说没意思没意思、老古董",所以自己捏造了 "结构主义" 这个词("我为什么会认为 KAN 就是一种结构主义")。他的历史判断是符号主义与连接主义在历史上不断摇摆,"这一波 AI 是连接主义非常厉害,那或许下一波我们又应该往符号主义回摆一点"([01:11:22]–[01:12:24])。
- ⚠️ 他自己也点出一处与趋势相反之处([00:57:07]–[00:58:08]):短期做"更有结构"的东西、长期做"更端到端"的东西,"有点像我们现在中短期是要做一个世界模型,长期是要做一个 VLA……我觉得可能和这个趋势反过来了。但是我觉得可能不重要。"
OPHIS:把 research 结构化成一门语言¶
三步走([00:39:45]–[00:41:48]):① 结构化 research → ② 收集结构化数据 → ③ 训练一个 research language model。
- ⚠️ 一条很好的判据,用来说明 research 为什么还没被自动化([00:39:45]):
"我们现在还大量地在说'我们需要研究的直觉''我们需要研究的品位'——当我们说这些词的时候,其实就默认了研究它不是一个可以很好被结构化的东西。一旦当一个东西可以被结构化、可以被标准化、可以被规模化,大家就应该会对这个东西祛魅。但是我们现在还没对 research 祛魅,说明它还没有被结构化、被标准化、被规模化。"
- research 与 coding 的两点关键差异([00:39:45]):① coding 高度结构化;② coding 有大量数据——GitHub 上的数据"远比互联网其他部分质量更高、结构化更强"。research 两条都不满足。因此"AI for coding 已经非常成功了,下一个范式自然而然是 AI for research",但不能照搬。
- OPHIS 方法论([00:40:47]):O = observation(观察到什么现象)、P = problem(这现象预示系统里有什么问题)、H = hypothesis(对这问题有什么假设)、I = intervention(假设指导下一步做什么操作)、S = speed up(这操作是否真带来训练提升)。"所有 research paper 都应该按照这种结构去对它进行结构化。"
- 他承认真实科研不会这么顺:"我可能是在不同的节点当中来回地去跳,但没关系,至少我们要对它结构化成它是 O、是 P、是 H、是 I、是 S。"有了这些就"相当于创造了一门研究的语言",然后可以像训大语言模型一样训一个 research language model([00:41:48])。
- 他说这套方法论与初步结果最近会 release 一篇博客([00:40:47])——这是本期最可跟踪的一个节点。
数据从哪来([00:58:08]–[01:01:10]):
- 张小珺的提问切中要害:论文是整个研究探索的结果,过程中的灵光一闪、曲折、点点滴滴都没有被记录下来。
- 他的估计:可能 1% 的 AI 论文结构化做得不错,举例朱泽园的 Physics of Language Models——"做实验的所谓 chain of thought、推理链是非常清晰的";99% 的 paper 不包含这么清晰的研究思维链。
- ⚠️ 一条很尖锐的学术文化观察([00:59:10]):
"我感觉在很长的一段时间里面,大家把展现思维链当作一种耻辱。……你要显示你很厉害,你就要让别人觉得不可捉摸,你就要直接把这个公式写下来,说'这是我梦到的,不是我推出来的'——那样别人觉得你最牛。"
他说自己写 paper 平铺直叙、把思维链写进去,是受 Max Tegmark 影响。 - 第二个数据源是自采:做一个 device/software 采集研究过程的思维链。⚠️ 目前形态很朴素——"我在做下一个实验之前,我必须要强迫你去写一段话,去评价你之前干了什么、然后你得出什么结论,你才能进入下一个实验",他自称"目前来说还是个偏流程化的系统"([01:00:10])。 - ⚠️ 数据量估算(他明说是"我瞎说的,因为我们还没开始采"):一天采 10 条 × 20 个学生和员工 = 一天 200 条,两个月 1 万条,"我觉得就是差不多可能开始够用了"([01:01:10])。 - 中间目标不是元模型,而是 next action prediction([01:01:10]–[01:02:11]):数据收集器同时也是环境——"相当于是一个我的世界(Minecraft)科研版"。学生卡住时可以调用"子鸣 model"问"如果是子鸣现在做,他会怎么做",不需要我在场就能获得同水平的反馈。 - ⚠️ 他主动提示路线的不稳定性([01:02:11]):"想法以及路线每周都在改,甚至每天都在改,甚至每个小时都在改……如果采访是上周发生的,我就不会讲这一趴。"引用本期内容时须带上这个时间戳。
⚠️ 与田渊栋 / Recursive 等 AI for AI 路线的直接对照¶
本库难得的一组同行对照,且当事人之间互相认识([00:46:57]–[00:47:58]、[01:26:43]–[01:28:47]):
- 对 coding agent 路线的概括:"coding agent 的这个路线更像是做一个更勤奋的 AI for AI——我有超强的行动力,可以不停地在这里迭代。但是我们这里想做的 AI for AI 是一个更聪明的 AI for AI:比如说我提三次想法可能有一个就 work 了;之前的话你 coding agent 可能是你提 100 个想法,只有一个能 work。" 他强调最终勤奋和更聪明都需要,两者是正交、互补的,"in the end 我们会在某一个地方去对两个 approach 进行一个整合"。
- ⚠️ 他坦承危机感([00:47:58]):"我跟田渊栋也聊过……他本人其实是挺支持 Science of AI 的。所以说实话我也有一些危机感——如果说他们的路线最后会变得和我比较相似,那就一定是田渊栋做的。"两人 taste 相近(都研究过 grokking)。
- 对 Recursive 技术路线的推测与批评([01:28:47],基于对方博客):他猜测对方强调 auto research 系统要维持好的 memory——"昨天做了五次实验都在调学习率,全部失败了,那今天就记住不再接着调"。⚠️ 他的批评是本期最好的一条技术分歧:
"维持一个好的 memory 系统,但是你不理解它背后为什么学习率会失败,你之前的经验也不一定是对的——可能你之前学习率失败是因为 A 原因,但可能我第二天做实验的时候其实是 B 原因,所以这个时候调学习率可能反而是对的。"
他把分歧点命名为经验驱动 vs 机制驱动。 - 国内其他路线([01:26:43]–[01:27:44]):孙天祥很早就在做(最近去百度做大模型),其 belief 是"language 基本上就是整个世界,所有的东西都能够被 language 描述",做的系统是自动生产 paper 的 paper agent;⚠️ 清华 AI 院另一位老师(转录稿作"陈永超",姓名存疑)路线也更偏 paper agent。 - ⚠️ 他明确不做 paper agent([01:03:11]):"我在博士期间我就是个 paper machine,我也知道这些 paper 写出来其实真正有价值的可能就那么几个点……研究的第一性原理是拓展自己的知识图谱,paper 只不过是一个副产物——是我的知识图谱足够大了、我脑子里装不下那么多东西,我必须要把它写出来,不然我憋不住。"他们的目标是积累 AI 物理学的 insight 知识库。
可证伪的路标:垂直领域的新架构,且要涨 10 个点¶
([01:15:27]–[01:17:27])这是本期最该被日后核对的一条:
- 标志性路标:AI for AI 系统能在一个垂直领域(不需要通用)提出一个新架构,不仅碾压现有架构,而且能得到人的 endorsement——"大家都说:啊,它这个架构很精妙"。他随即自我弱化了后半句:"但或许也不需要,好用就行。"
- ⚠️ 何恺明的 ResNet 类比给出了量化标准:
"大家为什么会用 ResNet?有人说是很优美,但是我们不要忘了,当时何恺明在 ImageNet 上面是比第二名高 10%。所以我就在想:你要么就是用拳头把敌人打赢;你如果没有办法用拳头把敌人打赢,这个时候就是需要一些口舌去说服别人。"
落到指标上:"这个刷榜不是说我就涨 1% 的点,而是我能涨到 10% 的点。" - AI for AI 与 AGI 的关系:必要不充分([01:17:27])。还缺的那一样是抽象能力——"人有持续学习的能力,是因为人会做抽象。但是现在的 AI 仍然不会做抽象;如果说它能做抽象,最多是因为我们的数据本身已经被抽象好了(比如自然语言)。" - 但他做了一处重要限定:达到"垂直领域提出好架构"这个目标不需要解决持续学习;要解决 AGI 才一定要解决持续学习。
产品形态:vibe training¶
本库第一次记录到这个提法([01:19:33]–[01:25:42]):
- 短期是 training copilot,长期是 training autopilot。用户只说需求,系统端到端设计模型、训练模型、部署模型并交付。
- ⚠️ 预算被当作一等约束:"很重要的是这个用户说——我这里只有 100 块钱,你要在这个经费允许的情况下尽可能地去 deliver 一个好的模型。"([01:20:35])
- 类比 Cursor / Claude Code 让不会写程序的人也能写程序,这个让不会训模型的人也能训自己的模型;但更闭环——"我都不需要告诉你这个技术路线怎么去做,我不告诉你要用 Transformer,我不告诉你怎么去训练,我只告诉你我的需求"([01:21:35])。
- 愿景的规模([01:22:37]–[01:23:39]):"我们不是自己做一家 OpenAI,它是能够孵化各行各业、各个垂直领域的 OpenAI。" 终极系统能设计出各垂直领域的"Transformer","就如同 LM 统一了 NLP 里面的各种任务一样"——而现在造世界模型的、造 LM 的、造 AI for science 模型的,大体上还是不互通的。
- 举的消费级用例:买一个机械狗陪伴自己,把语音和对话数据存下来微调,"让它不是只天天在那里汪汪汪地叫,它还能说些话来安慰我"([01:22:37])。
- ⚠️ 他很坦诚地承认需求侧想不清楚([01:23:39]–[01:24:40]):"好吧我实话实说,我也没有想太清楚——有了这样一个每个用户训自己的模型,能有什么样的需求。但是很多时候是这样:当技术便宜到一定程度的时候,有些需求它自然会涌现,只不过我们现在还没有到这个时间点。"张小珺补上类比:"怎么会有 household 会想要在家里面放一台巨大的电脑",到后来人手一台笔记本。
- 张小珺追问"模型能类比成脑子,我需不需要那么多聪明的脑子在我身边?会提供情绪价值吗",他的回答很有意思([01:24:40]):"聪明的脑子它能生产出一些东西,这些东西能给你提供情绪价值,而不是聪明的脑子本身会提供情绪价值。事实上聪明的脑子很多时候会让你很恼火。"
- 生态判断([01:25:42]):如果能 deliver vibe training autopilot,"那就相当于是平权了,所有人都能够去训自己的模型"。⚠️ 但他自己指出瓶颈仍是钱——"你现在训一个大模型都这么的贵";而physics of AI 理清之后训练成本也会下来,"因为我们现在不是最优的一个 recipe,很有可能还有很大的优化空间"。
2026 年 neo labs 为什么涌现,以及融资体感¶
成因(他给了两条)([00:36:41]–[00:43:50]):
- 人才选择问题:"对于顶尖的人才,你的选择无外乎就那么几个:要么在学界,要么去大厂模型厂可能做一个大头兵,要么你就自己出来单干。"——"现在的人才不太希望去大厂里面去当大头兵。"
- 当前范式有明显打击不到的痛点,那些地方"早期需要大量 research,而不仅仅是说我上来我去堆资源、我去堆工程就可以做成的"。他点名两个:auto research 与 world model。
融资体感([00:43:50]–[00:45:54]):
- 时间线:3 月回国 → 4 月底入职清华 → 5 月底开始融资,"我的体感是就太疯狂了"。
- ⚠️ 一级市场处于非常 FOMO 的状态:"大家都在相互打探消息,然后大家投项目的动作就都非常的快,因为 close 也非常快。"
- ⚠️ 一条很具体的融资机制观察:"从种子轮到后面就是种子轮加轮、加加轮、加加加轮,可以无限地加下去,这是现在融资的一个比较常见的策略"——上一轮没进来的投资人,就为他开一轮;下下轮的投资人又没进来,再开一轮,"相当于是一个连续的融资的一个状态"。
- 分类的混乱:"很多投资人会把我们归类到 AI for science 下面,然后按照 AI for science 去聊。"
- ⚠️ 一条关于行业词汇的元观察([01:33:51]–[01:34:52]):"现在所有 neo labs 都是——他形容他在做一个什么事情,那创业者和投资人脑子里就不是一个事。之所以用这些 cliché words,是因为投资人他要得听懂。" 他承认自己也还没找到最准确的词(若只选一个,auto research 最接近),"但是我觉得我们得创造一个新的词汇专门给我们这个路线起个名字"。
⚠️ 为什么回国:一条直接的人才密度判断¶
([00:45:54]–[00:46:57])这是本期最直接的一条中美对照,且是可争议的一手体感:
"我的 auto research 这个事情是需要比较多、然后高质量、高智商,就是高人才密度的这样的一个(团队)。因为我就去观察嘛——我在 MIT 其实也带过二三十个本科生,我的体感是其实平均水平是远不如清北的本科生。"
- 他的推论链很直白:"我要做的这个事情,我是要带小天才的……而且我需要很多的小天才,那就加入清华,然后顺便也能从北大那里薅点学生过来,那就相当于能聚集我觉得不是全国而是全世界最聪明的学生。"
- 现状:在期智研究院带了十几个学生,"都是我觉得非常非常顶级的学生"。
⚠️ 中美投资人的耐心差:三年 vs 当天¶
这是本期最锋利的一组中美对照([01:31:49]–[01:32:50]):
- 美方样本是他 Stanford 博后老板 Andreas Tolias(全球做 Neuroscience Foundation Model 最顶尖的几个人之一)创办的 neo lab:投资人跟他们说"三年之内你们不用考虑商业化,这三年你就安安心心地做 R&D"——理由很实在,做猴子和老鼠的实验必须养猴子采数据,"这个周期你是避免不了的"([00:35:39]–[00:36:41])。
- 中方样本由张小珺直接点破:"国内的投资人也跟你说'那三年不用盈利'?那是完全不可能的——国内的投资人恨不得你现在当天就能盈利。"
- 他自己的 roadmap 因此被压得很短:6 个月之内侧重 R&D(做 demo、做产品雏形),6 个月后依成果决定,"肯定是在一年这个时间节点会开始去产品化跟商业化"。
- ⚠️ 他为这段窗口做的辩护值得记:"6 到 12 个月的 research and development 对于一个 neo lab 来说是非常重要的。不能过早地去投入到一个其实不是那么好的方向,只是为了短期能够去交差、短期能够去做商业化。"
neo lab 的本质:先当 lab,grok 之后再当公司¶
([01:32:50])他给了本库目前最清晰的一个 neo lab 定义:
"之所以我们起了一个新的名字给它,就是因为它既不是 lab 也不是公司。6 到 12 个月你去按照一个 lab 的形式、按照一个 research institute 的方式去运转;一旦 grok 了、一旦顿悟了,这个事情就应该按照公司的方式去运转。"
张小珺把它概括为"前 OpenAI 时代和后 OpenAI 时代",他确认。面对"会不会给它做 lab 的时间不够长、现金流够不够"的追问,他的回答是靠持续募资,并给出一处关键的自我修正:
⚠️ "如果说你一年前问我这个事情,我可能觉得我们需要做三到五年的 research and development。……是我自己意识到这个元模型的可行性之后,我说我要快速地推进这个事情了。之前我确实也是挺犹豫的,因为我没有找到一条清晰的路线。"
从"不与工业界同流合污"到创业:一段被 peer 触发的转向¶
([00:27:32]–[00:36:41])这段是本库中关于学界→创业心态迁移的最完整一手记录:
- 2024 年在 MIT:"大家就还是比较学术、比较偏保守一点……我的同学都觉得湾区那些人搞的 agent 都是在骗钱。"
- 直到 2025 年 5 月拿到清华 offer,"我的 mindset 都还是说:我要在学术界做出更有影响力的工作,我不要跟你们工业界那些人同流合污。"他现在的评价是"那个时候就太 naive 了……或者说还没有脱下孔乙己的长衫"。
- ⚠️ 他概括的"MIT 的信仰"很值得单记:"我们比如说用 5 年的时间就能写出 AI 的物理学。有了这个 AI 的物理学之后,我们会发现现在我们投入这么多资源完全就是在浪费,因为我们可以从第一性原理去推导出最优的架构是什么样子的。"——"所以你也可以理解我为什么那个时候特别看不上工业界,因为我觉得你们就是有钱。"
- Stanford 只待了 6 个月,但"像开智了一样"。触发机制他说得很清楚([00:33:38]):
"你特别相信你的 peer,尤其是你觉得跟你风格很像的 peer。当你看到和你风格很像的 peer 做出一些改变、做出一些你之前觉得很危险、你之前觉得你做不到的事情的时候,你就会去想:是不是我不够激进?是不是我太在舒适区里面了?"
具体的 peer 是一位同样从 MIT 去 Stanford 做博后的好友,"我们一开始的话风还挺相近的,都是瞧不起创业、瞧不起大厂",到了 Stanford 两周后就说要创业,做 AI for chemistry。 - 第二个来源是他博后老板 Tolias 自己在筹建 neo lab(更偏 Neuro for AI:用猴脑/鼠脑的表征与结构去约束人工神经网络)。他刚去时对方在秘密筹划,离开前一个月对方 announce——"我目睹了他从 pure scientist 往 entrepreneur 转的这样的转变"([00:33:38]–[00:34:38])。 - ⚠️ Tolias 邀他加入,他拒绝了([00:35:39]):理由是路线不同,且"至少早期的科研 R&D 这方面,按照我的意愿、按照我的想法去推"——"这个想法得是我原创的、得是我提出来的"。他随后自我审视了这一点:"这个可能也是学术圈的人会有一种控制欲……当然这也还是我现在的想法,或许我过段时间之后会发现这也是一种执念。"
现在处于什么时期¶
([01:34:52]–[01:35:53])他的判断很清楚:
- 大语言模型的收敛已经比较清晰了。
- 新机会在世界模型与 auto research 两条赛道,都"还处于相当早期",大语言模型辐射不到。
- ⚠️ 但两者"辐射不到"的原因不同,这个区分很有用:
- 世界模型那边是要找到一个更全新的架构,能更好地抽象、找到物理世界真正的 latent space;
- auto research 这边不是架构问题,而是大语言模型没见过这种数据——"第一步是首先要去结构化,第二步是收集这种结构化的 research 数据。有了这些数据,其实大模型也能吃,做的可能也不赖。"
- 元模型路径同理:大模型做不好,是因为没见过太多关于模型的结构化数据。
快问快答与个人侧写¶
([01:37:54]–[01:38:54])
- 食物:热干面(武汉人);地点:有江河的地方——武汉、上海黄浦江边、MIT 旁的查尔斯河。
- 影响他的书:《人类简史》——"我一直都比较 nerd,不是很懂这些 social science 的事情,有时候会觉得这个事情明明不合理,但是为什么大家都相信?读了之后就知道我们的这个社会其实是故事驱动的,所以叙事非常重要,不仅仅是技术重要。"
- 影响 AI 进程的论文(对他个人而言):GAN——"它相当于是为我打开了 AI 世界的大门。"
- 一个关键的 bet:"AI for coding 下一个会是 AI for research,但是需要用 physics of AI 的方式去做。"
- 研究者自画像([00:09:12]、[01:29:49]):引 Freeman Dyson 的鸟人 / 蛙人之分——鸟人每个领域都懂一点、能看到不同领域之间的结构性相似并把方法搬运过去;蛙人把一个领域做得极精细。"我跟 Max 其实都是非常典型的鸟人。" 他自述思维极度偏视觉——"我脑子里有个图像,我没办法把它倒出来,我就会很难受……但是我美术又不行,所以这个就很尴尬",因此"有的时候我只能够通过真的把这个东西做出来、展现在你眼前,这个是我沟通的方式"。
- ⚠️ 对"研究品位"的祛魅([01:29:49]):"我觉得研究品位、研究直觉其实是一个遮羞布——因为我们聪明到可以提出一个想法,但没有聪明到可以用语言说出来我是怎么提出这个想法的,所以我们把顿悟这件事说成是所谓的品位、所谓的直觉、所谓的灵光一闪。" 他称自己一直有意训练"不仅提出好想法,还要追问我是怎么提出这个好想法的"。他认为思维链一定能或多或少被说出来——"你如果说不出来,说明你还没有拷问得太深";另一条兜底路径是等脑科学发展到能直接读脑电波。
- 创业感受([01:35:53]):"基本上就是除了睡觉都是在工作";最难的是"不仅去想当下的事情,你还要去想几年之后的事情,根据几年之后的目标去倒推"——"这个我觉得是有一点 out of my distribution 的东西"。问他 professor 与 entrepreneur 只能选一个,答"我都要"。
与本库其它观点的关系¶
- 与 姚顺宇 的一条私人交叉:刘子鸣在北大物理时把高他一级的姚顺宇当作"一直以来的一个偶像",因为对方本科期间就发了两篇 PRL;他自述被理论物理与实验物理"双重毒打"、"比不过姚顺宇",是转向 AI 的直接触发之一([00:04:03])。两人都是物理转 AI,本库现在有了这条谱系的两个样本。
- 对 physical-ai-and-robotics 里"世界模型要找新架构"一说的独立佐证:他把世界模型与 auto research 并列为大语言模型"辐射不到"的两条赛道,但明确指出世界模型缺的是架构、auto research 缺的是数据([01:34:52])。这个区分本库此前没有。
- 与 Eiso Kant / Poolside 的"知识工作的最优模型尺寸"、孟子立的端侧算力 属不同层,但共享一条判断:训练成本远未最优。他的版本是"我们现在不是最优的一个 recipe,很有可能还有很大的优化空间",且把降本的希望明确挂在 physics of AI 上([01:25:42])。
- 对"AI 是否已收敛"这个本库长期争议提供了一个分层答案([01:34:52]):大语言模型收敛已清晰,但世界模型与 auto research 仍很早期——这比 Benedict Evans 的"模型商品化"与 广密 的路线判断都更细分。
- 与 Akshay Nathan 关于"生产力无法测量" 遥相呼应:刘子鸣的"一旦一个东西可以被结构化、标准化、规模化,大家就会对它祛魅;我们现在还没对 research 祛魅"([00:39:45])给出的是同一现象的判据——凡还在用"品位/直觉"称呼的,就是还没被结构化的。