跳转至

沈宇军(蚂蚁灵波):机器人原生基础模型、大脑与本体的关系、数据 scale up(张小珺 #147,2026-07-22)

  • 嘉宾: 沈宇军(蚂蚁灵波科技首席科学家;清华本科 → 商汤实习 → 港中文汤晓鸥门下读博 → 字节跳动 → 蚂蚁技术研究院 → 2024 年底加入新成立的蚂蚁灵波)
  • 主持: 张小珺(《商业访谈录》第 147 期)
  • 来源: YouTube · 113 分钟
  • 转录稿: sources/zhang-xiaojun/20260722-fww9LN9baKQ
  • ⚠️ 无字幕,本地 RTX 5090 上用 faster-whisper large-v3-turbo 转录。专有名词已按上下文归一化(灵波/具身/夹爪/灵巧手/数采/真机强化等);少数机构与人名转录存疑,已在文中逐条标注。

张小珺在片头就点明了本期的位置:上一期访谈的是 Physical Intelligence 的柯丽一鸣("机器人的 OpenAI"),这一期是本土从预训练开始训机器人底座的公司,"大家也能从中感受一些中美思路的融合与差异"。

本期最有价值的一句是沈宇军的核心主张——"具身原生":不再在数字世界模型的延长线上魔改,而是把视觉相关的一切从随机初始化开始重训一遍。以及一个很硬的中美判断:互联网数据是上个时代的红利变现,而具身数据是一个空窗期,"现在大家都是一样的"——所以在收数据上中国有非常非常大的优势。

说话人映射(据补做分离的 speakers.md;转录稿本身无标签,此处认人属 wiki 层编辑判断): SPEAKER_02 = 沈宇军(嘉宾,87.8%)、SPEAKER_01 = 张小珺(主持,10.9%)。 依据:SPEAKER_01 占据开场 [00:00:00]("……今天呢我邀请的是一位……"),后段为提问方。 SPEAKER_00(85 秒,144 段,最长 22 秒)为散落碎片,判为伪影。

概要

蚂蚁灵波是蚂蚁集团 2024 年底成立的具身智能子公司。战略是只做大脑、不做本体,目标是"未来某一天每家都有一个机器人,而这些机器人里跑的都是灵波的模型"。2026 年 1 月开源第一代大脑(4 个模型),本期发布的第二代是 6 个模型。沈宇军把这两代的差别归结为三个连续的"原生"台阶:视觉原生 → 架构原生 → (下一步)数据原生,对应他自嘲的三句口号:看得更清楚 / 想得更明白 / 干得更利索。

核心观点

从 GAN 到机器人:一条个人路径里的两个判断

  • 他的研究路径是一路往上游走:不喜欢刷榜("最后就看一个 number 这个事情,我坦白讲自己不是非常感兴趣")→ 2017 年做 GAN、图像编辑 → 觉得"做得太下游了"→ 往前做生成模型预训练 → 再往前做表征学习([00:02:05]–[00:04:11])。
  • GAN 的句号:团队直到 2026 年初还在做最后一次 GAN scale up 尝试并 release 了一个模型。结论是"跟 diffusion 比确实在某些方面没那么好,但比前几年的技术还是进步不少"——致命问题是计算量的利用效率太低,因为 diffusion 可以迭代很多次,而视频生成的内容实在太多。但他强调对抗训练本身(两个模型互相博弈迭代)抛开 GAN 不谈,之后应该还是会有用途([00:05:11]–[00:06:13])。
  • 为什么从视觉转向机器人(2024 年的决定):他对计算机视觉过去十几年的产业价值给了一个相当冷的评价——第一波是人脸识别,第二波是特斯拉带火的纯视觉自动驾驶,"除此之外好像还没有看到哪一个视觉应用被大规模用起来、有比较强的产业价值"。结论:"视觉在数字世界用武之地不够;但在物理世界,离开视觉机器人肯定没办法工作。"([00:08:17]–[00:09:19])

为什么是子公司而不是研究院

  • 他 2024 年在蚂蚁技术研究院 propose 要做具身,恰逢集团决定成立灵波。理由说得很直白:"如果还是把它当做研究机构的形式去做,很有可能做一做就脱离了这个行业;或者说,研究员认为的先进技术跟行业需要的先进技术是会有 gap 的。" 所以"既然要干,就变成一个真实的业务来干"([00:11:22]–[00:12:23])。
  • 集团层面的逻辑:蚂蚁做了非常多数字世界的生活服务(金融、医疗、出行),"数字世界的服务如果想再往前延伸,肯定是要往物理世界迁移"([00:10:19])。
  • 他把自己经历的三种组织做了对照:字节(产品公司,用 AI 赋能既有产品)→ 蚂蚁研究院(研究驱动,但"研究到底什么是好的研究、发了论文拿了引用是不是就成功"让他很迷茫)→ 灵波(两者结合)。"因为机器人技术还没有收敛,作为技术人在这个时候,哪怕是探索一条不正确的路也是一种贡献。"([00:12:23]–[00:14:24])
  • 刚成立时的感受:"感觉自己还是太天真了——想做跟真的开始做完全不一样。可能当时对视觉、对模型会懂一点,但真的说把一个模型用到机器人上、怎么部署、怎么调里面的通信,有太多太多技术栈超出了我本来的认知。"([00:14:24]–[00:15:26])

战略:只做大脑,且"通用"要多加一层

  • 不做本体的理由:"你很难说有一款机器人真的适合所有任务"——哪怕进了家庭,每个家对机器人的需求也不一样。类比手机"也不是一个固定品牌"([00:16:27]–[00:17:28])。
  • 但他对"通用"给了一个比行业更严的定义:大家讲的通用通常停在跨任务、跨场景,灵波把硬件也算进去——"通用应该就是多一层,你本体上也要通用"。所以预训练时就混入不同本体的数据,"希望大脑在预训练过程中就经历过这些本体、了解它们的特性"([00:26:44]–[00:27:44])。
  • 同时他保留了一个重要的限定:"本体跟场景是没办法完全解耦的——什么样的本体适合什么样的场景,从产品定义最开始就已经决定了。"([00:27:44])
  • 2025 年 9 月外滩大会的炒菜 demo 反而坚定了这个战略:"发现了很多软硬件上的问题……如果没有一个比较好用的大脑,比如上一次是炒菜,我们想再拓展一个场景,复制成本实在是太高了。"([00:24:44]–[00:25:44])

三个大赌,按年份排

2025 年的赌注一:一定要从视频里学。 2025 年 3 月做的决定,"那个时候其实还没有所谓的 WAM 这个技术路线,还没有'世界动作模型'这个概念出来"。关键在于不是把视频抽帧当图像看,而是真的让它学会时序的东西。经历约 9 个月,2026 年初开源([00:19:30]–[00:20:33])。

2025 年的赌注二:从真实传感器出发(空间智能)。 动机来自一次落地打脸:他们最初直接拿数字世界的算法和 CV 模型往机器人上用,结果发现——

"学术界有一个大家心照不宣的点,就是数据集都是比较干净的……但机器人毕竟要在真实世界中跑,就会发现传感器的噪声其实是完全没有办法忽略的。这个东西跟你能拿到很干净的数据是天然相悖的。"([00:23:40])

2026 年的赌注三:具身原生——把视觉部分全部从头重训。 这是本期的核心。触发点是 1.0 之后的一个诊断:

"很多时候数字世界的模型的开发的初衷,跟物理世界的需求是不匹配的。但你这个时候又没办法 push 他们去改,因为数字世界有自己的一套逻辑、有自己的迭代节奏。比如从视频生成的角度,他会希望生成的画质特别高——这是数字世界的需求;但其实物理世界落实到机器人动作来看,这个东西没有那么重要。"([00:20:33]–[00:21:35]) - 所以:"既然不能 push 他们去改,我们就全部基于物理世界的需求重做一遍。从头来训。" - 重要边界:LLM 仍然沿用。理由有两条——训练成本太高,且"数字世界跟物理世界在语言层面其实区别不大"("只是说物理世界可能更多靠语音交流,数字世界就打字")。从头重做的只是视觉相关的一切([00:21:35]–[00:22:35])。

六个模型与三个技术突破

模型 作用 相对 1.0 的变化
Vision(灵波视觉基模)⚠️ 纯视觉的几何原生预训练 新增,替代原先作为 Depth 预训练的 DINOv2
Depth 从视觉感知到空间感知(图像→三维) 换基模 + 数据翻几倍后重训
VLA 真正在场景里干活的主流技术路线 构型 9 → 20+,自由度扩到头/腰/底盘/灵巧手
Video 视频生成 原生 MoE 架构
World 世界模型 从头单向(causal)训练
VA 2.0 具身原生基模(三项技术合流) 每个参数从完全随机初始化开始训

⚠️ 视觉基模的名字在转录中出现"维忍/Variant"等多种拼写,很可能是 "Lingbo Vision",未能确证。

① 语义理解 ≠ 空间感知(本期最好的一段说明) - 1.0 的 Depth 基于 DINOv2,而 DINOv2 是数字世界模型,擅长语义级理解——"知道这是一盆花、这是一只狗,这可能就够了"。但语义级理解跟真的理解空间、理解距离,并不天然吻合([00:40:55]–[00:41:58])。 - 2.0 重做预训练,完全从几何出发——"你可以粗浅地理解成点线面,我们是从边缘出发让模型更好地理解几何这个概念"([00:41:58]–[00:42:59])。 - 两个例子极有说服力: - 反光的厨房水龙头:水打开后新 Depth 能清晰看到水流及其位置。"这对机器人执行任务很关键——假如说要去接水,你必须先能看到水流在哪里。"之前的模型知道水是开的,但距离不准([00:42:59]–[00:44:00])。 - 玻璃门后的猫(他自己最爱举的例子):阳台有玻璃门、门外有一只猫,新 Depth 模型完全看不到那只猫——因为人往前走会先撞到玻璃。把玻璃门拉开,猫就在深度图里逐渐从门后浮现。而从语义理解的角度,那只猫一直都在。 > "你能看到但你摸不到——能看到是语意理解,摸不到是空间感知。"([00:44:00]–[00:45:00]) - 关键推论:"看得更清楚这件事本身是不需要语言的,是纯视觉原生的预训练。"([00:46:00])

② 落地暴露出的自由度 gap(VLA 2.0 的由来) - 实验室 demo 的隐含假设:所有操作都在桌面上、固定高度、机器人站着不动,"甚至有些展示出来的东西不一定是个人形,可能只有两条手臂"([00:30:46]–[00:31:46])。 - 真实场景不是这样:去架子上拿东西要抬手;抬手时头部相机可能看不到手,甚至抬了头也看不到——那模型能不能控制抬头?头部相机失效时能不能只靠腕部相机?从下面拿东西要弯腰;够不到要移动底盘。 - 1.0 的预训练只支持手臂自由度和夹爪,没有头、没有其他任何东西,9 种构型,桌面简单抓取。2.0 升到 20 多种构型,自由度扩展到带头、带腰、带底盘、甚至带灵巧手。 - 他把这件事定位为"抓两头"方法论的产物:一头牵引智能上限,一头抓落地;而落地告诉我们,模型迭代有那么多方向,到底哪个最重要([00:32:46])。

③ 视觉压缩器要对齐语义和动作 - 数字世界的视觉压缩(编码器)"就是单纯把 100 兆的东西变成 30 兆让它更好学",这个压缩过程本身对后面的学习没有任何帮助。 - 灵波在训压缩器时加入了语义和动作的对齐,让编码过程本身就能感知语义信息和动作信息,后续生成学习才能更好地理解语义与动作([00:49:05]–[00:50:08])。

④ MoE:能力问题,不是态度问题 - 现在常用的视频生成模型(他点名万相)是 dense 的——14B 模型推理时激活就是 14B。"你哪怕后面的加速工作做得再好,模型本身激活上没有加速,能加速的比例其实是固定的"([00:51:09]–[00:52:13])。 - 但把 MoE 训明白很难,核心是让专家被等概率激活:"一共 30 个参数,每次都激活那 10 个,剩下 20 个基本不被激活,这跟 10 个参数的 dense 模型就没区别了。"手段包括 loss function 的选择、sampling 策略、加正则([00:53:14]–[00:56:16])。 - "光训 MoE 想训明白,可能就花了两个月,失败了几十次。" 而且"失败不是训到后面才失败,训一训就会发现跟你想要的不一样、有些参数激活不均匀"。

"把 MoE 训好是一个能力问题,它不是一个态度问题——不是说我想让它少激活点就少激活点。"([00:55:16])

⑤ 单向 attention:不能靠改造,只能从头训 - 物理世界的两个新需求,都源于实时:数字世界文生视频"用户可以等 10 秒、20 秒、30 秒,等整个视频一起生成完";机器人在执行过程中没办法等([00:50:08]–[00:52:13])。 - 因此必须单向建模——"历史看不到未来,未来可以看到历史,时间是单向流逝"。而数字世界的生成模型基本都是双向的,因为"你中间的连接越多计算就越大,计算越大效果就越好",且它同时知道开头和结局。 - 他们试过"先训双向再改单向",并明确判定此路不通:

"单向这个事情是跑通了,但是预训练模型里学到的一些知识——比如对文字的理解——其实是隐含在双向 attention 里面的,那些 knowledge 有些就遗忘了,相当于预训练作废了。直观表现就是:之前你可以跟他说 100 句话、每一句都能转成一个比较好的视频,现在可能只有百分之二三十能,他已经不理解你说的是什么。"([00:57:16]–[00:58:17]) - 所以从最开始设计就是单向的,这件事花了三四个月。 - 可以舍弃的是画质:"物理世界你生成的东西有点马赛克没关系——因为我们还有摄像头,你生成的不高,但你能看到。"配了一个很好的类比:不同生物能看到的清晰度不一样,但它们都可以在地球上生活([00:52:13]–[00:53:14])。

数据:本期最实的一段

  • 规模:基于一个 3B 左右的模型;1.0 是 2 万小时,2.0 是 6 万小时。但口径变严了——"经过第一版发布之后把很多数据重新清洗了一下,第一次那 2 万小时落到这一次可能就剩 1 万多了",所以实际是约 4 倍增长([00:32:46]–[00:33:47])。
  • 来源:真机 + EGO(人戴头部相机采集)。
  • 仿真数据只用于评测,不用于训练。理由不是数量而是分布:"仿真数据量可以做得很大,这毋庸置疑,但分布会相对同质化严重一点,它做的是差不多类似的任务。"尤其柔性仿真(比如撕开一个塑料袋)"物理引擎还需要点时间迭代升级"([00:33:47]–[00:35:49])。
  • 真机数据采集成本过去两年至少降了 3 倍不止——人员管理逐渐成熟、机器逐渐成熟、需求变多,"相当于数据也在量产,量产一定会降本"([00:35:49])。
  • 两个 know-how:
  • 下发什么任务是最难的:"你不能说这个数据里 90% 都没用到头、只有 10% 用到了头……如果头部自由度出现的比例跟腰部差距特别多,模型就会更倾向于学头、不太会动腰。"([00:36:52]–[00:37:53])
  • 清洗难在跨本体:"每家本体的特性都不一样——相机摆放位置不一样、关节自由度的连接方式不一样……不是说每家本体都可以用一种数据链路就完全处理掉。"([00:37:53])
  • 一个反直觉的观察:操作越简单的任务通用性越好。因为复杂任务依赖操作员能力,"能把这个任务完整或者丝滑做下来的数采员就比较少";而一条不丝滑的数据是没法修的(成本巨高),"可能会导致学出来的模型以为这是一种正确的操作方式——最后模型控机器人的时候,那个机器人也非常卡"([00:38:55])。
  • 真机强化已在落地环节内部使用(人在旁边看着,判断它犯错了,在合适的时间打断并给一个正确的示范),但没有体现在开源的技术报告里([00:39:55]–[00:40:55])。
  • 数采是自有 + 生态伙伴(数据厂、本体厂)混合;难任务保留自采能力,"至少我们先把 SOP 弄清楚,我们的人先做一遍,然后再去沟通给别人"([00:38:55]–[00:39:55])。

成果:随机性与后训练效率

  • 最让他惊讶的 demo 是和人对打桌上球类([00:59:17]–[01:03:21])。它综合了几件事:
  • 强随机性——"你永远也不知道对面人打过来那个东西会在哪",不是把位置都摆好;
  • 只依赖机器人自己的相机——"没有在场地周围再放一圈相机让相机去追踪位置。完全是跟人一样,我就一双眼睛";
  • 回合非常快——"你如果动一下卡一下,其实是打不回去的";
  • 而且预训练之后,为这个任务只采了 20 条数据。"以前可能采多少数据都不一定能做成。"
  • 整理桌面也能处理干扰:你把已收进去的东西再拿出来随便摆,它还会收进去;你帮它收了,它就不收了([01:03:21]–[01:04:22])。
  • 他对这个进步的归因很明确:不是加了更多数据,而是整个模型的预训练不一样了。
  • 泛化性的分层判断(很克制):
  • 位置泛化"应该现在可以说是解得会好一些了";
  • 任务泛化(什么也不做,直接给一个从来没见过的新任务就能做)"现在还没太做好"——原因是"机器人的数据还是不够多,你见过的任务还是不够多,没办法通过见过的任务排列组合变成一个你没见过的任务"([01:04:22]–[01:05:22])。
  • 后训练效率的两个具体提升([01:06:27]–[01:07:29]):
  • 1.0 评测时每个任务要单独训一个模型(100 个任务就要训 100 个模型);2.0 可以把 10 个任务放一起训、用一个模型解决。
  • 后训练所需数据量从约 100 条降到约 20 条。但他不夸大:"还是没办法做到一条甚至更少,那个可能要随着基模能力再进一步提升。"

具身还没到 GPT-1 时刻,卡点是数据

  • "今天我还是觉得没有到这个阶段——因为现在还没有看到一个比较好的能够做数据 scale up 的方式。" 哪怕这次用了 6 万小时,"坦白讲跟上一次比还没有数量级的提升,而且这些数据远远不够"([01:07:29]–[01:08:30])。
  • 本期最可验证的一组数字:
  • 目前具身真机数据与互联网数据相差约两个数量级(他们的具身原生预训练仍然用了大量互联网数据);
  • 理想状态是百万小时起步——那时"具身的数据跟互联网数据相对平衡一点,让他既能学到通用知识,又能学到操作相关的知识";
  • 在百万小时之前,会先有一个十万小时规模、完全拿来做具身原生预训练的数据([01:08:30]、[01:21:44]–[01:22:46])。
  • 但他认为追赶会更快:"当年大家能有个万卡集群就觉得很了不起了;现在美国很多公司做语言模型基本都是十万卡。整个基建上来之后模型开发效率也会更快——从机器人的 GPT-1 到机器人的 ChatGPT,不一定需要当年那么长时间。"([01:08:30]–[01:09:31])
  • 不及预期的恰恰是数据:因为在大家真正步入具身原生之前,"没有一个推动力说让你马上一定要拿到这么些数据"——虽然行业公认数据关键且需要很大量([01:20:44]–[01:22:46])。
  • 下一步就是数据原生:"架构原生再往前走一步做到数据原生……任务的泛化性严重地吃数据。"而 Ego 数据提出了一个好的 scale up 方式,但还只是一个理念——"只有头部相机拍下来的数据到底能不能用?对之后灵巧手的精细化动作有没有帮助?这些还是未知的。理念要被打磨成一个具体的产品,才能部署下去"([01:29:53]–[01:30:54])。
  • 他把最终矛盾归结成一个平衡:"可被模型使用"和"可规模化"本身就是一对矛盾——"模型肯定希望质量越高越好、模态越多越好;但你的需求越高,我越不能规模化。在质量和数量之间怎么取平衡、模型哪些东西是可以舍弃的,这个现在还没有太定义清楚。这件事一旦定义清楚,后面的事情就会加速。"([01:30:54]–[01:31:55])

具身智能是 LLM 的支线,还是独立学科

  • 他先说"不能完全说是哪一派",然后明确:如果硬要选一个,选后者(独立)([01:16:34]–[01:17:38])。
  • 论证:"语言模型更多的是让具身听懂指令是什么;但具身智能更多需要解决的是怎么把一件事情做好——而做好本身是不需要再理解语言的。"
  • 一个很锋利的反事实:"如果不是语言,你假如说一共就一万个任务,把这一万个任务编成固定的编码给它,可能也行——只是它没办法在任务维度再泛化了。语言模型解决的是需求泛化的问题,但这明显不是现在这个阶段具身智能的核心卡点。"
  • 结论:"具身会继续拿大语言模型当一个比较好的入口,然后它会成长出自己的模型,它们两个中间可能只是一个交互的层面。"
  • 大脑 vs 小脑的边界(他给的定义很清晰):灵波解决的是意图的实现,不是意图的来源——"你有个想法他帮你做了,但他不会产生自己的想法,不会主动帮你去想你要做什么"。更高一层的智能(早上起床帮你拉开窗帘,看到外面下雨就知道给你拿把伞)"需要很多思考,那一部分是语言模型、多模态模型要解决的,其实跟数字世界更相关"([01:00:18]–[01:01:21])。

中美对照(本库核心)

  • 对 Generalist 的评价:数据量比灵波大得多,公开消息约几十万小时,"现在可能都不知道是不是有百万了";数据管线更成熟,更早动到 pretrain([01:12:32])。
  • Generalist vs Physical Intelligence 的路线差:
  • Generalist 接受后训练,强调高效后训练;π 更强调 zero-shot,希望不要后训练("我什么都会")。
  • 张小珺问"听起来 Generalist 更实用",他答"殊途同归":机器人真进家庭,你既希望它进去之后 80–90% 的活自己就能干(zero-shot),也希望剩下 10–20% 你教一下它就会(in-context learning)——"这两个能力都必须具备,其实不那么冲突"([01:13:32]–[01:14:34])。
  • 数据路线上:Generalist 对 UMI 那条数据理解更深、玩得更好;PI 在真机遥操上做得比较扎实。往后随着 ego-centric 数据兴起 + 灵巧手提上日程(夹爪不能满足更精细的操作),两条数据路线都会变化——"合久必分分久必合,可能他们也会慢慢走向同一条路"([01:14:34]–[01:15:34])。
  • 但技术本身没有可借鉴的:因为灵波认定必须从视频生成路线里学知识,而"能够把视频生成做到原生的,目前还没有看到"([01:12:32]–[01:13:32])。
  • 中国的结构性优势——本期最重要的一条判断:

    "我之前一直讲,(互联网数据)是互联网红利的一个变现,是从互联网那个时代积累下来的。但具身相比互联网来说,具身的数据可能是一个空窗期——现在大家都是一样的。所以在收数据上中国有优势,我觉得这是一个非常非常大的优势……至少在数据这方面,我觉得中国一定是比美国跑得快。"([01:19:43]–[01:20:44])

  • 落到行动上:他们建了一个"数据联盟",和数据厂、本体厂等伙伴一起定标准——"因为数据所有的规模化东西一定要有标准"。
  • 硬件侧的补充:"如果我们在中国没有应用到中国本土的硬件优势的话,会比较可惜。"
  • 行业节奏观察:硬件端量产已跑通(他点名的两家在转录中为"语速/智源",⚠️ 很可能是宇树与智元,未能确证),灵巧手公司层出不穷、"可能会渐渐变成标配",触觉传感器越来越多;落地端"去年 7 月还更多是在收 demo;今年反而 demo 提得少了,都在提进场景了"——"24 年在倒咖啡,25 年在叠衣服,一年有一个新动作"。他还提到有公司展示物流分拣(转录为"飞格",⚠️ 很可能是 Figure)([01:18:41]–[01:20:44])。

格局判断与产业观察

  • 最终格局跟大模型差不多:大厂一两家 + 创业公司两三家,每家跑出各自的生态(数据生态、本体生态、场景生态),"你的场景加本体会给你那个生态里面的数据,模型就会慢慢分化得更适合那个生态"——可能有的模型适合精巧任务、有的适合长程任务,"各有特色、几家鼎立"。灵波定位是"背靠大厂的创业公司"([01:10:31]–[01:11:32])。
  • 为什么 2026 年大家纷纷只做大脑不做本体(他给了三条):
  • 本体很难通用——不通用就得选准场景,可"现在大家也不太敢说哪个场景一定会跑得非常好";而本体是为场景专门设计的(有强化有减配),"不可能拿一个六边形战士去做某一个具体任务,那样很多东西是超配的,成本一定上升";
  • 本体有量产门槛;
  • "从现在行业来看,大脑可能目前是落后于本体的。"([01:23:47]–[01:25:47])
  • 大脑与本体交替上升(很有预测价值的一条):现在大脑落后本体,但做大脑的人越来越多、智能层会跑得更快,某天会超过本体——"那个时候可能会有一批新的、由智能重新定义的本体公司;可能不再从大家之前理解的一些参数去看本体了,很多东西是为了更好方便模型控制去设计的"([01:25:47]–[01:26:48])。
  • 传感器指标应该由模型来定义:传统做传感器的取舍靠直觉("触觉传感器当然精度要准"),"但有可能在 AI 这个时代,模型最需要的不一定是你精度要准,有可能是需要你反应够快——对实时性的要求可能比那个更高"。他承认"还没有到说模型可以定义它的时候"([01:26:48]–[01:28:48])。
  • 对人形构型没有执念:"现在的核心卡点是智能不够,智能不够的核心卡点是数据不够。"足式还是轮式不是现在该争的——"它不管是足式还是轮式,进家庭我都不会让它进家庭的,那你都没办法做 user study。"([01:41:07]–[01:42:07])

创业感悟

  • "创业一定是赌出来的"([01:32:57]–[01:33:58]):

    "没有人知道哪一条路一定是成功的,然后资源又一定是有限的。所以在有限的资源下、路径不确定的情况下,就是要赌。如果大家都知道哪条路是成功的,那为什么是你成功?那大厂一定成功——这是百分之百的,有资源、更有人的地方一定会成功。但在路径未知的时候,如果犹豫不决,很有可能最后什么都做不出来。"

  • 三个大赌:传感器路线、不做本体、具身原生。其中具身原生"是一场豪赌",失败的可能包括:思路错了;技术还不成熟("你太早地进入也不行,可能再过两三年重新做这个事就成了");资源不够("你本来只能做 100 块钱的事,非要做一个 200 块钱的事")([01:33:58]–[01:33:58])。
  • 他力排众议坚持的正是具身原生:"沿着数字世界那条路往后走就是行不通,我不想在他们的延长线上。" 并对结果保持克制:"我不敢说它是一定被百分之百验证,但我觉得至少我们迈出了一步。"([01:37:01]–[01:38:04])
  • 第一次创业的两层收获:"第一个第一次是'业',第二个第一次是'创'。" 业的部分——以前更关注技术的领先性,现在关注"是不是有价值的领先"([01:31:55]–[01:32:57])。
  • 蚂蚁的管理:按创业公司方式管,业务与管理相对独立、基建共用;对不做本体"大家会有一些 debate",但"集团对灵波有充分的信任和尊重,因为我们更贴近行业本身"([01:35:00]–[01:36:01])。
  • 最好的预期:"真的看到机器人进家庭了,而进家庭的机器人跑的是灵波的模型。"最坏的预期:"没做出来呗。"([01:37:01])

两处很小但值得记的

  • 对导师汤晓鸥的印象:幽默、同为东北人;"比较能快速地从一个乱序的混沌当中抓到一个主要矛盾"。例子是毕业答辩——别人问"你怎么做的",汤问的是"这个东西到底应该怎么用"。沈的注解:"上一代 AI 最大的痛点就是不好落地,没有一个很好的场景。"([01:43:17]–[01:44:17])
  • 传播的困难与后训练的难:"具身智能不像大语言模型那么好传播,因为离大家生活实在太远了——我必须要有个机械臂,才能知道你这东西好不好用。"而他们开源的基本都是预训练,后训练本身是很难的事:"不是说把数据采完扔进去、简单调整一下参数就结束了。效果不好,到底是没训好、还是数据没采好、还是模型就不好?怎么诊断问题,有了诊断之后怎么解——是一件很难很难的事情。"([01:44:17]–[01:46:18])
  • 希望机器人是什么性格?"我希望他是个 J 人……如果在提供情绪价值和干活之间,我会果断地选择干活。" 为什么不是情绪价值?"我可能觉得情绪价值应该由人来提供。"([01:48:19])推荐的人生之书是《笑傲江湖》——喜欢令狐冲那种豁达。

与本库其它观点的关系

  • 与 柯丽一鸣(Physical Intelligence) 构成本库最完整的一组中美具身对照,而且是同一主播、相邻两期、话题重合度极高,可逐条对读。沈宇军还直接点评了 PI 与 Generalist 的路线差(zero-shot vs 高效后训练),并判定"殊途同归"。
  • "具身原生"是本库对"物理 AI 不是数字 AI 的延长线"这个命题的最强中方论证,与同日 Applied Intuition 的"实时钟即护城河" 是同一洞察的两个独立版本:一个从架构(单向 attention、MoE、可舍弃画质)说,一个从部署约束(毫秒预算、onboard 小模型)说。两者都指向"数字世界的模型不能直接搬"。见 物理 AI 与机器人。
  • "语义理解 ≠ 空间感知"(玻璃门后的猫)与 Mark Cuban 的吸管杯测试(同日)说的是同一件事的两个侧面:Cuban 说 AI 不懂物理因果,沈宇军给出了一个可被工程化的版本——把它变成深度图上的一个可验证行为。补入 LLM 心理学与认知短板。
  • "中国在具身数据上有非常非常大的优势,因为具身数据是空窗期"是本库 中美 AI 生态对照 的一条新论证:此前中方优势的论证多集中在开源、工程速度、供应链;这条给出的是数据积累的时间窗口结构性差异——互联网数据是美方的存量红利,具身数据大家都从零开始。
  • "仿真数据只用于评测不用于训练"与 Applied Intuition"五年前就建合成数据团队、深信合成数据能加速自动驾驶"直接冲突,是一处值得长期跟踪的分歧;沈的理由(分布同质化、柔性物理引擎不够)是可证伪的。
  • "从头训 MoE 花了两个月、失败几十次"、"双向改单向会让预训练作废"是本库 LLM 训练管线 里少见的训练失败模式一手记录,与 朱邦华、vLLM Omni 团队 的 infra 视角互补。
  • "具身还没到 GPT-1 时刻,差两个数量级数据"给 评估与 Benchmark 和 LLM 训练管线 提供了一个明确的、可打卡的量化判据(十万小时 → 百万小时)。
  • "大脑与本体交替上升,未来会出现由智能重新定义的本体公司"与 何小鹏的整机厂视角 构成中方产业内部的两个位置;"传感器指标应由模型定义"则与 Reiner Pope 的自底向上芯片设计、阳萌的存算一体 同属"AI 反向定义硬件"一族。
  • "创业一定是赌出来的:如果那条路一定成功,大厂一定成功" 是本库 AI 实验室文化与组织 里"make bets"这条的中方创业版本,与 姚顺宇"英雄主义已过去" 的取向恰成对照。

事实性断言与预测(可验证)

  • 灵波 2.0 基于约 3B 的模型;训练数据 6 万小时(1.0 是 2 万小时,但按 2.0 的严格管线重洗后只剩 1 万多小时,实际约 4 倍增长)(断言,[00:32:46]–[00:33:47])。
  • 构型从 9 种 → 20 多种;自由度从纯双臂扩到头、腰、底盘、灵巧手(断言,[00:32:46])。
  • 后训练数据量从每任务约 100 条 → 约 20 条;从"每任务一个模型"到"10 个任务一个模型"(断言,[01:06:27]–[01:07:29])。
  • 桌上球类对打 demo:预训练之后只采了 20 条数据,只用机器人自身相机(断言,[01:11:32]–[01:12:32])。
  • 真机数据采集成本过去两年至少降了 3 倍以上(断言,[00:35:49])。
  • 目前具身真机数据与互联网数据相差约两个数量级(断言,[01:08:30])。
  • 具身的 GPT-1 时刻需要百万小时级数据,中途会先有十万小时规模(预测,[01:08:30]、[01:21:44]–[01:22:46])。
  • Generalist 的公开数据量约几十万小时,"可能已经有百万了"(断言/推测,[01:11:32])。
  • 训 MoE 用了两个月、失败几十次;把双向 attention 改单向会导致预训练知识遗忘(好视频比例从 100% 掉到 20–30%)(断言,[00:55:16]、[00:57:16]–[00:58:17])。
  • 最终格局:大厂一两家 + 创业公司两三家(预测,[01:10:31]–[01:11:32])。
  • 中国在具身数据采集上跑得比美国快(预测/判断,[01:19:43]–[01:20:44])。
  • 灵波不用仿真数据做训练,只用于评测(断言,[00:34:47]–[00:35:49])。