跳转至

Jason Ma

  • 背景: Dyna Robotics 联合创始人兼首席科学家(2024 年底创立)。 宾大 GRASP Lab 博士(双导师,RL for robotics:如何把 RL 与人类数据相连、以及严格的 RL 理论)→ NVIDIA(GPT-4 刚发布时与 Jim Fan 一起做灵巧转笔,产出 Eureka)→ Google DeepMind(Gemini for robotics)→ 创业。 在日本和中国生活过,从小下围棋。
  • 出现于: Latent Space
  • watchlist slug: 嘉宾(无独立频道)

核心立场与观点

来源:Latent Space / Dyna-2 与 Physical AI

技术路线:world action model

  • 第一性原理是"尽可能多地预测世界":机器人(任何物理系统)本质是"基于当下与此前的信息, 下一步该做什么";而机器人只是世界的一部分——它影响世界,世界也影响它该如何行动, 所以最第一性原理的做法就是把能预测的世界尽量全预测([00:56:38])。
  • ⚠️ 据此反对预测抽象表示:VLA 只预测动作或更抽象的世界表示, 而"你一旦预测抽象表示,就把你自己关于什么重要的偏见编码进去了"; 苦涩教训要求去掉人的偏见、取最原始的相机输入全预测([00:57:38])。
  • ✅ 他给 world action model 的类比:"类似 chain of thought—— 机器人在视觉与物理的空间里推理,然后输出动作。"([00:04:01]–[00:05:02])
  • 架构 = diffusion transformer:transformer 吞数据、diffusion 精修到可执行所需的平滑精确运动; flow matching 是 diffusion 的一个特例,让变换简单得多、不用怎么调 scheduler([00:06:02]–[00:08:03])。
  • 规格:约 100 个连续动作维度,以至少 50 维向量、每秒 10–20 次预测, 向前预测 1–2 秒([00:46:26]–[00:47:28])。Dyna-2 训练数据 >100 万小时([00:02:00])。

⚠️⚠️ 他主动给出的自我证伪条件(本库少见)

被明确问到"如果你错了,第二名是谁"([00:57:38]): - caveat 是:"你要尽可能多地预测世界"并没有说你的传感器就包含了关于世界你需要预测的一切([00:58:39])。 - ⚠️ 具体失败情形:纯视觉世界模型会很强但可能"不够丰富"(缺声音、触觉); 若有人拿出"视觉 + 触觉"世界模型,可能数据效率高 100 倍—— 因为视觉是信息高度冗余的输入(隔一个像素变化不大、视觉不完美也能理解世界), 而触觉等模态信息密度可能高得多([00:58:39]–[00:59:41])。 - ✅ 但他接着给了"即便如此仍是我们赢"的论证:解决机器人的若是多模态世界模型, 机器人公司会比转向机器人的视频生成公司做得更好——"理解传感本身非常复杂, 我们从公司成立起就在做,知道瓶颈在哪、知道怎么融合"; 只做视频适配的一方"并不真的有让触觉工作起来的 know-how"([00:59:41])。 ⚠️ 立场陈述,他未给任何触觉结果。 与 Runway 一期 构成直接对位。

⚠️ 数据观:"不像语言模型,这里没有互联网"

  • ✅ 定性句:"数据是今天机器人领域最重要的事,因为不像语言模型,这里没有互联网。"([00:10:04])
  • 自采有上限:"任何单独一家公司能自采的量都远远不够"—— 类比是"你想靠只有 Reddit、只有 Facebook 来造一个互联网"([00:11:05])。
  • ⚠️ ✅ "数据质量在机器人里是个非稳态问题":什么算高质量会随模型水平改变—— 模型什么都不会时任何数据都有用([00:11:05])。
  • egocentric 人类数据的作用与局限:覆盖"你能想到的每一种身体活动"、给强先验; ⚠️ 但"在机器人长得跟人一模一样之前,人的动作与机器人动作之间总有 gap", 仍需机器人自己的数据补低层反射与灵巧([00:12:08])。 配方是两者合进一个模型,⚠️ 并明确"现实是没有单一的取胜策略"([00:13:09])。
  • 微调量级:新任务通常几个小时数据,有些几十分钟(切菜 45 分钟)([00:00:00]、[00:31:18])。
  • 合成环境是"下一个 scaling 维度"([00:16:09]);⚠️ 他用自己的论文做今非昔比的基准—— Eureka 时代"模型没有好视觉、没有内生 3D 理解",而"今天前沿模型的视觉能力疯狂, 能做 real-to-sim CAD、3D 重建,现在到了临界点"([00:17:10])。 GPT-6 上他最兴奋的也是构建虚拟环境([00:51:30])。

⚠️ 两条"机器人的苦涩教训"

  1. 机器人也会 scale,所以保持算法更简单、scale 对的数据,泛化会涌现; ⚠️ 反对加很具体的先验(如"让机器人把物体看成物体、画框以改善感知")([00:43:24]–[00:44:24])。
  2. ⚠️ ✅ 真正苦的是第二条:"scaling 会奏效,但在机器人里要 scale、以及怎么 scale 都难得多—— 因为没有互联网。你得先搞出硬件、搞出传感器、把这些全弄对,然后才能 scale。"([00:44:24]) 并且"什么才是对的数据"比别的领域难判断——选什么传感器决定了你有什么数据([00:43:24])。

⚠️ 硬件:自研判据,与一条对行业的批评

  • ✅ 自研/外购判据:部件的输入输出非常清晰、且已有极成熟方案 → 外购(lidar、部分相机); 对系统最终性能极关键 → 自己拥有([00:22:14])。
  • ⚠️ 执行器自研的理由很具体:执行器质量与设计直接决定你能把机器人建模得多好—— 要在仿真里建模,"你需要选到足够好、而且容易被建模的执行器"([00:22:14]–[00:23:14])。
  • 机器人比例按真人测量,因为在人类数据上预训练,要最好的迁移; "终究是硬件承载智能"([00:23:14])。
  • ⚠️ ✅ 对行业盲区的批评:"这些天很多讨论围绕机器人基础模型、模型、数据。 但硬件、以及造好硬件有多难,被严重低估了。"([00:25:16])
  • ⚠️ 供应链冷水:"即使现在,美国也没有一家公司是真正在美国从零造出一切的"—— 即便在美国组装,原材料仍从别处采购;对机器人来说把制造搬回美国"比看上去难得多"([00:24:14])。
  • ✅ 反"无平台"路线的论证来自亲身经历:"此前我在 DeepMind、在 NVIDIA 主要就是造模型, 我看到了当你不控制硬件、不能优化它时,系统的上界。"([00:26:16])

⚠️ 形态:半人形 + 轮子,以及"形态是数据迁移率的函数"

  • 构造:人形上身 + 腰部四自由度 + 轮式下身([00:27:16])。
  • 选轮子的三条取舍:腿的能耗高得多、更不稳定、安全极难保证—— "现在对腿式机器人,根本没有机器人会全程保持直立平衡的保证"([00:27:16])。
  • ⚠️ ✅ 腰部自由度的论证起点是一次拉伤:拉伤后"你会意识到我们日常用了这么多自由度, 平时却当作理所当然";"哪怕我只想拿这个瓶子,我也不只是在动手臂"([00:28:16]–[00:29:17])。 而真正把它与数据接起来的是:人在数据里一直在动躯干, 形态不允许 → 迁移变少 → 机器人更不灵巧([00:29:17]–[00:30:18])。
  • ⚠️ 对"直接上人形"的反驳是迭代论:终局认同人形最好,但硬件决定贵得多、慢得多, "你其实不想一步走到最终形态,因为造出来的很可能不够好,最后反正要推翻"; 证据是 Optimus 已多次迭代并推翻过设计([00:44:24]–[00:46:26])。
  • 一条先于硬件的决定:"硬件还没好之前我们就已经决定在人类数据上做预训练, 因为我们知道我们的机器人终将像人"([00:30:18]–[00:31:18])。

⚠️⚠️ "把自主性的单位从任务换成工作流"

  • ✅ 本库认为这是他最该被引用的一条判断: "我认为今天机器人领域的人还在任务层面想自主性——一个一分钟、三十秒的任务。 但真正的价值在于能无人监督地持续数小时的工作流。"([00:49:29]–[00:50:30])
  • ⚠️ 由此重新定性整个问题:"所以我思考机器人问题时不把它当成一个建模问题, 而是当成一个系统问题——你需要好的 agent、好的 harness 工程、好的模型、好的硬件,样样都要。"([00:50:30])
  • 做法:在 world action model 外套 agentic harness;洗衣的具体推理是 "洗衣机在转 → 先去干别的 → 洗完立刻转进烘干机,否则那就成了瓶颈"([00:48:29]–[00:49:29])。 承认低层模型理论上能学,"但会极其低效"([00:49:29])。
  • 实现形态(片尾演示段):两模型架构 = 推理层 + 动作层, 推理模型收几句语言 prompt、逐步规划并监督执行,动作模型负责操作与灵巧([01:19:01])。

延迟与部署形态

  • ⚠️ 约束是硬的:"机器人的推理延迟必须很短——机器人不能举着一把刀三秒不动,那会吓到人" ([00:19:12]);更一般地"物理和重力不会等你"([00:20:12])。
  • 所以部署的模型必须能本地服务(走网络"没有保证"),但训练的模型不必小—— 训最大的再蒸馏,"机器人领域正在往那儿走"([00:20:12]–[00:21:13])。自研推理栈([00:21:13])。

⚠️ 部署:他坚持的那条区分

  • ✅ 最可核验的一条口径:"真正难的不是把机器人放进一个站点、或者做个 pilot。 真正难的是客户相信或验证了你的机器人创造了足够价值,以至于他们想把你的机器人铺到自己很多个站点。" ([00:00:00]、[00:39:20])⚠️ 他自称这在鼎泰丰身上发生了、而"据我所知做类似通用机器人的其他公司 还没真的发生过"——自述的行业比较,本库未核实。
  • 客户与量:鼎泰丰(每天折数千张餐巾、多个美国门店,⚠️ 精度要求到几厘米级, 他称已达人类水平)、Best Western(毛巾); 鼎泰丰规模化后签了更大合同并要求切食材([00:38:20]–[00:42:23])。 已部署数十台,明年目标数百台([00:53:33])。
  • ⚠️ ✅ 为什么通用模型反而赢过专用机器人:可变形物体有无穷多种构型,这对专用机器人非常难; 通用模型再适配"反而能更快到生产质量"([00:40:21])。 第二条理由是跨站点一致性,机制是权重——各门店折法不同而客户要一致, "模型就是一组权重,可以 OTA 一次全部更新"([00:42:23])。

⚠️ 瓶颈,以及一条硬件→研究速度的因果链

  • 灵巧手:最好的灵巧手仍不够耐用、很快过热——"你真的得放个冰袋"([00:35:20])。
  • ⚠️ ✅ 本库认为这条最该被记:"要知道你在任何任务上有进展,你最终都得在硬件上 eval。 而 eval 不够随时、不够快,也就限制了你的研究进展。"([00:36:20])
  • ⚠️ 缺失的传感模态:人还会听、摸、闻且是下意识地用, "如果完全没在采集那些,即便 scale 到数百万小时,你也可能漏掉任务的关键维度,于是永远解不了它" ([00:36:20]–[00:37:20])。
  • ✅ 对称的限定:对今天就能高保真采到数据的工作流,他不认为存在根本瓶颈(洗衣为例); 总结是更通用的那个东西,最大瓶颈仍是硬件与数据([00:37:20])。
  • 评测流程 = "机器人版 RLHF":真实世界 rollout → 打分好/坏/一般 → 这些经验数据再训模型; 模型"大概到 70%、80%"时看它怎么失败、补数据迭代([00:31:18]–[00:33:19])。 最长完整工作流已在小时量级(洗衣约 1 小时)([00:35:20])。

个人与公司

  • 入行起点:AlphaGo 出来时他高三,"我震惊了,因为我玩了这个游戏很多年"—— 此前围棋被认为是 AI 永远解不了的(搜索空间大于世界原子总数),而 RL"就这么破了它"; 由此对能自我改进的系统感兴趣([01:01:41])。
  • ⚠️ ✅ Eureka 的由来:想从人类视频学转笔,但"今天根本没有能转笔的灵巧手,我怎么评估算法"→ 先进仿真 → 立刻发现手写转笔的 RL 奖励函数是不可能的("我列不出需要的那些项")→ "要是一个能写代码的模型能做这件事呢"([01:03:44]–[01:04:44])。 ⚠️ 他对它的定性:"在我看来,我们做出了仿真中第一个递归自我改进的机器人 agent。" 本库标注这是他本人的定性,且指的是仿真中自生成环境与奖励函数, 与 AI 做 AI 里追踪的 RSI 起飞判据不是一回事。
  • ⚠️ ✅ 离开实验室的理由:"做学术研究我很开心,但心里总有一个问题——这些到底有没有意义? ……你问我们怎么想出那么多有趣好玩的任务——你基本是在做自己的 eval、给自己的作业打分。 我想要更真实的东西。"([01:04:44])他认为 2024 年底是能把技术推到现实的时点([01:04:44]–[01:05:47])。
  • 公司名两个来源(他起的):Richard Sutton 的 Dyna 论文(在世界模型中自我改进的 agent)—— "创业时我们还没做世界模型,但我觉得机器人会这么被解决,而现在技术方向正在收敛到那儿"; 以及他出生那年的奥特曼叫 Dyna([01:10:51]–[01:11:52])。
  • 组织:硬件约 30%–40%,模型方向约 10 人([01:08:49]); 定位是研究 + 产品公司"有点像 OpenAI",产品驱动、自上而下定问题 + 自下而上执行 ([01:06:47]–[01:07:48])。
  • ⚠️ call to action 本身是一条行业判断:"作为一个行业,机器人仍然非常 demo 导向。" 他承认自己过去做过很多 demo、"连这次我们也得演示一些"([01:11:52]–[01:12:54])。

⚠️ 本页的立场提示

叙述者是当事公司的首席科学家,访谈在公司现场录制、且与 Dyna 2.1 发布同周。 "第一个 100 万小时以上的 world action model"、"更灵巧更鲁棒"、"人类水平折叠"、 "最长的本地灵巧操作演示"全为自述,期内无第三方基准。 ✅ 但本库认为这期的证据质量有一处高于同类发布期材料: 他被明确要求给出"如果你错了"并给了具体的技术性自我证伪条件(见上)。

已收录视频

日期 视频 主题
2026-10-13 Dyna-2 与 Physical AI world action model、数据、自研硬件、半人形、agentic harness、部署

⚠️⚠️ 交叉验证:同一家公司、同一周、另一位联创(2026-10-15)

  • ✅ 本库在两天后摄取了同一家公司 CEO Lindon Gao 的三小时访谈(张小珺 #154),⚠️ 而两期的分工很干净:本页(Jason Ma)给的是技术实现与硬约束;那一期给的是商业判据与战略形成过程。
  • ⚠️⚠️ 而本库认为最有价值的一处对位是:他这条"把自主性的单位从任务换成工作流"的结论,在那一期里有了来源,而来源是一次客户现场的失败——折餐巾机器人每半小时折完一叠就停(没餐巾了),店内员工得设闹钟来上料,客户的反馈却是"你机器人太慢了";⚠️⚠️ CEO 的结论是 "那其实就不是机器人太慢,而是机器人本身需要个保姆",并据此选择不 scale 一个已有 10 个以上客户的场景(Lindon Gao 视频页 [00:58:39]–[00:59:41])。
  • ⚠️ 而 CEO 给的那条分界是本库建议与本页并引的:"在任务范围之内,智能体不受限;可是在工作流范围之内,是受智能体影响"(Lindon Gao 视频页 [01:01:42])。
  • ✅ 两期在三处可核验点相互吻合:① 量产量级(本页"已部署数十台、明年目标数百台"vs CEO"初步量产阶段、百台级别");② 客户类型与节拍(本页点名鼎泰丰每天折数千张餐巾 vs CEO 说"餐饮里非常大的客户"、一天 1300 张);③ ⚠️ 硬件由 research 团队定义——CEO 自述 "camera 需要多少 FPS、global 还是 rolling shutter、角度需要多广,全部都是 research 团队去界定的",与本页"硬件还没好之前我们就已经决定在人类数据上做预训练"同向。⚠️ 本库仍记为同一方的两次自述,不因互相吻合而转为事实。
  • ⚠️ 两处口径不同、值得一并记:
  • ① ⚠️ egocentric 人类数据的分量:本页记的是他对 egocentric 的作用与局限都有保留(给强先验,但缺听觉触觉等模态时"即便 scale 到数百万小时也可能漏掉关键维度");⚠️⚠️ 而 CEO 那一期是明确 all in egocentric,并自述在 one million hours 预训练集上发现"非常强的 scaling law"、"我们发布的应该是行业最大的数据集"(⚠️ 自述、无数据)。✅ 本库认为这不是矛盾而是侧重不同——他讲的是单一模态的天花板,CEO 讲的是当前最该下注的形态;但引用时不应把两条写成同一个判断。
  • ② ⚠️ "为什么必须 own 本体"的机制不同:本页记的是迭代速度("eval 不够随时、不够快,也就限制了你的研究进展");⚠️⚠️ 而 CEO 给的是数据分布——"用两个不同的运控算法就可以训出两个非常不一样的模型"。✅ 本库认为两条指向同一结论、机制互补,建议并引。
  • ⚠️ 本页的 Eureka 来历在那一期得到了外部印证:⚠️ CEO 自述 Eureka 是"我认识 Jason 的一个主要的论文",并把它列为他心中影响机器人进程的论文;⚠️⚠️ 而他对 research 联创的第一判据是 taste,判别法是看论文的演化方向——"你可以从他博一博二的时候看到他很多论文是相对来说非常 fancy 的东西;而越到后面,他的论文越来越简单干净、核心概念非常清晰"(Lindon Gao 视频页 [00:38:20])。
  • ⚠️ 而那一期同时披露了一件本页没有的事:⚠️⚠️ 去年年底公司内部有一次"战略迷失",分歧是"一拨人说我们要做落地,另外一拨人说我们要做 research",CEO 自述那对团队 identity 冲击很大,⚠️ 而他当时"更偏向 research 派"、落地派是"团队的一些工程师"。✅ 本库据此标注:本页记录的"工作流"路线不是一开始就有的,而是那次分歧的收敛结果。