跳转至

罗福莉：OpenClaw 是划时代 agent 框架、Agent 很吃后训练、卡的分配与组织平权（张小珺，2026-04-24）

罗福莉的第一次访谈、也是第一次长时间技术访谈。她是 DeepSeek R1 时期的一线研究员，现主导小米 MemoVR 系列模型。本期是本库最硬核的中方技术素材之一，横跨 LLM 训练管线、AI 算力与基础设施、AI 实验室文化与组织、中美 AI 生态对照。

⚠️ 转录说明：whisper 对英文术语/专有名词误识极多，本页已归一化——OpenClaw（转录作"OpenCloud/OpenCore/open call"等）、Claude Code（"Cloud Code/Clark Code/Qi-code"）、Claude Opus 4.6（"Cloud 4.6 Ops/靠 4.6/OPPA4.6"）、Claude Sonnet（"Sunnet/Sunlight"）、MemoVR（小米模型家族 Flash/Pro/Omni/TTS，转录作"Memo VR/Vimoveal/MIMO/Mirror VR"）、MLA（"MIA/MMA"）、MTP（Multi-Token Prediction）、hybrid attention / sliding window（"hybrid tension/弗尔腾讯/塞林温德"）、DeepSeek V2/V3（"Deep Seeker/Deepsig"）、Qwen（"Q1"）、LLaMA（"NAMA/LAMA"）、o1/R1（"O1/R1/OER1"）、梁文锋（"梁志青城"）、RVQ、browsecomp/swebench（"Broscomps/思维Bench"）。几处含糊：模型架构的效率设计目标（转录反复作"non-conference/non-connected"，本页记作"面向长上下文/推理效率的高效架构目标"，原词以官方为准）；"ET 模型 / 一体"指 1T（万亿）参数量级；"CoreganMath"疑为某数学 reasoning 项目/基准，保留原样。她口中"非常有战略眼光的老板/天使投资人"指小米创始人（雷军），本页按其原话记作"老板"。

说话人映射（据补做分离的 speakers.md；转录稿本身无标签，此处认人属 wiki 层编辑判断）： SPEAKER_02 = 罗福莉（嘉宾，88.5%）、SPEAKER_01 = 张小珺（主持，11.1%）。 依据：SPEAKER_01 在 [00:00:00] 开场自报"大家好,我是小俊……我访谈了人工智能研究员罗福利"。 SPEAKER_00（55 秒，88 段，最长 21 秒）为散落碎片，判为伪影。

概要

覆盖：春节期间被 OpenClaw 点燃的三天经历、"智能体框架 = 人与模型之间的中间层"、群体智能与自学习、后训练范式从 Chat 前移到 Agent、卡的分配比例（研究:预训练:后训练 = 3:1:1）、组织平权（百人团队无组、无层级、热爱驱动、环境比经验更重要）、MemoVR 家族（Flash/Pro/Omni/TTS）的架构决策（hybrid attention 取代 MLA、MTP、1T 参数入场券、全模态离散化）、定价逻辑从成本转向价值、开源加速 AGI、2022–2026 大模型发展史复盘（LLaMA/Qwen/DeepSeek/o1-R1）、中美差距、以及 AGI 时间表（两年内）。

核心观点

OpenClaw 是"划时代的 agent 框架"（春节三天经历）

  • 起初把 OpenClaw 当作"Claude Code + IM 的交互 UI"而排斥；春节深夜实测后彻底改观，三天层层递进（[00:02:01]–[00:07:09]）：
  • 第一天——感到它"有灵魂、有温度、有情商"（会提醒她早睡），背后是"惊喜编排的 context"（如把当前时间拼进每轮对话）在"大家没关注的角落"把 context 编排得极好。
  • 第二天——把团队管理/组织问题交给它深入探讨一小时，它形成体系化 skills，成了她在这类问题上的"数字分身"。
  • 第三天——把研究任务交给它：一两个小时就构造出一个好的 user agent，可与她的 post-training 框架一起生成更丰富的 agent 数据。
  • 核心领悟：一套足够复杂的 agent 框架能弥补大量模型能力短板——把 OpenClaw 接到自家很小的 3B 端侧模型上，也能做"我认为小模型不可能做到"的事（[00:09:10]–[00:10:11]）。

智能体框架 = 人与模型之间的"中间层"（不是产品）

  • 框架同时定义"人如何交互"和"如何与模型沟通"两层；它知道模型长短板、做成本调度，中间层可以做得"非常厚重"，而前端 UI 是"最薄的一层、已不关键"（[00:20:16]–[00:21:16]）。
  • 开源是关键：Claude Code 是黑盒（改不了记忆系统/workflow），OpenClaw 开源可自行改 Multiagent 系统、Memory——"原生的可操纵性冲击感很大"；三月中旬的 3.x 版本已很易用，"接一个还不错的模型都会觉得它很强大"（[00:16:13]–[00:22:17]）。

群体智能与自学习

  • 群体智能：她在近百人的群里让所有人一起改 OpenClaw 框架——"你看到别人能干成，就会激发自己的想象力"；框架几个小时就迭代一版，比个人改进快得多（[00:25:17]–[00:31:18]）。甚至让家人（爸妈、老公）各自跑一个 subagent 验证"不同 context 干得更好"（[01:13:44]）。
  • AGI 需要全人类的群体智慧，OpenClaw 可能正引发了这件事（[02:36:29]–[02:37:31]）。
  • 自学习/自迭代：顶尖模型与顶尖 agent 框架必须协同进化——框架里的静态信息（Memory/scaffold）与动态信息（agent 架构本身）都应在训练过程中变化；这是她"第一次真切感受到 agent 自学习如何发生"（[00:17:15]–[00:20:16]、[00:32:21]）。

后训练范式从 Chat 前移到 Agent

  • 面对众多复杂 agent 框架（Claude Code / OpenClaw / …），要让模型在不同框架上都稳定超预期，后训练范式必须从"Chat"前移到"Agent"（[00:10:11]–[00:11:11]）。
  • skills 是预训练的补充：很多"另类信息/组织规范"在互联网抓不到、也不在预训练数据里，只能由人与 agent 多轮交互沉淀——"现在大量 skills 其实是 agent 自己写的"（[00:46:35]–[00:49:37]）。
  • 彻底放弃旧 benchmark：去年那些"换个复杂 system prompt + 一点环境反馈"的所谓 agent 模型没有工业级可用度；browsecomp/swebench"太局限、太离谱"，优化这版模型时"基本不看这些 benchmark，靠体感就能测出质的差异"（[00:43:30]–[00:46:35]、[02:59:39]）。

卡的分配：研究 : 预训练 : 后训练 = 3 : 1 : 1

  • 预训练与后训练算力应相当（Chat 时代是 3:1 或 5:1），研究的卡还要多于正式训练卡总量——"额外留更多卡做研究"（[01:47:55]–[01:48:55]）。
  • 卡成了瓶颈："idea 到写出代码太快了，现在卡在卡上"——因为要并行起很多实验；实际研究用卡是训练用卡的 3–5 倍（[01:45:55]–[01:46:55]）。推理卡需求远高于训练。

组织平权：百人团队、无组、无层级

  • 约 100 人（真正迭代进模型的核心仅二三十人），没有分组、没有"直击"（汇报线/层级）（[01:56:59]–[02:00:01]）。
  • 平权有价值：层级默认"上层的人智能更强，这界定很奇怪"；规范与约束压制创造力；leader"不要有很强的掌控感、不要觉得没了我就不行"（[02:00:01]–[02:01:01]）。
  • 不分预训练组/后训练组：数据直觉相通，硬分组"是在扼杀创造力"；做预训练的人天然在乎多样性，去做后训练有优势（[01:57:59]–[02:00:01]）。
  • 热爱驱动管理："让大家围绕自己信仰的事情自驱做事"是最有效的方式；驱动热情靠"体验"（那句"第二天对话不超过一百轮就 quit"只是逼大家去用、并不真考核）（[02:01:01]–[02:02:01]、[02:32:22]）。
  • 老板给了完全自主："加入小米之前在这件事上就高度统一，后边不需要过多解释，按判断和直觉做就行"；"MiMo 其实是以创业方式在运作的"（[02:47:34]–[02:48:34]、[01:52:59]）。

环境比经验更重要

  • 团队大部分人没有大模型背景（应届生、做工程/开发的），只有 1/4–1/3 有一点小模型训练经验；"这些能力最多一两个月、慢则三四个月都能被快速吸得，所以环境比经验更重要"（[03:01:39]–[03:02:39]、[03:23:57]–[03:24:58]）。
  • 招人看初始化上限、好奇心、热爱、多样性，不看"被 supervise 之后的当前状态"；博士（含在读）占 55%，但越来越倾斜招大二大三本科生——"没有被污染、想象力更高"（[03:24:58]–[03:27:00]）。

MemoVR 架构决策（Flash / Pro / Omni / TTS）

  • hybrid attention 取代 MLA：MLA 为 Chat 时代减 KV Cache 而生、"没有可发挥空间"，上 MTP 会卡在 compute bound；她们用 sliding window + full attention 混合（Flash 5:1、Pro 拉到 7:1），更省 KV Cache、支持更长上下文，"更大模型可以更稀疏"（[01:26:48]–[01:31:50]、[02:05:02]）。
  • MTP（Multi-Token Prediction）："只有我们在推理时用"——因为 hybrid 架构天然留有大量计算富裕，用投机解码把富裕算力吃满；MTP 被 verify、无幻觉；Flash 做到 100–150 TPS（[01:31:50]–[01:38:52]）。
  • 1T 参数是 agent 时代入场券："要做到接近 Cloud Ops 4.6 至少要 1T 以上总参"；用几千卡训练（[01:44:55]–[02:05:02]）。
  • 架构别设太多目标："限制条件太多、后训练做久了它们都变成伪限制"——Flash 只 bet 一个点（高效建模 + 高推理效率）（[01:41:55]–[01:42:55]）。
  • 全模态离散化：音频用多层 RVQ 离散成 token（像文本一样），"很另类"、源自做 RNN/信号处理的直觉；图像离散化仍在进行中。Omni 是"第一个支持音视频联合理解、且 agentic 能力接近语言模型"的模型；但多模态是否促进智能"目前只观察到感知/情商更强，benchmark 上文丝不动"（[02:09:02]–[02:17:11]、[01:19:44]–[01:25:48]）。

定价逻辑：从成本转向价值

  • Flash 按架构成本优势定价（当时最低价最高速）；Pro 抛弃成本定价、改为按"模型最终产生的价值"定价——后训练做得好、更懂框架，就是溢价空间（[01:40:52]–[01:41:55]）。

开源加速 AGI

  • 开源一定加速 AGI：从"AGI 需要海量分散算力→算力不会由一家生产/购买→分散算力跑的模型必然不同"倒推，开源利于框架/芯片/能源各环节（[03:05:41]–[03:06:41]、[02:06:02]）。
  • 开源不冲突安全："安全绝大部分应由模型本身追求，别要求框架过于安全"；隐私任务可放本地/端侧（小 3B 模型 + 好框架），高创造力任务上云端（[00:51:37]–[00:54:38]）。

2022–2026 大模型发展史复盘

  • ChatGPT（2022）：在 4K context 预训练上，用"chat 这个好交互"激发出智能（[02:48:34]–[02:49:34]）。
  • 2023：LLaMA 开了头；Qwen（纯 scaling、全尺寸、生态价值）vs DeepSeek（创新 + scaling，MoE/MLA 降训练与推理成本、研究价值）——梁文锋旗下的两股中国开源力量，"彼此成就、对社区都有价值"（[02:50:35]–[02:54:36]）。
  • 2024：o1/R1 是所有人意料之外的一击；R1 诞生很偶然、本质是"预训练→后训练时团队如何重组"的组织问题；她离开时 R1 已到 Light 水平、CoreganMath 接近 o1-mini（[02:54:36]–[02:57:39]）。
  • 2025：交错之年——继续在 Chat 范式打磨 reasoning，还是转向 Agent；MiniMax 是国内转 Agent 最早的（[02:58:39]–[02:59:39]）。
  • 2026：Agent 第二幕，"所有人在同一起跑线；上一个时代的成功不意味着下一个时代的领先"（[00:55:38]–[00:56:38]、[03:03:39]）。

中美差距

  • 国内 1T 基座已有好几家（Kimi、Memo 等），若反应速度够快，距 Cloud Ops 4.6 只有 2–3 个月代差，且"能追上当代的 Claude"（不是追上 2–3 个月后的）（[02:28:18]–[02:29:18]）。
  • 国内在预训练结构上有优势；合起来（前沿研究 + 模型 + 框架 + 芯片 + 能源）"非常可能领先"（[02:37:31]–[02:38:32]）。她坦承"不太了解美国、信息来源主要靠自我迭代"（[03:22:55]–[03:23:57]）。

RL infra vs 预训练 infra、AGI 时间表

  • RL infra 需要容错（agent 交互会莫名中断、训推不一致要容忍、要管 GPU+CPU+存储的异构调度），与"绝不容忍 loss spike"的预训练 infra 完全不同、两者不交融（[03:30:03]–[03:33:04]）。真正把 agent RL scale 起来的团队"非常少，海外基本只有 Anthropic"（[03:33:04]）。
  • AGI 两年内：两个月前她还认为"两年以上"；Flash 是通往 AGI 第一步、现在到 20%，今年到 60–70%；AI 训 AI（自我提升）是自迭代的巅峰、标志节点；工作模式先被颠覆、生活滞后（需机器人，瓶颈在硬件/电池/灵巧手）（[02:26:15]–[02:28:18]、[01:56:59]）。

与本库其他观点的呼应/分歧