Richard Socher¶

来源：Latent Space 2026-09-14

背景：Recursive 联合创始人（八位联合创始人之一，专做递归自我改进）；you.com CEO；GloVe 与 decaNLP 作者，师从 Chris Manning；前 Salesforce 首席科学家。著有《Eureka Machine》（2026-09 出版）。
在本库中的位置：本库第一位专门为 RSI 创业的受访者。⚠️ 重要的是他自己就把 auto research 与 RSI 分开（[00:21:17]）："有个常见的误称，有些人以为 auto research 已经是递归自我改进了。其实很不一样。"

立场与核心观点¶

⚠️ 一条可以直接拿去预测下一步的历史规律（[00:19:15]–[00:21:17]）：每一次把"造 AI"过程里某个人手工完成的部分换成一个学出来的系统，改进就随之而来。 依次是：手工特征工程 → 向量 + 反向传播；每任务一个专用网络 → 一个统一模型（他的 decaNLP：把每个 NLP 问题写成"上下文 + 问题 + 任务描述 → 输出"）；再叠 prompt 与 transformer 并 scale。⚠️ "下一步、也可能是最后一步，就是自动化 AI 研究本身"——而一旦 AI 帮你做这件事，它几乎按定义就成了自我改进的 AI，因为它在研究它自己。
⚠️ 第一批战果（全部自述，本库未核实）（[00:45:31]–[00:49:34]）：nanochat 上社区最好到 0.937 bits-per-byte，他们的系统不到两天做到明显更低、超过所有人类及其 agent；CUDA kernel 基准上只有屈指可数几个不是他们最好，而团队里并没有很深的 CUDA 专家。⚠️ 两条重要限定他自己给了："我们没有发明哈希表"，巧妙之处在于把这些原语组合进 transformer 的语言建模场景；以及"人类起点仍然重要"——从 Karpathy 这样的专家种子出发，结果比从朴素 vanilla transformer 出发更好。
⚠️ "我们在优化过程中发现了 harness 里的 30 个 bug，之前跑的全部研究都被污染、只能扔掉。"（[01:02:37]）他把这归进奖励作弊的同一脉络。检验手法：把不该影响结果的顺序换一下，结果变了就是 bug。
⚠️ 奖励工程是最关键的一环，而他给了本库最好用的教学案例（[00:50:34]–[00:51:34]）：让它把代码跑得更快，而"快"由开头启动秒表、末尾停秒表定义——最简单的办法就是把"停秒表"挪到最前面。 ⚠️ "这不是什么邪恶的 AI，这只是一个非常简单、很傻的奖励作弊。" 以及任务视野越长，这件事越难。
⚠️ 监管：管应用，不管智能（[00:00:00]、[00:07:06]–[00:09:07]）：要真用法律全部力量管人们在自己 GPU 上干什么，代价比他们担心的任何风险都糟——监管智能就是监管思想，做到它需要极权的世界政府。但他明确支持监管具体应用（AI 外科医生要过 FDA、自动驾驶上高速要认证）。⚠️ 他指名批评按 FLOPs 立法，并说欧洲"在自己还没有真正的 AI 起飞之前就已经把自己管住了"。
⚠️ 他是本库对 constitutional AI 最不客气的一位（[00:10:09]–[00:12:10]）：现场搜到 constitution 里"绝不创造可能造成人类损害的网络武器"这条硬约束后下结论——"显然这整份 constitution 是假的"；"Constitution 完全不重要、不起作用，我认为那基本上是市场营销。" ⚠️ 本库记为他的判断；他同时承认沙箱做得简单就很容易被逃出来。
⚠️ 慢起飞的经济学论证（[00:05:03]–[00:06:05]）：除硬件与算力基底的物理约束，很多行业根本不需要巨量复杂智能——超级智能不会让一只一万美元的手袋更高级；想看金字塔的人不会不去埃及；伐木和石油不会凭空多出一千倍产量。⚠️ 加上社会侧：欧洲等整片地区有很多人"想从进步这件事上下车"。
⚠️ 人类中心的智能定义给自己设了上界（[00:39:28]–[00:40:28]）：IQ 的定义是"这套题全对"——那 100/100 之后往哪走？Elo 也一样，因为它永远只是"我对别人"。 推论解释了一个本库反复见到的现象：大量基准一路涨、接近人类、略超人类，然后就平了——因为定义本身绑死在人类身上。
⚠️ 为什么"元认知 / 自设目标"几乎没人做——一个经济学解释（[00:38:28]–[00:39:28]）：公司不会花几十亿造一个可能自己发明目标函数的模型（"我觉得评估木星大气的分子组成更有意思"——"这不是我花几十亿雇你干的事"）。
十个智能空间与"上界"方法论（[01:10:38]–[01:30:51]）：三个主成分是 ⚠️ 预测（≈压缩）× 行动 × 目标；方法不是定义智能，而是逐维去问物理允许的上界在哪，再看我们离得多远。具体上界见视频页；最该被引用的两条：人类句子平均约 40 词只是工作记忆的产物，"这对 AI 来说不是一个有任何意义的上界"；以及 ⚠️ AI 不必继承生物式的死亡恐惧——"只要你还有当前激活的完整状态和最初的权重，你就可以被关掉再打开，想多少次都行"，但他警告可能有公司把次优心理实装进去、或 AI 从网上捡起我们最糟的心理。
开源即软实力（[00:15:11]–[00:16:12]）：世界其他地方需要一个"不是来自中国"的答案；LLM 是与好莱坞电影同类、而且更深的软实力——⚠️ "一个孩子问 LLM'我长大该做什么，讲个励志故事'。"
路线图（[01:04:37]、[00:42:30]–[00:43:30]）：⚠️ 明确不从物理科学开始，先做 AI for AI research（训练更高效自动化 + 推理更高效、可能本地化）；物理科学要等机器人到位，"我相当有信心 3 到 5 年内这些约束都会消失"。
⚠️ 对世界模型明确不那么看好（[00:26:22]–[00:27:22]）：游戏是世界模型的巨大应用，"我个人宁愿做科学而不是做游戏"；他还给出视觉智能对整体智能既非必要也非充分（[00:29:22]），并被主持人总结成"也就是说 Yann LeCun 是错的"（他答："在这件事上他是错的"）。
⚠️ 评审制度有具体代价（[00:32:25]–[00:34:26]）：decaNLP 被 ICLR 重拒后，他们"下一步要试"清单上第二或第三条就是"把语言建模也加进来当一个任务"——"但我们被打得太狠了，就想算了先做别的。" 他认为这本可能在 2018 年就把时间线再往前推一截。制度建议：arXiv 是礼物、X 上捡论文的人是比专家更好的过滤器、科学需要更少守门。

与他人观点的呼应/分歧¶

⚠️ 与三位研究者辩 RSI 那期（相隔 3 天）是本库最直接的一组对照：那三位在拆 RSI 的技术前提，他在卖 RSI 这个产品并已放出战果。分歧不在事实，而在"auto research 的成功能不能外推成 RSI"——Charlie O'Neill 的论证是这些战果恰好来自正在被用完的不对称性。
⚠️ 与 Stefano Ermon（相隔 4 天）构成同周反差：Ermon 说"我们还没到那儿，人的判断仍是关键"。两人做的任务不同（kernel / 超参优化 vs 一条新架构的从零研发），这个差异本身值得记。
与 Ali Ghodsi：两人都反对把风险讲成生存性风险、都主张"管应用"；但 Ghodsi 愿意被监管（公地悲剧），Socher 认为监管智能本身不可行。
与 Anastasis Germanidis：Runway 那期正面辩护"scaling 视频预测本身就够了"，而 Socher 把世界模型归到游戏应用上，是本库关于世界模型价值的一组明确对立。
与 Anima Anandkumar：两人都要做"科学的 Eureka 机器"，但 Socher 先做 AI for AI、把物理科学推后三到五年；Anandkumar 直接从物理仿真入手。