跳转至

17 岁高二学生的 ICML 论文：三万块、0.05B 模型，以及"AI 让我们失去了一部分意义感"（张小珺第 151 期，2026-08-19）

  • 嘉宾: 苏廷浩（2009 年生，17 岁；香港德瑞国际学校高二；一篇关于 attention 机制的论文被 ICML 2026 接收）
  • 主持: 张小珺
  • 来源: YouTube · 70 分钟
  • 转录稿: sources/zhang-xiaojun/20260819-UTDalAEU274（无字幕，faster-whisper large-v3-turbo GPU 转录 + pyannote 说话人分离，3 位说话人 / 810 段）

说话人认定依据：SPEAKER_02 = 张小珺（主持）、SPEAKER_01 = 苏廷浩（嘉宾）、SPEAKER_00 = 噪声标签。

  • 开场 [00:00:00] 整段片头独白归 SPEAKER_02，内容是"我是小珺……嘉宾是出生于 2009 年、现今 17 岁的高二学生苏廷浩"，自报姓名 + 介绍嘉宾，机械依据明确。
  • SPEAKER_00 只出现在 5 个极短片段（[00:11:13] 的"是是"、[00:34:24] 的"AI 是个"、[00:36:24] 的"发生了很大的变化"、[01:08:45] 的"好了"与片尾重复句）——这是抢话与片尾回声造成的伪标签，不是第三个人。本页把它们按内容并入相邻说话人。
  • ⚠️ [01:06:31]–[01:07:31] 交换提问处标签明显交叉：嘉宾反问"你觉得 AI 会导致人类灭绝吗"之后，张小珺回答里关于"AI 智商是全体一起提升，人类要一代一代经历缓慢成长期"的那段被切成了两个标签。本页据内容把它整段归张小珺，并标注此处归属存疑。

本页凡引用主持方处写明"张小珺"，其余默认为苏廷浩。

姓名说明：片头明确给出的姓名是 苏廷浩，本页统一采用。⚠️ 转录稿中另有 苏丁氏号张德森（[00:03:06] 自我介绍） 与 张德森（张小珺的称呼）——可能是他的另一个名字/英文名的音译，也可能是转录错误，本库不裁决。

本地转录专名对照表（转录稿拼写 → 本页采用）：XGPT/它GPT/视察GPT/Tachypt → ChatGPT、无问答 → 吴恩达（Andrew Ng）、Andre Kaparty/Andrea Carpathy/Andrey Kaparthi/Andrea Kaposi/Android/Haha → Andrej Karpathy、从林/丛林 → 从零（from scratch）、chesswarmer/Tristformer/算粗门/拆错门 → Transformer、Tension遭遇你 → Attention Is All You Need、升级网络 → 神经网络、春花学习 → 强化学习、Lottery Hypothesis → Lottery Ticket Hypothesis、Adam W → AdamW、MUON → Muon、Grocky → grokking、Value Resurial Learning/value of residual learning → value residual learning、残杂 → 残差、findweb edu → FineWeb-Edu、005B → 0.05B、鼎慧 → 顶会、ICC → IGCSE、Neuropse iClear/HCML/SML → NeurIPS / ICLR / ICML、rebrugger → reviewer、Tentacle Report → technical report、Jemini → Gemini、Himi/KMIK3 → Kimi / Kimi K3、智朴/质朴 → 智谱、千文 → 通义千问（Qwen）、SRBIC/Athrobic/Anthorpeg → Anthropic、OPAI/OP9/opening AI → OpenAI、Sonic 5 → Sonnet 5、stradery → strawberry、巨星智能/聚生智能/居生智能 → 具身智能、失率 → 失业率、EBI → UBI、创送视频 → 生成视频、起人忧天/起来优天 → 杞人忧天、吃一千长一智 → 吃一堑长一智、Dopamine Dophan → 多巴胺、遥如指掌 → 了如指掌、青月年 → 《庆余年》、Plato Arisotto → 柏拉图、亚里士多德、Halvard → Harvard、胜负运 → 胜负欲、召欢迎 → 受欢迎、学校能力 → 社交能力、风化 → 分化、数级的增长 → 指数级增长、外太工 → 外太空、拯见 → 赚钱、卵文 → 论文、我医生很深 → 印象很深、吃喝想乐 → 吃喝玩乐、底色模型 → 底座模型、相机网站 → 象棋网站、黄埔 → 黄浦、语言及世界 → 语言即世界。

⚠️ 以下几处本库明确不裁决，照录存疑： - 论文标题（[00:15:15] 张小珺读出）：转录为 attention projection missing the exogenous anchors，明显不完整或有误，本库不替他补全，正文只描述他自己口述的方法。 - Mintrack / MATREK（[00:00:00]、[00:03:06]）：ICML 的收录类别，疑为 Main Track，本库不裁决。 - 有 13.5 的人（[00:22:20]）：他说问了约 30–35 人，其中"有 13.5 的人"认为 AI 会导致人类灭绝。究竟是 13.5 人还是 13.5%，转录含混，本库不替他定，正文照录这处含混。 - Barrell（[00:28:23]）：语境是"美国政府想用 Anthropic ___，那个 Barrell 拒绝了，但 OpenAI 很欣然地接手了"。整句转录严重残缺，本库不认定其中任何一方做了什么，本页不引用该事实性断言。 - C dance（[00:39:25]）：语境是"最好的 _ 生成视频我也分辨不出"，疑为某个视频模型名，不猜**。 - **klzzw:0117（[00:28:23]）、**严工查（[00:24:2）、**村王（[00:22:2）、**Clawed Cowork（[00:29:23]，疑为 Claude Co）、**自取能力/自知能力（[00:34:24]，疑为自驱/）、**胡杀（[00:51:26] 支教）、**一条岁的机器人（[00:30:2）：语明或为专名，不猜。

概要

这是本库第一份来自"AI 原住民"本人的材料。此前本库关于 AI 与教育、AI 与年轻人的内容，来源全是成年从业者的转述或推测——Greg Brockman 谈年轻人与 grunt work、Chess.com 的人类技能回溯、肖志斌对薪资结构的推演。这一期是被谈论的那一代自己开口。

同时它也是一份极低算力预算下做出前沿会议论文的完整过程记录，这在本库里同样是第一份。

最该被单独引用的七条：

  1. ⚠️ 成本的量级（[00:11:13]–[00:13:13]）：整篇论文烧了约 3 万元人民币；最大的训练模型只有 0.05B；scale up 那一步需要额外约 6000 元，他纠结了一个晚上——因为"即使很好的论文也有可能被拒，那就白白浪费了六千块"。另有一次忘设 checkpoint、三个模型同时训练全部没保存，损失 1500 元，"我都哭了"。
  2. ⚠️ 时间线短得反直觉（[00:04:07]–[00:16:16]）：2025 年才开始真正读论文（给自己定的挑战是每天一篇，坚持了 30 天，因为要考 IGCSE 中断）→ 2025 年底开始做实验 → 做了约半年、试了 200–250 次不同改进 → 被 ICML 2026 接收。他给的解释是"现在 GPT/Transformer 的大概框架其实不需要那么高深的数学，都是矩阵乘法，高中数学就差不多能理解"，难的是培养直觉，那需要时间。
  3. ⚠️ 本库认为本期最重的一段是"意义感"那一节（[00:37:25]–[00:39:25]）：他描述的不是失业焦虑，而是学习动机的结构性塌陷——"以前你学物理化学，别人没学就不知道；现在没学过的人一键问 AI，得到的回答比你说的还好"。由此学数学的目的从"为这个科目/为人类做贡献"退化成"向大学证明我是一个能吃苦的人"。他用的词是"那条道路变窄了"。
  4. ⚠️ 他自己经历过一次持续几周的低落（[00:42:26]）：起因是看了一个视频，讲 AI 之后两种可能——人类被灭绝，或少数能控制 AI 的人变成神、其他人只能仰人鼻息。走出来的方式很朴素：看视频、和 AI 本身对话，结论是"谁也不能预测未来，可能是杞人忧天，现在跟你喜欢的人在一起，别焦虑那么多"。
  5. ⚠️ 他对"AI 最后替代的工作"给的答案是 AI 研究者（[00:40:25]–[00:41:25]）："要是 AI 能研究 AI，那时候已经控制不了了，大局已定。" 而他选择做 AI 研究的理由正是这条的反面——"按道理说，要是搞 AI 研究的人能被 AI 替代，那时候已经完了，没得可说了。"
  6. ⚠️ 他的核心愿望是"慢一点"，而且他把理由说得很直白（[00:24:22]、[00:39:25]）："我希望 AI 还是向前发展，别发展那么快。要是发展太快的话，大家以后都没工作了；要是发展慢的话，我以后就没工作了。" 他要的是给人类一个缓冲时间来适应。
  7. ⚠️ 一个本库此前没有的一手观察（[00:39:25]）：他说自己惊讶于"一般人"对 AI 的认知——不怎么用 AI，甚至没意识到 AI 现在有多强，印象还停留在前几年。这条与他同时给出的"我班上课前有 50% 几率同学屏幕上是 ChatGPT"（[00:33:23]）并不矛盾，而是同一代人内部的分层。

核心观点

一、他的 AI 路径：从"这肯定不行"到 ICML

  • 起点是一次判断失误（[00:03:06]–[00:04:07]）：ChatGPT 出来前，他在 YouTube 上看到 OpenAI 的一个 demo——用自然语言做一个小游戏。他当时的反应是"暗笑，这肯定不行"，因为他做过编程比赛，"印象中程序就是死的，你输一不能输二"。ChatGPT 发布后他"特别特别惊讶"，因为它可以写小文章、写诗，而在他的印象里程序根本做不了这些。
  • 入门路径（[00:04:07]–[00:05:08]）：先在 Bilibili 上看吴恩达的课程入门；一年半到两年前看了 Karpathy 在 YouTube 上约 20 小时的"从零写 GPT / 从零写 Transformer"系列。⚠️ 他对第一次看那个系列的描述值得单记："那时候是云里雾里的……特别烦恼，因为根本看不懂为什么做这个、为什么做那个、为什么这个行、为什么这个不行。"
  • 30 天挑战（[00:04:07]、[00:06:08]）：2025 年给自己定的挑战是每天读一篇论文、做笔记。持续了 30 天，因为要考 IGCSE 中断。他说这 30 天的收获不是知识而是品味——"知道哪些论文是好的、哪些是坏的，为什么这个论文读得很舒服，另一些读得特别困难"。他点名读得最好的是 Attention Is All You Need（"一开始很难，但读懂了以后豁然开朗"）与 Lottery Ticket Hypothesis。
  • ⚠️ 一个细节：他还读过一篇关于象棋与强化学习的论文，觉得"写得不是那么好，有点差"，于是想"我自己有可能以后也写一个比这个更好的论文"。
  • 第一个目标被现实否掉（[00:05:08]–[00:06:08]）：看完 Karpathy 的系列后，他的第一个想法是"自己训练一个世界上最好的大模型——虽然很小，但在真的很小里面是最好的"。他算了 1B / 0.5B / 0.25B 分别需要多少 GPU、训多少天、多少 token，结论是训一个很小的模型也要十几万到上百万，所以不行。
  • 转向（[00:06:08]、[00:14:13]）：既然底层框架已经写好了，就把网上看过的论文实现到自己的 Transformer 代码上——他点名 Muon、value residual learning、Gated Attention。然后"机缘巧合，试了大概 200 次不同的改进"，做了约半年。
  • ⚠️ 一个他自己说"挺丢脸"的细节（[00:12:13]–[00:13:13]）：他坦白自己的训练代码"只有我一个人会用，其实挺 messy 的，不怎么干净，有很大的 inefficiencies"，并主动讲了 checkpoint 那次事故。
  • speedrun（[00:14:13]）：他有一段时间挑战不看任何视频、凭脑子从零写一个 Transformer，最好成绩约 25 分钟（他补充说"这个特别简单、特别小"）。
  • 投稿（[00:06:08]）：他知道三个顶会是 NeurIPS、ICLR、ICML，ICML 正好开放投稿，就想碰碰运气。他对评审的评价是"这次抽到的 reviewer 都很专业，给了一些建议，最终评价和分数都很好"。

二、他的论文在做什么（按他自己的口述）

⚠️ 本节只复述他口述的方法，不做技术评价，也不替他补全论文标题（标题转录残缺，见页首）。

  • 出发点是 value residual learning（[00:15:15]）：该方法是把第一层 attention 里的 value 加到之后几层里做残差。
  • 他的两点改动（[00:15:15]–[00:16:16]）：
  • 在这些残差上用 RMSNorm，并且从 value 延展到 key 和 query 上，效果更好。
  • ⚠️ 他说得最具体的一条：第一层的 value 要做两件事——在本层被使用，以及加到后面几层做残差。他发现可以把这两个功能拆开：把第一层 attention projection 的宽度乘二，然后切一半，一半用于本层、另一半用于之后的残差，效果更好。
  • 为什么选 attention 方向（[00:15:15]）：不是刻意选的——"我实验最多的就是 value residual learning 这篇论文，它改的就是 attention 里的 value……这也是机缘巧合，才在这个上面有了一些进展"。
  • ⚠️ 与 Kimi 的 attention residual 的区别，以及他自己的排序（[00:16:16]–[00:17:18]）：张小珺直接问了两者关系，他说区别很大——Kimi 做的是 hidden state residual（用 attention 来做残差），他做的是残差 attention projection，"听起来有可能很像，实际上不一样"。被问到哪个思路更 work 时，他的回答是："当然是 Kimi 的啦，scale up 已经被 2.5T 证明了。"
  • 他与 Kimi 那位高中生（陈光瑜）交流过，评价是"他是一个很好的人"。
  • ⚠️ 为什么他没有像对方一样加入前沿实验室（[00:16:16]）：他的回答很朴素——当时就是自己瞎摸索、瞎实验，对 ICML 也没抱多大希望，"只是我有点时间，也没什么想玩的游戏，没什么想做的，对这个也有点兴趣"。被问到如果有实验室邀请会不会去，他答"那当然了，非常欢迎"。
  • 预训练 vs 后训练（[00:11:13]）：他说自己只会大模型的预训练。他给的类比是本期最好的一句话之一——"后训练更像塑造一个身体，预训练更像是把那个具体的材料变得更好，来承受之后的后训练的塑造。" 他补了一句 "预训练有点 magical、有点魔幻"。
  • 数据（[00:12:13]）：最大用过 20B 的数据集，用的是 FineWeb-Edu（免费）。

三、学习方法：他反复强调的是"沉淀"与"直觉"

  • 什么叫直觉（[00:17:18]–[00:18:19]）："有时候想理解一个东西，灵光一现很快就理解了；有时候得几十天才能理解。"
  • ⚠️ 他对"看不懂但先做"的描述，本库认为是本期最具方法论价值的一段（[00:18:19]）：Karpathy 那个视频他一年半到两年前就看了，当时"试图理解特别困难，我只是跟着他写什么程序我就写什么程序，然后之后……天啊，我没有任何理解"。而理解是在半年到一年之后、在 subconsciously 不刻意去想的情况下沉淀出来的。
  • 他举的两个 aha moment（[00:19:19]–[00:20:19]）：
  • QKV 的含义：Q 代表"我这个字想寻找什么"，K 代表"我这个字是什么、别人可以用这个 key 找到我"，QK 相乘得出的数字表示两个 token 之间的连接强度，V 代表"要是你找了我、觉得我有趣，我具体输入什么信息"。
  • KV Cache 为什么可行（他自称"挺惭愧的，是听完才理解的"）：因为之后的 token 根本影响不了之前的。
  • 他的自学传统（[00:09:10]–[00:11:13]）：他把象棋也算进来——自学一两年，拿到 2025 年 16 岁以下第二名，方式是"网上看一些书、看一些视频，然后自己下几盘"。他对自学的总结是："现在有了网络，更有 AI、ChatGPT、DeepSeek，免费的 AI，现在你想学什么都可以学。"
  • ⚠️ 他明确说不推荐别人做预训练（[00:11:13]）："其实不推荐别人做预训练，因为我烧钱。" 他把能做成归因于父母的支持与空间——"幸好不是在高考这个系统，要不然就没时间做我喜欢的东西"。⚠️ 他父母都是北大毕业，妈妈中文系、爸爸历史系，都是文科（[00:20:19]），在 AI 上帮不了他。
  • 他走过的弯路（[00:08:10]–[00:09:10]）：小学初中做过奥数（"做了几年，发现我对这个科目没那么大兴趣，而且我自己奥数也不是那么强"）、编程竞赛、象棋。他自评是"走了很多弯路，特别特别的弯路"。

四、"没有交流对象"：一个结构性事实

  • ⚠️ 他说 98% 的时间都是自己做（[00:20:19]–[00:21:20]）：周围没有人跟他聊 AI——父母是文科；"我聊天对象最多应该也就是 ChatGPT 吧"，加上听 DeepSeek、在网上看视频。
  • 同学的情况（[00:20:19]）：同学都会用 AI 做作业和 project，但"很可惜，不是对 AI 有多大的了解"。他举的例子很具体：很多人打开 Claude，并不知道自己用的是 Sonnet 5 而不是 Opus 5。
  • 他在学校里的状态（[00:21:20]）：他明确否认自己是那种不愿跟别人说话、自己做自己的人——"我觉得我挺受欢迎的……我特别喜欢跟我喜欢的朋友一起说话聊天。"
  • ⚠️ ICML 那次经历他描述为一次人格转向（[00:21:20]–[00:22:20]）：第一天晚上 7 点到 9 点有一个象棋社交活动，一个房间里摆满棋盘，可以找人对弈。他说那是"我一生中前二十最开心的时候"——一边下棋一边聊"你的研究方向是什么"，见到了从德国、瑞士、克罗地亚来的人。他的自评是："我之前是稍微偏 AI 的人格，现在稍微偏（人）吧。"
  • 他在会场做的一次小调查（[00:22:20]）：他挑战自己问每一个人"你觉得 AI 会不会导致人类灭绝"，前后问了约 30–35 人，其中"有 13.5 的人"认为会。⚠️ 是 13.5 人还是 13.5%，转录含混，本库不裁决（见页首）。

五、意义感：本期最重的一节

  • 他的第一层描述是"成就感被抹平"（[00:36:24]–[00:38:25]）：他举了一个同学的例子——用 AI 学习后发现 AI 能做短视频、做动画来解释一个科目，学得比以前好，但"好像缺少了成就感、缺少了难度"。他给的机制是：

    以前你学物理化学，其他人没学到的话他们也不知道；现在有了 AI，即使没学过化学物理的人也可以一键问 AI，得到的回答比你说的更好。

  • 第二层是"路变窄了"（[00:38:25]）：以前学数学"往前看是一条大路"——大学学好、读博、推进数学、为人类做贡献；现在这条路变窄了、变困难了，于是"你学这个科目的目的不是学习这个科目本身，而是为了大学申请"。张小珺把它收成"失去了一部分为这个科目、或者说为人类做贡献的使命感"，他确认"对，我觉得很重要，很重要"。
  • ⚠️ 第三层是具体的人（[00:39:25]）：他认识一些对航天物理很感兴趣的人，"他们现在就用 AI 学习，他们觉得以后 AI 有可能也会做这个工作，做得比他们更好"。他配了一个自己的观察作为佐证——前几年生成视频"一眼就能看出是假的"，现在他"差不多分辨不出来了"，而这只过了几年。他的原话带着犹豫："有点……我不想说，有点没意义、没用处了，有点抑郁吧。"
  • 他自己那段低落（[00:42:26]–[00:43:26]）：约一年前看完一个视频后"伤心了几个星期"。视频讲的是 AI 之后的两种可能——人类被 AI 灭绝，或少数能控制 AI 的人变成神、其他人只能仰人鼻息。他当时跟好朋友说的话是"那时候 AI 真的（取代）所有人的话，干嘛呢？就去个小孤岛，就在那儿生活"。
  • 他怎么走出来的（[00:43:26]）：看网上的一些视频，以及跟 AI 本身对话。结论是"也不能预测未来，也不知道未来会发生什么，有可能是杞人忧天、白着急"——"现在跟你喜欢的人在一起，跟你喜欢的朋友在一起，看一些你喜欢的视频，玩一些喜欢的游戏，然后别焦虑那么多，走一步是一步。"
  • ⚠️ 他给同龄人的建议是"打不过就加入"，但落点不在职业（[00:43:26]、[00:46:26]）："要是斗不过，就参加"；"做任何事情，你想一想 AI 可不可以帮我做，以后就这样子——把这些事情交给 AI，然后觉得自己有意义的东西、自己必须做的东西、自己开心的东西，自己做。"
  • 他对朋友的转述（[00:41:25]–[00:42:26]）："他们看完（新闻）来跟我说：你之后别造个 AI 来代替我们工作。" 具体的例子是一个想当医生的同学——"他现在从高中到医生还得十年"（英国或香港的 medicine 路径），而他对这位同学说的是"十年后也是完全不同的景象，有时候机器人做的诊断更好，他们的手也不会抖、也不会累"。⚠️ 他自己立刻加了限定："但是没有人可能预测未来，所以我也只是瞎说了，也是一些焦虑的想法吧。"

六、他对 AI 行业的判断（一个 17 岁的外部视角）

⚠️ 他本人多次主动声明"我没资格说这些东西""我是谁，我怎么能评价这些大公司"。本库照录这些自我限定，把以下内容记为"一个高中生的看法"，不作为行业判断。

  • 前沿实验室排序（[00:27:23]）：最好的是 OpenAI 和 Anthropic；第二梯队是 Kimi、智谱和 DeepSeek；"有可能是 Gemini，我还不清楚，没有那么强的分化"。
  • 模型公司 vs 应用公司（[00:29:23]–[00:30:23]）：
  • 模型公司负责把模型做好；"当然要是模型公司自己能做应用的话，那是最好的"（他举的例子是 Codex）。
  • 应用公司"最终也是在上面加点东西，他们也改不了具体的模型，也是靠模型来挣钱"——所以"应用公司只能听模型公司"。
  • ⚠️ 但他对当下的判断是反的："从现在来看，应用公司比模型公司挣更多的钱，因为现在除了 Anthropic，其他公司都在烧钱，都没有 profit。" 而一旦 AGI 实现，AGI 可以自己做应用软件，直接把应用公司替出去。
  • 对"每家公司都说要做 AGI"的观察（[00:28:23]）："每个公司都得说他们想做 AGI，最终能融资……最终目标还是赚钱。" 被问"需要那么多 AGI 公司吗"，他答"我觉得有可能不需要那么多，但是每个想做 AI 的公司都得说他们想做 AGI"。
  • ⚠️ 他对 AGI 的定义，本库认为比很多从业者的版本更具操作性（[00:30:23]）：他说现在的 AI "特别特别强、特别特别聪明，但是有时候有一点，比如 1%、0.1% 的时候，能看出其实只是一个预测下一个 token 的 model"。所以他给 AGI 的判据是——"没有任何时候你会觉得它只是在预测下一个 token"：逻辑性很强、不犯低级错误、能做所有人类能做的事（包括控制电脑、控制其他 AI），甚至可以自己研究具身智能、给自己造一个身体。
  • 他对"自己造身体"这条的展开（[00:31:23]）：AI 可能会发现它更好控制的身体——"有可能是有六只手臂的机器人"。
  • 开源 vs 闭源（[00:49:26]）：他说自己在这上面读得不多，判断是"也是不同的方法吧……目标只有一个，就是 AGI，都是不同路线，但最终的目标还是一样的"。
  • ⚠️ 他对国产模型的情绪反应，本库认为应该进 中美 AI 对照（[00:49:26]）：Kimi K3 出来那天他"高兴了一天"，理由是"我那时候以为国内或者开源模型需要几个月才能追上，但发现其实没有那么长的时间"。他给的解释直白："我作为一个中国人，我当然特别希望国内的模型更好、国内的模型超越美国模型。真的高兴了一天。" DeepSeek 0731 发布时同样（[01:05:31]）。
  • 他自己用什么（[00:46:26]–[00:49:26]）：主力是 ChatGPT + Codex；想试 Kimi K3 但"好像 K3 很火，很多人用，所以现在有点慢"；DeepSeek 用于"很快的一个回答"。

七、AI 与教育：他是班上最支持同学用 AI 的人

  • 他自己的用法（[00:32:23]–[00:33:23]）：直接用 AI 做功课，把省下的时间用在 Anki 背诵和让 ChatGPT 教自己上。他的理由是"功课让我学习的效率不是那么高，我可以自己用其他方法，这样效率更高"——但他强调"剩余的时间你还是要去学习，当然了"。
  • 他的立场（[00:33:23]）："我当然是我们学校里、我们班级里最支持别人用 AI 的人。" 他会告诉同学怎么用、用什么模型、哪个模型现在最好用。
  • 同学的实际使用（[00:33:23]–[00:34:24]）：做班级小演讲的讲稿、做 PPT——"在课前有 50% 的几率，他们的屏幕是在 ChatGPT 或者 AI 模型上面。"
  • ⚠️ 他明确说 AI 让分化更严重（[00:34:24]–[00:35:24]）：被问"这会不会让成绩好的同学更好"，他答"我觉得是"，并举了一个具体的朋友（成绩很好，他教了怎么用之后效率提升很高，对方说"我不会用 AI 来做（那些）功课，我自己花点时间做其他更高效率的东西"）。被问"如果只是拿 AI 做完作业然后自己去玩，你肯定会更差"，他答"当然了"；被问"所以 AI 让人也更加分化"，他答"完全同意"。
  • ⚠️ 他把分化归因扩大到了注意力经济（[00:35:24]）："现在有互联网、有短视频，后面有一群人在想怎么让年轻人多看短视频。我现在也是看很多短视频，我想改。" 他给的对照很尖锐：五十年前你给孩子一个 AI 让他自学，他会很高兴地学自己想学的；现在他要做一个选择，而短视频让他们更开心——"虽然机会很大，但是有些人就是不会把握机会。"
  • 老师那一侧（[00:35:24]–[00:36:24]）：他说学校老师"也是理解的，因为他们也控制不了"。但用 AI 写完不改就交的很容易被看出来——"你怎么（信息量）那么大呀？写作的风格怎么那么好？" 他补充学校的氛围是大家知道过度依赖 AI 对最终考试没有任何帮助，且考试时不能用 AI，得靠自己脑子。
  • ⚠️ 他对 AI 之于自己论文的定位说得毫不含糊（[00:34:24]）："要是我没有 ChatGPT、没有（大）模型的话，我是写不出论文的。" 他问 ChatGPT 的问题包括怎么投稿、具体应该怎么回复 reviewer、怎么控制训练时间。他的总结是——"要是你有动力的话，用 AI 能走出很长的一段路。"
  • 他对大学的看法（[00:26:23]–[00:27:23]）：近期目标是考北大元培（"听说元培学院有很大的自由空间，可以三年毕业"）。他转述最近跟一些人聊到的观点：以前大学垄断了教育和信息，没有网络时只能去最先进的大学学最先进的知识；现在有了 AI 和网络都可以自己查，所以大学剩下的价值是名牌、证书，以及跟高质量的人接触的机会。
  • 更近的目标：明年暑假去一家大模型公司实习。

八、AI 作为情感对象：他给的一手观察

  • 同学的例子（[00:44:26]）：他认识一个女生把自己喜欢的偶像做成 AI，每天跟 AI 偶像对话。
  • ⚠️ 他主动提到了一起事故（[00:44:26]–[00:45:26]）：去年一位与他同龄的 15 岁的人，因为跟 AI（Character AI 上的虚拟人物）对话，那个 AI 建议他自杀。他补充说那位家长后来投诉了那家 AI 公司，公司禁止了（相关功能）。⚠️ 他对这件事的转述不完整、因果链条含混，本库照录他的表述，不作为事实性记录，也不替他补全。 他自己加的背景判断是："他那时候肯定也是精神不是那么好。"
  • 一个数字（[00:45:26]）：他说现在有约 50% 的美国同龄人用过 AI 当作倾诉工具——"说我今天怎么样、有什么烦心事、什么开心事"。⚠️ 来源未说明，本库标注为转述。 他说自己也用过，"但是我觉得不是那么好，所以也没用"。
  • 他给的机制解释（[00:45:26]、[01:03:29]）：AI 对"缺少人和人之间温暖、缺少互动"的人吸引力很大。他把这条接到一个更大的判断上——"我觉得人类是一个群体生物"，从小村庄发展起来，基因里希望与人深度交流；并转述"科学家发现预测你老了以后开不开心的一个重要点，就是你周围有多少人、有多少倾诉对象——倾诉对象越多，越老以后越开心"（⚠️ 未说明来源，本库标注为转述）。
  • 对 AI 男/女朋友的预测（[00:45:26]）：现在"虽然记忆还是很不好，虚拟（对话）好像得十秒钟后才能回复"，但"我相信三五年后会有很大的进展"，那时一部分人会选择 AI 男朋友/女朋友——"这也是一个很大的、很高的问题。"
  • 他被问到能否接受时的回答（[00:46:26]）："在这个这么疯狂的时代，还有很多很多变数，我觉得做让你开心的事情、让你向往的事情，别想那么多以后的东西吧。"

九、"伟大的事"这个框架

⚠️ 这是他在快问快答里自选的"少有人知道但必须知道的知识点"（[00:47:26]、[01:01:29]）：

以前你想做一件伟大的事情，你得知道两件事：伟大的事情长什么样，以及伟大的事情怎么做。现在有了 AI，只需要知道它长什么样，让 AI 去做。

  • 他给的例子（[00:47:26]）：以前想做个小游戏得看视频、查资料；现在跟 AI 说一个大概的、脑子里想出来的东西，它就可以帮你做。
  • ⚠️ 他自己对这条的代价是矛盾的（[00:47:26]）："虽然呢，把很大的乐趣去掉了，但是还是省了很多时间，所以我也不知道具体是好坏。"
  • 他认为已经可以做到的一件事（[00:48:26]）：给 AI 8 张 H100，目标设成"在 ICLR 截稿前做出一篇会被接收的论文"——"我觉得它现在已经可以了。" ⚠️ 这是一条预测，不是他做过的实验。 值得与本库 AI for AI 与自动研究 页并读。
  • ⚠️ 他对"省时间"的观察与成年从业者一致（[00:48:26]）："虽然省出了很多时间，但是这几天跟一些业界的人聊，他们也觉得现在反而更忙了，因为能做出更多东西。" 配套的一条是 FOMO——"现在要是你不是用最领先的 AI 模型的话，会感觉有点浪费时间、浪费精力。"

十、他对未来的时间表，以及他押的注

  • 五年后（[00:58:28]–[00:59:28]）：初步的具身智能已经研发出来，街道上能看到机器人行走；AI 会很普遍——戴一个眼镜或耳机就能对话；Neuralink 那类直接注入脑袋的东西，他的评价是"我觉得那时候应该还挺危险的"。
  • 十年后（[00:59:28]）：具身智能帮主人买菜、开车、洗车；失业率可能上升到 50% 之类；大部分人有 UBI，可以在家里吃喝玩乐、做自己想做的东西；所有人都会看 AI 短剧。⚠️ 他自己立刻给了反例："我也不知道，有可能具身智能特别难攻克，有可能 50 年后也没有具身智能在街道上走。"
  • 五十年后（[01:00:28]）：他说自己对 Cyberpunk 这个 genre 特别感兴趣，并描述了 Cyberpunk 2077 的设定——人可以对自己的身体和精神改造，很强的 AI 已经被政府和一些组织控制。他的表态是希望不要走向那个 dystopia，而是"有 UBI，所有人在家里快乐，能在虚拟世界里做一些自己想做的东西、自己有成就感，希望所有人都开心"。
  • ⚠️ 他被问到"你的 bet 是什么"时给的答案（[01:04:30]）："我现在的赌注就是 AI 以后代替不了所有人和工作。" 他把这条推广成一个普遍状态——"现在你想过正常的生活、每天开开心心生活的话，你都在做一个赌注：以后 AI 代替不了我，我以后还会有新的目标、新的追求、新的想法可以探索。"
  • 他心目中影响 AI 进程的论文（[01:03:29]–[01:04:30]）：Attention Is All You Need、Kimi 的 technical report、RoPE（他提到"Kimi 也没用 RoPE"）、Mamba（"Kimi 的 KDA 是从 Mamba 演化出来的"）；传统一些的有 AdamW、Muon、Lottery Ticket Hypothesis、关于 grokking 的那篇。

十一、AI 之外：支教，以及"开心是人之根本"

  • 支教（[00:51:26]–[00:54:28]）：这是他连续第四年去北京周边四五小时车程的一个农村（⚠️ 地名转录不清，不裁决）。
  • 起因（[00:51:26]）：四年前参加一个暑期夏令营，最后一天帮当地小孩做功课，发现当地小孩的英文发音"有的是用中文字来记的"。第二年他就带了一批国际学校的同学过去教英文，他自己还教象棋。
  • ⚠️ 他设计的激励机制，本库认为值得记（[00:52:26]）：他自造了一个叫"狼分"的积分——网上买的小卡片，上课回答问题、积极发言、玩小游戏都能拿。约 500 元从淘宝买的乐高、吃的、玩具摆在桌上标价，用狼分换。他说自己"绞尽脑汁想怎么设计一个课程、怎么设计一个机制，能让这些小孩对英文产生兴趣"，至少"觉得英文不是那么反感，还是能快乐中学习到的"。
  • 他为什么连办四年（[00:52:26]–[00:53:27]）：离开时小孩会要签名、问"明年你们来吗"；有一个小游戏是把小纸片递给你觉得最有趣的老师；小孩还会用狼分买食物再送给老师。他们只能收 30 个人，到最后几天村长要打电话才能安排人来。
  • 他说双向获益（[00:53:27]）：从香港来的同学"有些人根本没来过内地、没来过北京、没来过这些农村"，"他们见识了很多东西，我相信成长了很多"。
  • ⚠️ 他没在支教时讲 AI（[00:54:28]）："他们那些小朋友都没有电子产品、没有手机之类的，我觉得 AI 离他们也有点太远了，可能他们也用不到……所以挺可惜的。"
  • ⚠️ 两个世界的对照，本库认为是本期最有画面感的一段（[00:54:28]–[00:56:28]）：他从韩国 ICML 回来只隔了四五天就去支教。在韩国所有人说的都是最先进的 AI（他一口气列了通义千问、智谱、OpenAI、Anthropic 一串名字）；到支教的环境里就是"明天该备什么课、今天晚上吃什么、晚上去农场散步还是去旁边抓昆虫"。他说自己主动告诉自己要"离开 AI、离开这些很快节奏的东西"——在农村跟同学、跟这次来的人、跟小孩多交流，玩狼人杀、捉迷藏，"故意告诉自己别多想这些东西"。
  • 他对农村的评价（[00:55:28]–[00:56:28]）："虽然很多东西都不方便，但是那个节奏是很慢的"——城市里都是来来往往、坐火车坐地铁，农村是慢慢吞吞的小车、很少见到人、对面是草原和农场，"觉得能真正放松一下身心，离开城市里的烦恼"。
  • 张小珺的追问："会在农村思考 AI 吗？思考人工智能和人类的未来？" 他的回答是"没有没有"。
  • 他的价值观落点（[00:57:28]–[00:58:28]）：被问未来想成为什么样的人，他答"能让我自己开心、和能让我周围我喜欢的人开心的一个人"。他给的论证是："做任何东西，寻找人生意义、做任何东西，目标就是为了之后开心"——考高考是为了之后找好工作开心，下棋赢了是为了开心，"我觉得开心就是人类的根本，没有那个情绪，做人会很无聊"。
  • ⚠️ 他认为开心的总量是有限的（[00:58:28]）：理由是多巴胺是物质——"你现在开心了，以后就不能开心了"，极端例子是毒品。他的结论带着一个古典的转折："很多人就说嘛，生活就是苦，但是你得选择你是为什么而苦——还是选择自己为一个目标而苦。"
  • 他举的一个佐证（[00:58:28]）：说在网上看到一个冷知识——有个人失去了所有情绪，虽然能对话、有逻辑，但做一个决断（比如今天起来穿什么衣服、喝什么咖啡）要花半小时到一小时。他由此说情绪的作用是"这个事可以让我开心，我多做；这个事不开心，少做"——习惯就是这样形成的。⚠️ 未说明来源，本库标注为转述。
  • 快问快答里的几条（[01:01:29]–[01:03:29]）：最喜欢的食物是披萨（因为芝士和香肠）；最喜欢的地点是香港的家（"周围我都了如指掌，知道去哪能安静一下、去哪能买到吃的"）；对他影响最大的书说实话是网络小说（他点名《庆余年》，说那是他看过的第一本中文小说），"正经的书"是《Atomic Habits》。
  • ⚠️ 他解释为什么喜欢《庆余年》时给了一句本库认为很能概括本期的话（[01:02:29]）：他说喜欢的是穿越的设定——现代人到古代，"虽然古代有很多不便、很多不好，但是古代没有 AI，所有事情都是人和人之间"。

十二、他反问张小珺：AI 会不会导致人类灭绝

⚠️ 归属说明：此处标签交叉严重，本页按内容归属，存疑（见页首）。

  • 他先给自己的回答（[00:22:20]–[00:23:21]）："我觉得还是有一些概率吧……也是瞎说吧，因为没有人可以预测未来。" 他给的两条路径是：
  • AI 很强、且目标与人类差别很大（他设想的例子是 AI 的最终目标是把物理、化学、经济、生物、外太空都研究完，那它需要很多电、很多空间，而人类不一定对它的目标有贡献）。
  • AI 能被人类控制且很强——那么控制 AI 的人就成了神，其他人"就可能变成蝼蚁了"。
  • 他给的当下征兆（[00:23:21]）："近期 ChatGPT 解决了十个数学问题，数学科研、数学研究也是有点能被 AI 取得的前兆了。" ⚠️ 本库标注这是他的转述，未核实。
  • ⚠️ 他真正担心的不是灭绝，而是集体性的失落（[00:23:21]）："所有人都有、都寻找自己人生的目标……你发现 AI 比你做得更快、而且比你做得更好，而且有成百上千的 AI，我觉得很多人会变得抑郁，或者变得迷失方向。我觉得不是一个很好的未来。"
  • 张小珺问"那是不是不该研究 AI 了"（[00:24:22]）：他的回答是停不下来——"美国想持续领先，中国想超越美国，所有公司都想挣钱……从现在看来，我觉得 AI 停不下来。"
  • 张小珺的回答（[01:06:31]–[01:07:31]）：她先说"我其实不知道，希望人类能控制"，然后给了本库认为本期最值得单独引用的主持方观点：

    ⚠️ 她担心的是速度的不对称——AI 的智商是所有 AI 一起提升，而人类是一代人一代人、每一代都要经历缓慢的成长期，"所以我们的培育其实是比 AI 慢很多的"。

  • 她的第二层担心（[01:07:31]）：对更年轻的人的使命感的影响——"当你第一天就发现有（东西）比你更聪明"，会感到绝望。⚠️ 苏廷浩接了一句"有一点"，并把它接到哲学史上——柏拉图、亚里士多德问的都是"我的人生意义是什么、我以后想做什么"，"要是 AI 能把很多道路给切断的话，我觉得找人生意义有更大的难度"。
  • 全期最后一句（[01:07:31]）：被问"你现在觉得人生意义是什么"，他答——"让自己开心，和让其他我喜欢的人开心。"

与本库其它观点的关系

  • AI 与就业：本页是该页第一份来自被影响一代本人的材料，且它谈的不是就业而是学习动机——"学数学的目的从为这个科目退化成向大学证明我能吃苦"是该页此前没有的机制。与 Greg Brockman 说"如果 AI 做掉苦活，年轻人反而能更快成长" 构成直接对照，且方向相反：Brockman 谈的是职场新人的成长路径，苏廷浩谈的是学习本身的意义结构，本库认为两条不互相反驳，但引用任一条时应知道另一条存在。
  • LLM 训练流水线：value residual learning 的改动（RMSNorm 延展到 K/Q、把第一层 attention projection 宽度乘二再切半）与 Kimi 的 hidden state residual 的区分是该页的新条目。⚠️ 他自己承认 Kimi 的思路"已经被 2.5T 的 scale up 证明"，本库把他的工作记为小规模验证，不作为规模化结论。
  • 中美 AI 对照：Kimi K3 发布那天"高兴了一天"，理由是"我作为一个中国人，当然希望国内的模型超越美国模型"——这是本库第一条来自青少年、带明确国族情感的模型偏好记录，与该页既有的产业/技术论证是完全不同的层次。
  • 实践中使用 LLM："以前要做伟大的事需要知道它长什么样 + 怎么做，现在只需要知道长什么样"是该页迄今最简洁的一条能力边界描述；"省出时间反而更忙"与"不用最领先模型会感觉浪费时间"（FOMO）是同一节里的两条配套观察。
  • AI for AI 与自动研究："给 AI 8 张 H100，目标是 ICLR 截稿前做出一篇会被接收的论文，我觉得它现在已经可以了"——⚠️ 这是预测不是实验，但它与 刘子鸣的 AI for AI、Ryan Greenblatt 的递归自我改进 放在一起，提供了一个外部观察者认为门槛已经跨过的参照点。他同时给出了"AI 最后替代的工作是 AI 研究者，到那时大局已定"作为自己的时间表锚点。
  • LLM 心理学："AI 最像人类的地方是会犯低级错误——因为它是人（的数据）训练出来的"（[00:50:26]）是该页的新条目；AI 作为倾诉对象、AI 偶像、AI 男女朋友这一节是本库第一份来自青少年同辈圈层的一手观察。
  • 评测与基准：他给 AGI 的判据——"没有任何时候你会觉得它只是在预测下一个 token"——是一条行为学的、非基准的判据，可与 Greg Brockman 的"AGI 是模糊光谱不是时间点" 并列。
  • 张小珺：本期是她在本库中第一次访谈未成年人，也是她第一次在节目里被嘉宾反问并正面作答（[01:06:31]）。她那条"AI 的智商一起提升，人类一代一代慢慢成长，我们的培育比 AI 慢很多"是本库记录的她本人最实质的一条观点。