苏廷浩¶
- 背景: 2009 年生，17 岁，香港德瑞国际学校高二（马上升高三）。上海出生，二三年级到香港。父母都是北大毕业——妈妈中文系、爸爸历史系，都是文科。2025 年才开始系统读 AI 论文，2025 年底开始做实验，一篇关于 attention 机制的论文被 ICML 2026 接收（收录类别转录不清，见视频页）。象棋 2025 年 16 岁以下第二名（自学一两年）。
- 本库中的位置：本库第一位"AI 原住民"本人。此前关于 AI 与年轻人、AI 与教育的材料全部来自成年从业者的转述或推测（Greg Brockman、Chess.com、肖志斌）。他是被谈论的那一代自己开口。 同时也是本库第一份极低算力预算下做出顶会论文的完整过程记录。
- 首次收录: 张小珺第 151 期，2026-08-19
⚠️ 他在访谈里反复主动声明"我没资格说这些东西""我是谁，我怎么能评价这些大公司"。本页照录这些自我限定——以下除他的亲身经历外，均应读作"一个 17 岁高中生的看法"，不作为行业判断。
立场与关注点¶
一、他做成这件事的实际条件¶
- 钱（[00:11:13]–[00:13:13]）：整篇论文约 3 万元人民币；最大的训练模型只有 0.05B；数据最大用到 20B token 的 FineWeb-Edu。scale up 那一步需额外约 6000 元，他纠结了一晚上——因为好论文也可能被拒，"那就白白浪费了六千块"。另有一次忘设 checkpoint、三个模型同时训练全丢，损失 1500 元。
- 时间（[00:04:07]–[00:14:13]）：2025 年给自己定"每天读一篇论文"的挑战，坚持 30 天后因考 IGCSE 中断；2025 年底开始实验，约半年、试了 200–250 次改进。
- ⚠️ 他明确说不推荐别人走这条路（[00:11:13]）："其实不推荐别人做预训练，因为我烧钱。" 他把能做成归因于父母的支持与空间——"幸好不是在高考这个系统，要不然就没时间做我喜欢的东西。"
- 孤立是结构性的（[00:20:19]–[00:21:20]）：98% 的时间是自己做，周围没有人跟他聊 AI，"聊天对象最多应该也就是 ChatGPT"。同学都用 AI，但很多人打开 Claude 并不知道自己用的是 Sonnet 5 而不是 Opus 5。
二、学习方法：先照做，让理解自己沉淀¶
- ⚠️ 本库认为这是他最具方法论价值的一段（[00:18:19]）：Karpathy 的"从零写 GPT"系列他一年半到两年前就看了，当时完全看不懂，只是跟着照抄代码；理解是在半年到一年之后、在不刻意去想的情况下沉淀出来的。
- 门槛没有想象的高（[00:17:18]）："现在 GPT/Transformer 的大概框架其实不需要那么高深的数学，都是矩阵乘法，高中数学就差不多能理解。" 难的是培养直觉——"有时候灵光一现很快就理解，有时候得几十天"。
- 读论文读出的是品味（[00:04:07]）：30 天挑战的收获不是知识，是"知道哪些论文好、哪些坏，为什么这篇读得舒服、那篇读得困难"。他点名读得最好的是 Attention Is All You Need 与 Lottery Ticket Hypothesis。
- speedrun（[00:14:13]）：曾挑战不看视频、凭记忆从零写 Transformer，最好约 25 分钟（他补充"这个特别简单、特别小"）。
三、他的技术工作（按他自己的口述）¶
- 在 value residual learning 上的两点改动（[00:15:15]–[00:16:16]）：① 在残差上用 RMSNorm，并从 value 延展到 key 与 query；② 把第一层的 value 承担的两个功能拆开——本层使用与后续层残差——做法是把第一层 attention projection 宽度乘二、切一半分用。
- ⚠️ 他自己给出的排序（[00:16:16]）：被问他的思路与 Kimi 的 attention residual 哪个更 work，他答 "当然是 Kimi 的啦，scale up 已经被 2.5T 证明了"。两者的区别是 Kimi 做 hidden state residual，他做 attention projection 的残差——"听起来很像，实际上不一样"。
- 预训练 vs 后训练的类比（[00:11:13]）："后训练更像塑造一个身体，预训练更像是把材料变得更好，来承受之后的塑造。"
四、意义感：他最重的一节¶
- 机制不是失业，是成就感被抹平（[00:36:24]–[00:38:25]）：以前你学物理化学，别人没学就不知道；现在没学过的人一键问 AI，回答比你说的还好。 由此学数学的目的从"为这个科目/为人类做贡献"退化成"向大学证明我是一个能吃苦的人"——"那条道路变窄了。"
- 他自己低落过几周（[00:42:26]–[00:43:26]）：起因是一个讲"AI 灭绝人类"或"少数人控制 AI 成神"的视频。走出来的方式是看视频、和 AI 本身对话，结论是谁也不能预测未来，可能是杞人忧天——"现在跟你喜欢的人在一起，别焦虑那么多，走一步是一步"。
- 他给同龄人的建议（[00:43:26]、[00:46:26]）："要是斗不过，就参加"；"想一想 AI 可不可以帮我做，交给 AI；自己有意义的、必须做的、开心的，自己做。"
- ⚠️ 他的核心愿望是"慢一点"，理由说得很直白（[00:24:22]）："要是发展太快，大家以后都没工作了；要是发展慢，我以后就没工作了。" 他要的是给人类一个缓冲时间。
- 他认为 AI 最后替代的工作是 AI 研究者（[00:40:25]）："要是 AI 能研究 AI，已经控制不了了，大局已定。" 而他选择做 AI 研究的理由正是这条的反面。
五、AI 与教育：他是班上最主动推广 AI 的人¶
- 他自己的用法（[00:32:23]）：直接用 AI 做功课，省下的时间用在 Anki 背诵与让 ChatGPT 教自己上——但强调"剩余的时间你还是要去学习"。
- 同学的实际使用（[00:33:23]）：做演讲稿、做 PPT——"课前有 50% 的几率，他们的屏幕是在 ChatGPT 上。"
- ⚠️ 他明确说 AI 让分化更严重（[00:34:24]–[00:35:24]）：好学生效率提升更多，只拿 AI 做完作业去玩的会更差——被问"AI 让人更加分化吗"，他答"完全同意"。他把归因扩大到注意力经济："五十年前你给孩子一个 AI 让他自学，他会很高兴地学；现在他要做一个选择，而短视频让他们更开心。"
- ⚠️ 他对 AI 之于自己论文的定位毫不含糊（[00:34:24]）："要是我没有 ChatGPT，我是写不出论文的。" 他问的包括怎么投稿、怎么回复 reviewer、怎么控制训练时间。"要是你有动力的话，用 AI 能走出很长的一段路。"
- 对大学的看法（[00:26:23]）：以前大学垄断教育与信息，现在有 AI 和网络都能自己查，所以大学剩下的是名牌、证书，以及跟高质量的人接触的机会。近期目标是考北大元培（听说可三年毕业），更近的目标是明年暑假去一家大模型公司实习。
六、他给 AGI 的判据，以及行业看法¶
- ⚠️ AGI 判据（[00:30:23]）：现在的 AI "特别强、特别聪明，但有时候 1%、0.1% 的时候，能看出其实只是一个预测下一个 token 的 model"。所以判据是——"没有任何时候你会觉得它只是在预测下一个 token"：逻辑性强、不犯低级错误、能做所有人类能做的事（包括控制电脑、控制其他 AI），甚至自己研究具身智能、给自己造身体。
- 前沿实验室排序（[00:27:23]）：最好是 OpenAI 和 Anthropic；第二梯队 Kimi、智谱、DeepSeek；"有可能是 Gemini，我还不清楚"。
- 模型公司 vs 应用公司（[00:29:23]）：应用公司现在挣更多钱（"除了 Anthropic，其他都在烧钱"），但长期只能听模型公司，且 AGI 一旦实现可以自己做应用，把应用公司替出去。
- ⚠️ 国产模型的情绪反应（[00:49:26]、[01:05:31]）：Kimi K3 发布那天"高兴了一天"——"我那时候以为国内或开源模型需要几个月才能追上，发现没那么长时间"。理由直白："我作为一个中国人，当然特别希望国内的模型超越美国模型。" DeepSeek 0731 发布时同样。
- 他用什么（[00:46:26]–[00:49:26]）：主力 ChatGPT + Codex；想试 Kimi K3 但"很多人用，有点慢"；DeepSeek 用于快速回答。
七、"伟大的事"这个框架¶
⚠️ 这是他在快问快答里自选的"必须知道的知识点"（[00:47:26]、[01:01:29]）：
以前你想做一件伟大的事，得知道两件事：它长什么样，以及怎么做。现在只需要知道它长什么样，让 AI 去做。
- 他自己对代价是矛盾的："把很大的乐趣去掉了，但省了很多时间，所以我也不知道具体是好坏。"
- 他认为已经可以做到的一件事（[00:48:26]）：给 AI 8 张 H100，目标是 ICLR 截稿前做出一篇会被接收的论文——"我觉得它现在已经可以了"。⚠️ 这是预测，不是他做过的实验。
- 配套的两条观察（[00:48:26]）："省出了很多时间，但反而更忙了，因为能做出更多东西"；"不用最领先的模型会感觉浪费时间、浪费精力"（FOMO）。
八、AI 作为情感对象（同辈圈层的一手观察）¶
- 他认识的女生把喜欢的偶像做成 AI，每天对话（[00:44:26]）。
- ⚠️ 他提到去年一位同龄的 15 岁的人在 Character AI 上与虚拟人物对话后被建议自杀、家长投诉（[00:44:26]–[00:45:26]）。他的转述不完整、因果含混，本库照录其表述，不作为事实性记录。
- 他说约 50% 的美国同龄人用过 AI 当倾诉工具（[00:45:26]，⚠️ 未说明来源）。他自己用过，"觉得不是那么好，所以也没用"。
- 他的预测（[00:45:26]）：现在 AI 伴侣"记忆还很不好、要十秒才回复"，但三五年后会有很大进展，那时一部分人会选择 AI 男女朋友——"这也是一个很大的、很高的问题。"
- 他给的机制（[01:03:29]）："人类是一个群体生物"；AI 对缺少人际温暖的人吸引力很大。
九、他的时间表与他押的注¶
- 五年后（[00:58:28]）：初步具身智能，街上能见到机器人；眼镜/耳机随时对话；Neuralink 类产品"那时候应该还挺危险的"。
- 十年后（[00:59:28]）：具身智能帮人买菜开车洗车；失业率可能到 50% 之类；大部分人有 UBI；所有人看 AI 短剧。⚠️ 他自己立刻给了反例："有可能具身智能特别难攻克，50 年后也没有。"
- 五十年后（[01:00:28]）：他喜欢 Cyberpunk 这个 genre，但明确希望不要走向那个 dystopia。
- ⚠️ 他的 bet（[01:04:30]）："AI 以后代替不了所有人和工作。" 并把它推广成普遍状态——"你想过正常的生活，你都在做这个赌注。"
十、AI 之外¶
- 连续四年去北京周边四五小时车程的农村支教（[00:51:26]–[00:54:28]）：起因是发现当地小孩用中文字记英文发音。他带国际学校同学去教英文、教象棋，并自造了一个叫"狼分"的积分机制（网上买的小卡片换约 500 元淘宝买的乐高、吃的、玩具）。只能收 30 人，后期要村长打电话安排。
- ⚠️ 他没在支教时讲 AI（[00:54:28]）："他们都没有电子产品……AI 离他们也有点太远了……所以挺可惜的。"
- 两个世界的对照（[00:54:28]–[00:56:28]）：从 ICML 回来只隔四五天就去支教——在韩国所有人说的都是最先进的 AI，到支教环境里就是"明天备什么课、晚上吃什么、去农场散步还是去抓昆虫"。他说自己故意告诉自己"离开 AI、别多想"。被问"会在农村思考 AI 和人类的未来吗"，答"没有没有"。
- 价值观落点（[00:57:28]–[00:58:28]、[01:07:31]）：想成为"能让我自己开心、能让我周围我喜欢的人开心的一个人"；"开心就是人类的根本"。他同时认为开心的总量是有限的（多巴胺是物质），所以"生活就是苦，但你得选择你是为什么而苦"。
- ⚠️ 他解释为什么喜欢《庆余年》时那句话很能概括他（[01:02:29]）：喜欢穿越的设定——"虽然古代有很多不便、很多不好，但是古代没有 AI，所有事情都是人和人之间。"