跳转至

肖志斌

  • 背景: ZFlow AI 创始人兼 CEO。20 余年芯片架构师,职业路径贯穿浙大本科/研究生(单核 DSP → 大型 DSP 正向研发,MIPS 指令集多媒体扩展)→ UC Davis 博士(many-core DSP、dataflow 计算)→ Oracle 五六年(SPARC 上的数据库加速协处理器,项目组名 "Software in Silicon")→ 阿里巴巴(第一代 AI 芯片含光 800)→ 稀疏化 AI 芯片创业公司首席架构师 → ZFlow AI(AI 基础设施系统优化与仿真)。
  • 本库中的位置:本库第一位芯片架构师视角的来源。此前芯片侧来源是公司一号位(Reiner Pope、Andrew Feldman、Lip-Bu Tan、Pat Gelsinger、阳萌),推理侧是软件从业者(游凯超、Simon Mo、朱邦华、江鋆晨)。他站在两者之间——做了二十多年软硬件协同设计与架构定义,现在做给这两侧当仲裁的仿真工具。
  • 首次收录: 月球大叔,2026-09-07

⚠️ 利益相关:他的公司 ZFlow AI 卖的正是"AI 系统仿真 + 自动优化",因此他强调"瓶颈已从芯片转移到系统与软件"这一判断与其商业方向一致。本库同时标注另一面:他在同一期里主动给这条商业模式做了负面诊断(见下文第六节)。

立场与关注点

一、制程:降的是功耗,不是速度

  • ⚠️ 本库此前多处把制程当性能代名词,他给的是反例([00:35:39]–[00:36:39]):台积电 N3 → N2,功耗省 10–15%,速度只提升 3–5%。每一代之间功耗的收益远比速度多。
  • 功耗才是目的的原因([00:36:39]):功耗降 → 发热降 → 同一个机架里能塞更多算力 → 计算密度增加。
  • 65nm 之后"纳米"是营销词([00:33:36]–[00:34:36]):它代表一代技术(FinFET、M0 pitch、standard cell 面积、SRAM density 的组合),不对应任何单一物理参量。推论是不同厂商的同名制程不可比,该比的是 standard cell 面积、SRAM density 与特定设计下的 PPA。
  • Dennard scaling 已终结([00:36:39]–[00:37:39]):供电电压不再能跟着面积降,且 12nm/16nm 之后漏电流让静态功耗越来越大。

二、SRAM 停止微缩,以及它点名的两家公司

  • ⚠️ AI 芯片约一半逻辑、一半 SRAM;SRAM 的 scaling 在 5nm 到 3nm 之间停下来了,cell size 不再变小,而逻辑还能继续缩([00:38:39]–[00:39:39])。
  • 他把推论直接点到公司名上([00:39:39]–[00:40:39]):Groq 与 Cerebras 都建立在片上 SRAM 上,SRAM 不缩意味着它们的设计哲学要变——架构配比调整,或走 3D 堆叠一类的路。

三、软件能从制程差距里追回多少:他自己拆掉了这条安慰

  • 物理差距([00:59:54]):7nm 与 2nm 的差别在同性能功耗(计算密度)与互联(SerDes speed),约 2–3 倍,且因 SRAM 不缩要打折。
  • 软件能拿回的两块([00:59:54]–[01:00:55]):PD 分离 + 低精度量化 + speculative decoding/MTP + runtime 调度约 2–3 倍;利用率从行业平均 30–50% 提到 80–90%。
  • ⚠️ 他立刻自我反驳([01:00:55]):拿着 2nm 的一方同样能做这些软件优化——软件补的是"对方没优化好"的差距,不是制程差距本身。
  • ⚠️ 但他随后给了一条结构性的反向理由,本库认为这是他对中美对照最有价值的贡献([01:01:55]):制程领先者不需要把软件做那么精细(芯片迭代快,软件也有成本);工艺受限者被迫做更多系统级 co-design、做得更细,拿到的收益更多,代价是人力与资源成本更高。

四、英伟达:护城河在执行力与供应链,不在软件

  • ⚠️ 这条与本库既有的软件侧叙述正面冲突,且他自己点破了分歧([01:04:58]):从软件角度看英伟达节奏很慢,从芯片角度看它执行力第一。
  • 执行力的依据([01:02:55]–[01:03:56]):每代芯片迭代极快、架构激进程度也快("有点像一个初创公司:想法说做就做进去了,很多公司还在写论文")、能从模型侧拿 feedback 快速演进架构;收购 Groq 的决定做得非常快——他归因于 founder led 的决策速度。
  • 供应链([01:03:56]):他引黄仁勋近期采访的说法。推论对挑战者是硬的——即使你能设计出更好的推理芯片架构,拿不到 HBM 与台积电产能,内部迭代速度也未必比得过英伟达。
  • 限定([01:04:58]):"只要 Jensen 还在带这个公司,这个优势还是会持续的。"
  • ⚠️ 他并不认为定制推理芯片没机会([01:01:55]–[01:02:55]):workload 固定后会有越来越多人做定制推理芯片(他类比"当年视频火,大家都开始做视频芯片"),并认同英伟达最大优势在训练、推理会被更多人分。他的论点是护城河不在架构而在产能与迭代速度。

五、"下一代最伟大的芯片公司是 AI native 的"

  • AI 进芯片设计的现状([00:21:29]–[00:22:30]):验证用得最多(像 coding agent:有 input/output、有可验证的仿真器判对错);正向设计较少;物理设计 EDA 公司已大量在用;⚠️ 缺的一块是架构——选什么架构、做什么芯片、芯片定义怎么做,工具还非常少。
  • ⚠️ 他给的障碍是组织而非技术([00:22:30]–[00:23:31]):现有芯片公司工程师不愿让 AI 取代自己现在的工作,而真要用好必须全流程重做——"很难革自己的命"。所以他判断下一代最伟大的芯片公司会是一家从架构到验证到物理设计全程 AI native 的新公司,"或者只有这样的公司才可能 survive"。

六、AI infra 的商业模式:他自己给的负面诊断

  • ⚠️ 本库认为这条比他的产品介绍更值得记([01:45:35]–[01:46:35]):"要么你带着客户——客户需要你、信任你;要么你带着资源——你有 GPU resource。必须要靠一头,要不然很难。纯粹做 infra 或 optimization 的公司,很难占住这个位置。"
  • 他给的历史佐证([01:43:35]–[01:45:35]):数据库加速公司其实很少成功——业务形态变化快、技术栈太深、做数据库的人自己也有 optimizer,商业模式难定义。他同时指出数据库优化的复杂度"跟 AI 差不多甚至比 AI 更复杂",因为数据库有大量随机的、data dependent 的动态行为,而 AI 虽有 MoE/batching 的动态但大部分还是矩阵运算。
  • ⚠️ 他与主持人在"缺什么"上不一致([01:47:35]–[01:48:35]):他说很多 AI infra 公司缺的不是优化工程师,缺的是资源;月球大叔 当场不同意——"我觉得也缺工程师,现在这种复杂程度,毕业生搞不了",合格人选要么是工业界多年懂底层 GPU 与架构的,要么是深度参与 SGLang/vLLM 社区的。肖志斌答"其实是的"。本库把两条并列。
  • ZFlow 的自报结果与精度([01:34:24]–[01:39:31]):8 卡 B300 上对 DeepSeek V4 做 day-zero serving,1.5 倍峰值吞吐 + 2–3 倍尾延迟改善(他主动说明是与 Neocloud 合作的真实结果,非仿真);仿真精度 prefill 90%+、decode 80–90%,差距来自 batching/concurrency 与 MoE expert 路由这类动态行为,靠 profile 去 calibrate。

七、开源:一个位置函数,不是立场

  • ⚠️ 他刻意不按价值判断回答([01:21:11]–[01:23:13]):
  • 对个人绝对是好事——技能可迁移、可私有化部署 agent、数据自己把控。
  • 对企业取决于位置——领先者一旦开源,前期巨额训练投入如何收回是大问题;后来者开源可以把生态做大。
  • ⚠️ 对国家同样是先来后到——"如果中国是在美国的位置上,中国也不一定会开源。后来者通过开源的方式追赶,是业界比较常见的一个模式。"
  • 一条跨地缘政治的观察([00:31:34]–[00:32:35]):RISC-V 圈子里美国的 SiFive、台湾的 Andes、国内阿里系出来的一批创始人彼此多是校友朋友——"即使在中美地缘政治这么紧张的情况下,大家在开源这一块的合作还是非常多的。"

八、产业链与瓶颈

  • 国别分布([00:28:34]–[00:29:34]):中美之间产业链最全——美国握 IP/EDA + 架构设计(Synopsys、Cadence、Mentor Graphics 三家 EDA,"没有这三家基本上大家都没办法设计芯片"),中国有代工(中芯国际)、DRAM/NAND(长鑫、长存)与一批 EDA/IP 公司;荷兰 ASML 光刻机、日本设备(东京电子)与材料、英国 ARM 的 IP 各据一环。
  • EDA 护城河的两条解释([00:27:34]–[00:28:34]):① 多年大规模并购把无数小公司收拢合成;② 后端物理设计工具是与代工厂 co-design 出来的,与制造节点一起开发。
  • AI 推理最缺什么([01:05:58]–[01:06:58]):最缺算力;从瓶颈角度讲缺的是持续做系统优化、把 token cost 降下来的能力。他的终局判断是 AI 应成为像水电一样的 utility。
  • ⚠️ 但时间尺度交还给物理世界([01:07:58]):电厂与电网要五年以上周期、晶圆厂有自己的规律、光刻机的年交付量也是一道卡。由此推出他最有杠杆的一句——"如果物理世界有限,那就软件来补",而现在软件侧的算力浪费非常大,很多 GPU 利用率非常低,因为模型变化太快、硬件演化缭乱,大家都没把优化做细。

九、薪资:他用半导体的过去推 AI 的未来

  • 硅谷芯片工程师薪资长期低于软件工程师的结构性原因([01:50:38]–[01:51:38]):芯片公司的成本大头是固定资产投资(流片、EDA license、IP 费用);而互联网公司过去一旦产出软件就能无限成本 scale。
  • ⚠️ 他说这个结构正在反转([01:51:38]):云厂商正在变成半导体式的成本结构——capex 成为最大投资,收入成本与硬件成比例。
  • ⚠️ 推论([01:52:38]):"大模型可以认为是你的 EDA 工具,更多的软件工程师变成了用 EDA 工具的人。" 顶尖的那批(类比芯片架构师)维持高回报,大模型工程师的薪资会向"工具使用者"回归。
  • 给学生的建议([01:53:38]–[01:55:41]):要学计算机,因为"人人都要变成架构师"——能上下拉通、用工具实现事情,但底层、商业模式与自己的 taste 都要学。对没兴趣的人,他说 AI 提升生产力后"基本福利还是可以的"——但收尾是一句更重的话:"社会最后有可能真的会两极分化,很多人其实可能就不需要工作。"

相关页面