SemiAnalysis 是一家专注于半导体与 AI 基础设施的独立研究机构,由 Dylan Patel 于 2020 年创立。凭借对技术、供应链、金融与地缘政治的交叉分析,迅速在全球建立起声誉。
本期内容来自Wisdom Tree播客和SemiAnalysis 的创始人 Dylan Patel大约一周前的对话,主要探讨了AI模型、储存周期、CPU市场、CPO和数据中心等当下热点话题。
干货实在过多,硬科君只删除了前半部分关于SemiAnalysis 的相关话题,其余内容基本做到“原汁原味”,希望各位有所收获。
一、AI投入与回报(ROI)
▍ 主持人(WisdomTree)
大家好,欢迎来到新一期节目。今天一同参与节目的,是研究机构 SemiAnalysis 的创始人 Dylan Patel。能和 Dylan 一起梳理当前 AI 基础设施的全貌。
现在有不少讨论,围绕开源模型和闭源模型在推理效率上的差异。而且直到今天,仍有很多投资者在质疑这一切的投资回报(ROI)。就在过去一两周,我记得是一位彭博的经济学家谈到,很多企业的 AI 项目可能正在失败。我知道你强调过你们公司在大量使用 AI,并且很舍得给员工开放大量 token 额度;你也提到你们在招人。我很好奇,你怎么看待这种「终端需求」?
▍ Dylan Patel(SemiAnalysis 创始人)
有这么几点。先看这个最核心的问题:ROI——这些公司从 AI 里赚够了钱吗?这种情况会持续吗?用 AI 的人真的从中获得了价值吗?这是很多人心中的大问号。在我看来,有几种拆解方式。
首先,Anthropic 已经实现自由现金流为正,并且在第二季度实现了盈利。四月他们结账时就是盈利的、自由现金流为正;五月也是;六月看起来也一样——虽然还没完全结账,但至少三个月里有两个月是自由现金流为正且盈利的。他们的经常性收入(ARR)已经突破 500 亿美元,表现非常出色。这是硬币的一面:Anthropic 在「印钞」。当然,还有很多公司没在印钞,但它们正在接近。OpenAI 的收入也开始出现拐点,随着 Codex 的普及而增长,其他产品也是。这些公司的盈利能力都在大幅提升。Anthropic 的毛利率非常高,超过 70%。
你刚才暗示的是另一面:那些在 AI 上花钱的公司怎么样了?至少在 SemiAnalysis,我们的年度支出——我喜欢把它叫 ARS,不是 ARR(年度经常性收入),而是「年度经常性支出」(annual recurring spend)——在去年 11 月、12 月 Claude Code 真正起飞之前,我们的年度经常性支出还不到 10 万美元。当时的配置是:给每个人订阅 200 美元档的 ChatGPT;如果有人想要 xAI 或 Claude,我们也给。基本上就是这样,一年花不到 10 万美元。我认为即便在那时,我们已经算很前沿了。
但后来 Claude Code 随着 Claude Opus 4.5、4.6 一路迭代,真正迎来了拐点。到一月底,我们的年度经常性支出(ARS)冲到了 400 万美元——因为大家都在用 Claude Code。而现在,大约是 1100 万美元。如果把「一周的支出 × 52 周」来算,现在是 1100 万;最高时达到过 1400 万。支出会随着大家在做的任务上下波动,但现在平均下来,一家 90 人的公司一年在 AI 上花大约 1000 万美元。这太疯狂了,我得说清楚。我们的支出里,员工相关支出之外,还有超过三分之一花在 AI 上。到今年底,随着 Methos等新模型不断变好,这个比例可能会到一半。这是巨大的投入。
那问题是:ROI 在哪里?我认为 ROI 非常高,因为我们能更快地做出产品、卖出更多、提升全公司每个人的效率。所以我看得到 ROI。但我觉得很多公司正在质疑:「如果我招一个很棒的开发者,年薪 30 万美元甚至更高,而他在 AI 上的花费开始逼近一比一……」对优秀的开发者来说确实如此;对非开发者,花费有高有低,可能更低。但即便在 SemiAnalysis,我们花钱最多的几个人里,有不少根本不会写代码——他们只是告诉模型想要什么,然后反复迭代,最终得到想要的东西。
于是你会看到「人均 AI 支出」飙升。很多公司现在理所当然地在问:「我们全年的 AI 预算,第一、二季度就烧完了,接下来怎么办?是削减 AI 支出,还是砍别的地方?」很多公司说「也许我们得放慢 AI 投入」。但我看到很多公司开始砍别处:砍掉历史上一直用的其他 SaaS 产品;或者说「我们能增长得更快,就这么干」;或者说「在 AI 上花钱没关系,我们暂时扛一下,AI 一直在变便宜」。随着普及率飙升,六个月前我做的事,现在用 AI 做要便宜得多;当然,我现在用 AI 做的事,也比六个月前复杂得多。
人们的应对方式各不相同。有些人甚至宁可裁员,也不砍 AI;有些人则收紧 AI——但这些公司在生产力提升、以及能做出的东西上,会被甩在身后。
二、模型成本与 Token 效率
▍ 主持人(WisdomTree)
明白了。那么,缓解增量成本的方法之一,就是选用更便宜、有时「没那么聪明」的模型,不一定总用最前沿的。我很好奇:像你们这样的公司,会不会到了某个节点就判断——某些用例更适合用 DeepSeek V4 这类模型来做某类工作,而对那些需要更高智能的任务,再用贵一点的模型?这是你们考量的一部分吗?
▍ Dylan Patel(SemiAnalysis 创始人)
我认为这绝对是部分人考量的一部分。但你得把 AI 工作负载分成两类。
第一类是「把 AI 集成进我已有的流程」。比如:客户发来一份文档,我检查里面的某些内容,把它丢进模型,模型检查完就完事。在这种情况下,我只需要达到某个质量水平;达到之后,我就可以不再升级模型,转而通过等更新、更便宜的模型来降成本。我们看到 AI 模型的成本,大约以每年 60 倍的速度下降——一年后它的价格是1/60。当初大家被 DeepSeek 吓到,是因为它比 GPT-4 便宜 600 倍——而 DeepSeek 大约比 GPT-4 晚两年,按每年 60 倍算是 360 倍,结果实际是 600 倍。总之,无论每年是便宜 60 倍还是 90 倍,曲线上总有个速率。DeepSeek V3 对比 GPT-4,两年便宜了 600 倍;往前看,大致就在这个区间。所以,如果你有一个工作流、把 AI 集成进去,那就是:先达到质量水平,然后不断换更便宜的。
第二类工作是「AI 助手」。这里其实有个误区。如果你在做日常工作,让模型帮你做这个、找那个、弄清楚某件事,那么降成本的办法,往往不是换更便宜的模型,而是换最新的模型。因为最新的模型——比如 Claude 4.6 Opus 做某个任务,可能要 10 万个 token、来回好几轮,花掉我 10 分钟;而 Claude 4.8 Opus 可能只用四分之一的 token(2.5 万个)、只来回一轮就搞定。所以实际成本反而更低,因为生成的 token 更少,我花的时间也更少。
因此,当我看一个开发者、或一个做智力工作的人时,降成本的办法不是用更便宜的模型,而是:把原来需要和模型「搏斗」半天才能完成的任务,换成用更新的模型——现在它能一次迭代、甚至一次性搞定整个工作流,用更少的 token 完成。我们观察到,从 4.6 Opus 升级到 4.7 Opus 时,我的成本先是降了一周,然后又飙回去,因为大家用得更凶了。为什么飙回去?因为大家要适应新工作流——「原来的活干完了,那我再多干点」,用量就上去了。4.7 到 4.8 也是一样:成本先降一周、一周半,然后又飙回去,因为大家发现「哦,现在我能干更多活了」。
所以你得把生产力和成本放在一起衡量。当它是「AI 助手」时,token 效率非常重要。这正是 Anthropic 一直领先 OpenAI 的原因:他们的模型比 OpenAI 更省 token。OpenAI 的模型在边缘场景(前沿科学、前沿数学、前沿代码)上,常常能完成 Anthropic 模型做不了的任务,但要花 3 倍时间、4 倍 token,因此成本高得多;而且「人 + AI」的反馈循环没那么快,最终在客户感知上反而更差。因为对模型说「嘿,去做这个任务」、然后回头检查结果,是一回事;而「我有四个小时做这个任务,模型一次调用就工作四小时」和「四次调用、来回反复」哪个更好,是另一回事。事实证明,当有「人在回路」的反馈循环时,Anthropic 要快得多、也好得多,因为它更省 token。
这就是我们至今仍以 Anthropic 为主的主要原因。有些任务大家确实会用 OpenAI——通常是那些「丢给它跑一整夜」的任务,会交给 OpenAI 的 Codex——但大多数任务还是留在 Claude Code 上。这就是当前模型格局里一个很有意思的点:token 效率就是成本,只是很难简单拆开看。有些任务,你冻结模型质量、等模型变便宜就行;另一些任务,你其实只想用最聪明的模型——因为它反而更便宜。
三、存储(Memory):一场超级周期
▍ 主持人(WisdomTree)
Dylan,我想把话题转向硬件一侧。今年早些时候,你们有篇讲存储的文章。存储历来是周期性的:大概 18 到 24 个月上行,再 18 到 24 个月下行。而现在,感觉几乎所有东西都缺货:只要你做的零部件会进数据中心,问题就不是「你能不能拿到这个零件」,而是「你得等多久」。在当今世界,几乎什么零部件都拿不到。以你对硬件全局的观察,像存储这种过去一直被当作大宗商品、乘上行、熬下行、四十年周而复始的产品,你预计会发生什么变化?
▍ Dylan Patel(SemiAnalysis 创始人)
我并不是说以后就没有周期了。我认为周期还会发生。显然,我们现在处在一个超级周期里,上行疯狂;将来也会有下行,而且同样惨烈。但从一个谷底到下一个谷底,整体仍是大幅增长的。即便处在上行周期……我认为,现在存储(以及其他零部件)的关键,在于「格局正在变化」。
历史上,上行周期里终端市场可能涨 50%;而存储这种大宗商品,定价更有弹性,于是相关股票能涨 2、3 倍。但今天,终端市场不是涨 50%——过去几年里,支出已经翻了一倍,而且还要再翻一倍。总支出翻倍,再看不同终端市场的弹性:存储的价格已经涨了约 4 倍,接下来还要再涨 2、3 倍(这还没算产能增长)。于是相关股票疯涨,然后才会回落。
存储真正令人兴奋的地方在于:它不只是个「终端市场」问题——不只是「市场在涨、它是个高弹性商品、所以价格随终端需求大幅波动」。真正有意思的,是我们在 2024 年写过的:OpenAI 发布 o1,那是第一个推理模型,开创了「推理模型」的新浪潮,OpenAI、Anthropic、DeepSeek 等很多公司都在利用它,让模型去做长周期的智能体(agent)任务。
o1 一出来,我们立刻注意到:工作负载变了。聊天时,你发给 ChatGPT 的提示词可能 50 词、也可能 500 词,你发一段、它回一段,上下文长度也就几千,比如 2000。这意味着做推理时,你每生成一个 token,就要把所有权重读进芯片、把所有上下文读进芯片、处理一个 token,然后再迭代——重新读入所有上下文(即 KV 缓存,它在这些 token 之间建立关联)和权重。
有意思的是,无论上下文是 1000 还是 10 万,你都得把全部权重读进来——所以推理在「权重」这一侧的内存强度是一样的;但在「KV 缓存」(上下文)这一侧,读 1000 个 token 和读 10 万个 token,内存开销是天壤之别,尽管计算量大致相同(因为有 KV 缓存,计算成本不会飙升,但内存成本会飙升)。
所以我们在 2024 年 12 月的 o1 报告里就强调:预训练(pre-training)的扩展定律正在让位于推理(reasoning)的扩展定律,o1 是一次阶跃式变化;KV 缓存会因推理而爆炸,因此存储将是最大赢家。那是 2024 年 12 月。2025 年我们多次看多存储。但真正关键的,是 2026 年 1 月那篇报告:当时人们说「存储已经涨 50% 了,是不是到顶了?还能涨吗?」我们写的报告基本就是:「不不不,我觉得你们没搞明白。未来三年,存储产能每年只增长 20%—30%,而需求却在翻倍、再翻倍。最终的结果就是:存储价格会持续飙升。那些对价格弹性承受力弱、适应力差的存储用户会被挤出市场——智能手机、笔记本,因为成本涨得太猛,会被挤出去,把产能让给 AI。」
这意味着价格只能一路飙升——因为产能增长跟不上。所以我们当时的结论是:存储不是短缺,或者说不是短期短缺,而是会持续数年的短缺。于是我们看到,从一季度剩余时间到现在的二季度,存储一路狂飙。偶尔也会因为一些莫名其妙的原因单日跌 7%、8%,但总体走势就是「向上、向右」。
(声明:以下非投资建议。)我们认为内存会继续飙升,因为价格还在涨,而且我们还没看到高端市场被波及。目前只有一些中低端手机厂商——此处删除国内某手机厂商名字——说它们出货下降了 40%;但高端市场还没受影响。明年 iPhone 一定涨价,MacBook 一定涨价。眼下,如果 MacBook 或 iPhone 涨 100 美元,市场反应不会太大;但存储会越来越贵,直到 AI「吃饱」为止——这意味着智能手机不是只涨 100 美元,而是得涨好几百美元。
最终会达到一个均衡:AI 拿到了它需要的需求,移动和消费硬件被压下去一定程度;但人们总归还是要换新手机、新笔记本,所以还是会买。我们会达到一个新的均衡,因为这个终端市场的存储产能增长不够快。
把视野扩展到整个生态,真正关键的是:很多零部件都在缺货,谁的价格有弹性、谁没有?比如台积电在定价上就没那么大弹性——它是家很不错的公司,对客户很公平、长期合作,只会涨价 5%—10%。而存储公司处在大宗商品市场,由现货和合约市场的供需平衡来决定价格,所以价格能涨两三倍,将来某一天也可能腰斩——因为存储未必配得上 85% 的毛利(虽然它正朝那个方向走)。现在存储毛利率还没到 85%、90%,但会到的;到那之后,又会回落到 70% 多,甚至更低。所以存储会有这种震荡。台积电不会这么震荡,ASML 这些做设备的也不会。
生态的不同环节会以不同方式震荡,取决于:第一,终端 AI 需求有多少能传导到它身上——每花 1 美元在 AI 上,这个产品可能分到 1 美分,那个产品可能分到 5 美分;第二,那里的市场结构如何——是垄断或寡头?是竞争激烈的大市场?是定价稳定、靠长期协议?还是定价随行就市的大宗商品市场?所有这些因素,共同决定了某个终端市场(无论是存储,还是现在大家讨论的 MLCC、PCB 钻头、PCB 铜箔等各种稀奇古怪的零件)会发生什么。你上网一看,到处是「下一个缺货的就是它」。但真正重要的是:需求到底能传导多少?这个终端市场是翻倍、涨 50%,还是翻四倍?价格又会因市场结构涨多少?这些,才真正决定了基础设施产业链上会发生什么。
CPU:被重新定价的市场
▍ 主持人(WisdomTree)
如果套用这个框架——感觉市场每年都会「幡然醒悟」,发现你说过的某个新的「潜在短缺」。今年早些时候,OpenClaw(龙虾)在各网站走红,让人们意识到 AI 智能体的世界和种种可能。用你刚才描述的框架,我很好奇你怎么看待 CPU 市场——AI 的头三年,我几乎没听过「CPU」这个词,而今年到处都在谈 CPU。
▍ Dylan Patel(SemiAnalysis 创始人)
在 CPU 这块,有意思的是:去年 11 月,我们在给客户的机构研究里就开始大量讨论它了。因为 OpenAI 和 Anthropic 开始和亚马逊、谷歌、微软等签协议,把它们机队里所有的 CPU 都买下来、租出去。从去年底到现在,CPU 需求一直在拐点向上。
先说原因。AI 最初是训练和推理,而推理大多是短上下文,基本只依赖算力和网络。但随着预训练转向强化学习(RL)、聊天式推理转向智能体(agentic),出现了一个大拐点:现在对 CPU 的需求大增。
为什么?从预训练到强化学习:预训练是把整个网络数据集训进模型;而强化学习是模型生成一些合成数据或推理轨迹,然后拿它去一个「环境」里检验。这个环境可能是对代码跑单元测试,可能是一个像网站的沙箱,可能是像工程系统的沙箱,或某个你会用的平台——网站、购物网站之类,也可能是编译代码。这些「环境」需要大量 CPU。而预训练时,token 的实际处理并不需要多少 CPU,全是「环境检验」需要——「好,我生成了这些 token,它们合法吗?在 Python 或 C 编译器里、或在某个网站(如果我要买东西,电商之类)里长什么样?」作为智能体工作流,我在不断测试这些东西,这需要大量 CPU。
另一面是实时推理。做聊天时:我告诉它一件事,它回答,结束;我也许再问几个,但仅此而已。而现在谈智能体工作流:模型在调用工具——「我要去搜这个」「我要去数据库查这个」「我要问 Python 解释器、写点代码来验证」「我要写段代码、编译、部署」。这些智能体流程需要的 CPU 越来越多,因为它们必须和真实世界交互。人和模型交互是一回事:我告诉模型一件事,它给我回答,我读了,「好,复制粘贴到某处」。模型和互联网世界交互,是另一回事:中间有大量算力在回路里、大量 CPU 在回路里来回传答案。所以无论强化学习还是智能体工作流,都需要大量 CPU。
好,需要大量 CPU,那套用前面的框架:市场结构如何?市场上有几家:英特尔、AMD;ARM 现在也发布了 CPU,所以 ARM 股票暴涨,因为它是新进入者、看起来很有竞争力;还有亚马逊,以及微软、谷歌自研的 CPU;还有英伟达也在发自己的 CPU。竞争者很多。但直到两年前,整个市场还只有英特尔和 AMD。现在亚马逊拿下了不少份额,英伟达和 ARM 也开始拿更多份额。
终端市场的结果是:英特尔居然能涨价,AMD 也能涨价,两家都涨了,需求也大涨。亚马逊能从 CPU 里榨出惊人的利润,因为他们不是「造了卖」,而是「造了租」——他们的 Graviton CPU 租得飞起,订单也大幅增加。英伟达以前只卖「绑定 GPU 的 CPU」,现在开始卖独立 CPU(就是 Vera),给出了 200 亿美元 CPU 收入的指引。对英伟达来说,200 亿其实不算啥——也就几个点的增长(笑)。但对英特尔、AMD、ARM、亚马逊这些能拿到收入、而不只是销售额的公司来说,意义重大。
▍ 主持人(WisdomTree)
Dylan,接着 CPU 这个话题,我听到的一些讨论是:面向智能体的 CPU 和传统 CPU 在某些方面不一样——我记得黄仁勋讲 Vera CPU 时暗示过,它的核心是为智能体活动做了优化的。另外也有很多关于「GPU 与 CPU 配比」的讨论,这显然体现了 CPU 需求的方向。你能不能就这两点多讲一些?我觉得这个概念在宏观层面大家都能理解,但有些技术细节可能被「扫到地毯下面」了——我不确定那到底是营销,还是确有其事。
▍ Dylan Patel(SemiAnalysis 创始人)
说到智能体工作流,CPU 的使用差异很大。有些工作流是这样的:模型在跑,然后把所有 token 发给某个 CPU 工作流,等 CPU 做完,再发回模型,模型继续。问题是:模型所在的算力,会不会因为等 CPU 而「停摆」?有些情况会,有些不会。
在会停摆的情况下——跑模型的算力就干等 CPU 的响应——那 CPU 的架构就得非常不一样。基本概念是:我要更多核,还是要更快的核?CPU 架构里有个规律:如果你把一个 CPU 核心做大一倍(意味着芯片上核心数减半),单核性能并不会提升 2 倍,可能只提升 50%。当然工程上没这么简单,但作为简化理解,可以这么想。
以英伟达 Vera 的 CPU 为例:它不到 100 核,但每个核比 AMD 的快;而 AMD 的旗舰 CPU 有 256 核。两者核数差很多,英伟达的核更快,但没有快一倍。所以这就是设计空间上的取舍。对于那些「AI 算力必须停摆等 CPU」的工作负载,你不在乎核少、单核只快 50%——总性能虽然更低,但单核性能更高,因此你不会总在等 CPU 核;你不需要高度并行,你只需要「这一个任务立刻做完」。这种情况下,你要最快的核,愿意牺牲多核性能。这是某些智能体工作流。
另一些智能体工作流——比如我们团队每天用 Claude、一年按 ARS 口径在 Claude 上花 1100 万美元——是这样的:我调用 Claude,Claude 处理一堆 token,但它不是只服务我一个人,而是把几十万用户在它所有算力上一起批处理。所以当我拿到响应、轮到我去实现它(无论是我还是某个 CPU 核去实现)时,算力其实没停——只是不再为我跑,而是在为别人跑。所以如果 CPU 慢一点、但数量多得多,那是另一类任务。
还有一种区分:是「主动使用 AI」,还是「用 AI 生成的东西去部署」?妙处在于:全球 GitHub 的提交量相比去年翻了好几倍——不是涨 10%、50%,而是翻了好几倍。这意味着海量代码被生成出来,人们在部署大量代码(很多是垃圾,但确实有很多被部署了)。部署时,它们跑在 CPU 上,而且是普通代码——可能是个网页爬虫、分析引擎、业务流程自动化。这些不一定需要超快的核,跑在性价比高的核上就行。
所以看这条光谱:英伟达造的是最高性能的单核,但「单芯片上 核数 × 单核性能」的总量,它未必最强;而 AMD 和亚马逊核数多得多(上百核),单核性能较低,ARM 也在这一端。你想站在这条光谱的哪一点?有些工作负载你要 Vera,有些你要 Graviton 或 AMD 的 CPU。没那么简单。
至于你问的「配比」:CPU 需求在涨,这一点毋庸置疑。我们是最先喊出来的——去年底在机构研究里,今年 1 月在 newsletter 里。自从我们发布以来,一些 CPU 股票暴涨:ARM 翻了好几倍,英特尔翻了好几倍,AMD 也大涨。但现在,那些根本不懂技术的卖方开始瞎编,把 CPU 对 GPU、CPU 对 AI 算力的配比吹得越来越离谱,甚至偏到 CPU 比 AI 算力还重要——这是错的。
重申一下:一颗顶配的 Blackwell 要五万多美元,如果按 1:1 配比,CPU 才 5000 美元左右。那么卖出 3000 亿或 5000 亿美元的 Blackwell,对应的 CPU 销售额也就 300 亿或 500 亿美元。这是人们开始忽略的另一点。没错,这个终端市场在疯涨,但大头资金仍然流向 AI 算力和存储。这个市场之前被低估了,现在定价更合理了。我认为人们需要认识到:CPU 需求并不会一直涨、涨到超过 AI ASIC。这更像是一次「再平衡(right-sizing)」。
2023、2024 年,卖出的是数以百万计的 AI 芯片,CPU 却很少。现在 CPU 需求突然拐点向上——配比不该停在那儿,应该上调。大家在「补课」:既要为历史上买的算力补齐 CPU,也要为当前买的算力配 CPU。可一旦把过去买的所有 AI 芯片都补齐了 CPU,那部分需求就没了——已经补完了,之后只剩增量。
打个比方:假设配比是 1 颗 CPU 对 2 颗 GPU,每颗 GPU 5 万美元,每颗 CPU 5000 美元。那么我每花 10 万美元在 GPU 上,只花 5000 美元在 CPU 上——这个市场对 CPU 其实没那么大(虽然对 CPU 来说已经比过去好太多)。但反过来想:过去三年我出货了 1000 万颗 AI ASIC,几乎都没配 CPU,那么那 5000 美元的 CPU 就有巨大的「补课」空间。这就是我们现在经历的:一次巨大的补课,加上配比上移,那笔积压的需求正在被补齐。所以你看到需求疯涨,但它会回落,然后进入稳态。我们正处在 CPU 的一个「迷你周期」里。
五、光通信与网络(CPO 与铜缆)
▍ 主持人(WisdomTree)
我们转到网络,进入技术栈的另一层。我想这是很多投资者关注的焦点,尤其是当他们深入光通信(optics)供应链及其约束时。我们看到一些估计:共封装光学(CPO)虽然被炒得很热,但真正部署可能要到 2027、2028 年。业内有个概念叫「能用铜就用铜,不得不用光才用光」,以及这种从光到铜的过渡。黄仁勋在 Computex 上也谈过。还有很多讨论把 Marvell(迈威尔)这类公司推到聚光灯下。关于光通信,以及你如何看待未来两年数据中心在网络架构上的演进,你还有什么补充的想法吗?
▍ Dylan Patel(SemiAnalysis 创始人)
趋势其实很清楚。随着模型变大,我们怎么跨机器跑它们?怎么训练它们?光通信栈里有很多不同的领域:电信光通信(像 Ciena 这类公司一直在涨,以及围绕它们的供应链);数据通信(datacom)、芯片间互连——既有铜的领域,也有光的领域,今天都在涨。因为网络含量的增速比任何其他部分都快(按百分比算):网络占 AI 芯片相关支出的比例,正从不到 10% 升到 10% 以上;到 CPO 时代,网络占比会更高,达到 20%、30%。所以网络含量大幅抬升。
但反过来看:CPO 是行业的一次巨大变化,现在人人都认识到 CPO 了。可我认为,人们今天有点过于亢奋了。在我看来,CPO 不会在 2027 年到来;真正放量要到 2028 年底,2029 年才是规模化共封装光学的真正爬坡期。中间问题很多——主要是制造问题。如果今天就能以合理成本部署,那当然人人都用。但它非常难:制造良率没到、产能没到、芯片设计也没到位。爬坡非常复杂、困难。所以人们会尽可能久地留在铜上。这意味着:Rubin 全是铜;GPU 上的 Feynman(费曼)也还是铜——这是英伟达在 Rubin、Rubin Ultra 之后的下一代 GPU,而Rubin 才刚开始发货。所以在 GPU 上用上共封装光学之前,还有好几代芯片。交换机上的共封装光学会比 GPU 或 AI ASIC 来得更早一些。
不过即便没有 CPO,随着集群规模变大,每颗 GPU 也需要更多光模块,或更多有源电缆(AEC)之类。所以我们看到了这个巨大的格局变化。之前我们给机构研究订阅用户发了一篇报告,谈的就是一种「局部错配」——不是说终端市场错。我们早就认同 CPO 终将到来,也一直这么推;我们认同铜会逐渐被取代。但中期来看,我们其实非常看多铜、非常看多非 CPO 的光通信,反而对 CPO 偏看空——因为我们在下游看到一些芯片的延迟,比如 Feynman 没有全部采用 CPO,等等。像 Amphenol(安费诺)这样做背板连接器和电缆的铜缆公司,未来几年会比此前预期好得多——因为我们原以为 CPO 会更早放量,现在推迟了。供应链里就是会发生这种事。
但说到底,光通信是这样的:如果你今天闭上眼,五年后再睁开,它会大得多。其中很多已经反映到股价里,也有很多还没。我认为存在一些局部错配。这也是我们做研究、以及和你们合作时一直在做的:如何权衡?CPO 光通信和非 CPO 光通信各占多少?传统光模块和铜各占多少?因为铜其实还有很长的路——铜行业里有很多创新,正在把 CPO 往后推。说到底,为什么要做 CPO?因为集成光学的成本远高于用电传输;除非——用电传输传不远,除非加中继器或换光。所以这里有取舍、有光谱。CPO 会来,但看起来又被推迟了一点。
六、电力与数据中心能源
▍ 主持人(WisdomTree)
Dylan,我们聊最后一个话题——电从哪来?怎么把电变成可用的形式?我知道你在 newsletter 里写过直流(DC)和交流(AC)之类。从理论上说,当你看到超大规模厂商砸这么多钱建数据中心、甚至可能把发电厂就建在园区内时,我们该如何看待电力需求——电网供电和非电网供电?我知道这是个大话题,但我觉得至少得在这里提一提。
▍ Dylan Patel(SemiAnalysis 创始人)
数据中心的增长极其庞大。今年我们要部署 20 吉瓦(GW)的数据中心,明年增加到 30 吉瓦,后年到 50 吉瓦。数据中心容量的增长非常惊人。人们要应付很多「局部错配」。我认为能源是最大的约束之一;其次是政治因素;第三是建设——建数据中心、拿许可和批文,在政治层面挺难,有人想阻止。但归根结底,最主要的制约还是能源。
能源可以拆成几块:发电(电从哪来)、输电(怎么把电从发电地送到数据中心)、转换(因为输送过来的电的形态,芯片用不了,芯片要的是另一种形态,这条「转换管线」长什么样)。我认为这三块里都有非常看多的点。输电这块最难看多,因为监管上建更多输电容量很难,加上地方公用事业的垄断运作方式——它们建一条输电线,要把成本摊到所有用户头上,而不是单个用户——输电有各种奇怪的错配,所以按输电口径,扩建电网容量挺难。
但发电和转换这两块很有意思。发电方面,电网上当然有更多发电在建;同时有一个大趋势:为数据中心就地发电。我们预计几年后,数据中心新增电力中有一半会来自「现场发电」,而不是外部电网。「表后(behind the meter)」正在飙升。我们在数据中心和能源模型里有个「表后追踪器」。我团队里有人在哈萨克斯坦建过一座发电厂,现在领导我们的能源模型。她一直在追踪,我们在建一个覆盖整个电网的模型:每一个发电资产、每一条输电资产、所有负荷资产,以及所有表后项目。
我们看到「表后」出现了巨大的繁荣。当然也有人在许可和监管上处处阻挠——比如不肯批空气排放许可,或不让铺天然气管道。我们在一个甲骨文(Oracle)的数据中心就见过这种情况。阻力来自方方面面,但终局是:表后在飙升。其中很多是天然气——比如 GE Vernova、三菱或西门子的燃气联合循环机组。但除此之外,还有很多不同类型的能源:往复式发动机、工业燃气轮机、各种柴油机、火车发动机。人们把火车发动机、船用发动机、卡车发动机改造成数据中心的发电装置。所以这里有一片创新的海洋。
并不是说我们没有工业产能。美国一年能造数以百万计的往复式发动机(就是烧燃料、转起来的发动机),把它们从柴油改成燃气非常容易,就算用柴油也行。然后装上一台电机、反向驱动,就能发电。于是你可以用很大规模来发电。我们看到,将有超过 10 吉瓦的数据中心用这种技术来建:把柴油卡车发动机改成燃气(出厂时就能改,很简单)、反向驱动一台电机、装在数据中心现场,一个数据中心背后排几百台;再雇一帮汽修店的技工,整天围着这些柴油发动机做保养。你会留些冗余,这样它们出故障时可以边修边保持最大功率。显然中间还需要些电池,因为你不希望数据中心负荷的上下波动把发动机搞坏。
于是你有了一整条「表后」供应链,这很令人兴奋。此外,大约两年后,光伏加储能会比天然气更便宜。当然,光伏加储能的供应链很难,而且取决于你要多高的可靠性:如果电池只够撑过一夜,那更便宜;但如果你需要电池撑三天(因为可能连下两天雨),你要几个 9 的可靠性?不过光伏加储能正因为中国的制造实力(以及一些补贴)而以惊人的速度变便宜,总有一天会比天然气划算。
再往外,还有太空数据中心——你甚至不需要电池,把它送上天,装块太阳能板就完事。于是从「把柴油发动机改成燃气发动机」,到「用燃气联合循环」,再到下游的「干脆把芯片射上太空」,是一整条连续的链条。这里面有很多钱可赚,有很多有意思、有动态的事情可做。这也是为什么——你可能以为 SemiAnalysis 最大的数据集和研究垂直是半导体——其实是数据中心与能源,我们叫「数据中心、工业与能源」团队,内部戏称为「DEI 团队」。
但这是一个高度去中心化的市场。存储只有三家,很简单;加速器只有寥寥几家;晶圆制造设备也只有寥寥几家。而这个领域,供应链里有上百家公司做各种稀奇古怪的小零件,有几十家公司在建数据中心,有几十家公司在做独立发电商(IPP)、做表后、提供电池服务等等。这是一条非常复杂的供应链,但也充满活力,我认为有大量创新正在发生。
所以,数据中心会一直是某种约束,但又不会是约束——取决于你愿意多疯狂。就像我说的,你可以拿卡车发动机改造、雇一帮汽修工,就这么跑一个站点——这不是最好的方案,很多人会说「这也太low了,能有多可靠?多麻烦啊?」但确实有人在这么做,而且能跑起来;虽然麻烦得要命,但确实能跑。一直到「我要把它射上太空」——很麻烦、很难做成,但也能成。所以数据中心的难题是有解的,无论是「全用最low的办法」,还是「全射上太空」。而供应链的其他环节,你没有这种灵活性。我认为正是这一点让这个市场如此动态——你会看到人们大起大落。
哦对,刚才说的是发电和输电,还有转换这一侧:怎么把电从发电形态、输电形态,变成芯片想要的形态?这里也有一整条供应链:IGBT、碳化硅、各种 MOSFET、氮化镓(GaN)MOSFET,等等。当我们从 12V 到 54V、再到 800V 直流,中间的转换供应链会发生什么?固态变压器(solid-state transformer)随着创新会怎样?还有 UPS(不间断电源)、备用电池、超级电容,以及所有把电「捋顺」的方式——把左边产生的「脏」的、波动的电,变成右边超级干净、但用量又波动的电,怎么把两边匹配起来?这整条转换管线,是超级超级令人兴奋的。我们上周刚发了一篇关于 800V 的博客。最近我们也跟机构订阅用户谈过这里出现的一些延迟——在英伟达这边,他们把 800V 从 Kyber 里推迟了:Rubin Ultra Kyber 不再有 800V 了。这对供应链意味着什么?意味着又要往后推一点。
我还想补一句:这条供应链简直太疯狂了。我们常常谈论那些大环节——存储、CPU、数据中心——但当你真正钻进供应链,会发现局部的「小疙瘩」又多又碎。有几个月我们一直在聊 PCB 钻针,还有 PCB 上那种莫名其妙的铜箔……供应链里有各种稀奇古怪的小东西也会出现错配,而且这些环节里的公司遍布全球:可能在中国台湾交易,可能在日本、在韩国,在世界任何地方——投资者并不容易触及。
▍ 主持人(WisdomTree)
完全同意。感谢大家今天的陪伴,我们期待未来再见。保重。







