本期访谈中，被称为“HBM 之父”的韩国 KAIST 教授金正浩，系统讲述了 HBM 为什么会成为 AI 时代的关键部件，也提出了一个更激进的判断：未来 AI 计算机的核心结构，不会只是 GPU 加内存，而是 HBM、HBF、HBS 共同组成的 3D 半导体大楼。在他看来，AI 的能力最终会被内存能力决定。今天的 AI 工厂，本质上也是“内存工厂”。

以下为本次访谈核心内容整理。

HBM不是为AI而生，却正好撞上了AI时代

主持人：很多人这两年才听说 HBM。因为从 HBM3 开始，真正大规模量产和应用也就是最近两年的事。可是您很早就参与了相关研究，为什么会这么早进入这个领域？

金正浩：如果只看 HBM3，确实是最近两年的事情。但 HBM1 其实在 2010 年代初期就已经开始了，当时主要是和 SK 海力士合作，应用方向更多是图形显卡，英伟达、AMD 这些 GPU 公司也在其中。

我自己的背景更早一些。我 1993 年拿到博士学位，做的是接近物理学的研究，研究非常快的电信号，用激光观察飞秒尺度下的现象。那时候做的东西很窄、很深，但三十年后反而和今天的 AI、数字电路、超高速信号联系起来了。

后来我觉得，自己还是想做一个能和产业和世界沟通的方向。于是 1994 年去了三星电子的内存事业部，从那时开始一直研究内存。1996 年到 KAIST 之后，持续做了大约十年的基础研究。到了 2010 年左右，这些前期研究逐渐以 HBM 的形式产品化。

主持人：当时您想到过，它未来会成为 AI 的核心部件吗？

金正浩：没有。一开始没人是冲着今天的 AI 去做 HBM 的。

当时 AMD、英伟达主要是想把它用在显卡上。我自己的想法甚至更偏电视产业，因为韩国电视产业很强，我觉得未来电视画面要更华丽、更真实、更生动，可能需要这样的芯片。

真正让我转向 AI，是 2015 年前后。当时学校里一些年轻教授开始聊 deep learning，我发现他们说的东西我听不懂。于是我开始学习 AI。表面上，我的实验室还是做 HBM；但从个人研究兴趣上，我从 2015 年起已经转向了 AI。

学了几年之后，我发现 AI 算法和 HBM 完全对上了。无论是 CNN、强化学习，还是后来的大模型，本质上都需要大量矩阵运算，而这些计算背后需要持续、高速地调用数据。HBM 正好适合这个场景。

主持人：所以 HBM 的关键价值是什么？

金正浩：可以简单理解为两点：第一，容量要更大；第二，数据要更快送到 GPU。

AI 越往后发展，内存里需要存放的数据越多。现在有上下文工程、多模态、物理 AI，输入的不只是文字，还有图片、视频、文件、个人数据。模型工作时，中间过程也要保存，比如 KV cache，这些都会极大增加内存需求。

可是传统半导体继续缩小已经越来越难。晶体管、内存单元之间会有干扰、漏电，已经接近量子力学边界。所以如果平面上不能继续缩小，就只能往上堆叠。

这就是 HBM 的第一层逻辑：把 DRAM 一层一层叠起来，增加容量。

第二层逻辑是带宽。AI 计算时，GPU 需要不断从内存里取数据。如果原来的内存像 8 车道高速公路，HBM 就是 1024 车道、2048 车道，未来甚至可能是百万车道。它通过高度并行的方式，把数据以极高速度送到计算单元。

所以 HBM 不是单纯“把内存叠高”，它的核心是：容量变大，通道变宽，数据流动变快。

HBM之后是HBF：AI需要的不只是快内存，还有更大的记忆库

主持人：现在 HBM 很火，但您也多次提到 HBF。HBF 和 HBM 到底有什么区别？

金正浩：一般来说，内存有两类：一类是 DRAM，一类是 NAND Flash。

DRAM 速度快，但保存时间短；NAND Flash 速度慢一些，但容量更大，也能长期保存数据。HBM 是把 DRAM 叠起来，而 HBF 可以理解为把 NAND Flash 叠起来。

为什么需要 HBF？因为 AI 对容量的需求会继续暴涨。

以前我们和 AI 对话，可能只是输入一段文字。现在做上下文工程，要附带文件、图片、视频，甚至把大量个人记录都交给 AI。再往后进入 Agentic AI，一个人可能会调用十个、上百个 AI 代理替自己工作。人会睡觉，AI 不会。它们 24 小时运行，产生和调用的数据量会比今天大很多。

仅靠 HBM，容量可能不够。于是就需要 HBF 这种容量更大的方案。

主持人：所以 HBM 和 HBF 是竞争关系，还是互补关系？

金正浩：我认为是互补关系。

HBM 更快，但容量相对有限；HBF 慢一些，但容量更大。未来大概会像一个城市综合体：最中心是速度最快、最关键的 HBM，周围还有不同类型的 HBF，大家共同服务 GPU 或 AI 计算系统。我预计到 HBM8 左右，HBM 和 HBF 会一起使用。那时不是只有一种内存，而是 HBM、HBF 多种形态连接在一起，形成一个复杂的内存系统。

主持人：从产业角度看，这对三星和 SK 海力士意味着什么？

金正浩：很重要。因为目前全世界同时具备 HBM 和 HBF 能力的公司，主要是三星电子和 SK 海力士。有些公司能做 NAND Flash，能做 HBF，但做不了 HBM。有些公司在某一类内存上很强，但未必能同时把两边都做好。所以从未来 AI 计算架构来看，三星和 SK 海力士手里有非常强的工具。

当然，能不能真正把这个机会变成产业主导权，还要看技术开发、投资、人才培养和经营判断。不是说有机会就一定赢，关键是能不能提前看到这个方向，并且敢于投入。

主持人：您有一句判断很直接：AI 等于内存。为什么这么说？

金正浩：以前我也以为，AI 能力主要来自数学、模型结构、Attention 机制。但后来我越来越明确地感觉到，真正决定 AI 能力的，是内存能力。

不管是 OpenAI、Google Gemini，还是 Anthropic Claude，谁的模型更强，背后都离不开更强的数据中心。而数据中心现在也被称为 AI Factory，AI 工厂。但在我看来，AI 工厂的核心就是内存，所以它也可以叫“内存工厂”。谁拥有更多、更强的内存，谁就拥有更强的 AI 能力。这不只发生在数据中心。未来 AI PC、AI 手机、AI 眼镜都会需要更多内存。也许未来一台 AI 手机价格的一半以上，都会来自内存成本。AI 越个人化、越本地化，内存需求就越大。

GPU时代正在转向推理时代，内存公司有机会重新定义主导权

主持人：现在全球大科技公司里，英伟达表现最强。您怎么看它的优势？

金正浩：过去 AI 主要是训练时代。训练需要大量 GPU，因为 Transformer 模型训练涉及反向传播、微分运算，GPU 非常适合做这件事。所以可以说，训练时代就是 GPU 时代。

但从去年开始，推理变得越来越重要。模型训练好之后，真正大规模使用发生在推理端。推理需要不断读取大量数据，把用户上下文、外部资料、历史记录、工具调用都放进来。这个阶段，内存的重要性会显著上升。所以我的判断是：训练时代 GPU 最重要，推理时代内存会越来越重要。

主持人：这会削弱 GPU 的地位吗？

金正浩：至少 GPU 的增长会遇到瓶颈。GPU 要提升性能，通常要扩大面积，放进更多计算单元。但面积不能无限扩大。像 Cerebras 这样的公司做了整片晶圆级 GPU，12 英寸晶圆就是一颗芯片，非常激进。但这样做良率和经济性都会是问题。

GPU 还有一个问题：太热。内存可以往上叠，但 GPU 很难像内存一样堆很多层，因为需要散热。它必须把冷却结构放在背面，否则温度压不住。

更关键的是，今天很多 GPU 实际上并没有一直满负荷工作。数据没从内存送过来时，GPU 就只能等。即便你装了一百万颗 GPU，如果内存读写跟不上，真正工作的时间也可能很低。

主持人：这就是您提出“内存中心计算”的原因？

金正浩：对。既然 GPU 总是在等内存送数据，为什么不把计算能力放进内存里？

如果把 HBM 看成一栋大楼，过去的模式是：数据从这栋楼出来，跑到另一栋楼里的 GPU 去计算，再把结果送回来。那为什么不在 HBM 这栋楼的一层就放一些 GPU 功能？数据直接在楼内完成部分计算，不是更高效吗？我把这叫 memory-centric computing，也就是以内存为中心的计算。

从 HBM4 开始，这个趋势已经出现。未来 HBM、HBF 内部会加入更多计算功能，甚至有一天 CPU 也可能被放进去。

主持人：如果这样发展，三星、SK 海力士是不是有机会获得更大主导权？

金正浩：可以这么说，机会正在到来。如果内存不只是存储，而是逐渐承担计算、通信、调度功能，那么内存公司就不再只是供应商，而可能成为 AI 架构中的核心主导者。

但这也意味着挑战。HBM4 开始，散热会变得非常关键。因为一旦在 HBM 底部加入 GPU 功能，下面会很热，上面的内存就像住在“地暖房”上，温度过高会影响性能。

所以未来 HBM 的竞争，不只是容量、带宽，也是谁能更好地冷却。三星和 SK 海力士之间的差距，可能就体现在散热和封装技术上。

中国追赶、美国牵制与HBS终局：下一代AI芯片会是一座3D半导体大楼

主持人：如果 HBM、HBF 决定未来 AI 算力，那中国一定也会追赶。现在中国厂商也在开发 HBM，CXMT 据说也要量产 HBM3，您怎么看？

金正浩：中国进入这个市场是不可避免的。现在 AI 对内存的需求增长太快，只靠三星、SK 海力士和既有厂商，很难完全满足市场。未来中国内存企业拿到 5% 或 10% 的市场份额，是有可能的。更重要的是，中国有自己的内需市场。华为、阿里这些公司如果做 NPU、GPU，也都需要内存，中国市场自然会扶持本土供应商。

但 HBM 不是做出来就结束了。它还涉及良率、性能、封装、散热、客户验证和长期合作。即便中国企业几年后做出 HBM3，我认为和三星、SK 海力士相比，性能和良率上仍然会有差距。而等中国追到 HBM3 的时候，韩国企业可能已经在推 HBM5。

主持人：也就是说，中国会追上来，但韩国必须始终保持代际领先？

金正浩：对。美国企业、中国企业，迟早都会追 HBM、HBF。韩国没有别的选择，只能持续保持最先进的技术能力。风险不只是中国。美国也会追。英伟达、谷歌这些公司，不可能永远只依赖三星和 SK 海力士。它们会给美光更多订单，也会给闪迪、铠侠更多机会。韩国企业不能觉得现在领先就安全了。

还有国际政治风险。假设有一天美国和中国关系缓和，美国放松技术封锁，甚至英伟达说要使用中国内存，那对韩国半导体会是很大的冲击。所以这不是单纯的技术竞赛，也是一场产业、政策和国际政治共同决定的竞争。

主持人：除了 HBM 和 HBF，您最近还提出了 HBS，也就是高带宽 SRAM。这个概念是什么？

金正浩：SRAM 比 DRAM 快得多，大约可以快一千倍，但容量太小。

现在有一些公司试图把内存放进 GPU 内部，比如 Cerebras 或一些 LPU 芯片，但问题是容量不够。所以我想，能不能把 SRAM 也做成晶圆级，再一层一层堆起来？比如堆 12 层、16 层，容量就会变得很可观。这样既有极高速度，又有足够容量。这个方向我称为 HBS。

主持人：如果把 HBM、HBF、HBS 放在一起，未来 AI 芯片会变成什么样？

金正浩：我的判断是，未来 HBM、HBF、HBS 都会像一百层大楼一样叠起来。最上面放 GPU，并配合冷却系统，形成一个完整的 3D 半导体结构。这可能就是未来 AI 计算机不可避免的形态。但它也会带来最困难的问题：供电和冷却。如果 GPU 放在 HBM、HBF、HBS 上面，系统可能需要几千安培的电流。怎么设计电力供应网络，怎么把热量排出去，都会成为最关键的技术。未来判断 TSMC、三星、SK 海力士、英伟达、AMD 谁更强，可能不只是看几纳米制程，而是看谁能把 3D AI 计算结构的供电和散热做好。未来的 AI 电脑，不会只是 GPU 旁边插几块内存，而会是一座由 HBM、HBF、HBS 堆叠起来的 3D 半导体大楼。谁能解决其中的带宽、容量、供电和散热问题，谁就可能掌握下一代 AI 基础设施的主导权。

主持人：谢谢您今天的分享

金正浩：谢谢