芯片层 开放阅读

HBM3

HBM3

概念 ID
hbm3
更新时间
2026-05-29
来源数量
待补

HBM3

3 秒看懂

HBM3(High Bandwidth Memory 3,第三代高带宽存储器) 是一种将多层 DRAM 裸片垂直堆叠、通过硅穿孔(TSV)互连的 3D 存储架构。其核心价值是:在极小封装面积内,以 1024-bit 宽接口 + 高数据速率实现每堆栈 数百 GB/s 量级的带宽,是当前 AI 训练/推理加速器突破”存储墙”的关键器件。

一句话记忆:HBM = 把内存”立起来”,用宽度换带宽,喂饱 GPU 的算力饥渴。

3 分钟产业解释

为什么 HBM3 突然成了焦点?

AI 大模型训练的本质是”矩阵乘法 + 数据搬运”。当参数规模从十亿级跃升到万亿级时,计算单元(GPU/TPU)的算力增长远超传统内存带宽的提升速度,形成所谓的 “存储墙”(Memory Wall)

传统 GDDR 显存和 DDR 内存走的是”窄接口 + 高频率”路线,带宽提升遇到物理极限。HBM 走了截然相反的路径——“宽接口 + 适中频率”:把 8~12 层 DRAM 裸片像”千层饼”一样垂直堆叠,每层通过数千根 TSV 微孔与底部逻辑层直连,再通过硅中介层(Silicon Interposer)与计算芯片封装在一起。

HBM3 是 HBM 家族的第三代产品(JEDEC 标准编号 JESD238),相较 HBM2E,在数据速率、每堆栈带宽、可堆叠层数上均有显著提升。其增强版本 HBM3E 进一步推高了数据速率,已成为 2024–2025 年高端 AI 芯片的标配存储方案。

产业定位一句话

HBM3/HBM3E 处于 存储芯片(DRAM)→ 先进封装(CoWoS/equivalent)→ AI 加速器 三大产业链的交汇点,是 AI 基础设施中价值密度最高的器件之一。

15 分钟专家深入

需求端:谁在”吃”HBM3?

终端需求场景典型芯片HBM 配置(公开信息/行业估算)
AI 训练(万卡集群)NVIDIA H100 SXM6 堆栈 HBM2E,共 80 GB
AI 训练/推理NVIDIA H2006 堆栈 HBM3E,共 141 GB
AI 训练(下一代)NVIDIA B100/B200 系列HBM3E,容量进一步提升
AI 训练/推理AMD MI300X8 堆栈 HBM3,共 192 GB
云端推理/AIGoogle TPU v5e/v6 等定制 HBM 方案(未完全公开)

注:具体配置信息来源为厂商发布会/财报/供应链报道,部分参数厂商未完全公开,以 [行业估算] 标注。

核心驱动力:

  1. LLM 训练——万亿参数模型需要巨大显存容量 + 极高带宽来维持 GPU 利用率;
  2. 长序列推理——KV Cache 占用随上下文长度线性增长,推高单卡显存需求;
  3. 多模态模型——视觉/音频 token 的引入进一步扩大数据搬运量。

供给端:谁在造?

HBM3/HBM3E 的供给格局高度集中,全球仅三大原厂具备量产能力:

厂商市场地位HBM 代际进展
SK 海力士行业龙头,HBM 出货量全球第一(据行业估算份额 50%+)HBM3 已量产,HBM3E 率先量产并供货头部客户
三星第二大供应商,近年加速追赶HBM3 量产,HBM3E 已通过部分客户验证
美光第三家进入者HBM3E 已宣布出货(据厂商公开信息)

供应瓶颈不仅在 DRAM 本身,更在先进封装产能——尤其是 CoWoS(Chip-on-Wafer-on-Substrate) 类封装工艺。HBM 堆栈必须与计算芯片共载于硅中介层,而 CoWoS 产能主要集中在台积电(TSMC),成为短期最大的约束环节。

定价与经济性

HBM 单位容量价格远高于标准 DDR5(行业估算 HBM 每 GB 售价约为 DDR5 的 5–8 倍甚至更高,具体取决于代际和合约条件)。但对 AI 加速器而言,HBM 成本占芯片总 BOM 的比例已从早期的 10%–15% 攀升至 30% 甚至更高 [供应链估算],成为影响 AI 芯片成本结构的关键变量。


技术原理

HBM3 架构总览

HBM3 的核心设计哲学是 “以宽度换频率”:通过超宽并行接口(1024-bit per stack)在适中的数据速率下实现极高带宽,同时利用 3D 堆叠在极小面积内容纳大容量 DRAM。

┌─────────────────────────────────────────────────┐
│            HBM3 堆栈结构(侧视示意)              │
│                                                   │
│   ┌──────────┐  ← 顶部 DRAM Die(Layer N)       │
│   │ DRAM Die │                                    │
│   ├──────────┤  ← DRAM Die(Layer N-1)           │
│   │ DRAM Die │    每层之间通过微凸块(μ-bump)连接  │
│   ├──────────┤                                    │
│   │   ...    │  ← 8-high 或 12-high 配置          │
│   ├──────────┤                                    │
│   │ DRAM Die │  ← 底部 DRAM Die(Layer 1)        │
│   ├──────────┤                                    │
│   │ Base Die │  ← 逻辑基底层(含 I/O PHY、        │
│   │(Logic)   │    通道控制逻辑等)                  │
│   └──────────┘                                    │
│       │ TSV(硅穿孔)贯穿各层                      │
│       │                                            │
│   ════╪════  ← μ-bump / C4 bump                  │
│       │                                            │
│   ┌───┴───────────────────────────────────┐       │
│   │      硅中介层(Silicon Interposer)     │       │
│   └──────┬───────────────────┬────────────┘       │
│          │                   │                    │
│   ┌──────┴──────┐    ┌──────┴──────┐             │
│   │  计算 Die   │    │  HBM Stack  │             │
│   │  (GPU/ASIC) │    │  (×N stacks)│             │
│   └─────────────┘    └─────────────┘             │
│                                                    │
│         封装在同一个有机基板上                       │
└────────────────────────────────────────────────────┘

通道架构

HBM3 继承并扩展了 HBM 家族的多通道设计:

  • 每个 HBM3 堆栈包含 16 个独立通道(Channel),每通道接口宽度 64-bit;
  • 总接口宽度 = 16 × 64 = 1024-bit per stack
  • 每个通道独立支持读写操作,可并行服务不同请求,天然适配 GPU 的多线程访存模式;
  • 相比 DDR(单通道 64-bit),HBM3 的并行度高了一个数量级。

关键参数(定性 + 定量)

参数HBM3 规格说明
每堆栈接口宽度1024-bit(16 通道 × 64-bit)
JEDEC 基础数据速率最高 6.4 Gbps/pin [JEDEC JESD238]
每堆栈带宽(理论峰值)≈819 GB/s @ 6.4 Gbps [按 1024-bit × 6.4 Gbps / 8 计算]
增强版(HBM3E)数据速率厂商已演示 8.0–9.2+ Gbps/pin 级别 [厂商公开披露]
HBM3E 每堆栈带宽>1 TB/s(按 9.2 Gbps 计算约 1.18 TB/s)[行业估算]
堆叠层数4-high、8-high、12-high(量产以 8-high 为主)
单堆栈容量取决于单颗 DRAM Die 密度和堆叠高度(8-high 常见 16–24 GB 级别 [行业报道])
互联方式TSV(硅穿孔)+ 微凸块(Micro-bump)
封装方案需与计算芯片共载于硅中介层(CoWoS-S 为代表方案,CoWoS-L/R 为变体)
单堆栈功耗约 4–7 W 量级 [行业估算,因频率/容量/代际有差异]

⚠️ 准确性声明:上表中标注 [JEDEC] 的为行业公开标准信息;标注 [计算] 的为基于公开接口规格的推导;标注 [行业估算] 或 [行业报道] 的为供应链侧估算,厂商可能未正式确认。HBM3E 的具体速率因厂商实现和客户定制而异,上表给出的是公开报道的范围。

为什么”宽接口”能带来高带宽?

这涉及一个基本的带宽公式:

带宽 = 接口宽度(位) × 数据速率(bps/pin) / 8 (→ Bytes)
存储类型接口宽度数据速率(典型)带宽(估算)
DDR5(单通道)64-bit~6.4 Gbps~51 GB/s
GDDR6X(单芯片)32-bit~21 Gbps~84 GB/s
HBM3(单堆栈)1024-bit6.4 Gbps~819 GB/s
HBM3E(单堆栈)1024-bit8.0–9.2 Gbps~1.0–1.2 TB/s

GDDR 靠更高频率追赶,但频率提升会遇到信号完整性、功耗、散热等物理瓶颈;HBM 通过 TSV 实现超宽并行接口,以适中频率获得数量级更高的带宽,且 TSV 互连极短(微米级),信号完整性和功耗远优于传统封装走线。

TSV 与微凸块

  • TSV(Through-Silicon Via):在硅裸片中蚀刻的微孔(直径通常约 5–10 μm),填充导电金属(通常为铜),贯穿硅片实现上下层垂直电气互连。
  • Micro-bump:层与层之间间距约 25–40 μm 的微焊点,实现物理连接和电气导通。
  • TSV 数量:每个 DRAM Die 上有数千个 TSV 信号孔,加上大量接地/供电 TSV,整个堆栈的 TSV 总数可达数万根。

信号完整性与功耗

HBM3 的超宽接口意味着大量的并行信号线,对信号完整性设计提出极高要求。TSV 互连的长度仅在微米量级,远短于 PCB 走线,这是 HBM 能以适中频率实现极高带宽的物理基础。但 TSV 本身会引入寄生电容/电阻,且大量并行 I/O 的总功耗仍然可观,这是单堆栈功耗达到数瓦量级的原因之一。


技术演进史

HBM 家族演进路线(简化)
══════════════════════════════════════════════════════════════

2013       2016        2019       2022        2024       2025+
  │          │           │          │           │          │
  ▼          ▼           ▼          ▼           ▼          ▼
HBM1       HBM2       HBM2E      HBM3       HBM3E      HBM4
  │          │           │          │           │          │
  │          │           │          │           │          │
~128GB/s   ~256GB/s   ~460GB/s   ~819GB/s   >1TB/s    TBD
per stack  per stack  per stack  per stack  per stack  (预期接口
(峰值)     (峰值)     (峰值)     (峰值@6.4Gbps)         可能变化)
  │          │           │          │           │          │
4-Hi       8-Hi        8-Hi      8/12-Hi    8/12-Hi    预计
首次量产   V100搭载    A100/H100  AMD MI300   H200等     更高密度
                        搭载      等搭载      B系列搭载   逻辑基底

关键里程碑:

时期事件
2013 年JEDEC 发布 HBM1 标准(JESD235);AMD 与 SK 海力士联合推动
2015 年AMD Radeon R9 Fury X 成为首款搭载 HBM1 的消费级 GPU
2016 年JEDEC 发布 HBM2 标准;NVIDIA Tesla P100 搭载 HBM2
2017–2018 年NVIDIA V100 搭载 HBM2(16/32 GB),成为 AI 训练主力
2019 年HBM2E 标准发布,数据速率提升至 ~3.6 Gbps
2020–2021 年NVIDIA A100 搭载 HBM2E(80 GB),H100 同样采用 HBM2E
2022 年JEDEC 发布 HBM3 标准(JESD238);SK 海力士率先量产
2023 年AMD MI300X 搭载 HBM3(192 GB),成为首批大规模搭载 HBM3 的 AI 芯片
2023–2024 年HBM3E 进入量产;SK 海力士领先,三星/美光跟进
2024 年NVIDIA H200 搭载 HBM3E(141 GB);B 系列亦采用 HBM3E
2025 年+HBM4 预期将引入更大变革(逻辑基底 Die 由芯片设计方定制等)

技术路线对比

维度HBM2EHBM3HBM3EHBM4(预期)
JEDEC 标准JESD235DJESD238JESD238 + 厂商增强制定中
每堆栈接口宽度1024-bit1024-bit1024-bit可能扩展(TBD)
每通道宽度64-bit (×16ch)64-bit (×16ch)64-bit (×16ch)TBD
JEDEC 基础数据速率~3.6 Gbps6.4 Gbps≥6.4 Gbps(厂商实测 8.0–9.2+ Gbps)TBD
每堆栈带宽~460 GB/s~819 GB/s~1.0–1.2 TB/s预计数 TB/s 级别
最大堆叠高度8-Hi8-Hi/12-Hi8-Hi/12-Hi可能更高
典型单堆栈容量8–16 GB16–24 GB24–36 GB更大
封装需求CoWoS 类CoWoS 类CoWoS 类可能变化
逻辑基底厂商定制简单逻辑厂商定制逻辑厂商定制逻辑可能由 芯片设计方 定制逻辑 Die
主要应用A100、H100MI300X 等H200、B 系列下一代 AI 芯片

⚠️ HBM4 信息为行业预期/讨论阶段,具体参数尚未由 JEDEC 正式公布。


上下游

产业链全景

上游设备/材料         中游制造/封装              下游应用
─────────────      ─────────────────        ─────────────
                                             
硅片(信越/SUMCO)    DRAM 裸片制造            AI 训练加速器
  │                 ├─ SK 海力士               ├─ NVIDIA (H/B系列)
TSV 刻蚀设备        ├─ Samsung                ├─ AMD (MI系列)
(TEL/DISCO等)       └─ Micron                 ├─ Google (TPU)
  │                         │                  └─ 各ASIC创业公司
键合设备                   │                  │
(Besi/ASM等)              ├─ TSV 制造          AI 推理加速器
  │                       ├─ 晶圆堆叠/键合     ├─ NVIDIA
封装基板                    │                  └─ 各云端厂商
(味之素ABF/              ├─ 先进封装              │
 Ibiden/Shinko)           │ (CoWoS等)        HPC/数据中心
  │                       ├─ TSMC              │
硅中介层                    ├─ Samsung          游戏GPU(少量)
(台积电等代工)              └─ Intel            │
                                              其他高带宽需求

关键瓶颈节点

  1. CoWoS 封装产能:HBM 必须与计算 Die 共封于硅中介层,CoWoS 产能(以台积电为主)是 2023–2025 年持续紧张的瓶颈。
  2. DRAM 晶圆产能向 HBM 转移:HBM 制造需要消耗更多 DRAM 晶圆面积(堆叠良率、TSV 面积开销等),三大原厂正在将部分标准 DRAM 产能转向 HBM,挤压标准 DRAM 供给。
  3. TSV 键合设备:高精度堆叠键合设备交期长,产能有限。

关键指标

判断 HBM3/3E 产品竞争力的核心指标:

指标含义当前水平参考
每堆栈带宽单堆栈可提供的峰值内存带宽HBM3 ~819 GB/s,HBM3E >1 TB/s
每堆栈容量单堆栈可容纳的存储总量8-Hi 常见 16–24 GB(因 Die 密度不同而异)
带宽/功耗比每瓦特功耗提供的带宽(GB/s/W)约 100–200 GB/s/W 量级 [行业估算]
带宽/面积比封装面积上的带宽密度远优于 GDDR 方案
良率TSV 堆叠良率(直接影响成本)核心竞争力之一,各厂商保密
每 GB 成本HBM 定价 / 容量远高于标准 DRAM,行业估算约 5–8× DDR5
散热设计堆叠散热能力限制持续工作频率12-Hi 比 8-Hi 散热挑战更大

供需与市场数据

市场规模

指标数据来源
2023 年 HBM 市场规模约 20–40 亿美元(估算区间)[行业报告估算,不同机构口径有差异]
2024 年预估大幅增长,同比翻倍以上[行业报告估算]
2025–2026 年预估百亿美元级别(乐观预测更高)[行业报告估算]
HBM 在 DRAM 市场中的收入占比从 2022 年的低个位数快速上升至 2024 年约 10%–20%+[行业估算]

供需格局

需求侧:

  • 2024–2025 年全球 AI 训练与推理算力部署处于高峰期,HBM 需求量(以 GB 计)持续高速增长;
  • 单颗 AI 芯片搭载的 HBM 容量逐代递增(A100 80GB → H200 141GB → B系列更多),叠加出货量增长,HBM 总需求呈指数上升趋势。

供给侧:

  • 三大原厂均在扩产,但 HBM 制造工序复杂(TSV、多层堆叠、测试),产能爬坡周期长;
  • HBM 单片消耗的晶圆面积远大于标准 DRAM(行业估算 2–3 倍以上),产能转移导致标准 DRAM 供给趋紧;
  • 先进封装(CoWoS)产能是另一个持续瓶颈。

价格趋势:

  • HBM3/3E 处于供不应求状态,合约价格持续坚挺;
  • HBM 高溢价是存储厂商利润率提升的核心驱动力。

代表公司与资本映射

核心标的

公司角色HBM 相关看点
SK 海力士 (000660.KS)HBM 全球龙头,HBM3/3E 率先量产市场份额最大,受益最直接;HBM 贡献利润占比快速提升
三星电子 (005930.KS)第二大 HBM 供应商,加速追赶HBM3E 通过验证后出货量有望放量
美光 (MU)第三家进入 HBM3E 量产的原厂美国本土产能优势,受益地缘政治需求
TSMC/台积电 (TSM/2330.TW)CoWoS 先进封装核心供应商HBM 需求拉动 CoWoS 产能需求和 ASP 提升
NVIDIA (NVDA)最大 HBM 终端采购方HBM 供给/成本直接影响其产品出货节奏和毛利

设备/材料/封装产业链

公司环节备注
DISCO (6146.T)晶圆切割/减薄TSV 工序关键设备
东京电子 (8035.T)TSV 刻蚀/CVD 等HBM 制造工序设备供应商
Besi (BESI.AS)高精度键合设备堆叠键合环节关键
ASM Pacific (0522.HK)封装设备键合/封装设备
味之素 (2802.T)ABF 绝缘薄膜封装基板关键材料
Ibiden (4062.T)封装基板先进封装基板供应商

以上为产业链梳理,不构成投资建议。具体营收贡献比例需以各公司财报披露为准。


投资逻辑

核心主线

  1. AI 算力 × 存储乘数效应:每一美元 GPU 投资需要配套数美元存储投入,HBM 是其中价值密度最高的部分。AI 资本开支增长 → HBM 需求弹性放大。

  2. 供给刚性 + 价格坚挺:HBM 制造工艺复杂、产能扩张慢(TSV 良率爬坡、CoWoS 产能约束),短期内供需缺口难以弥合,支撑较高定价。

  3. 产品结构升级驱动利润率:对三大存储原厂而言,HBM 单位利润远高于标准 DRAM,HBM 营收占比提升是推动利润率超预期的关键变量。

  4. 技术代际升级带来的价值量提升:HBM2E → HBM3 → HBM3E → HBM4,每代产品的单位带宽价值和绝对价格均在上升。

风险因素

  • AI 投资周期波动:若 AI 算力资本开支增速放缓,HBM 需求可能低于预期;
  • 技术路线风险:若新的存储技术(如 CXL 扩展内存、新型存储器等)在部分场景替代 HBM,可能影响长期需求结构;
  • 竞争格局变化:三星等后来者良率追赶速度、价格竞争可能影响龙头溢价;
  • 地缘政治:存储产业链高度全球化,贸易限制可能影响供需格局。

常见误读纠偏

误读 1:HBM3 每堆栈带宽 = HBM3E 每堆栈带宽

纠偏:HBM3 和 HBM3E 是不同规格的产品。JEDEC HBM3 标准(JESD238)定义的基础数据速率上限为 6.4 Gbps/pin,对应每堆栈约 819 GB/s。HBM3E 是在 HBM3 架构基础上的增强版本,数据速率提升至 8.0–9.2+ Gbps/pin 级别 [厂商公开披露],每堆栈带宽超过 1 TB/s。两者虽然接口架构相似(均为 1024-bit),但实际带宽差距约 30%–50%,不可混为一谈。

误读 2:HBM 堆叠层数越多越好

纠偏:12-Hi 比 8-Hi 在容量上有优势,但堆叠层数增加带来多方面挑战:① 散热——更多 DRAM 层意味着内部热量更难散出,热密度升高可能限制持续工作频率;② 良率——12 层堆叠的总体良率低于 8 层,成本上升;③ 高度——堆栈越高,对封装工艺和机械强度要求越高。当前量产主流仍是 8-Hi,12-Hi 主要用于容量敏感场景。堆叠层数选择是容量、功耗、成本、良率的综合权衡。

误读 3:HBM 的瓶颈只在 DRAM 产能

纠偏:这是一个常见误解。HBM 的瓶颈是 多维度的:① DRAM 晶圆产能(将标准 DRAM 产能转向 HBM 需要时间);② TSV 制造和堆叠键合工序的产能及良率;③ CoWoS 等先进封装产能(硅中介层面积大、工艺复杂,台积电产能紧张是 2023–2024 年最显著的瓶颈之一);④ 测试工序——HBM 需要多轮测试(每层 Die 测试 + 堆叠后整体测试),测试时间和成本不可忽视。因此,即便 DRAM 晶圆产能充裕,其他环节仍可能构成供应瓶颈。

误读 4:HBM 可以随意搭配任何 GPU/APU

纠偏:HBM 不是即插即用的标准内存模块(DIMM)。它必须通过硅中介层与计算芯片物理共封装,这意味着:① 芯片设计阶段就需要规划 HBM 接口 PHY;② 封装方案(CoWoS 等)需要与计算芯片协同设计;③ 不同代 HBM(HBM2E/3/3E)接口电气特性不同,通常不可跨代混用。每个 AI 芯片的 HBM 配置(堆栈数、容量、代际)在芯片设计之初就已确定。


学习路径

入门级(1–2 天)

  1. 理解”存储墙”问题——阅读 Hennessy & Patterson 关于存储层次的经典讨论,或搜索”Memory Wall problem AI”相关科普;
  2. 阅读 SK 海力士官网对 HBM 产品线的介绍(有较好的技术概览图);
  3. 理解 3D 堆叠封装的基本概念(TSV、interposer)。

进阶级(1–2 周)

  1. 阅读 JEDEC HBM3 标准概要(JESD238 的公开概述文档,注意完整标准需付费获取);
  2. 学习 CoWoS 封装技术——台积电的技术论坛/公开演讲材料中有较好的介绍;
  3. 了解 HBM 与 GDDR 的技术路线对比——带宽公式、功耗模型、面积效率;
  4. 阅读三大存储厂商的季度财报电话会议纪要(earnings call transcript),关注 HBM 相关的营收/出货/产能讨论。

专家级(持续跟踪)

  1. 跟踪 Hot Chips、ISSCC 等顶级学术/产业会议上关于 HBM 的技术演讲;
  2. 深入理解 HBM4 的技术方向——逻辑基底 Die 定制化、可能的接口架构变化;
  3. 跟踪 CoWoS 及替代先进封装技术(如 Samsung I-Cube、Intel EMIB/Foveros 等)的产能和技术进展;
  4. 构建 HBM 供需量价模型——结合 AI 芯片出货预测、单芯片 HBM 容量趋势、原厂产能扩张计划。

一句话总结

HBM3 是 AI 时代的”算力燃料管道”——它不生产算力,但没有它,算力就无法被释放;其价值不在于 DRAM 本身,而在于 3D 堆叠 + 宽接口 + 先进封装所构成的系统级带宽解决方案。


延伸阅读与来源

类别推荐资源说明
标准文档JEDEC JESD238 (HBM3)HBM3 官方规范(完整版需从 JEDEC 获取)
行业报告TrendForce / Omdia / Yole 关于 HBM 的年度市场报告市场规模、份额、预测数据的主要来源
厂商技术资料SK 海力士 HBM 产品页、Samsung Memory 官网产品规格、技术白皮书
厂商财报SK 海力士、三星、美光季度财报及 earnings callHBM 营收贡献、产能规划、价格趋势的一手信息
先进封装TSMC 技术论坛 (OIP) 演讲、CoWoS 公开资料封装技术细节
学术/产业会议ISSCC、Hot Chips、IEDM 论文集HBM 相关前沿技术论文
供应链分析各券商半导体团队深度报告(中信/华泰/摩根士丹利等)供需模型、产业链映射

⚠️ 免责声明:本页所有市场数据、价格、份额信息均基于公开信息和行业估算,不同来源口径可能存在差异。具体投资决策应以最新官方披露和专业研究报告为准。本文不构成任何投资建议。


最后更新:基于截至 2025 年中可获取的公开信息撰写。HBM 技术和市场格局快速演变,请以最新资料为准。

source: 公开披露与公开资料整理 本页仅用于产业链学习、信息检索和研究辅助;不构成投资建议,不预测涨跌,不提供买卖、仓位或目标价建议。
完整概念页 复盘 13 节结构 公司投研页 沿产业链找到受益公司 投资课 把概念转成可跟踪模型