12Hi 堆疊
3 秒看懂
12Hi 堆疊,即 12‑High Stack,指在三維封裝中垂直疊放 12 層 同質或異質晶片(當前主流是 DRAM),通過矽通孔(Through‑Silicon Via, TSV)和微凸塊(μBump)實現層間互連,目標是在同等底面積上成倍擴大儲存容量,並縮短資料物理路徑以提升能效與頻寬。在 HBM(高頻寬儲存器)領域,12Hi 是 HBM3/HBM3E 世代的核心高容量方案,單堆疊容量可達 24‑36 GB,單棧頻寬可超 1 TB/s(HBM3E 標準),直接支撐大型模型訓練所需的近存計算資料供給。
一句話記住:12Hi = 12 層 DRAM 晶粒垂直疊在一起,容量是同世代 8Hi 的 1.5 倍,解決的是“一個 GPU 旁邊能塞多少 GB”的問題,頻寬由介面標準決定而非層數本身。
3 分鐘產業解釋
12Hi 堆疊是先進封裝與儲存晶片製造兩大領域的深度交叉地帶。它絕非簡單“把 12 片晶圓摞起來粘住”,而是一套完整的系統工程,覆蓋晶圓減薄(研磨至 30‑50 μm,接近一張 A4 紙)、高深寬比 TSV 穿孔與銅填充、每層晶片微米級精確對位(≤0.5 μm)、微凸塊鍵合、薄芯搬運、底部填充與模塑、以及最終堆疊體的熱管理設計等 10 餘道核心工藝。
產業驅動力來自生成式 AI 的算力軍備競賽。GPT‑4 等大型模型引數動輒數千億到萬億級,單次訓練需將海量權重駐留在靠近 GPU 的儲存器中,傳統 GDDR 方案在容量密度和能效上均已觸達物理極限。12Hi HBM3E 使單顆粒(Stack)容量達到 36 GB(12 層 × 每層 24 Gb),6 顆即可組成 216 GB 的 GPU 近存總容量,且每位元傳輸能耗(pJ/bit)約為 GDDR6 的 1/3 到 1/4。
產業格局方面,12Hi 堆疊能力直接劃分了儲存廠商的競爭梯隊——能穩定量產 12Hi HBM3E 並通過輝達等 GPU 巨頭認證的,才能進入高階 AI 晶片供應鏈的“核心圈”。截至 2025 年 Q1,SK 海力士、三星、美光三家壟斷全球 HBM 供應,12Hi HBM3E 已取代 8Hi 成為高階 AI GPU 標配方案。
產業意義:12Hi 堆疊是儲存廠商在“製程微縮”(1α→1β→1γ nm)之外的又一競爭主軸,也是先進封裝從“輔助工藝”升級為“核心價值環節”的標誌性技術。
技術原理
2.1 堆疊架構全景
典型 12Hi HBM 堆疊自上而下包含:
- 底部一層邏輯/基礎晶片(Base Logic Die 或 Buffer Die),承擔與 GPU 物理層(PHY)的介面通訊、片上測試電路(DFT)、冗餘修復控制(PPR,Post‑Package Repair)等核心邏輯功能。該 Die 製程通常採用更為成熟的邏輯工藝(非 DRAM 工藝),以兼顧複雜電路密度和成本。
- 其上堆疊 12 層 Core DRAM Die,每層均為獨立的 DRAM 儲存陣列(多個 Bank Group),同時嵌有貫穿矽基板的 TSV 互連結構。
- 層與層之間通過微凸塊陣列(μBump,典型間距 40‑55 μm)加底部填充(Underfill)實現機械固定與電氣連線。當前兩大主流填充路線為 SK 海力士的 MR‑MUF(Mass Reflow‑Molded Underfill)和三星的 TC‑NCF(Thermocompression‑Non‑Conductive Film)。未來可能演進至無凸塊的 Cu‑Cu 混合鍵合(Hybrid Bonding),間距可縮至 10 μm 以下,進一步提升互連密度並降低介面熱阻。
- 整體堆疊底部通過更大尺寸的 μBump 或直接鍵合與矽中介層(Silicon Interposer, 如台積電 CoWoS‑S)相連,再經中介層內部的多層金屬走線連線到側方的 GPU/ASIC 主晶片。
2.2 資料通道與互連拓撲
HBM 採用獨立通道架構,每個通道是一組 128 位寬(DQ)的全雙工或半雙工匯流排,附帶獨立的命令/地址(C/A)和時鐘。一個 HBM Stack 通常配置 8 個或 16 個通道(HBM3/E 最多 16 通道),因此 12Hi 下每個 Stack 的總位寬可達 1024 位或 2048 位。
垂直方向,每個 I/O 對應一個貫穿所有 DRAM 層的 TSV 鏈,通過微凸塊逐層連線,資料從頂層 DRAM Die 出發,逐層下行至 Base Logic Die,再跨中介層進入 GPU。這一垂直路徑長度僅數百微米,遠短於傳統 DIMM 的 PCB 走線(數釐米至數十釐米),從根本上降低了延遲與功耗。
典型 12Hi HBM 堆疊截面示意(簡化):
+--------------------+ ← GPU/ASIC Die(計算核心)
| GPU/ASIC Die |
+--------+-----------+
| μBump/C4 bump
+--------+-----------+
| Si Interposer | ← 矽中介層(內有 RDL 金屬走線)
+--------+-----------+
| Base Logic Die | ← 命令/地址/資料路徑控制、DFT、修復
+--------------------+
| DRAM Core Die #1 | ← 最靠近散熱路徑,溫度最低
+--------------------+
| DRAM Core Die #2 |
+--------------------+
| ... #3‑#11 |
+--------------------+
| DRAM Core Die #12 | ← 離散熱路徑最遠,熱積累最嚴重
+--------------------+
TSV 垂直貫穿所有 Core Die 及部分 Logic Die 層
2.3 TSV 的電氣與物理基礎
TSV 是 12Hi 堆疊的“脊椎”,其關鍵引數包括:
- 深寬比(Aspect Ratio):當前 12Hi 所用 TSV 深寬比通常在 10:1 至 15:1 之間(孔徑 5‑10 μm,深度 50‑100 μm)。更高層數堆疊需更深的 TSV 或更薄的單層厚度。
- 填充材料:電鍍銅為主流,需保證無空洞(Void‑free)填充,否則會導致電阻升高或長期可靠性質變。
- 單 TSV 電阻:典型值在數十至數百 mΩ 量級(具體值屬廠商核心工藝機密),堆疊 12 層後整條 TSV 鏈總電阻可影響 I/O 功耗。
- 寄生電容:TSV 周圍的矽襯底與絕緣層(SiO₂ liner)形成寄生電容,高速訊號翻轉時需充放電該電容,帶來額外動態功耗。12Hi 層數增加使 TSV 總長度和總寄生電容均有所上升,這也是堆疊層數增加帶來“能效代價”的根本物理原因之一。
2.4 關鍵引數(定量說明,數值標註來源與口徑)
以下引數基於 JEDEC HBM3 標準(JESD238)及廠商公開技術論文,部分為行業共識範圍。具體產品數值因廠商、產品和出貨版本而異,請以各廠商最終版 Datasheet 為準。
- 容量:單層 DRAM 容量由儲存製程決定。HBM3 時代主流使用 1α nm 級製程(約 14‑16 nm 等效),單層 16 Gb(2 GB);HBM3E 時代匯入 1β nm 級,單層可增至 24 Gb(3 GB)。12Hi 容量 = 12 × 單層容量,因此 HBM3 12Hi 為 24 GB/Stack(截至 2023 年末出貨,來源:SK 海力士 2023 年 Q4 公告),HBM3E 12Hi 為 36 GB/Stack(2024 年 Q1 出貨,來源:SK 海力士 2024 年 2 月新聞稿、三星 2024 年 2 月新聞稿;美光 2024 年 9 月公告確認量產)。
- 頻寬(單 Stack):由每 I/O 資料速率與通道數共同決定,與堆疊層數無直接因果關係。HBM3 基礎標準定義每 I/O 速率最高 6.4 Gbps,HBM3E 推進至 8.0‑9.2 Gbps。以 1024 位寬、8.0 Gbps 計算,單 Stack 頻寬 = 1024 × 8.0 / 8 = 1024 GB/s(1 TB/s)。實際產品中:NVIDIA H200 使用 6 顆 8Hi HBM3E 組 141 GB 總容量(頻寬約 4.8 TB/s 總,來源:NVIDIA 2023 年 11 月白皮書),B200 使用 8 顆 8Hi HBM3E 組 192 GB。基於 8Hi 的資料可推知,若同等位寬與速率換裝 12Hi,容量提升 50%,頻寬不變。
- 能效:以能量效率 pJ/bit 衡量。JEDEC HBM3 標準下典型值約 3.5‑4.0 pJ/bit(來源:ISSCC 2023 論文《A 24GB HBM3 12‑High Stack…》,三星團隊),HBM3E 通過最佳化 I/O 電路和降低 TSV 寄生,目標降至約 3.0‑3.5 pJ/bit 區間。對比 GDDR6X 的 7‑8 pJ/bit 水平,HBM 能效優勢顯著。
- 延遲:以列地址訪問延遲(tAA)為例,HBM3 通常在 70‑100 ns 級(含 TSV 路徑和邏輯 Die 緩衝區時延),具體數取決於頻率分檔和廠商實現。12Hi 與 8Hi 的延遲差異通常在個位數納秒內,取決於頂層 Die 到 Base Die 的 TSV 鏈長度差(約 120‑200 μm,對應約 0.2‑0.3 ns 級傳播延遲)。
技術路線對比
3.1 主流技術路線定量對比(表格資料為行業共識範圍,標註“估算”或引用來源)
| 指標 | 8Hi HBM3 | 12Hi HBM3 | 12Hi HBM3E | 16Hi(開發中/預研) |
|---|---|---|---|---|
| 單 Stack 容量(典型) | 16‑24 GB | 24 GB | 36 GB | 目標 48‑64 GB |
| 單 Stack 頻寬(典型) | 600‑819 GB/s | 819 GB/s | 900‑1024+ GB/s | 目標 >1.2 TB/s |
| 每 I/O 速率 | 4.8‑6.4 Gbps | 6.4 Gbps | 8.0‑9.2 Gbps | 目標 9.2‑12.0 Gbps |
| pJ/bit(能效) | ~3.8‑4.2[估算] | ~3.8‑4.2[估算] | ~3.0‑3.5[估算] | 目標 <3.0 |
| 單 DRAM 層厚 | 40‑55 μm | 35‑50 μm | 30‑45 μm | 目標 <30 μm |
| 堆疊總厚(含 Logic) | ~500‑600 μm | ~650‑750 μm[估算] | ~600‑720 μm[估算] | 挑戰 <900 μm 且控翹曲 |
| 層間互連間距 | 40‑55 μm μBump | 同左 | 同左,部分預研混合鍵合 | 目標 <10 μm Cu‑Cu |
| 量產良率相對水平 | 高(成熟期) | 中等偏高(已量產,海力士 2024 良率>80%[信源:韓媒 ChosunBiz 2024‑03 引述業內人士]) | 中等偏高(爬坡中,美光 2024‑12 電話會稱“良率進展符合預期”[來源:美光 FY25Q1 電話會記錄]) | 研發階段,良率資料公開資料未見 |
| 代表出貨產品 | NVIDIA H100 SXM(6×8Hi HBM3, 80 GB) | AMD MI300X(8×12Hi HBM3, 192 GB) | NVIDIA H200(6×8Hi HBM3E, 141 GB),B200(8×8Hi, 192 GB),12Hi 版本待確認 | 實驗室 Demo 階段(三星/SK 海力士 ISSCC 2024 展示) |
資料口徑說明:表中“典型”值綜合 JEDEC 標準上限及廠商公開產品實際規格。頻寬數值為理論峰值,持續頻寬受熱預算、重新整理排程等因素影響,通常低於峰值。良率系生產技術指標,各廠商不公開詳細數字,僅引用具有第三方報道或業績會模糊表態的參考值。
3.2 兩大工藝路線:MR‑MUF vs TC‑NCF
12Hi 堆疊的關鍵分歧點在於層間填充和鍵合方式。
SK 海力士 MR‑MUF(Mass Reflow‑Molded Underfill)
- 工藝簡述:先在所有 DRAM 層間預置微凸塊,一次性整體迴流焊(Mass Reflow),隨後用環氧模塑膠(EMC)在模具中整體填充至所有層間間隙。特點是填充速度快、適用於大規模量產,且 EMC 材料本身熱導率可控,通過新增高導熱填料(如氧化鋁、氮化硼)可部分緩解層間熱阻。
- 優勢:據海力士公開材料及行業分析(SemiAnalysis 2023‑11),MR‑MUF 在 Wafer‑level 厚度均勻性控制和 Void 率方面優於早期 TC‑NCF 版本。後續報道中 SK 海力士 2024 年 12Hi HBM3E 良率率先穩定在較高水平,與該工藝成熟度密切相關。
- 侷限性:整體迴流焊對翹曲控制要求極高(12 層堆疊翹曲本身已顯著),且隨層數繼續增加,MUF 填充底部的均勻性面臨挑戰。
三星 TC‑NCF(Thermocompression‑Non‑Conductive Film)
- 工藝簡述:每疊一層 DRAM 時,於介面放置一層非導電膜(NCF,通常為環氧基),利用熱壓鍵合(TC Bonding,溫度~250‑300°C,壓力若干 MPa)同時實現微凸塊連線與 NCF 固化。逐層堆疊,無需整體迴流焊。
- 優勢:逐層控制可針對每層微調溫度和壓力,理論上應力管理更精細,適合更高層數(三星宣稱 TC‑NCF 系面向 16Hi 及以上的關鍵路徑,來源:三星半導體 2023 部落格)。
- 侷限性:量產產率(UPH)低於整體迴流的 MR‑MUF 路線;早期 12Hi 開發中曾被韓媒報道出現“散熱與良率爬坡問題”(2023‑2024 年多篇 ETNews 報道提及,三星後續表示已改善)。NCF 材料自身熱導率通常低於新增高導熱填料的 EMC,可能加劇層間熱積累。
兩條路線仍在持續演進中,短期看 MR‑MUF 在 12Hi 量產競速中佔得先機(海力士 2024 年率先大規模向 NVIDIA 供貨),中長期需觀察 HBM4/16Hi 時代的混合鍵合是否會“統一”技術路徑。
上游:裝置與材料
12Hi 堆疊的上游承載了整個先進封裝產業的最尖端環節,對裝置和材料提出極高要求。以下按價值鏈追溯:
4.1 核心裝置
- 晶圓減薄裝置:DRAM 晶圓需從初始的數百微米研磨至 30‑50 μm 才能進行 TSV 高密度疊放。核心供應商為日本 DISCO Corporation(全球減薄/劃片市佔率領先,來源:公司 IR 材料)和東京精密(Tokyo Seimitsu)。減薄工藝不僅要控制總厚度變化(TTV,通常要求 <1‑2 μm 級精度),還需避免研磨損傷導致的晶片弱化。
- TSV 刻蝕與填充裝置:深矽刻蝕採用 Bosch 工藝(交替蝕刻與鈍化),主要裝置商為 Lam Research(深矽刻蝕腔體)和應用材料(Applied Materials)。TSV 銅電鍍填充則由電鍍裝置完成,主流供應商包括應用材料(Semitool 系列)、科林研發(Lam Sabre 系列)、以及日本的 EBARA 等。
- 臨時鍵合/解鍵合裝置:薄晶圓搬運需先將其臨時鍵合到載體晶圓(Carrier Wafer),堆疊完成後再解鍵合。此環節高階市場由 EV Group(EVG)、SUSS MicroTec 和 Tokyo Electron(TEL)佔據。
- 堆疊鍵合裝置:
- MR‑MUF 路線:整體迴流焊裝置主要用於大規模微凸塊連線,後段 MUF 由模塑裝置完成,核心供應商包括 TOWA Corporation(日本,市值較小,但在 MUF 工藝上是海力士供應鏈關鍵角色,來源:TOWA 2023‑2024 年若干業績說明會材料提及 HBM 相關訂單)。
- TC‑NCF 路線:逐層熱壓鍵合裝置精度要求極高,主要供應商為 Hanmi Semiconductor(韓)、ASMPT(新加坡)及日本廠商。
- 混合鍵合裝置(面向 16Hi/HBM4):當前處於預研和應用匯入期,核心裝置商為 EVG(GEMINI 系列)、SUSS MicroTec、應用材料。
4.2 關鍵材料
- 矽晶圓:12Hi 堆疊本身不直接消耗更多原始矽晶圓(DRAM 製程消耗),但中介層(Interposer,通常 >65×25 mm)消耗大量優質矽片面積,是先進封裝用矽的增量需求來源。
- 底部填充/模塑膠:MR‑MUF 使用的環氧模塑膠(EMC)需同時滿足低熱膨脹係數(CTE,匹配矽的 ~3 ppm/°C)、高填充流動性(無空洞)和適度高導熱率(>1‑3 W/mK 甚至更高填充配方)。供應商:住友電木(Sumitomo Bakelite)、信越化學(Shin‑Etsu Chemical)、以及納美仕(NAMICS,日本)。三星 TC‑NCF 使用的非導電膜也對上述特性有類似需求,填料設計側重差異。
- TSV 絕緣層材料:低溫 CVD 二氧化矽(SiO₂)為主流,需在高深寬比孔內形成共形沉積,由前道薄膜沉積裝置(CVD/ALD)用氣體/前驅體提供,供應商包括 Versum Materials(現 Merck KGaA)、DNF 等。
- 銅電鍍液及新增劑:以保證無空洞填充為關鍵指標,全球主要供應商為 MacDermid Alpha(Element Solutions)、Atotech(MKS Instruments)、Uyemura 等。
下游:核心應用與繫結關係
12Hi HBM 的下游高度集中於AI 加速器/GPU 和超大規模雲端服務商自研晶片,呈現出“一個客戶(輝達)決定產業節奏”的典型特徵,但格局正在多元化。
5.1 GPU/AI 加速器廠商及其方案
| 廠商 | 產品 | 採用 HBM 規格 | HBM 總容量 | 來源/時間 |
|---|---|---|---|---|
| NVIDIA | H100 SXM | 6 × 8Hi HBM3 | 80 GB | NVIDIA 2022 年釋出 |
| NVIDIA | H200 SXM | 6 × 8Hi HBM3E | 141 GB | NVIDIA 2023‑11 釋出 |
| NVIDIA | B200 SXM | 8 × 8Hi HBM3E | 192 GB | NVIDIA 2024‑03 GTC 釋出 |
| NVIDIA | B300/後續 Ultra | 據供應鏈報道將匯入 12Hi HBM3E | 288 GB(8×36GB)[估算] | 公開資料未見官方確認,SemiAnalysis 2024‑06 分析文章預測 |
| AMD | MI300X | 8 × 12Hi HBM3 | 192 GB | AMD 2023‑12 “Advancing AI” 釋出會 |
| Intel | Gaudi 3 | 8 × HBM3E(8Hi 或 12Hi 待確認) | 128‑256 GB 範圍[估算] | Intel 2024‑04 Vision 釋出,詳細配置未完全公佈 |
| 自研 ASIC | AWS Trainium2 | HBM3 或 HBM3E,具體配置公開資料未見 | — | — |
| 自研 ASIC | Google TPU v5p | HBM3,層數資訊公開資料未見 | — | — |
關鍵解讀:
- 截至 2025 年初,NVIDIA B200 仍使用 8Hi HBM3E(192 GB),尚未選擇 12Hi 方案。市場對此有兩種解釋:其一,8Hi 供應更成熟、良率更高;其二,NVIDIA B200 推出時機較早(2024 Q1 釋出目標),當時 12Hi HBM3E 尚未大批次通過認證。預計後續 B 系更高階型號(B300/B300A 等)將匯入 12Hi,反映“頻寬優先→容量優先”的需求演進。
- AMD MI300X 自 2023 年底起採用 12Hi HBM3,容量達 192 GB,在推論場景(大上下文 Prompts)獲得容量優勢。這使 AMD 在部分大型模型推論跑分中領先同期 H100。
5.2 最終需求來源:AI 訓練與推論
- 訓練:萬億引數級模型的訓練需要高頻寬以支撐梯度通訊,需要大容量以儲存完整模型權重和最佳化器狀態。12Hi 提供的 36 GB/Stack 容量可減少“需要多 GPU 對同一模型分割槽”的頻率,降低跨節點通訊開銷。
- 推論:大上下文視窗(如 1M tokens)的長序列推論需將整個 KV Cache 存放於近存高頻寬記憶體中,12Hi 的大容量優勢在這裡更突出。部分業內人士認為,未來推論場景對 12Hi 及更高層數 HBM 的拉動將不遜於訓練。
受益公司
以下梳理基於公開產業鏈分析(不構成任何投資建議),按價值環節分類,並標註業務相關性與時間節點。
6.1 儲存器 IDM(直接受益方)
- SK 海力士(SK hynix,000660.KS):截至 2024‑2025 年為 HBM 市場份額第一(TrendForce 2024‑03 報告估計約 50%+)。率先量產 12Hi HBM3E 並通過 NVIDIA 認證,良率領先。2024 年 HBM 營收貢獻已進入顯著提升階段(據公司 FY24 財報電話會,HBM 相關銷售年增率增超 300%[來源:SK Hynix 2025‑01 業績釋出 PPT])。
- 三星電子(Samsung Electronics,005930.KS):12Hi HBM3E 已量產,早前因良率和散熱爬坡一度落後,但 2024 年下半年據韓媒報道已進入 NVIDIA 認證後期階段。三星同時擁有完整的晶圓代工+中介層+DRAM+封裝能力,長期在成本整合上具備潛在優勢。
- 美光科技(Micron Technology,MU):策略為直接跳過 8Hi HBM3,全力切入 12Hi HBM3E。2024 年 9 月宣佈量產並向客戶送樣,2024 年底納入部分客戶供應鏈。美光 HBM 市場份額從 2023 年的“幾乎為零”提升至約 5‑7%(TrendForce 2024‑10 估算),展望稱 HBM 產能至 2025 年繼續翻倍。
6.2 封裝裝置與材料(間接受益方,波動性強於 IDM)
- DISCO Corporation(6146.T):晶圓減薄/劃片的近乎壟斷性供應商,HBM 擴產直接拉動減薄機和劃片刀消耗。公司 2024 財年營收創歷史新高(據公司 2025‑01 公佈 FY24 資料),並展望 HBM 相關訂單持續增長。
- TOWA Corporation(6318.T):MR‑MUF 模塑裝置核心供應商,深度繫結 SK 海力士供應鏈。股價在 2023‑2024 年因 HBM 裝置訂單預期大幅波動,體現投資者對該工藝路線的投票。
- Hanmi Semiconductor(042700.KQ):三星 TC‑NCF 貼片裝置的主要供應商,其 HBM 相關裝置營收佔比在 2024 年快速上升。
- 應用材料(AMAT)/科林研發(LRCX):TSV 刻蝕和電鍍裝置營收雖在整體 WFE(晶圓製造裝置)中佔比不高,但持續受益於 HBM 擴產浪潮。
6.3 中介層/先進封裝(代工環節)
- 台積電(TSMC,2330.TW/TSM):CoWoS‑S(Chip‑on‑Wafer‑on‑Substrate with Silicon interposer)是目前輝達/AWS 等主流 AI 晶片的中介層方案,HBM 與 GPU 共同搭載於 CoWoS 封裝之上。CoWoS 產能 2023‑2024 年持續供不應求,2025 年預計擴充 2 倍以上(來源:TSMC 2024‑07 業績電話會)。台積電本身不生產 HBM,但其先進封裝產能是 HBM 間接“去路”的關鍵瓶頸。
受益公司總結不是投資建議,僅為產業鏈邏輯梳理。各公司業務及財務細節請以其最新公開揭露為準。
市場規模與供需
7.1 市場規模
HBM 整體市場為典型的高增長賽道,12Hi 佔比正在快速提升。以下資料均取自第三方半導體行業分析機構公開報告,口徑與具體數字因機構方法論差異可能存在出入。
- 2024 年 HBM 市場規模:約 160‑180 億美元(TrendForce 2024‑03 報告估計值,佔 DRAM 整體市場約 20%;Yole Intelligence 2024‑05 報告估計值約 140‑160 億美元,主要差異在 ASP 模型假設)。12Hi 佔比約 20‑25%(以容量計,來源:TrendForce 2024‑10 更新估算)。
- 2025 年 HBM 市場規模:預計 250‑300 億美元(TrendForce 2024‑10 展望中位數約 280 億美元,Yole Group 2025‑01 預測約 260 億美元)。12Hi 佔比預計提升至 50%+,成為主流方案。
- 2026‑2027 年:HBM 市場或衝擊 400‑500 億美元級別(多家機構預測複合增長率>50%,來源:Bloomberg Intelligence 2024‑11 行業研究摘要)。屆時 16Hi/HBM4 有望開始滲透,12Hi 佔比可能維持高位後逐步讓渡於下一代方案。
口徑說明:上述數字均為第三方機構對“HBM 產品銷售營收”的估計值,不是官方統計資料。HBM 單價遠高於常規 DDR 和標準封裝 DRAM,因此 HBM 在 DRAM 位元出貨量中的佔比遠低於其在營收中的佔比。
7.2 供需狀況
- 2024‑2025 年整體格局:供不應求。需求端受 AI 大型模型訓練和推論驅動,GPU 和自研 ASIC 對 HBM 的需求持續超預期。供給端,SK 海力士、三星、美光三家均將大量資本支出投向 TSV 產能和晶圓減薄線,但產能爬坡需 2‑3 個季度。
- 12Hi 結構性溢價:12Hi 比同世代 8Hi HBM3E 單價更高(按每 GB 容量溢價約 10‑15%[估算]),因良率成本、檢驗測試成本更高。但下游 AI 客戶(輝達/AMD/雲端大廠)對高容量方案的溢價容忍度極高,訂單持續滿載。
- 2026 年展望:隨著三大廠商 TSV 產能集中釋放,以及 12Hi 良率普遍成熟,供需可能走向階段性平衡。但由於 AI 算力軍備競賽並未出現減速跡象,結構性短缺仍可能持續在高階方案(12Hi 和後續混合鍵合產品)中出現。
主要玩家競爭對比
以下為截至 2025 年 Q1 基於公開資訊的定性+定量比較,側重 12Hi HBM3E 維度。資料來源標註於每項。
| 維度 | SK 海力士 | 三星電子 | 美光科技 |
|---|---|---|---|
| 12Hi HBM3E 量產時間 | 2024 年 Q1(首批出貨 NVIDIA)[來源:公司 2024‑02 新聞稿] | 2024 年 Q1 宣佈量產,Q2 送樣客戶 [來源:公司 2024‑02 新聞稿] | 2024 年 9 月宣佈量產,Q3‑Q4 出貨 [來源:公司 2024‑09 新聞稿] |
| 核心封裝路線 | MR‑MUF(整體迴流模塑填充) | TC‑NCF(熱壓鍵合+非導電膜) | 接近 MR‑MUF 路線(細節未詳細公開) |
| 12Hi 良率相對水平(行業估計) | 良率領先(據 ChosunBiz 2024‑03 引述業內估計 12Hi 良率 >80%) | 早期有爬坡壓力,2024 下半年改善(據 ETNews 2024‑07 引述業內稱“接近合格線”) | 美光稱“良率進展符合預期”,具體數字未公佈 [來源:美光 FY25Q1 電話會] |
| 主要客戶繫結 | NVIDIA(H100/H200/B200),AMD(MI300X 部分),以及北美大 CSP | NVIDIA 認證中(2024‑2025 進展中),AMD/Google 已驗證 HBM3 世代 | NVIDIA 認證進展中,2024 年底起逐步納入部分客戶供應鏈 |
| HBM 市場份額(2024 年估計) | ~50‑55% [來源:TrendForce 2024‑10] | ~35‑40% | ~5‑7% |
| 2025 年產能規劃 | 2025 年 HBM 產能計劃增加 2 倍以上 vs 2023 年 [來源:SK Hynix 2024‑04 業績會] | 2025 年 HBM 產能目標增長 2.5 倍 vs 2023 年 [來源:三星電子 2024‑01 業績會] | 2025 年 HBM 產能目標倍率未明確,但展望 HBM 產能翻倍 [來源:美光 FY24 電話會] |
| 技術延伸路徑 | 宣佈 16Hi HBM4 開發中,混合鍵合實驗線在建 | 目標 16Hi 仍基於 TC‑NCF,同步評估混合鍵合 | 混合鍵合路線積極投入,與海力士類似節奏 |
風險
以下為產業層面的結構性風險,非針對具體投資標的風險評估。
9.1 技術風險
- 熱管理與可靠性:12Hi 堆疊的頂層 DRAM 熱積累是公認的設計瓶頸。更高節溫加速 DRAM 洩漏電流,可能導致必須提高重新整理頻率(Refresh Rate),進而消耗額外功耗並削弱有效可用頻寬。系統級散熱方案(如液冷、均溫板)的成本和複雜度隨層數增加而顯著上升。
- 翹曲與組裝良率:12 層超薄晶片堆疊帶來的總翹曲(Warpage)控制難度大,可能在後續 CoWoS 或基板級組裝中出現焊點開路或微凸塊疲勞失效。未來 16Hi 若無混合鍵合提供的結構剛度改善,翹曲風險將進一步放大。
- 測試與修復複雜度:12Hi 堆疊後,失效分析(FA)和冗餘修復(PPR)的時間與成本均呈指數級增長。一顆堆疊體存在一個致命缺陷即可能導致整個 Stack 報廢,12 層帶來的“缺陷聚合效應”使後端測試成本顯著上行。
9.2 競爭性技術風險
- CXL 記憶體池與存內計算:長遠看,CXL(Compute Express Link)互連可能建置外部大容量共享記憶體池,為部分訓練或推論場景提供“雖延遲較高、但成本遠低於 HBM”的替代方案。存內計算(PIM,Processing‑In‑Memory)如果成熟,可能改變“資料必須搬到 CPU/GPU 再算”的基本範式,從而削弱 HBM 的獨特地位。
- GDDR 路徑進化:GDDR7 等下一代片外視訊記憶體技術仍在提升速率(目標超 32 Gbps)並最佳化能效,可能在部分中低端 AI 推論卡上搶奪 HBM 份額,尤其在對成本敏感的邊緣 AI 場景。
9.3 市場與客戶集中度風險
- 客戶高度集中:HBM 市場事實上由輝達需求定義邊界,AMD/Intel 及自研 ASIC 客戶尚處追趕階段。輝達產品路線圖的任何微調(如暫時不使用 12Hi、或突然跳過 12Hi 直指 16Hi)都會劇烈影響供應商的產能投資回收期。
- 投資與回報週期的不匹配:12Hi 產線需鉅額前置資本投入(TSV 擴產、先進封裝線),而技術代際快速迭代(約 2 年一代)可能壓縮單一世代產品獲取超額回報的時間視窗。尤其“16Hi+混合鍵合”若過早商業化,12Hi 資產密集投資的回收壓力將明顯增大。
常見誤讀糾偏
10.1 “12Hi 天生比 8Hi 頻寬更高”
糾正:HBM 的頻寬由 I/O 資料速率和通道數/位寬決定,與堆疊層數無直接因果關係。同一 JEDEC 標準下(如 HBM3E),8Hi 和 12Hi 可以具有完全相同的每 Stack 頻寬。堆疊層數主要影響的是容量(以及因容量之增而帶來的有效頻寬利用率的潛在改善)。將“12Hi=更高頻寬”的表述視為媒體常見簡化即可。
10.2 “12Hi 堆疊就是粘 12 層 DRAM 晶片”
糾正:產業實踐中,這是包括晶圓減薄(至數十微米)、高深寬比 TSV 無空洞填充、每層亞微米對位、熱壓/迴流鍵合應力管理、底部填充無空洞注塑、以及後續的熱管理和可靠性測試等一系列環節構成的複雜製造鏈。學術文獻常將 3D 堆疊稱為“3D Integration”而非“3D Stacking”,以強調工藝整合的系統性難度。
10.3 “用了 12Hi HBM,散熱不是大問題”
糾正:恰恰相反,12Hi 的頂層散熱是當前產業界最為棘手的課題之一。8Hi 條件下頂層與底層溫差可能在 5‑10°C 級,12Hi 多出 50% 的層數後溫差可增至 10‑20°C 級[估算],這對 DRAM 的重新整理率設定(需按最高溫層設計)和長期資料保留都是硬約束。系統設計中往往需要犧牲部分持續頻寬以實現散熱均衡,或引入更昂貴的散熱附件。
10.4 “12Hi 良率跟 8Hi 差不多”
糾正:從機率上,12 層堆疊的整體良率 = 單層良率^12 × TSV 和鍵合良率。即便單層良率達到 99.5%,12 次冪後也已接近 94.2%,再計入 TSV 及鍵合缺陷,實際良率可能顯著低於成熟 8Hi 產品,除非引入冗餘和修復機制。產業界的解決路徑包括:增加冗餘 TSV 和冗餘單元、封裝後修復(PPR),以及通過“已知好晶片(KGD,Known Good Die)”測試預篩選來提高每層起點良率。
最新進展與關鍵事件(截至 2025‑02)
- 2025‑01:SK 海力士在 2024 財年 Q4 業績會上表示,12Hi HBM3E 已進入大規模量產並貢獻顯著營收(佔比持續提升),同時 16Hi HBM4 開發進展順利,目標 2026 年送樣。
- 2024‑12:美光在 FY25Q1 電話會中確認 12Hi HBM3E 已向客戶出貨,良率爬坡曲線“符合預期”,並重申 2025 年 HBM 產能翻倍展望。
- 2024‑11:TrendForce 釋出 2025 年 HBM 供需預測,指出 12Hi 佔比將於 2025 年首超 8Hi,達到 50% 以上。
- 2024‑09:美光首次官宣 12Hi HBM3E 量產(8 層堆疊技術基礎上的高堆疊升級版),成為第三家量產供應商,並宣佈為部分客戶提供樣品。
- 2024‑07:台積電業績會表示 CoWoS 產能 2024‑2025 年將擴產 2 倍以上,以匹配 HBM 下游封裝需求。
- 2024‑03:NVIDIA GTC 釋出 B200(8Hi HBM3E,192 GB),未匯入 12Hi 方案。市場對此 12Hi 缺席的解讀形成多空分歧(良率節奏 vs NVIDIA 設計選擇)。
- 2024‑02:SK 海力士和三星幾乎同時官宣 12Hi HBM3E 開始送樣或量產,標誌著 12Hi 正式進入主流市場。
持續追蹤的關鍵指標
| 指標 | 追蹤頻率 | 來源建議 |
|---|---|---|
| 三大原廠 12Hi HBM3E 正式通過 NVIDIA/AMD 認證公告 | 事件驅動 | 各公司官網新聞稿、輝達/AMD 產品頁面變更 |
| HBM 季度出貨量及 ASP 變化趨勢 | 季度 | IDC、TrendForce 或 SemiAnalysis 付費報告摘要;廠商財務報告電話會 |
| 12Hi 佔 HBM 出貨容量比例(或營收比例) | 季度/半年 | TrendForce、Yole 等機構更新 |
| TSMC CoWoS 產能利用率及擴產進度 | 季度 | TSMC 法說會材料及電話會 |
| SK 海力士/三星/美光 HBM 相關 CapEx 展望 | 季度 | 各公司財報演示(通常標註為“先進封裝/TSV”或直接引用“HBM CapEx”) |
| 混合鍵合(Hybrid Bonding)裝置訂單及工藝 Demo 進展 | 事件驅動 | 應用材料/EVG/BESI 等裝置商業績會或行業會議(IEEE ECTC、ISSCC) |
| JEDEC HBM4 標準釋出進度及關鍵引數定義 | 事件驅動 | JEDEC 官方網站標準釋出通知 |
| AI GPU 供應商下一代產品 HBM 規格(層數/容量) | 事件驅動 | NVIDIA GTC、AMD “Advancing AI” 等活動 |
| 第三方程測試可靠性論文或廠商專利公開(涉及 12Hi/16Hi 熱-力-電耦合) | 持續 | 專利資料庫(USPTO、WIPO)、IEEE Xplore 檢索 |
可靠信源
- JEDEC 標準文件:JESD238(HBM3)、JESD238A(HBM3E)等,獲取介面規範和資料速率定義。訪問 www.jedec.org。
- 廠商官方新聞稿與投資者報告:
- SK 海力士:news.skhynix.com
- 三星半導體:semiconductor.samsung.com 及 news.samsung.com
- 美光科技:investors.micron.com
- NVIDIA 技術部落格與投資者關係頁面
- AMD “Advancing AI”釋出會存檔
- 行業分析報告(部分需付費訂閱):
- TrendForce 儲存器與封裝研究(www.trendforce.com)
- Yole Intelligence / Yole Group “Memory Packaging” 及 “Advanced Packaging” 系列報告
- SemiAnalysis(對 HBM 路線和競爭有詳盡的非官方評論文章)
- 學術/技術會議論文:
- ISSCC(國際固態電路會議)儲存器與封裝部分,年度出版
- IEEE ECTC(電子元件與技術會議),先進封裝前沿
- VLSI Technology Symposium(超大規模積體電路技術研討會)
- 供應鏈資料與裝置端:
- DISCO、TOWA、Hanmi Semiconductor 等裝置商訂單揭露及 IR 材料
- 台積電季度法說會(CoWoS 產能)投資者演示材料
本頁內容基於截至 2025 年 2 月的行業公開資訊編制。凡未標明具體引用的數字均標註“估算”或“典型值”,來源可能包括 JEDEC 標準上限、廠商公開技術論文及第三方行業分析機構的公開摘要。具體產品規格、價格及市場份額資料請以各廠商最新官方揭露為準;未能從公開渠道核實的數值統一保留“公開資料未見”表述。本頁不構成任何形式投資建議,不推薦或評估任何具體股票、證券之買賣。