晶片層 開放閱讀

12Hi 堆疊

12-High Stack

概念 ID
12-high-stack
更新時間
2026-05-29
來源數量
待補

12Hi 堆疊

3 秒看懂

12Hi 堆疊,即 12‑High Stack,指在三維封裝中垂直疊放 12 層 同質或異質晶片(當前主流是 DRAM),通過矽通孔(Through‑Silicon Via, TSV)和微凸塊(μBump)實現層間互連,目標是在同等底面積上成倍擴大儲存容量,並縮短資料物理路徑以提升能效與頻寬。在 HBM(高頻寬儲存器)領域,12Hi 是 HBM3/HBM3E 世代的核心高容量方案,單堆疊容量可達 24‑36 GB,單棧頻寬可超 1 TB/s(HBM3E 標準),直接支撐大型模型訓練所需的近存計算資料供給。

一句話記住:12Hi = 12 層 DRAM 晶粒垂直疊在一起,容量是同世代 8Hi 的 1.5 倍,解決的是“一個 GPU 旁邊能塞多少 GB”的問題,頻寬由介面標準決定而非層數本身。

3 分鐘產業解釋

12Hi 堆疊是先進封裝與儲存晶片製造兩大領域的深度交叉地帶。它絕非簡單“把 12 片晶圓摞起來粘住”,而是一套完整的系統工程,覆蓋晶圓減薄(研磨至 30‑50 μm,接近一張 A4 紙)、高深寬比 TSV 穿孔與銅填充、每層晶片微米級精確對位(≤0.5 μm)、微凸塊鍵合、薄芯搬運、底部填充與模塑、以及最終堆疊體的熱管理設計等 10 餘道核心工藝。

產業驅動力來自生成式 AI 的算力軍備競賽。GPT‑4 等大型模型引數動輒數千億到萬億級,單次訓練需將海量權重駐留在靠近 GPU 的儲存器中,傳統 GDDR 方案在容量密度和能效上均已觸達物理極限。12Hi HBM3E 使單顆粒(Stack)容量達到 36 GB(12 層 × 每層 24 Gb),6 顆即可組成 216 GB 的 GPU 近存總容量,且每位元傳輸能耗(pJ/bit)約為 GDDR6 的 1/3 到 1/4。

產業格局方面,12Hi 堆疊能力直接劃分了儲存廠商的競爭梯隊——能穩定量產 12Hi HBM3E 並通過輝達等 GPU 巨頭認證的,才能進入高階 AI 晶片供應鏈的“核心圈”。截至 2025 年 Q1,SK 海力士、三星、美光三家壟斷全球 HBM 供應,12Hi HBM3E 已取代 8Hi 成為高階 AI GPU 標配方案。

產業意義:12Hi 堆疊是儲存廠商在“製程微縮”(1α→1β→1γ nm)之外的又一競爭主軸,也是先進封裝從“輔助工藝”升級為“核心價值環節”的標誌性技術。

技術原理

2.1 堆疊架構全景

典型 12Hi HBM 堆疊自上而下包含:

  • 底部一層邏輯/基礎晶片(Base Logic Die 或 Buffer Die),承擔與 GPU 物理層(PHY)的介面通訊、片上測試電路(DFT)、冗餘修復控制(PPR,Post‑Package Repair)等核心邏輯功能。該 Die 製程通常採用更為成熟的邏輯工藝(非 DRAM 工藝),以兼顧複雜電路密度和成本。
  • 其上堆疊 12 層 Core DRAM Die,每層均為獨立的 DRAM 儲存陣列(多個 Bank Group),同時嵌有貫穿矽基板的 TSV 互連結構。
  • 層與層之間通過微凸塊陣列(μBump,典型間距 40‑55 μm)加底部填充(Underfill)實現機械固定與電氣連線。當前兩大主流填充路線為 SK 海力士的 MR‑MUF(Mass Reflow‑Molded Underfill)和三星的 TC‑NCF(Thermocompression‑Non‑Conductive Film)。未來可能演進至無凸塊的 Cu‑Cu 混合鍵合(Hybrid Bonding),間距可縮至 10 μm 以下,進一步提升互連密度並降低介面熱阻。
  • 整體堆疊底部通過更大尺寸的 μBump 或直接鍵合與矽中介層(Silicon Interposer, 如台積電 CoWoS‑S)相連,再經中介層內部的多層金屬走線連線到側方的 GPU/ASIC 主晶片。

2.2 資料通道與互連拓撲

HBM 採用獨立通道架構,每個通道是一組 128 位寬(DQ)的全雙工或半雙工匯流排,附帶獨立的命令/地址(C/A)和時鐘。一個 HBM Stack 通常配置 8 個或 16 個通道(HBM3/E 最多 16 通道),因此 12Hi 下每個 Stack 的總位寬可達 1024 位或 2048 位。

垂直方向,每個 I/O 對應一個貫穿所有 DRAM 層的 TSV 鏈,通過微凸塊逐層連線,資料從頂層 DRAM Die 出發,逐層下行至 Base Logic Die,再跨中介層進入 GPU。這一垂直路徑長度僅數百微米,遠短於傳統 DIMM 的 PCB 走線(數釐米至數十釐米),從根本上降低了延遲與功耗。

典型 12Hi HBM 堆疊截面示意(簡化):

+--------------------+  ← GPU/ASIC Die(計算核心)
|   GPU/ASIC Die     |
+--------+-----------+
         | μBump/C4 bump
+--------+-----------+
|   Si Interposer    |  ← 矽中介層(內有 RDL 金屬走線)
+--------+-----------+
|  Base Logic Die    |  ← 命令/地址/資料路徑控制、DFT、修復
+--------------------+
| DRAM Core Die #1  |  ← 最靠近散熱路徑,溫度最低
+--------------------+
| DRAM Core Die #2  |
+--------------------+
|       ... #3‑#11   |
+--------------------+
| DRAM Core Die #12 |  ← 離散熱路徑最遠,熱積累最嚴重
+--------------------+
     TSV 垂直貫穿所有 Core Die 及部分 Logic Die 層

2.3 TSV 的電氣與物理基礎

TSV 是 12Hi 堆疊的“脊椎”,其關鍵引數包括:

  • 深寬比(Aspect Ratio):當前 12Hi 所用 TSV 深寬比通常在 10:1 至 15:1 之間(孔徑 5‑10 μm,深度 50‑100 μm)。更高層數堆疊需更深的 TSV 或更薄的單層厚度。
  • 填充材料:電鍍銅為主流,需保證無空洞(Void‑free)填充,否則會導致電阻升高或長期可靠性質變。
  • 單 TSV 電阻:典型值在數十至數百 mΩ 量級(具體值屬廠商核心工藝機密),堆疊 12 層後整條 TSV 鏈總電阻可影響 I/O 功耗。
  • 寄生電容:TSV 周圍的矽襯底與絕緣層(SiO₂ liner)形成寄生電容,高速訊號翻轉時需充放電該電容,帶來額外動態功耗。12Hi 層數增加使 TSV 總長度和總寄生電容均有所上升,這也是堆疊層數增加帶來“能效代價”的根本物理原因之一。

2.4 關鍵引數(定量說明,數值標註來源與口徑)

以下引數基於 JEDEC HBM3 標準(JESD238)及廠商公開技術論文,部分為行業共識範圍。具體產品數值因廠商、產品和出貨版本而異,請以各廠商最終版 Datasheet 為準。

  • 容量:單層 DRAM 容量由儲存製程決定。HBM3 時代主流使用 1α nm 級製程(約 14‑16 nm 等效),單層 16 Gb(2 GB);HBM3E 時代匯入 1β nm 級,單層可增至 24 Gb(3 GB)。12Hi 容量 = 12 × 單層容量,因此 HBM3 12Hi 為 24 GB/Stack(截至 2023 年末出貨,來源:SK 海力士 2023 年 Q4 公告),HBM3E 12Hi 為 36 GB/Stack(2024 年 Q1 出貨,來源:SK 海力士 2024 年 2 月新聞稿、三星 2024 年 2 月新聞稿;美光 2024 年 9 月公告確認量產)。
  • 頻寬(單 Stack):由每 I/O 資料速率與通道數共同決定,與堆疊層數無直接因果關係。HBM3 基礎標準定義每 I/O 速率最高 6.4 Gbps,HBM3E 推進至 8.0‑9.2 Gbps。以 1024 位寬、8.0 Gbps 計算,單 Stack 頻寬 = 1024 × 8.0 / 8 = 1024 GB/s(1 TB/s)。實際產品中:NVIDIA H200 使用 6 顆 8Hi HBM3E 組 141 GB 總容量(頻寬約 4.8 TB/s 總,來源:NVIDIA 2023 年 11 月白皮書),B200 使用 8 顆 8Hi HBM3E 組 192 GB。基於 8Hi 的資料可推知,若同等位寬與速率換裝 12Hi,容量提升 50%,頻寬不變。
  • 能效:以能量效率 pJ/bit 衡量。JEDEC HBM3 標準下典型值約 3.5‑4.0 pJ/bit(來源:ISSCC 2023 論文《A 24GB HBM3 12‑High Stack…》,三星團隊),HBM3E 通過最佳化 I/O 電路和降低 TSV 寄生,目標降至約 3.0‑3.5 pJ/bit 區間。對比 GDDR6X 的 7‑8 pJ/bit 水平,HBM 能效優勢顯著。
  • 延遲:以列地址訪問延遲(tAA)為例,HBM3 通常在 70‑100 ns 級(含 TSV 路徑和邏輯 Die 緩衝區時延),具體數取決於頻率分檔和廠商實現。12Hi 與 8Hi 的延遲差異通常在個位數納秒內,取決於頂層 Die 到 Base Die 的 TSV 鏈長度差(約 120‑200 μm,對應約 0.2‑0.3 ns 級傳播延遲)。

技術路線對比

3.1 主流技術路線定量對比(表格資料為行業共識範圍,標註“估算”或引用來源)

指標8Hi HBM312Hi HBM312Hi HBM3E16Hi(開發中/預研)
單 Stack 容量(典型)16‑24 GB24 GB36 GB目標 48‑64 GB
單 Stack 頻寬(典型)600‑819 GB/s819 GB/s900‑1024+ GB/s目標 >1.2 TB/s
每 I/O 速率4.8‑6.4 Gbps6.4 Gbps8.0‑9.2 Gbps目標 9.2‑12.0 Gbps
pJ/bit(能效)~3.8‑4.2[估算]~3.8‑4.2[估算]~3.0‑3.5[估算]目標 <3.0
單 DRAM 層厚40‑55 μm35‑50 μm30‑45 μm目標 <30 μm
堆疊總厚(含 Logic)~500‑600 μm~650‑750 μm[估算]~600‑720 μm[估算]挑戰 <900 μm 且控翹曲
層間互連間距40‑55 μm μBump同左同左,部分預研混合鍵合目標 <10 μm Cu‑Cu
量產良率相對水平高(成熟期)中等偏高(已量產,海力士 2024 良率>80%[信源:韓媒 ChosunBiz 2024‑03 引述業內人士])中等偏高(爬坡中,美光 2024‑12 電話會稱“良率進展符合預期”[來源:美光 FY25Q1 電話會記錄])研發階段,良率資料公開資料未見
代表出貨產品NVIDIA H100 SXM(6×8Hi HBM3, 80 GB)AMD MI300X(8×12Hi HBM3, 192 GB)NVIDIA H200(6×8Hi HBM3E, 141 GB),B200(8×8Hi, 192 GB),12Hi 版本待確認實驗室 Demo 階段(三星/SK 海力士 ISSCC 2024 展示)

資料口徑說明:表中“典型”值綜合 JEDEC 標準上限及廠商公開產品實際規格。頻寬數值為理論峰值,持續頻寬受熱預算、重新整理排程等因素影響,通常低於峰值。良率系生產技術指標,各廠商不公開詳細數字,僅引用具有第三方報道或業績會模糊表態的參考值。

3.2 兩大工藝路線:MR‑MUF vs TC‑NCF

12Hi 堆疊的關鍵分歧點在於層間填充和鍵合方式。

SK 海力士 MR‑MUF(Mass Reflow‑Molded Underfill)

  • 工藝簡述:先在所有 DRAM 層間預置微凸塊,一次性整體迴流焊(Mass Reflow),隨後用環氧模塑膠(EMC)在模具中整體填充至所有層間間隙。特點是填充速度快、適用於大規模量產,且 EMC 材料本身熱導率可控,通過新增高導熱填料(如氧化鋁、氮化硼)可部分緩解層間熱阻。
  • 優勢:據海力士公開材料及行業分析(SemiAnalysis 2023‑11),MR‑MUF 在 Wafer‑level 厚度均勻性控制和 Void 率方面優於早期 TC‑NCF 版本。後續報道中 SK 海力士 2024 年 12Hi HBM3E 良率率先穩定在較高水平,與該工藝成熟度密切相關。
  • 侷限性:整體迴流焊對翹曲控制要求極高(12 層堆疊翹曲本身已顯著),且隨層數繼續增加,MUF 填充底部的均勻性面臨挑戰。

三星 TC‑NCF(Thermocompression‑Non‑Conductive Film)

  • 工藝簡述:每疊一層 DRAM 時,於介面放置一層非導電膜(NCF,通常為環氧基),利用熱壓鍵合(TC Bonding,溫度~250‑300°C,壓力若干 MPa)同時實現微凸塊連線與 NCF 固化。逐層堆疊,無需整體迴流焊。
  • 優勢:逐層控制可針對每層微調溫度和壓力,理論上應力管理更精細,適合更高層數(三星宣稱 TC‑NCF 系面向 16Hi 及以上的關鍵路徑,來源:三星半導體 2023 部落格)。
  • 侷限性:量產產率(UPH)低於整體迴流的 MR‑MUF 路線;早期 12Hi 開發中曾被韓媒報道出現“散熱與良率爬坡問題”(2023‑2024 年多篇 ETNews 報道提及,三星後續表示已改善)。NCF 材料自身熱導率通常低於新增高導熱填料的 EMC,可能加劇層間熱積累。

兩條路線仍在持續演進中,短期看 MR‑MUF 在 12Hi 量產競速中佔得先機(海力士 2024 年率先大規模向 NVIDIA 供貨),中長期需觀察 HBM4/16Hi 時代的混合鍵合是否會“統一”技術路徑。


上游:裝置與材料

12Hi 堆疊的上游承載了整個先進封裝產業的最尖端環節,對裝置和材料提出極高要求。以下按價值鏈追溯:

4.1 核心裝置

  • 晶圓減薄裝置:DRAM 晶圓需從初始的數百微米研磨至 30‑50 μm 才能進行 TSV 高密度疊放。核心供應商為日本 DISCO Corporation(全球減薄/劃片市佔率領先,來源:公司 IR 材料)和東京精密(Tokyo Seimitsu)。減薄工藝不僅要控制總厚度變化(TTV,通常要求 <1‑2 μm 級精度),還需避免研磨損傷導致的晶片弱化。
  • TSV 刻蝕與填充裝置:深矽刻蝕採用 Bosch 工藝(交替蝕刻與鈍化),主要裝置商為 Lam Research(深矽刻蝕腔體)和應用材料(Applied Materials)。TSV 銅電鍍填充則由電鍍裝置完成,主流供應商包括應用材料(Semitool 系列)、科林研發(Lam Sabre 系列)、以及日本的 EBARA 等。
  • 臨時鍵合/解鍵合裝置:薄晶圓搬運需先將其臨時鍵合到載體晶圓(Carrier Wafer),堆疊完成後再解鍵合。此環節高階市場由 EV Group(EVG)、SUSS MicroTec 和 Tokyo Electron(TEL)佔據。
  • 堆疊鍵合裝置
    • MR‑MUF 路線:整體迴流焊裝置主要用於大規模微凸塊連線,後段 MUF 由模塑裝置完成,核心供應商包括 TOWA Corporation(日本,市值較小,但在 MUF 工藝上是海力士供應鏈關鍵角色,來源:TOWA 2023‑2024 年若干業績說明會材料提及 HBM 相關訂單)。
    • TC‑NCF 路線:逐層熱壓鍵合裝置精度要求極高,主要供應商為 Hanmi Semiconductor(韓)、ASMPT(新加坡)及日本廠商。
  • 混合鍵合裝置(面向 16Hi/HBM4):當前處於預研和應用匯入期,核心裝置商為 EVG(GEMINI 系列)、SUSS MicroTec、應用材料。

4.2 關鍵材料

  • 矽晶圓:12Hi 堆疊本身不直接消耗更多原始矽晶圓(DRAM 製程消耗),但中介層(Interposer,通常 >65×25 mm)消耗大量優質矽片面積,是先進封裝用矽的增量需求來源。
  • 底部填充/模塑膠:MR‑MUF 使用的環氧模塑膠(EMC)需同時滿足低熱膨脹係數(CTE,匹配矽的 ~3 ppm/°C)、高填充流動性(無空洞)和適度高導熱率(>1‑3 W/mK 甚至更高填充配方)。供應商:住友電木(Sumitomo Bakelite)、信越化學(Shin‑Etsu Chemical)、以及納美仕(NAMICS,日本)。三星 TC‑NCF 使用的非導電膜也對上述特性有類似需求,填料設計側重差異。
  • TSV 絕緣層材料:低溫 CVD 二氧化矽(SiO₂)為主流,需在高深寬比孔內形成共形沉積,由前道薄膜沉積裝置(CVD/ALD)用氣體/前驅體提供,供應商包括 Versum Materials(現 Merck KGaA)、DNF 等。
  • 銅電鍍液及新增劑:以保證無空洞填充為關鍵指標,全球主要供應商為 MacDermid Alpha(Element Solutions)、Atotech(MKS Instruments)、Uyemura 等。

下游:核心應用與繫結關係

12Hi HBM 的下游高度集中於AI 加速器/GPU 和超大規模雲端服務商自研晶片,呈現出“一個客戶(輝達)決定產業節奏”的典型特徵,但格局正在多元化。

5.1 GPU/AI 加速器廠商及其方案

廠商產品採用 HBM 規格HBM 總容量來源/時間
NVIDIAH100 SXM6 × 8Hi HBM380 GBNVIDIA 2022 年釋出
NVIDIAH200 SXM6 × 8Hi HBM3E141 GBNVIDIA 2023‑11 釋出
NVIDIAB200 SXM8 × 8Hi HBM3E192 GBNVIDIA 2024‑03 GTC 釋出
NVIDIAB300/後續 Ultra據供應鏈報道將匯入 12Hi HBM3E288 GB(8×36GB)[估算]公開資料未見官方確認,SemiAnalysis 2024‑06 分析文章預測
AMDMI300X8 × 12Hi HBM3192 GBAMD 2023‑12 “Advancing AI” 釋出會
IntelGaudi 38 × HBM3E(8Hi 或 12Hi 待確認)128‑256 GB 範圍[估算]Intel 2024‑04 Vision 釋出,詳細配置未完全公佈
自研 ASICAWS Trainium2HBM3 或 HBM3E,具體配置公開資料未見
自研 ASICGoogle TPU v5pHBM3,層數資訊公開資料未見

關鍵解讀

  • 截至 2025 年初,NVIDIA B200 仍使用 8Hi HBM3E(192 GB),尚未選擇 12Hi 方案。市場對此有兩種解釋:其一,8Hi 供應更成熟、良率更高;其二,NVIDIA B200 推出時機較早(2024 Q1 釋出目標),當時 12Hi HBM3E 尚未大批次通過認證。預計後續 B 系更高階型號(B300/B300A 等)將匯入 12Hi,反映“頻寬優先→容量優先”的需求演進。
  • AMD MI300X 自 2023 年底起採用 12Hi HBM3,容量達 192 GB,在推論場景(大上下文 Prompts)獲得容量優勢。這使 AMD 在部分大型模型推論跑分中領先同期 H100。

5.2 最終需求來源:AI 訓練與推論

  • 訓練:萬億引數級模型的訓練需要高頻寬以支撐梯度通訊,需要大容量以儲存完整模型權重和最佳化器狀態。12Hi 提供的 36 GB/Stack 容量可減少“需要多 GPU 對同一模型分割槽”的頻率,降低跨節點通訊開銷。
  • 推論:大上下文視窗(如 1M tokens)的長序列推論需將整個 KV Cache 存放於近存高頻寬記憶體中,12Hi 的大容量優勢在這裡更突出。部分業內人士認為,未來推論場景對 12Hi 及更高層數 HBM 的拉動將不遜於訓練。

受益公司

以下梳理基於公開產業鏈分析(不構成任何投資建議),按價值環節分類,並標註業務相關性與時間節點。

6.1 儲存器 IDM(直接受益方)

  • SK 海力士(SK hynix,000660.KS):截至 2024‑2025 年為 HBM 市場份額第一(TrendForce 2024‑03 報告估計約 50%+)。率先量產 12Hi HBM3E 並通過 NVIDIA 認證,良率領先。2024 年 HBM 營收貢獻已進入顯著提升階段(據公司 FY24 財報電話會,HBM 相關銷售年增率增超 300%[來源:SK Hynix 2025‑01 業績釋出 PPT])。
  • 三星電子(Samsung Electronics,005930.KS):12Hi HBM3E 已量產,早前因良率和散熱爬坡一度落後,但 2024 年下半年據韓媒報道已進入 NVIDIA 認證後期階段。三星同時擁有完整的晶圓代工+中介層+DRAM+封裝能力,長期在成本整合上具備潛在優勢。
  • 美光科技(Micron Technology,MU):策略為直接跳過 8Hi HBM3,全力切入 12Hi HBM3E。2024 年 9 月宣佈量產並向客戶送樣,2024 年底納入部分客戶供應鏈。美光 HBM 市場份額從 2023 年的“幾乎為零”提升至約 5‑7%(TrendForce 2024‑10 估算),展望稱 HBM 產能至 2025 年繼續翻倍。

6.2 封裝裝置與材料(間接受益方,波動性強於 IDM)

  • DISCO Corporation(6146.T):晶圓減薄/劃片的近乎壟斷性供應商,HBM 擴產直接拉動減薄機和劃片刀消耗。公司 2024 財年營收創歷史新高(據公司 2025‑01 公佈 FY24 資料),並展望 HBM 相關訂單持續增長。
  • TOWA Corporation(6318.T):MR‑MUF 模塑裝置核心供應商,深度繫結 SK 海力士供應鏈。股價在 2023‑2024 年因 HBM 裝置訂單預期大幅波動,體現投資者對該工藝路線的投票。
  • Hanmi Semiconductor(042700.KQ):三星 TC‑NCF 貼片裝置的主要供應商,其 HBM 相關裝置營收佔比在 2024 年快速上升。
  • 應用材料(AMAT)/科林研發(LRCX):TSV 刻蝕和電鍍裝置營收雖在整體 WFE(晶圓製造裝置)中佔比不高,但持續受益於 HBM 擴產浪潮。

6.3 中介層/先進封裝(代工環節)

  • 台積電(TSMC,2330.TW/TSM):CoWoS‑S(Chip‑on‑Wafer‑on‑Substrate with Silicon interposer)是目前輝達/AWS 等主流 AI 晶片的中介層方案,HBM 與 GPU 共同搭載於 CoWoS 封裝之上。CoWoS 產能 2023‑2024 年持續供不應求,2025 年預計擴充 2 倍以上(來源:TSMC 2024‑07 業績電話會)。台積電本身不生產 HBM,但其先進封裝產能是 HBM 間接“去路”的關鍵瓶頸。

受益公司總結不是投資建議,僅為產業鏈邏輯梳理。各公司業務及財務細節請以其最新公開揭露為準。


市場規模與供需

7.1 市場規模

HBM 整體市場為典型的高增長賽道,12Hi 佔比正在快速提升。以下資料均取自第三方半導體行業分析機構公開報告,口徑與具體數字因機構方法論差異可能存在出入。

  • 2024 年 HBM 市場規模:約 160‑180 億美元(TrendForce 2024‑03 報告估計值,佔 DRAM 整體市場約 20%;Yole Intelligence 2024‑05 報告估計值約 140‑160 億美元,主要差異在 ASP 模型假設)。12Hi 佔比約 20‑25%(以容量計,來源:TrendForce 2024‑10 更新估算)。
  • 2025 年 HBM 市場規模:預計 250‑300 億美元(TrendForce 2024‑10 展望中位數約 280 億美元,Yole Group 2025‑01 預測約 260 億美元)。12Hi 佔比預計提升至 50%+,成為主流方案。
  • 2026‑2027 年:HBM 市場或衝擊 400‑500 億美元級別(多家機構預測複合增長率>50%,來源:Bloomberg Intelligence 2024‑11 行業研究摘要)。屆時 16Hi/HBM4 有望開始滲透,12Hi 佔比可能維持高位後逐步讓渡於下一代方案。

口徑說明:上述數字均為第三方機構對“HBM 產品銷售營收”的估計值,不是官方統計資料。HBM 單價遠高於常規 DDR 和標準封裝 DRAM,因此 HBM 在 DRAM 位元出貨量中的佔比遠低於其在營收中的佔比。

7.2 供需狀況

  • 2024‑2025 年整體格局:供不應求。需求端受 AI 大型模型訓練和推論驅動,GPU 和自研 ASIC 對 HBM 的需求持續超預期。供給端,SK 海力士、三星、美光三家均將大量資本支出投向 TSV 產能和晶圓減薄線,但產能爬坡需 2‑3 個季度。
  • 12Hi 結構性溢價:12Hi 比同世代 8Hi HBM3E 單價更高(按每 GB 容量溢價約 10‑15%[估算]),因良率成本、檢驗測試成本更高。但下游 AI 客戶(輝達/AMD/雲端大廠)對高容量方案的溢價容忍度極高,訂單持續滿載。
  • 2026 年展望:隨著三大廠商 TSV 產能集中釋放,以及 12Hi 良率普遍成熟,供需可能走向階段性平衡。但由於 AI 算力軍備競賽並未出現減速跡象,結構性短缺仍可能持續在高階方案(12Hi 和後續混合鍵合產品)中出現。

主要玩家競爭對比

以下為截至 2025 年 Q1 基於公開資訊的定性+定量比較,側重 12Hi HBM3E 維度。資料來源標註於每項。

維度SK 海力士三星電子美光科技
12Hi HBM3E 量產時間2024 年 Q1(首批出貨 NVIDIA)[來源:公司 2024‑02 新聞稿]2024 年 Q1 宣佈量產,Q2 送樣客戶 [來源:公司 2024‑02 新聞稿]2024 年 9 月宣佈量產,Q3‑Q4 出貨 [來源:公司 2024‑09 新聞稿]
核心封裝路線MR‑MUF(整體迴流模塑填充)TC‑NCF(熱壓鍵合+非導電膜)接近 MR‑MUF 路線(細節未詳細公開)
12Hi 良率相對水平(行業估計)良率領先(據 ChosunBiz 2024‑03 引述業內估計 12Hi 良率 >80%)早期有爬坡壓力,2024 下半年改善(據 ETNews 2024‑07 引述業內稱“接近合格線”)美光稱“良率進展符合預期”,具體數字未公佈 [來源:美光 FY25Q1 電話會]
主要客戶繫結NVIDIA(H100/H200/B200),AMD(MI300X 部分),以及北美大 CSPNVIDIA 認證中(2024‑2025 進展中),AMD/Google 已驗證 HBM3 世代NVIDIA 認證進展中,2024 年底起逐步納入部分客戶供應鏈
HBM 市場份額(2024 年估計)~50‑55% [來源:TrendForce 2024‑10]~35‑40%~5‑7%
2025 年產能規劃2025 年 HBM 產能計劃增加 2 倍以上 vs 2023 年 [來源:SK Hynix 2024‑04 業績會]2025 年 HBM 產能目標增長 2.5 倍 vs 2023 年 [來源:三星電子 2024‑01 業績會]2025 年 HBM 產能目標倍率未明確,但展望 HBM 產能翻倍 [來源:美光 FY24 電話會]
技術延伸路徑宣佈 16Hi HBM4 開發中,混合鍵合實驗線在建目標 16Hi 仍基於 TC‑NCF,同步評估混合鍵合混合鍵合路線積極投入,與海力士類似節奏

風險

以下為產業層面的結構性風險,非針對具體投資標的風險評估。

9.1 技術風險

  • 熱管理與可靠性:12Hi 堆疊的頂層 DRAM 熱積累是公認的設計瓶頸。更高節溫加速 DRAM 洩漏電流,可能導致必須提高重新整理頻率(Refresh Rate),進而消耗額外功耗並削弱有效可用頻寬。系統級散熱方案(如液冷、均溫板)的成本和複雜度隨層數增加而顯著上升。
  • 翹曲與組裝良率:12 層超薄晶片堆疊帶來的總翹曲(Warpage)控制難度大,可能在後續 CoWoS 或基板級組裝中出現焊點開路或微凸塊疲勞失效。未來 16Hi 若無混合鍵合提供的結構剛度改善,翹曲風險將進一步放大。
  • 測試與修復複雜度:12Hi 堆疊後,失效分析(FA)和冗餘修復(PPR)的時間與成本均呈指數級增長。一顆堆疊體存在一個致命缺陷即可能導致整個 Stack 報廢,12 層帶來的“缺陷聚合效應”使後端測試成本顯著上行。

9.2 競爭性技術風險

  • CXL 記憶體池與存內計算:長遠看,CXL(Compute Express Link)互連可能建置外部大容量共享記憶體池,為部分訓練或推論場景提供“雖延遲較高、但成本遠低於 HBM”的替代方案。存內計算(PIM,Processing‑In‑Memory)如果成熟,可能改變“資料必須搬到 CPU/GPU 再算”的基本範式,從而削弱 HBM 的獨特地位。
  • GDDR 路徑進化:GDDR7 等下一代片外視訊記憶體技術仍在提升速率(目標超 32 Gbps)並最佳化能效,可能在部分中低端 AI 推論卡上搶奪 HBM 份額,尤其在對成本敏感的邊緣 AI 場景。

9.3 市場與客戶集中度風險

  • 客戶高度集中:HBM 市場事實上由輝達需求定義邊界,AMD/Intel 及自研 ASIC 客戶尚處追趕階段。輝達產品路線圖的任何微調(如暫時不使用 12Hi、或突然跳過 12Hi 直指 16Hi)都會劇烈影響供應商的產能投資回收期。
  • 投資與回報週期的不匹配:12Hi 產線需鉅額前置資本投入(TSV 擴產、先進封裝線),而技術代際快速迭代(約 2 年一代)可能壓縮單一世代產品獲取超額回報的時間視窗。尤其“16Hi+混合鍵合”若過早商業化,12Hi 資產密集投資的回收壓力將明顯增大。

常見誤讀糾偏

10.1 “12Hi 天生比 8Hi 頻寬更高”

糾正:HBM 的頻寬由 I/O 資料速率和通道數/位寬決定,與堆疊層數無直接因果關係。同一 JEDEC 標準下(如 HBM3E),8Hi 和 12Hi 可以具有完全相同的每 Stack 頻寬。堆疊層數主要影響的是容量(以及因容量之增而帶來的有效頻寬利用率的潛在改善)。將“12Hi=更高頻寬”的表述視為媒體常見簡化即可。

10.2 “12Hi 堆疊就是粘 12 層 DRAM 晶片”

糾正:產業實踐中,這是包括晶圓減薄(至數十微米)、高深寬比 TSV 無空洞填充、每層亞微米對位、熱壓/迴流鍵合應力管理、底部填充無空洞注塑、以及後續的熱管理和可靠性測試等一系列環節構成的複雜製造鏈。學術文獻常將 3D 堆疊稱為“3D Integration”而非“3D Stacking”,以強調工藝整合的系統性難度。

10.3 “用了 12Hi HBM,散熱不是大問題”

糾正:恰恰相反,12Hi 的頂層散熱是當前產業界最為棘手的課題之一。8Hi 條件下頂層與底層溫差可能在 5‑10°C 級,12Hi 多出 50% 的層數後溫差可增至 10‑20°C 級[估算],這對 DRAM 的重新整理率設定(需按最高溫層設計)和長期資料保留都是硬約束。系統設計中往往需要犧牲部分持續頻寬以實現散熱均衡,或引入更昂貴的散熱附件。

10.4 “12Hi 良率跟 8Hi 差不多”

糾正:從機率上,12 層堆疊的整體良率 = 單層良率^12 × TSV 和鍵合良率。即便單層良率達到 99.5%,12 次冪後也已接近 94.2%,再計入 TSV 及鍵合缺陷,實際良率可能顯著低於成熟 8Hi 產品,除非引入冗餘和修復機制。產業界的解決路徑包括:增加冗餘 TSV 和冗餘單元、封裝後修復(PPR),以及通過“已知好晶片(KGD,Known Good Die)”測試預篩選來提高每層起點良率。


最新進展與關鍵事件(截至 2025‑02)

  • 2025‑01:SK 海力士在 2024 財年 Q4 業績會上表示,12Hi HBM3E 已進入大規模量產並貢獻顯著營收(佔比持續提升),同時 16Hi HBM4 開發進展順利,目標 2026 年送樣。
  • 2024‑12:美光在 FY25Q1 電話會中確認 12Hi HBM3E 已向客戶出貨,良率爬坡曲線“符合預期”,並重申 2025 年 HBM 產能翻倍展望。
  • 2024‑11:TrendForce 釋出 2025 年 HBM 供需預測,指出 12Hi 佔比將於 2025 年首超 8Hi,達到 50% 以上。
  • 2024‑09:美光首次官宣 12Hi HBM3E 量產(8 層堆疊技術基礎上的高堆疊升級版),成為第三家量產供應商,並宣佈為部分客戶提供樣品。
  • 2024‑07:台積電業績會表示 CoWoS 產能 2024‑2025 年將擴產 2 倍以上,以匹配 HBM 下游封裝需求。
  • 2024‑03:NVIDIA GTC 釋出 B200(8Hi HBM3E,192 GB),未匯入 12Hi 方案。市場對此 12Hi 缺席的解讀形成多空分歧(良率節奏 vs NVIDIA 設計選擇)。
  • 2024‑02:SK 海力士和三星幾乎同時官宣 12Hi HBM3E 開始送樣或量產,標誌著 12Hi 正式進入主流市場。

持續追蹤的關鍵指標

指標追蹤頻率來源建議
三大原廠 12Hi HBM3E 正式通過 NVIDIA/AMD 認證公告事件驅動各公司官網新聞稿、輝達/AMD 產品頁面變更
HBM 季度出貨量及 ASP 變化趨勢季度IDC、TrendForce 或 SemiAnalysis 付費報告摘要;廠商財務報告電話會
12Hi 佔 HBM 出貨容量比例(或營收比例)季度/半年TrendForce、Yole 等機構更新
TSMC CoWoS 產能利用率及擴產進度季度TSMC 法說會材料及電話會
SK 海力士/三星/美光 HBM 相關 CapEx 展望季度各公司財報演示(通常標註為“先進封裝/TSV”或直接引用“HBM CapEx”)
混合鍵合(Hybrid Bonding)裝置訂單及工藝 Demo 進展事件驅動應用材料/EVG/BESI 等裝置商業績會或行業會議(IEEE ECTC、ISSCC)
JEDEC HBM4 標準釋出進度及關鍵引數定義事件驅動JEDEC 官方網站標準釋出通知
AI GPU 供應商下一代產品 HBM 規格(層數/容量)事件驅動NVIDIA GTC、AMD “Advancing AI” 等活動
第三方程測試可靠性論文或廠商專利公開(涉及 12Hi/16Hi 熱-力-電耦合)持續專利資料庫(USPTO、WIPO)、IEEE Xplore 檢索

可靠信源

  • JEDEC 標準文件:JESD238(HBM3)、JESD238A(HBM3E)等,獲取介面規範和資料速率定義。訪問 www.jedec.org。
  • 廠商官方新聞稿與投資者報告
    • SK 海力士:news.skhynix.com
    • 三星半導體:semiconductor.samsung.com 及 news.samsung.com
    • 美光科技:investors.micron.com
    • NVIDIA 技術部落格與投資者關係頁面
    • AMD “Advancing AI”釋出會存檔
  • 行業分析報告(部分需付費訂閱)
    • TrendForce 儲存器與封裝研究(www.trendforce.com)
    • Yole Intelligence / Yole Group “Memory Packaging” 及 “Advanced Packaging” 系列報告
    • SemiAnalysis(對 HBM 路線和競爭有詳盡的非官方評論文章)
  • 學術/技術會議論文
    • ISSCC(國際固態電路會議)儲存器與封裝部分,年度出版
    • IEEE ECTC(電子元件與技術會議),先進封裝前沿
    • VLSI Technology Symposium(超大規模積體電路技術研討會)
  • 供應鏈資料與裝置端
    • DISCO、TOWA、Hanmi Semiconductor 等裝置商訂單揭露及 IR 材料
    • 台積電季度法說會(CoWoS 產能)投資者演示材料

本頁內容基於截至 2025 年 2 月的行業公開資訊編制。凡未標明具體引用的數字均標註“估算”或“典型值”,來源可能包括 JEDEC 標準上限、廠商公開技術論文及第三方行業分析機構的公開摘要。具體產品規格、價格及市場份額資料請以各廠商最新官方揭露為準;未能從公開渠道核實的數值統一保留“公開資料未見”表述。本頁不構成任何形式投資建議,不推薦或評估任何具體股票、證券之買賣。

source: 公開揭露與公開資料整理 本頁僅用於產業鏈學習、資訊檢索和研究輔助;不構成投資建議,不預測漲跌,不提供買賣、部位或目標價建議。
完整概念頁 複盤 13 節結構 公司投研頁 沿產業鏈找到受益公司 投資課 把概念轉成可跟蹤模型