GB200 NVL72
3 秒看懂
GB200 NVL72 是 NVIDIA 於 2024 年 GTC 大會上釋出的機架級“超級晶片”AI 計算系統。它通過高速 NVLink 將 72 顆 Blackwell 架構 GPU 全互聯成一個巨型 GPU,專為萬億引數大型模型訓練與即時推論而設計。可理解為:一個機架內擁有一臺幾乎無通訊瓶頸的超級計算機,將原本需要整個資料中心機房才能實現的算力與視訊記憶體資源壓縮到數平方米空間。
3 分鐘產業解釋
GB200 NVL72 並非傳統插在主機板上的顯示卡,而是一套完整的機架級 AI 基礎設施。其核心計算單元為“超級晶片”(Grace CPU + 雙 Blackwell GPU),36 組超級晶片(總計 72 顆 Blackwell GPU)通過專用 NVLink Switch 系統實現全部高速直連,形成統一的 GPU 算力與視訊記憶體資源池。
這一設計的根本目的,是解決大型模型時代兩個最核心的痛點:
- 視訊記憶體牆:萬億引數模型單卡無法容納,跨機通訊又導致訓練效率斷崖式下跌。GB200 NVL72 將系統總視訊記憶體擴充套件至 13.5 TB 以上的 HBM3e 域內可直接訪問,使全模型常駐高速視訊記憶體成為現實。
- 並行效率:張量並行、專家並行等對卡間頻寬極其敏感的操作,以往受限於 8 卡 DGX 節點內部的 NVLink 域,跨節點必須經過InfiniBand/乙太網路,頻寬驟降 90% 以上。NVL72 將 NVLink 高頻寬域一舉擴充套件至 72 GPU,AllReduce 和 All-to-All 等關鍵通訊操作可在域內極低延遲完成。
產業意義上,GB200 NVL72 被定義為“AI 工廠”的最小建置單元。雲端服務商和大型企業可用其快速搭建數萬乃至數十萬張 GPU 的超大規模叢集,支撐從萬億引數 MoE 大語言模型到多模態模型、科學計算、即時推論等場景,實現訓推一體化,從而最大化投資回報。
技術原理
系統架構概覽
GB200 NVL72 由三個物理層次組成:
- 計算底座:內建多組超級晶片,每個超級晶片包含 1 顆 Grace CPU 與 2 顆 Blackwell GPU,提供計算與本地 HBM3e 視訊記憶體。
- NVLink Switch 系統:多顆大型 NVSwitch 晶片組成無阻塞交換矩陣,將所有 72 顆 GPU 的 NVLink 埠全互聯,任意兩 GPU 之間可實現線速通訊,延遲在微秒級。
- 散熱與電源:整機架功耗約 120 kW(NVIDIA 2024 年 GTC 公開揭露),採用直接液體冷卻方案,涵蓋冷板、冷卻分配單元、歧管等元件。
核心機制:從 GPU 到 NVLink 域
每顆 Blackwell GPU 配備多個 NVLink 埠,通過高速序列/並行鏈路連線至 NVSwitch 晶片。NVSwitch 採用無阻塞交換架構,將所有 GPU 的 NVLink 訊號匯聚,實現任意兩兩 GPU 之間的全頻寬點對點通訊,無需經 CPU 或網路介面卡中繼。邏輯拓撲簡化示意如下:
[GPU 0] ── NVLink ──↘
[GPU 1] ── NVLink ──↘
... NVSwitch Fabric → 任意 GPU 全互聯
[GPU 71] ── NVLink ──↗
在此拓撲下:
- AllReduce 操作(張量並行前向/反向的梯度同步)可在極短時間內完成,延遲處於微秒量級,遠優於跨節點 InfiniBand 方案。
- All-to-All 操作(MoE 專家路由的 dispatch/combine)能夠充分利用雙向頻寬,避免傳統跨節點網路中的擁塞和尾部阻塞。
視訊記憶體池與快取一致性
NVL72 支援 GPU 間高效的記憶體訪問協議,可通過 NVLink 實現低延遲、高頻寬的遠端視訊記憶體訪問。這使所有 72 顆 GPU 的 HBM3e 記憶體在邏輯上呈現為一個巨大的統一地址池。對萬億引數模型而言,全部引數可常駐此高速池中,無需頻繁在 HBM 與主機記憶體或 SSD 之間進行引數換入換出,極大降低 checkpointing 和引數 offload 的延遲開銷。
並行策略的重構
在 NVL72 中,張量並行、專家並行、流水線並行之間的傳統邊界被模糊化:
- 張量並行:以往受限於單節點 8 卡 NVLink 域,現可跨 72 GPU 實施,模型層可被更細粒度切分。
- 專家並行:支援更多專家(如 32 或 64 專家)分佈在 72 卡域內,All-to-All 操作免遭跨節點瓶頸。
- 流水線並行:可將更多 micro-batch 注入域內不同階段,減少流水線氣泡。
開發者的訓練/推論指令碼配置複雜性因此降低,資源利用率與收斂效率提升。
關鍵引數
以下引數均基於 NVIDIA 於 2024 年 GTC 大會公開揭露資訊及官方部落格,如有更新請以 NVIDIA 最新 datasheet 為準。
| 指標 | 規格與說明 | 來源/口徑 |
|---|---|---|
| GPU 架構 | NVIDIA Blackwell | NVIDIA GTC 2024 |
| 單節點 GPU 數 | 72 顆(36 組超級晶片,每超級晶片含 2 顆 Blackwell GPU) | NVIDIA GTC 2024 |
| 單 GPU 視訊記憶體容量 | 192 GB HBM3e(Blackwell B200 規格) | NVIDIA 2024 GTC 官方揭露 |
| 系統總視訊記憶體容量 | 13.5 TB HBM3e(72 × 192 GB) | 基於上述數值計算 |
| NVLink 代次 | NVLink 5.0(單鏈路雙向頻寬 1.8 TB/s,基於 Blackwell) | NVIDIA 2024 GTC 揭露 |
| 域內總互聯頻寬 | 72 GPU 全互聯總頻寬達數 PB/s 量級(公開資料未給出精確總計數值) | 公開資料未見精確值,按 NVLink 5.0 單 GPU 總埠推算 |
| 機架功耗 | 約 120 kW | NVIDIA GTC 2024 公開揭露 |
| 冷卻方案 | 直接液體冷卻(冷板式) | NVIDIA GTC 2024 |
| AI 算力(FP4) | 單 GPU FP4 達數 petaFLOPS 級;NVL72 累計 FP4 算力達數百 petaFLOPS (NVIDIA 2024 GTC 宣稱對比 H100 實現數倍提升) | NVIDIA GTC 2024 公開材料 |
| CPU | 36 顆 Grace CPU(基於 Arm 架構) | NVIDIA GTC 2024 |
注:具體 TFLOPS/PFLOPS 數值、HBM 頻寬、NVLink 總頻寬等精確指標,以 NVIDIA Blackwell 正式白皮書為最終依據。部分數值在 GTC 2024 中以區間或對比形式揭露,本文不做具體估算。
技術路線
NVL72 在 NVIDIA 系統演進中的位置
- DGX-1(2016):基於 Pascal 架構,8 卡節點,無 NVSwitch,依賴 PCIe 通訊。
- DGX-2(2018):基於 Volta 架構,16 卡單機箱,首次引入 NVSwitch,實現 16 顆 V100 GPU 全互聯。
- DGX A100/H100(2020/2022):NVSwitch 迭代至第三代/第四代,但單 NVLink 域仍侷限在 8 卡 HGX 基板內部;跨節點依賴 InfiniBand/ConnectX 網絡卡。
- SuperPOD:通過多臺 DGX 配合 InfiniBand 網路擴充套件叢集規模,NVLink 高頻寬域仍限定於節點內 8 卡。
- GB200 NVL72(2024):首次將 NVLink 域原生設計為 72 GPU 機架級結構,採用全液冷、高密度供電,將 NVSwitch 與計算托盤深度整合,將“巨型 GPU”域作為最小部署單元。
與其他技術路線的對比
| 指標 | GB200 NVL72 | DGX H100 SuperPOD | Google TPU v5p 叢集 | 特斯拉 Dojo |
|---|---|---|---|---|
| 計算基礎單元 | 72 Blackwell GPU + 36 Grace CPU 單機架 | 多個 HGX H100 8-GPU 節點,通過 IB 互聯 | 多塊 TPU v5p 基板,通過 ICI 互聯 | D1 自研晶片/瓦片,通過 Dojo 介面互聯 |
| 域內 GPU 互聯 | NVLink 全互聯(~70+ GPU),低延遲、高頻寬 | 節點內 NVLink 8 卡,跨節點 InfiniBand | ICI 專用高速互聯,支援大域 | 自研 Dojo 互聯協議,支援平坦大域 |
| 張量並行可擴充套件性 | 原生可跨 72 卡 | 通常限制在 8 卡節點內 | 支援較大域,但受晶片架構約束 | 專為大型模型最佳化設計 |
| 萬億引數支援 | 原生設計,MoE All-to-All 同域 | 可行,需深度最佳化跨節點通訊 | 有針對性全對全最佳化 | 側重訓練最佳化 |
| 冷卻方案 | 直接液體冷卻 | 空氣冷卻為主 | 液體冷卻(公開報道) | 定製液冷方案 |
| 製程節點 | 定製 4nm 級 FinFET(公開報道稱 TSMC 定製工藝) | TSMC 4nm | Google 定製節點 | Samsung 7nm 級 |
注:效能對比為定性梳理,未做定量跑分對比。各系統正式釋出日期與架構細節存在差異,此處僅呈現技術路線差異。
上游
GB200 NVL72 產業鏈上游涵蓋半導體設計、先進製程代工、高頻寬儲存、先進封裝、聯結器件及散熱元件等環節:
- 晶片 IP 與設計:NVIDIA 自研 Blackwell GPU 架構、Grace CPU(Arm 架構核心)、NVSwitch ASIC。
- 晶圓代工:GPU 與 NVSwitch 晶片的先進邏輯製程由台積電提供。根據 NVIDIA 2024 年 GTC 公開資訊及行業分析,Blackwell GPU 採用 TSMC 定製化 4nm 級 FinFET 節點(具體工藝代數 NVIDIA 未官方核實)。Grace CPU 也由台積電代工。
- 高頻寬儲存器:Blackwell GPU 搭載 HBM3e 視訊記憶體,目前主要供應商為 SK 海力士與三星電子。根據各家 2024 年公開產能規劃,HBM3e 擴產正在加速,SK 海力士佔據先發份額(來源:TrendForce 2024 Q2 行業簡報)。
- 先進封裝:GPU + HBM 通過台積電 CoWoS 系列先進封裝完成。預計 Blackwell 產品使用 CoWoS-L 或更高級別封裝技術(公開資料未見 NVIDIA 精確確認)。台積電 2024 年技術論壇揭露計劃將 CoWoS 產能在 2024 年底擴至每月 3 萬片晶圓以上(台積電 2024 年 5 月技術論壇)。
- 交換器與連線部件:NVSwitch 晶片由 NVIDIA 設計、台積電代工;系統內部高速背板、高密度銅纜或有源光纜由相關聯結器/線束供應商提供。NVIDIA 尚未就機架內部連線介質的具體份額分配做出詳細揭露。
- 散熱元件:直接液體冷卻的冷板、管路、冷卻分配單元由散熱/液冷專業廠商供應。行業分析指出 CoolIT、Boyd Corporation、臺系液冷廠(如雙鴻、健策)為該生態重要參與者(來源:Digitimes 2024 年 7 月報道)。
下游
GB200 NVL72 主要面向以下四類需求方:
- 超大規模雲端服務商:AWS、微軟 Azure、Google Cloud、Oracle Cloud 等均已公開表示將部署基於 Blackwell 的例項,用於提供 AI 訓練與推論雲端服務。其中,各廠商在 2024 年下半年起陸續揭露了 Blackwell 例項的上線計劃(來源:各雲端廠商 2024 Q2-Q3 財報電話會及官方部落格)。
- 大型 AI 實驗室與初創公司:OpenAI、Anthropic、Meta、xAI 等聚焦萬億引數以上前沿模型訓練與部署的機構,是 GB200 NVL72 的核心目標客戶(來源:各公司公開技術部落格與社交媒體)。
- 主權 AI 與國家級超算中心:多國政府已將 AI 算力納入國家戰略,大規模採購 GB200 NVL72 系統用於建置國家級 AI 基礎設施(公開報道涉及新加坡、日本、北歐多國等)。
- 企業級推論服務商:隨著萬億引數 MoE 模型線上推論需求上升,部分大型模型 API 供應商正在評估將 NVL72 作為“訓推一體”單元,以提升推論吞吐與首 token 延遲表現(來源:Semianalysis 2024 年 8 月分析)。
市場反饋顯示,Blackwell 系列需求遠超供應,NVIDIA 分配的優先順序明顯傾向於超大規模雲端服務商及頭部 AI 實驗室,全球中小企業及新興初創公司普遍面臨較長等待週期(來源:The Information 2024 年 9 月報道)。
受益公司
以下梳理涉及 GB200 NVL72 產業鏈的上市公司及其受益邏輯,僅作客觀產業分析,不構成任何投資建議:
- NVIDIA:系統直接供應商,GB200 NVL72 使其從晶片/板卡銷售升級為機架級系統銷售,單客戶價值量大幅提升,進一步鞏固在 AI 訓練與推論基礎設施領域的優勢地位。
- 台積電:獨家提供 Blackwell GPU 先進製程代工及 CoWoS 系列先進封裝。NVL72 系統 GPU 晶片總面積大、封裝複雜度高,對臺積電先進製程及封裝產能的拉動顯著。台積電 2024 年財報指出 AI 相關營收佔比持續提升。
- SK 海力士 / 三星電子:Blackwell 搭載 HBM3e 視訊記憶體,2024-2025 年 HBM3e 供需持續偏緊。SK 海力士 2024 年 Q2 財報揭露其 HBM3e 產能已售罄至 2025 年;三星電子亦在加速 HBM3e 驗證與擴產。
- 散熱/液冷供應鏈:NVL72 約 120 kW 的機架功耗強制採用直接液體冷卻,推動液冷滲透率快速上升。相關上市公司包括 CoolIT(未上市)、Boyd Corporation(未上市)及臺系廠商雙鴻、健策、奇鋐等。
- ODM/系統組裝:鴻海、緯創、廣達、Supermicro 等參與 NVL72 機架系統組裝與整合。其中鴻海 2024 年在 GB200 NVL72 系統的早期出貨中佔據較大比重(來源:DigiTimes 2024 年 7 月報道)。
- 聯結器與線束:NVLink 機架內高速互連需大量高密度銅纜/有源光纜及配套聯結器。公開分析提及安費諾、泰科電子、Molex 等國際聯結器巨頭,以及部分臺系線束廠可能參與供應。NVIDIA 未正式揭露供應商清單。
市場規模
以下資料均源自第三方行業研究機構,所有數字均標註年份、口徑及來源:
- AI 伺服器市場規模:根據 IDC 2024 年 8 月報告,2024 年全球 AI 伺服器市場出貨金額預計達 1,200 億美元,年增率增長約 80%;其中 GPU 伺服器佔據絕大多數份額。IDC 預計 2028 年 AI 伺服器市場規模將超過 2,500 億美元。
- NVIDIA 資料中心業務營收:NVIDIA FY2025 Q2(截至 2024 年 7 月)資料中心業務營收達 263 億美元,年增率增長 154%(來源:NVIDIA FY2025 Q2 財報)。分析機構普遍預計 Blackwell 系列產品的放量將成為 FY2026(2025 自然年)資料中心業務進一步增長的關鍵驅動力。
- GB200 NVL72 細分市場:尚未有獨立第三方釋出的 GB200 NVL72 專屬市場規模預測。公開分析(Semianalysis 2024 年 7 月報告)粗略估算,2025 年 GB200 NVL72 及 NVL36 系統合計出貨金額可能達到數百億美元級別(此估算僅為行業分析,不作預測依據)。
- HBM 市場:TrendForce 2024 年 7 月報告預計,2024 年 HBM 市場規模將超過 160 億美元,年增率增長約 300%;2025 年有望突破 300 億美元,主要由 HBM3e 及未來的 HBM4 出貨驅動。
- 液冷資料中心市場:Dell’Oro Group 2024 年 8 月報告預測,2028 年全球資料中心液冷市場規模將超過 80 億美元,其中以直接液體冷卻為主要方案。GB200 NVL72 的全液冷方案被視為該趨勢的重要推手。
重要提示:上述第三方預測均基於一定假設,存在各種不確定性,僅用於說明產業趨勢,不代表對未來市場規模的確切預判。
玩家對比
目前,能提供與 GB200 NVL72 類似“單域全互聯”大規模 AI 訓練系統的廠商有限:
- NVIDIA:以 GB200 NVL72 將單 NVLink 域擴充套件至 72 GPU,是目前公開資訊中單域全互聯 GPU 數最多的量產設計。其軟體生態(CUDA、Megatron-LM、NeMo 等)深度適配大 NVLink 域,形成生態壁壘。
- AMD:MI300X 及後續 Instinct 路線圖提供了 8 卡全互聯的基板設計,跨節點仍依賴 Infinity Fabric 或乙太網路。AMD 在 2024 年 Advancing AI 活動上宣佈,將在後續架構中進一步增強域內 GPU 數量,但目前公開資訊中未見與 NVL72 量級對等的單域 72 卡設計。ROCm 生態持續完善中。
- Google TPU v5p:ICI 高速互聯支援較大域規模,且 TPU 為 Google 自研自用,主要服務於 Google Cloud 及內部工作負載,不向第三方直接出售晶片。v5p 叢集的域規模與拓撲細節未完全公開。
- 特斯拉 Dojo:專為特斯拉自動駕駛訓練最佳化,D1 晶片通過自研 Dojo 介面互聯。目前主要服務於特斯拉內部需求,未有對外出售計劃。
- 華為 Ascend:昇騰系列通過 HCCS 高速互聯實現多卡域,但在域規模、生態完整性及先進製程可獲得性方面與 NVIDIA 存在客觀差距,且主要面向中國大陸市場。
- 其他 ASIC 廠商:如 Amazon Trainium、Meta MTIA 等,多為特定客戶內部工作負載定製,單域 GPU 當量與通用性無法與 GB200 NVL72 直接對標。
總結:截至 2024 年 Q3,GB200 NVL72 在單域 GPU 數、全互聯頻寬及軟體生態成熟度方面處於獨特地位,但 AMD、Google 等競爭者正在加速追趕,2025-2026 年格局可能出現變化。
風險
以下列舉與 GB200 NVL72 相關的產業與供應鏈風險,均基於公開資訊與行業邏輯分析:
- 產能瓶頸風險:CoWoS-L 先進封裝產能、HBM3e 供貨能力是 Blackwell 全系列產品出貨的關鍵約束。若台積電封裝擴產進度或 SK 海力士/三星 HBM3e 良率爬坡不及預期,可能導致 NVL72 系統大量訂單延遲交付。截至目前(2024 年 Q3),NVIDIA 尚未公佈具體產能與訂單積壓資料。
- 功耗與散熱挑戰:120 kW 單機架對資料中心供電、冷卻基礎設施提出極高要求。大多數現有資料中心無法直接承載此級別功率密度,需要改造或新建,從而可能延緩部署速度。
- 系統成本高企:據行業估算,單臺 NVL72 售價可能在 300 萬至 400 萬美元區間(來源:Semianalysis 2024 年 7 月分析),使得該系統的可及性侷限於少數超大規模客戶,市場需求集中度高,一旦頭部客戶資本支出放緩,可能對產業鏈造成重大影響。
- 技術路線替代風險:超大規模雲端服務商的自研 ASIC 趨勢持續強化(如 Google TPU、Amazon Trainium、微軟 Maia、Meta MTIA),若自研晶片在效能/成本上達到替代閾值,可能侵蝕通用 GPU 在部分內部工作負載中的份額。
- 出口管制與地緣政治風險:美國政府對高階 GPU 的出口管制政策已影響 NVIDIA 在中國大陸及部分中東地區的銷售。若管制範圍進一步擴大或力度加強,可能影響 NVL72 在特定區域的市場空間。
- 軟體生態依賴:GB200 NVL72 的極致效能發揮高度依賴 CUDA 生態及最佳化的並行架構,任何與主流通用架構(PyTorch、JAX 等)的適配延遲或相容性問題都可能減緩使用者遷移速度。
誤讀糾偏
誤讀 1:“GB200 NVL72 只是把 72 張顯示卡堆在一個機架裡”
糾偏:傳統 72 張 GPU 若通過 PCIe 交換器或標準網路連線,頻寬不僅遠低於 NVLink,且延遲、一致性協議均無法保證。NVL72 通過 NVSwitch 實現全 GPU 的無阻塞交換,統一地址池與高速域內記憶體訪問在硬體層面提供了一致性保障,本質更接近“一臺擁有 72 個計算芯粒的巨型 GPU”,而非 GPU 的簡單物理堆疊。
誤讀 2:“MoE 模型每次只啟用部分專家,所以不需要這麼大視訊記憶體”
糾偏:雖然每 token 的啟用引數量較小,但所有專家的完整引數在訓練和線上推論中均需常駐高速儲存(如 HBM),否則每次路由切換都將引發不可接受的延遲。NVL72 總視訊記憶體 13.5 TB 的設計目標正是讓萬億引數 MoE 全模型(所有專家 + 共享層)常駐在統一 HBM 池內,而非僅存入被啟用的少數專家。
誤讀 3:“NVL72 只適合訓練,推論用不到這麼強的互聯”
糾偏:萬億引數 MoE 模型推論時,每個解碼步驟同樣需要執行 All-to-All 通訊進行專家路由。若將模型拆分到多個小節點,跨節點 All-to-All 將成為延遲瓶頸,直接影響使用者體驗(首 token 延遲、吞吐)。NVL72 作為推論單元可實現全模型域內駐留,將通訊開銷降至最低,從而兼顧低延遲與高吞吐。
誤讀 4:“GB200 NVL72 就是 Blackwell 唯一形態,其他產品沒人關注”
糾偏:NVIDIA 在 Blackwell 世代同時推出 HGX B200(8 卡基板)、GB200 NVL36(36 GPU 機架)等配置,以覆蓋不同規模與預算的客戶需求。NVL72 是當前最高階的全互聯示例,並非唯一產品形態。
最新事件
以下梳理截至 2025 年初與 GB200 NVL72 相關的最新產業動態:
- GB200 NVL72 出貨進度:NVIDIA 在 FY2025 Q3 財報電話會(2024 年 11 月)中確認,GB200 NVL72 已開始向首批客戶發貨,預計 2025 年 Q1 起大規模爬坡。部分雲端服務商在 2024 年末宣佈其 Blackwell 例項開啟內測。
- CSP 例項上線計劃:微軟 Azure 於 2024 年 10 月宣佈將於 2025 年初推出基於 GB200 的例項;AWS 在 re:Invent 2024 上確認將部署 Blackwell 叢集;Google Cloud 在 2024 年 Q4 表示 Blackwell 例項正在準備中。
- CoWoS 產能擴充套件:台積電在 2024 年 Q3 法說會上確認,將 2024 年 CoWoS 產能目標上調至每月 3.5 萬片以上,2025 年底目標進一步擴充套件至 5-6 萬片/月(來源:台積電 2024 Q3 法說會)。
- HBM3e 供應:SK 海力士 2024 年 Q3 財報揭露,12-Hi HBM3e 已向 NVIDIA 量產出貨,預計 2025 年 HBM3e 總供應量年增率增長超過 200%。三星電子 12-Hi HBM3e 驗證進展於 2024 年下半年加快,但截至 2024 年底尚未獲得 NVIDIA 正式認證完畢的公開確認。
- 出口管制動態:美國商務部工業和安全域性於 2024 年底更新出口管制規則,對部分高階 AI 晶片的全球出貨實施更嚴格的許可要求。NVIDIA 在財報電話會中表示,相關管制短期內對營收影響有限,但長期不確定性增加。
- B300 傳聞:部分產業媒體於 2025 年初報道,NVIDIA 可能在 2025 年下半年推出 Blackwell 系列的更新型號(暫稱 B300),引入 8-Hi HBM3e 更多堆疊等改進。截至 2025 年初,NVIDIA 未就此傳聞公開置評。
追蹤指標
以下為持續追蹤 GB200 NVL72 產業進展的核心指標:
- NVIDIA 資料中心業務營收:關注 NVIDIA 每季度財報中資料中心業務年增率/季增率增速及管理層對 Blackwell 的出貨展望。
- Blackwell 系列出貨量與客戶結構:關注超大規模雲端廠商的資本支出展望及 Blackwell 例項上線時間表,間接推算 GB200 出貨節奏。
- CoWoS/L 封裝產能及利用率:台積電季度法說會中 CoWoS 產能規劃與實際投產資料,為 Blackwell 全系列產品供給面的核心約束。
- HBM3e 價格與供需:SK 海力士、三星電子、美光科技的 HBM 業務營收增速及擴產計劃,TrendForce 等機構釋出的 HBM 供需分析報告。
- 液冷供應鏈營收:散熱/液冷相關上市公司(如雙鴻、健策、CoolIT 母公司等)的營收及訂單出庫資料,可作為 NVL72 實際出貨的側面驗證。
- 超大規模雲端服務商資本支出:AWS、Azure、Google Cloud、Oracle Cloud 等廠商的季度資本支出展望與新建資料中心計劃,判斷 AI 基礎設施投資的持續性與強度。
- 大型模型引數規模趨勢:關注領先 AI 實驗室釋出的新一代模型引數規模與架構(尤其是 MoE 專家數)變化,萬億以上引數模型的訓練/推論需求是 NVL72 滲透率的重要驅動力。
- 出口管制政策變化:美國商務部 BIS 對高階 AI 晶片出口管制規則的更新頻率與範圍,直接決定 NVL72 在部分市場的可及性。
信源
本文所引用資訊與資料主要來源於以下公開渠道,供讀者交叉驗證與深度研究:
- NVIDIA 官方:GTC 2024 Keynote、NVIDIA Developer Blog(Blackwell Architecture 系列文章)、NVIDIA FY2025 各季度財報及電話會記錄、NVIDIA 官方新聞稿。
- 台積電官方:2024 年技術論壇、2024 年 Q2-Q4 法說會記錄。
- 儲存原廠官方:SK 海力士、三星電子 2024 年財報及新聞稿。
- 第三方研究與分析:
- Semianalysis(2024 年多篇 GB200/Blackwell 深度分析)
- IDC(2024 年 AI 伺服器市場報告)
- TrendForce(2024 年 HBM 市場報告)
- Dell’Oro Group(2024 年液冷資料中心市場報告)
- Next Platform(架構分析)
- 產業媒體:DigiTimes、The Information、The Verge、AnandTech 等對 GB200 及供應鏈的相關報道。
宣告:本文所有資料均盡力標註年份、口徑與來源。凡公開資料未見明確數值之處,均以“公開資料未見”如實標註,絕不編造。本文不構成任何投資建議或買賣推薦,僅提供產業事實梳理與技術邏輯分析。