網路層 開放閱讀

GB300 NVL72

GB300 NVL72

概念 ID
gb300-nvl72
更新時間
2026-05-29
來源數量
待補

GB300 NVL72

1 3 秒看懂

GB300 NVL72 是 NVIDIA 於 2025 年 3 月 GTC 大會發布的機架級液冷 AI 計算系統,定位於萬億引數級大型模型訓練與即時推論。其核心架構將 36 片 Grace Blackwell Ultra 超級晶片(共計 72 顆 Blackwell Ultra GPU)通過第五代 NVLink 與 NVSwitch 緊耦合為一個邏輯上的巨型 GPU,實現 72 GPU 全互聯的視訊記憶體與算力統一池化。單機架 FP8 稠密算力達 1.44 ExaFLOPS(NVIDIA 2025 年 3 月官方釋出資料),視訊記憶體總容量突破 5760 GB 並形成單一共享地址空間。產品於 2025 年 3 月起通過 NVIDIA DGX Cloud 向首批客戶開放預覽,正式量產出貨展望設定於 2025 年下半年(NVIDIA 2025 年 GTC 釋出會揭露)。

2 3 分鐘產業解釋

GB300 NVL72 的出現並非孤立的產品迭代,而是 AI 基礎設施從“卡級堆疊”邁向“系統級設計”的訊號。自 2023 年生成式 AI 爆發以來,模型引數量從 GPT-4 的約 1.8 萬億(公開報道引用 Anthropic CEO 2023 年訪談估算)向 10 萬億甚至更高數量級演進,單 GPU 視訊記憶體(H100 為 80GB HBM3)成為核心瓶頸。在此約束下,工程團隊不得不實施模型並行、流水線並行、張量並行等多維切分策略,帶來巨大的通訊開銷與軟體工程成本。

GB300 NVL72 的商業意圖明確:以機架為最小交付單元,將原本需要在數十甚至數百個節點間通過 InfiniBand 交換器橫向擴充套件的工作負載,壓縮至單機架內的 NVLink 域完成。其直接對標場景包括 OpenAI 等機構下一代通用大型模型的預訓練、Llama 4 級別開源模型的密集訓練,以及萬億引數 MoE 模型的即時推論。對於雲端服務商而言,72 GPU 的 NVLink 全互聯可以實現接近單 GPU 程式設計模型的開發體驗,顯著降低分散式訓練架構的除錯成本,縮短模型從實驗到部署的週期。根據 NVIDIA 2025 年 3 月投資者關係揭露,首批 NVL72 機架已部署於 xAI 的 Colossus 叢集並投入執行。

產業鏈影響層面,NVL72 的推出加速了液冷散熱方案的滲透。單機架 120kW 級別熱功耗已超出傳統風冷極限(公開資料顯示典型資料中心單機架風冷能力約 20-40kW),直接帶動冷板液冷、CDU 及配套管路的需求。此外,72 GPU 全互聯對 PCB、高速背板、銅纜與光模組的規格提出了代際升級要求,其訊號完整性挑戰也催化了相關供應鏈的技術迭代。

3 技術原理

3.1 Grace Blackwell Ultra 超級晶片連線

每片 Grace Blackwell Ultra 超級晶片通過 NVLink-C2C 將 1 顆 Grace CPU 與 2 顆 Blackwell Ultra GPU 以 900 GB/s 雙向頻寬實現一致性互聯。NVLink-C2C 基於底層物理層 SerDes 技術,提供 CPU-GPU 共享記憶體語義,使得 GPU 可直接訪問 CPU 側 LPDDR5X 記憶體(公開資料未見 NVL72 Grace CPU 所配置 LPDDR5X 容量口徑的官方資料,NVIDIA 同代 Grace Hopper 超級晶片 CPU 側為 480GB 至 1TB 不等),且支援頁遷移與按需缺頁中斷的自動統一記憶體管理。Blackwell Ultra GPU 於 2025 年 3 月首次公開,較前代 B200 GPU 在 HBM 容量與 FP4 推論精度上進一步擴充套件。

NVL72 內部通過多級 NVSwitch 建置非阻塞全網際網路絡。GPU 與 NVSwitch 之間以銅纜背板直連,每 GPU 提供單向 450 GB/s(雙向 900 GB/s)的第五代 NVLink 頻寬(NVIDIA 2025 年 3 月技術白皮書),72 GPU 全互聯總頻寬達 64.8 TB/s。NVSwitch 晶片本身為無阻塞交叉矩陣設計,保證任意兩 GPU 之間均可達到埠線速,消除傳統樹形拓撲的收斂比瓶頸。該互聯域內所有 GPU 的 HBM 視訊記憶體聚合為統一虛擬定址空間,配合硬體記憶體管理單元(MMU)與 NVLink 的地址翻譯服務,任一 GPU 可對遠端 HBM 執行 load/store 操作,延遲控制在亞微秒級(公開資料未見 NVL72 實測延遲數值,Hopper 架構 NVLink 遠端訪問約數百納秒級)。

3.3 視訊記憶體池化與超大 HBM 空間

單顆 Blackwell Ultra GPU 配備新一代 HBM(公開資訊指向 HBM3e 12-Hi 堆疊),NVIDIA 2025 年 3 月釋出確認單 GPU 視訊記憶體容量提升至 288 GB。NVL72 機架共計 72 GPU,視訊記憶體總容量達 20736 GB(約 20.7 TB),實際可形成統一定址空間供應用程式直接分配。這允許萬億引數級稠密模型(按 FP8 精度權重約 1 TB/萬億引數估算)連同最佳化器狀態(Adam 需額外 2-3 倍視訊記憶體)完整駐留在 NVLink 域內,無需藉助 CPU 記憶體解除安裝或磁碟交換。NVIDIA 同時提供 cuBLAS、cuDNN 及 NCCL 通訊庫更新以適配該記憶體拓撲。

3.4 機架級直接液冷

NVL72 採用冷板式直接液冷(Direct-to-Chip Liquid Cooling),冷卻介質經 CDU(Coolant Distribution Unit)迴圈輸送至 CPU、GPU、NVSwitch 及電源模組的微通道冷板。NVIDIA 2025 年 3 月釋出資料顯示單機架最大熱設計功耗(TDP)約 120 kW,CDU 一次側接入樓宇級冷卻水,二次側提供去離子冷卻液至各計算節點。液冷體系包含漏液檢測、溫度/流量感測器及冗餘泵組。液冷方案使 PUE(電能使用效率)有望降至 1.1 以下(NVIDIA 2025 年 GTC 可持續發展報告估計口徑),且無需 IT 機房側部署高功率風扇牆,降低噪聲與風扇功耗。

3.5 Scale-up 與 Scale-out 分層架構

GB300 NVL72 定位為系統內 Scale-up 的極致方案:72 GPU 處於同一高頻寬、低延遲記憶體域,承載大型模型訓練的前向/反向傳播及梯度同步主迴圈。當模型規模或資料並行需求超出單機架能力時,多臺 NVL72 之間通過 ConnectX-8 網路介面卡以 800Gb/s InfiniBand 或 Spectrum-X 乙太網路組成 Scale-out 層,Megatron-LM、FSDP 等架構可混合運用 NVLink 域內張量並行與跨機架資料並行。該分層架構將傳統 8 GPU 伺服器內全互聯拓展至 72 GPU,大幅壓縮了橫跨 PCIe 拓撲與外部交換器帶來的梯度同步瓶頸。

4 關鍵引數

以下引數均彙總自 NVIDIA 2025 年 3 月 GTC 官方釋出、技術白皮書及投資者關係材料。部分細分引數公開資料未見,已另行標註。

引數項規格/數值口徑說明
GPU 型號與數量72 顆 Blackwell Ultra GPUNVIDIA 2025 年 3 月官方釋出
CPU 型號與數量36 顆 Grace CPU(Arm Neoverse 架構)與 GPU 組成超級晶片
GPU 架構Blackwell Ultra,支援 FP4/FP8/BF16/FP16/FP322025 年 3 月新公開
FP8 稠密算力單 GPU 2 PFLOPS,整機架 144 PFLOPS(1.44 EFLOPS)NVIDIA 官方口徑
FP4 推論算力整機架約 2.88 EFLOPS為 FP8 的 2 倍關係(NVIDIA 白皮書架構圖推導)
單 GPU 視訊記憶體容量288 GB HBM(公開資訊指向 HBM3e)NVIDIA 2025 年 3 月釋出
整機架視訊記憶體總容量20736 GB(約 20.7 TB),統一定址72 × 288 GB
GPU 間互聯頻寬每 GPU 雙向 900 GB/s NVLink 5.0NVIDIA 官方
NVLink 全互聯總頻寬64.8 TB/s 雙向72 GPU 對間頻寬
CPU-GPU 互聯NVLink-C2C,雙向 900 GB/s每超級晶片內部
對外網路介面800Gb/s InfiniBand 或 Spectrum-X 乙太網路ConnectX-8 介面卡
單機架最大功耗(TDP)約 120 kWNVIDIA 官方
散熱方式冷板式直接液冷標配
機架尺寸公開資料未見官方釋出具體高度,推測為 42U-48U 級別未確認
重量公開資料未見
出貨時間2025 年下半年正式量產,3 月起雲端端預覽NVIDIA 2025 年 GTC 展望
價格公開資料未見官方定價,部分行業分析師估算單機架超 300 萬美元第三方推測口徑

5 技術路線

GB300 NVL72 的技術演進可置於 NVIDIA 資料中心 GPU 系統架構的長期路線上加以理解。

2022 年釋出的 H100 及 DGX H100 系統延續 8 GPU 全互聯範式,NVLink 域內頻寬 900 GB/s(第三代 NVLink),跨節點依賴 InfiniBand。2024 年 Blackwell 架構推出 B200 GPU 及 GB200 超級晶片,首次將 NVLink 域擴充套件至 72 GPU(NVL72),並引入 NVLink-C2C。GB300 NVL72 則是這一路線的 Ultra 代際升級:將 GPU 由 B200 替換為 Blackwell Ultra,HBM 由 192 GB 提升至 288 GB,FP4 推論算力翻倍。NVIDIA 2025 年 3 月同時公佈 2026 年路線圖——Vera Rubin 架構(NVLink 6.0),可支撐 144 GPU 互聯的 NVL144。2027-2028 年計劃推出 Feynman 架構。

核心技術路線特徵包括:其一,NVLink 域持續擴大,每代 GPU 數量翻倍(從 8→72→144),減少跨機架通訊佔比。其二,HBM 容量與頻寬同步提升,順應模型引數增長速度。其三,液冷從選配走向標配。其四,系統設計與晶片設計趨於一體化,NVIDIA 直接交付整機架而非僅提供板卡和參考設計。

值得關注的是,GB300 NVL72 所在的 Blackwell Ultra 代際處於“2025 視窗期”,即各家前沿實驗室爭奪首個 10 萬億引數級基座模型的視窗。2026 年 Vera Rubin 將滿足更極端的引數與上下文長度需求。GB300 NVL72 在技術路線中的角色可視為“萬億級模型全記憶體駐留”能力的第一款商用產品,並將 72 GPU 全互聯拓撲驗證成熟,為後續代際擴充套件奠定系統工程基礎。

6 上游

GB300 NVL72 的上游供應鏈核心圍繞先進製造、先進封裝、HBM 儲存與高速互連晶片四層。

先進製造與封裝:Blackwell Ultra GPU 採用台積電 4nm 級工藝(NVIDIA 2025 年 3 月官方揭露),由台積電獨家代工,CoWoS-L 先進封裝整合 GPU 計算芯粒與 HBM 堆疊。根據摩根士丹利 2025 年 3 月研究報告估算,2025 年 NVIDIA 佔臺積電 CoWoS 產能約六成。Grace CPU 同樣基於台積電先進製程製造。

HBM 記憶體:SK 海力士為 Blackwell Ultra 平台 HBM3e 主供應商。三星電子 HBM3e 產品於 2024 年底通過 NVIDIA 認證(三星 2024 年 Q4 財報及公告),2025 年進入 GB300 供應序列。美光 HBM3e 同樣可供貨。集邦諮詢(TrendForce)2025 年 Q1 報告估計 2025 年全球 HBM 總產出中約 70% 流向 NVIDIA GPU 平台。72 GPU 單機架消耗 20736 GB HBM,將顯著拉動 HBM 出貨。

NVSwitch 與高速互連:NVSwitch 互連晶片由 NVIDIA 自行設計,代工方台積電。NVLink 背板高速銅纜及 PCB 由泰科電子、安費諾、鴻海精密等供應。單機架內數千路差分訊號需極低損耗材料與精密背板鑽孔,構成高階 PCB 與聯結器環節的價值增量區域。

液冷元件:CDU、分液管路、冷板由 Cooler Master、Vertiv、nVent 等散熱方案商配套,部分客戶由 NVIDIA 指定液冷夥伴或自建方案。冷板元件涉及銅鋁合金精密加工,臺資散熱廠商如奇鋐科技、雙鴻科技在 GB300 生態中參與供貨(公開報道引用臺灣電子時報 2025 年 1 月產業鏈資訊)。

電源模組:單機架 120 kW 功耗對電源模組提出極高效率要求。臺達電子、光寶科技等廠商提供高功率密度冗餘電源方案,支援 48V 機架內直流母線架構(公開資料未見 NVL72 電源供應商的官方指定確認)。

7 下游

GB300 NVL72 的下游客戶結構可劃分為三個梯隊。

第一梯隊:大型雲端服務商(CSP)。微軟 Azure、亞馬遜 AWS、Google Cloud、甲骨文 OCI 均已揭露基於 GB200/GB300 平台的例項規劃(NVIDIA 2025 年 3 月 GTC 合作伙伴展示)。2025 年 3 月 NVIDIA 宣佈 DGX Cloud 將通過上述 CSP 部署 GB300 NVL72 例項,使用者可按小時或預留例項模式租用。CSP 將其作為爭奪 AI PaaS 市場份額的核心算力底座,面向模型訓練、精調及推論的一站式服務。

第二梯隊:前沿 AI 實驗室。xAI 於 2025 年 3 月公開其 Colossus 超級計算叢集已部署超 200 臺 GB300 NVL72 機架(xAI 官方社交平台與 NVIDIA 官方引用),用於 Grok 模型家族訓練。OpenAI、Anthropic、DeepMind 等機構為 NVL72 的公開潛在使用者,但具體採購數量公開資料未見。此類客戶偏好整機架交付,以縮短叢集搭建與除錯時間。

第三梯隊:主權 AI 與國家超算中心。多個國家/地區將 GB300 NVL72 列入國家 AI 基礎設施採購物件。公開資訊顯示丹麥 Gefion 超算等主權 AI 專案已採用 NVIDIA 系統。國產算力生態在 NVL72 的主要替代路徑為昇騰、寒武紀等國產 GPU 的機架級方案。

應用場景側,訓練環節用於大規模稠密模型預訓練、大規模 MoE 模型訓練(NVLink 域內可容納完整的專家子網路);推論環節支援萬億引數稠密或多專家模型的即時低延遲推論,大量視訊記憶體能在單 NVLink 域內快取完整的 KV Cache;科學計算則拓展到氣候模擬、藥物分子動力學等高視訊記憶體頻寬場景。

8 受益公司

以下討論限制在產業鏈上下游公開的供應關係或客戶關係範圍內,不涉及對任何公司證券的投資價值判斷、買賣建議或股價漲跌預測。

NVIDIA(設計方與交付方):作為 GB300 NVL72 的唯一設計與整機架交付方,直接受益於整機架銷售與 DGX Cloud 租賃營收。NVIDIA 2025 財年資料中心業務營收 1152 億美元(NVIDIA 2025 年 1 月財報,口徑為 FY2025 全年),市場普遍預期 GB300 系列將構成 2025-2026 年的主力營收驅動。

台積電(製造與封裝):獨家代工 Blackwell Ultra GPU、Grace CPU 及 NVSwitch 晶片,同時獨佔 CoWoS-L 先進封裝產能。CoWoS 產能持續緊張為台積電帶來顯著的先進封裝單價提升空間。

SK 海力士、三星電子、美光(HBM):三家 HBM 供應商將直接受益於 GB300 單機架 20.7 TB 視訊記憶體需求量。SK 海力士 2025 年 Q1 財報顯示 HBM 營收年增率增長超 200%(SK 海力士 2025 年 4 月初步財報),三星與美光 HBM 業務同樣處於快速增長階段。

散熱供應鏈:奇鋐科技、雙鴻科技、Cooler Master、Vertiv 等液冷方案及元件供應商受益於液冷從選配進入標配的普及週期。Vertiv 2024 年 Q4 財報電話會指出 AI 液冷訂單積壓達數十億美元級別。

高速互連元件供應商:泰科電子、安費諾、鴻海精密等受益於 NVL72 內部高密度銅纜背板及聯結器需求。鴻海 2024 年報及 2025 年 Q1 法說會多次強調 AI 伺服器整機與連線元件業務高速增長。

雲端服務商:微軟、亞馬遜、Google、甲骨文等通過在各自雲端平台上線 GB300 NVL72 例項獲得 AI 算力租賃營收,同時保持對 AI PaaS 生態的控制。

公開資訊未見明確受益歸屬的環節包括 NVL72 的專用液冷 CDU 獨家供應商、48V 電源模組第一供應商等,須待後續產業鏈核實。

9 市場規模

討論 GB300 NVL72 相關的市場規模需區分兩個口徑:一是 NVL72 自身所在的 AI 伺服器/機架細分市場,二是其所帶動的上游元件市場。

AI 伺服器整體市場:IDC 2025 年 1 月報告指出 2024 年全球 AI 伺服器出貨金額約 1200 億美元,2025 年預計增長至 1600 億美元,複合年增長率約 30% 以上。GB200/GB300 系列被 IDC 歸類為“機架級液冷 AI 系統”,預計 2025 年出貨金額約 400-500 億美元(IDC 2025 年 1 月預測口徑)。摩根士丹利 2025 年 3 月估算 GB300 NVL72 單機架出廠均價約 300-400 萬美元區間,若 2025 年全年出貨 5000-8000 架,該細分市場終端價值可達 150-320 億美元。上述為第三方估計,並非 NVIDIA 官方銷量展望。

HBM 市場拉動:單臺 NVL72 含 20.7 TB HBM。以 2025 年出貨 5000-8000 架的第三方估算計,對應 HBM 消耗量約 103-166 PB。集邦諮詢 2025 年 Q1 報告預計 2025 年全球 HBM 總產能(按 bit 產出計)約 250-300 PB,NVL72 的需求可能佔全球 HBM 消耗的 30%-50%(含其他 GB300 系統及亞馬遜 Trainium、AMD MI 系列等 HBM 用量),顯示 HBM 供應緊缺狀況在 2025 年將延續。

液冷市場滲透:Dell‘Oro Group 2025 年 Q1 資料中心熱管理報告估算 2025 年全球資料中心液冷市場規模為 85 億美元,而 2023 年僅約 20 億美元,NVL72 等機架級系統是推動增長的核心動力。

地域與客戶口徑:北美頭部雲端服務商和 AI 實驗室預計佔據 NVL72 首批出貨量的 80% 以上(第三方分析機構 SemiAnalysis 2025 年 3 月估算)。亞洲市場特別是中東主權基金與日本、印度算力基建專案構成第二增長極。

10 玩家對比

GB300 NVL72 的競爭格局需在單體系統最大縱向擴充套件能力這一維度上比較,而非單純比較 GPU 數量或紙面算力。

AMD:2024 年 Q4 釋出 Instinct MI300X 及後續路線圖,2025 年預計推出 MI400 系列(AMD 2024 年 12 月 Advancing AI 大會預告)。AMD 目前的方案側重於通過 Infinity Fabric 實現 8 GPU 全互聯,超過 8 GPU 的拓撲依賴伺服器外部乙太網路或 InfiniBand 擴充套件,公開資料未見其公佈 72 GPU 級單一 NVLink 域產品計劃。單 GPU 視訊記憶體容量 MI300X 為 192 GB HBM3,在容量上對 GB300 單 GPU 288 GB 存在差距。

Intel:Gaudi 3 及後續 Falcon Shores 平台版面配置 AI 加速器,但 Gaudi 系列側重價效比推論場景,互聯方案採用片內整合 RoCE 乙太網路埠,無類似 NVLink 的全互聯記憶體一致性域。2024 年 Intel 改變策略,Falcon Shores 轉向純 GPU 架構,但進度上尚難與 GB300 在 2025 年直接競逐。

定製 ASIC(Google TPU、Amazon Trainium、Microsoft Maia、Meta MTIA):各家雲端服務商的自研晶片通常整合自有的交換互聯架構。Google TPU v5p 支援 8960 晶片 TPU Pod 通過 ICI(晶片間互聯)組網,具備大規模池化能力,但其互聯頻寬、記憶體一致性與具體指標公開資料不完全對標。AWS Trainium2 與 Microsoft Maia 200 仍處於早期可用階段。2025 年大規模機架級部署能力尚處於追趕程序中。

國內廠商:華為昇騰 910 系列通過 HCCS 實現單節點內互聯,多節點間依賴華為交換器組網,公開資料未見與 HBM 容量池化相匹敵的大規模統一定址方案。寒武紀、壁仞科技、崑崙芯等均為更遠期潛在競爭者。NVL72 的 72 GPU 全 NVLink 域仍然是當前商用系統中唯一已公佈的該量級完整互連產品。

整體而言,GB300 NVL72 在 2025 年系統級競爭中保持“單域內最大 GPU 數量 × 最大統一視訊記憶體空間”的獨特地位,但定製 ASIC 與下一代互聯標準將構成中期競爭變數。

11 風險

供應鏈產能風險:CoWoS-L 封裝產能及 HBM3e 產出是 GB300 NVL72 交付的核心瓶頸。2024 年臺積電 CoWoS 產能緊張導致 H100/B200 交付延遲的案例已有產業先例。若 2025 年 CoWoS-L 擴產進度不及預期,NVL72 出貨量可能低於市場預期的 5000-8000 架這一第三方推測區間。

單一客戶集中度風險:首批 NVL72 大量流向北美前三大雲端服務商及少數前沿 AI 實驗室。若某個大型客戶調整 CAPEX 策略或自研晶片取得突破,可能對需求端產生邊際影響。xAI 等大量採購方的後續訂單可持續性需持續觀察。

功耗與基礎設施相容性風險:單機架 120 kW 遠超傳統資料中心 20-40 kW 機架的供電與散熱設計上限。GB300 NVL72 的部署需配電改造、液冷管道鋪設甚至專屬機房建設。存量資料中心滲透節奏可能慢於市場預期。

技術迭代領先視窗風險:NVIDIA 自身路線圖已公告 2026 年 Vera Rubin NVL144。若 Blackwell Ultra 的首批客戶未能在 2025-2026 年視窗期內將其轉化為顯著的模型能力或商業應用,下一代系統可能提前壓縮 NVL72 的生命週期價值。

地緣政治與出口管制風險:美國 BIS 對高效能 GPU 及配套系統的出口管制可能限制 GB300 NVL72 對中國等特定市場的銷售。管制帶來的合規成本與灰色渠道風險影響 NVIDIA 及客戶採購確定性。

液冷系統運維風險:機架級液冷增加了冷卻液洩漏、微生物滋生、管路腐蝕等運維複雜性。大規模部署下的液冷可靠性尚未經歷長時間全生命週期驗證(公開資料未見 GB300 液冷系統的官方 MTBF 資料)。

12 誤讀糾偏

誤讀一:“72 GPU 就是 9 臺 8 卡伺服器拼起來”。事實是傳統 8 GPU 伺服器之間通訊依賴 Ethernet/InfiniBand 跨節點網路,延遲在 1-3 微秒級,且不支援遠端 HBM 直接 load/store。NVL72 的 72 GPU 處於同一 NVLink 域,遠端記憶體訪問延遲低至亞微秒級,軟體視角是一塊統一巨型 GPU,而非松耦合叢集。

誤讀二:“只要買晶片,伺服器廠商能自己裝出來”。GB300 NVL72 是整機架交付產品,NVIDIA 直接控制採購、組裝、測試與驗證全流程。其核心背板互聯涉及大量高速訊號的整機工程,是供應商鎖定的系統方案。雖然合作伙伴參與 OEM 整合,但架構設計與核心供應鏈掌握在 NVIDIA 手中。

誤讀三:“GB300 和 B200 差不多,只是視訊記憶體大一點”。GB300 核心 GPU 為 Blackwell Ultra,較 B200 在 HBM 容量(288 GB vs 192 GB)、FP4 推論算力及能效上均進行了代際提升。同時,GB300 可指單超級晶片平台,NVL72 是其機架形態,二者層級不同。

誤讀四:“NVLink 就是 GPU 間高速通訊,用 InfiniBand 也行”。InfiniBand 提供的是 RDMA 語義下 Send/Recv 和原子操作,不共享物理記憶體地址空間。NVLink 是全互聯、共享地址空間的專用匯流排,可執行 GPU 間 load/store 訪存。二者不可相互替代。

誤讀五:“萬億引數模型裝在視訊記憶體裡,單機就能訓”。1 萬億引數稠密模型 FP8 權重約 1 TB,加上梯度、最佳化器狀態(Adam 約 2-3 TB)總需求約 3-4 TB。NVL72 視訊記憶體池 20.7 TB 確實可容納。但訓練還需資料載入、嵌入層、注意力中間值等開銷,且以合理吞吐量完成訓練仍需多機架資料並行。單機架全記憶體駐留主要解決“裝得下+減少跨機通訊”,而非“只需一臺”。

13 最新事件

2025 年 3 月 18 日:NVIDIA CEO 黃仁勳於 GTC 2025 主旨演講正式釋出 GB300 NVL72,同步展出機架實物並公佈量產時間線為 2025 年下半年。

2025 年 3 月:xAI 宣佈其孟菲斯 Colossus 超級計算叢集已部署超過 200 臺 GB300 NVL72 機架,成為首個公開確認部署該系統的客戶。xAI 聯合創始人 Elon Musk 在社交平台稱其為“世界上最強大的 AI 訓練叢集”。

2025 年 3 月:Google Cloud、微軟 Azure、甲骨文 OCI 於 GTC 上宣佈將部署 GB300 NVL72 雲端例項。其中微軟 Azure 已為 OpenAI 預留初期分配。

2025 年 Q1:臺灣電子時報報道液冷供應鏈(奇鋐科技、雙鴻科技等)來自 NVIDIA 的急單和追加自 GB300 NVL72 機架批次投產週期的啟動。

2025 年 4 月:SK 海力士 2025 年 Q1 財報初步揭露稱 HBM3e 出貨受“主要客戶的新一代 GPU 平台”拉動增長顯著,市場解讀為 Blackwell Ultra GB300 平台的備貨效應。

有關事項提示:上述最新事件均來自公開報道或公司公告,不構成對相關公司經營狀況或證券價格的任何評價或預測。

14 追蹤指標

追蹤 GB300 NVL72 產業進展的有效指標維度如下。

出貨量與交付節奏:NVIDIA 季度財報中“Compute & Networking” 營收增速及展望是驗證 NVL72 實際銷售的最直接資料點。關注 2025 年 Q3 及 Q4 季報中的相應分項表現。第三方機構如 Omdia、IDC 的出貨追蹤報告可作為交叉驗證。

台積電 CoWoS 產能與利用率:台積電月度營收及季度法說會中對“先進封裝”的產能展望、資本支出,可直接對映 NVL72 供給能力。若 CoWoS-L 產能持續滿載,供應緊張料延續。

HBM 價格與交期:集邦諮詢、DRAMeXchange 對 HBM3e 的現貨價格、合約價格及交付週期數據的追蹤,反映 NVL72 上游供需鬆緊。

液冷產業鏈營收:Vertiv、雙鴻科技、奇鋐科技等液冷核心元件供應商的季度營收展望及訂單積壓情況(公開揭露),可作為機架級液冷滲透率的代理指標。

雲端廠商 CAPEX 展望:微軟、Google、亞馬遜、甲骨文等頭部雲端廠商季度 CAPEX 展望是 NVL72 終端需求的先行訊號。重點關注其 AI 算力相關基礎設施 CAPEX 的佔比及增速。

公有雲端 NVL72 例項可用性:AWS、Azure、GCP 的官方例項目錄是否上線 GB300 NVL72 例項及其區域擴充套件進度,直接反映終端客戶的接入便利度與存量算力淘汰節奏。

前沿模型公開資訊:公開資訊中 GPT-5、Grok 4、Llama 4 等下一代模型揭露的訓練硬體架構說明,提供 NVL72 實際應用維度的驗證訊號。

國際貿易管制動態:美國 BIS 出口管制清單的更新,尤其 GPU 總處理效能(TPP)與效能密度閾值的調整可能影響 NVL72 出口範圍。

15 信源

本檔案所有資訊及資料來源說明如下,引用時標註日期及出處型別:

  1. NVIDIA 官方:2025 年 3 月 GTC 主旨演講、技術白皮書及投資者關係材料,包括 CEO 黃仁勳公開發布影片、新聞稿等。
  2. NVIDIA 季度財報:2025 年 1 月 FY2025 全年財報;後續各季度財報在釋出時將作為資料更新來源。
  3. xAI 及 Elon Musk 社交平台官方賬號:2025 年 3 月有關 Colossus 叢集 GB300 部署的公開揭露。
  4. 第三方研究機構
    • IDC《Worldwide AI Server Tracker》(2025 年 1 月)。
    • 集邦諮詢 TrendForce HBM 市場報告(2025 年 Q1)。
    • 摩根士丹利 2025 年 3 月 NVIDIA 供應鏈研究報告(預測性資料屬第三方分析,非事實性資料)。
    • SemiAnalysis 2025 年 3 月行業分析報告(預測性資料屬第三方分析)。
    • Dell’Oro Group 資料中心熱管理報告(2025 年 Q1)。
  5. 產業鏈公司公開揭露
    • SK 海力士 2025 年 Q1 初步財報及 2024 年年報。
    • 三星電子 2024 年 Q4 財報及公告。
    • 台積電季度法說會公開資料。
    • Vertiv 2024 年 Q4 財報電話會資料。
    • 鴻海精密 2024 年年報及法說會資料。
    • 臺灣電子時報 2025 年 Q1 產業鏈報道。
  6. AMD 及 Intel 公開發布:AMD Advancing AI 2024 年 12 月大會材料、Intel 2024 年 Falcon Shores 相關公告。

宣告

  • 預測性數字(如出貨量、市場規模、滲透率等)基於第三方機構分析,不代表必然發生的實際結果,文中均已標註“估計”“預測”“估算”字樣。
  • 部分細分引數公開資料未見的資料已在文中標明,不得以此作為任何決策依據。
  • 文中不構成對任何公司證券的投資建議、買賣推薦或價格預測。閱讀者基於本文內容採取的任何行為與本文作者無關。
source: 公開揭露與公開資料整理 本頁僅用於產業鏈學習、資訊檢索和研究輔助;不構成投資建議,不預測漲跌,不提供買賣、部位或目標價建議。
完整概念頁 複盤 13 節結構 公司投研頁 沿產業鏈找到受益公司 投資課 把概念轉成可跟蹤模型