NVIDIA MGX
由 NVIDIA 定義核心模組並完成預驗證,系統廠商可二次調整。
AI 就緒和快速上市NVIDIA MGX
NVIDIA MGX 是模組化 AI 伺服器參考平台,把 GPU、網路、DPU、儲存和散熱設計標準化,縮短系統廠商交付高密度 AI 節點的週期。
MDX 將 MGX 定義為 NVIDIA 驗證的模組化參考平台,系統廠商在其上二次調整並快速出貨。
由 NVIDIA 定義核心模組並完成預驗證,系統廠商可二次調整。
AI 就緒和快速上市廠商從板卡到機箱完全定製,硬體自由度更高。
高度定製客戶社群驅動的開放機箱、主機板和電源標準。
通用雲端運算和低成本基礎設施| 來源 | 類型 | 截至 |
|---|---|---|
| NVIDIA MGX MDX | mdx | 2026-05-29 |
MGX 是 NVIDIA 推出的模組化、開放式伺服器參考設計與驗證平台,為全球系統廠商提供標準化“藍圖”,使其能快速、靈活地建置面向 AI 與高效能運算(HPC)的加速計算系統,尤其是支援最新 GPU 的多節點、高密度伺服器。MGX 本身不直接以硬體產品形態銷售,而是一個平台級生態架構。
傳統伺服器設計如同高階定製西裝,每一代產品都需從面料、版型到工藝重新開發,週期長達 18‑24 個月。而 MGX 就像一套**“高階成衣版型”**,NVIDIA 將機箱、供電、散熱、網路拓撲等基礎架構標準化,並預整合驗證了全線 GPU、DPU 與 NVLink/NVSwitch 等高速互連技術。系統廠商(如 Supermicro、Lenovo、Dell)只需根據客戶對計算、儲存、網路的需求,像選擇領帶、襯衫一樣,搭配不同的 CPU、GPU、網路模組,開發週期可大幅壓縮至 6‑12 個月。
這種模式的核心價值在於標準化下的靈活性。對 AI 產業而言,MGX 加速了“AI 超級計算機”的民主化——它使各類規模的企業與實驗室,能夠更容易獲得為萬億引數模型訓練與即時推論量身定製的、經過充分驗證的硬體基礎設施。NVIDIA 亦藉此以 “設計即服務” 的形態,將自身硬體與軟體優勢深度“封裝”輸出,繫結全球主流 ODM 與 OEM 生態,同時避免與大型客戶直接競爭。終端使用者得到的不是一臺“組裝機”,而是軟硬體協同最佳化、開箱即用的“AI 作戰單元”。
MGX 平台的技術本質是以模組化架構和全棧整合驗證,將超級計算級別的高效算力封裝成可靈活裁剪的積木系統。
模組化設計哲學
平台將伺服器系統解耦為多個獨立、標準化模組,通過高速介面連線:
[ MGX 平台模組化架構示意 ]
+-------------------------------------------------------+
| MGX 機箱 (標準化) |
| +-------------+ +-------------+ +----------------+ |
| | 計算模組 | | 網路模組 | | 儲存/管理模組 | |
| | (GPU/CPU) | | (DPU/NIC) | | (NVMe/BMC) | |
| +-------------+ +-------------+ +----------------+ |
| | NVLink/NVSwitch 背板 (高速互連) | |
| +--------------------+-------------------+ |
| 電源與散熱系統 |
+-------------------------------------------------------+
關鍵硬體整合(以 2024 年公開引數為例)
全棧軟體協同
MGX 與 NVIDIA AI 軟體棧緊密整合,確保“開箱即用”的高效能:
評估基於 MGX 平台建置的系統,應重點關注以下量化維度(相關數值若無特別註明,均基於 NVIDIA 2023‑2024 年公開產品規格):
| 指標維度 | 典型數值/規格說明 | 年份與來源 |
|---|---|---|
| 節點內 GPU 互連頻寬 | H100 SXM5 8‑GPU 系統通過 NVSwitch 實現 900 GB/s 雙向每 GPU;B200 8‑GPU 系統可達 1.8 TB/s 雙向每 GPU | NVIDIA H100 規格 2023;B200 規格 2024 GTC |
| 節點間網路頻寬 | MGX 設計支援 8×400 Gb/s InfiniBand NDR 或乙太網路,單節點聚合頻寬可達 3.2 Tb/s | 基於 NVIDIA ConnectX‑7 規格,2023 |
| 記憶體容量與頻寬 | H100 80 GB HBM3 3.35 TB/s;Grace Hopper GH200 提供 480 GB LPDDR5X + 96/144 GB HBM3/3e(取決於配置) | NVIDIA 2023 年 GH200 白皮書 |
| 每瓦特算力 | FP8 稠密算力:H100 約 3.9 TFLOPS/W(基於 700 W TDP,3,026 TFLOPS);B200 預期更高,公開資料未見官方每瓦特資料 | 以 NVIDIA H100 公開 TDP 及算力自行計算,2023 |
| 線性擴充套件效率 | NVIDIA 公開資料顯示,在較大規模叢集下,通過 NCCL 最佳化可實現 90% 以上線性擴充套件(取決於模型與網路拓撲) | NVIDIA 技術部落格 2023‑2024 |
| 機架部署密度 | 風冷 MGX 可在標準 19 英寸機架內部署 4‑8 GPU 節點;液冷 MGX 可在單機架容納 72 塊以上 GPU(如 GB200 NVL72 機架) | NVIDIA 2024 GTC 展示 |
| 冷卻方案 | 第一代以風冷為主,第二代支援 液冷介面標準化,以適應 1,000 W 以上節點功耗 | 基於 NVIDIA 2024 年釋出的 MGX 2.0 平台資訊 |
注:上述引數為基於 MGX 可建置的典型配置而非 MGX 平台本身的固定數值,最終由系統合作伙伴定製。
演進歷程
設計哲學與路線定位
NVIDIA 自身不通過 MGX 終端品牌銷售,而是通過“設計即服務”向全球約十餘家核心 ODM/OEM 授權生產,並將 DGX 系統中的頂級互聯與軟體經驗下放至 MGX,使其成為“小 DGX”生態,而非替代品。未來路線圖顯示,MGX 將每年隨新 GPU 架構迭代而更新,並逐步整合更先進的熱管理技術與智慧遙測功能,以支撐十萬卡級別叢集的自動化運維。
MGX 平台的核心供應體系可劃分為:
| 環節 | 關鍵供應商與說明 | 來源/年份 |
|---|---|---|
| GPU 與高速互連晶片 | NVIDIA 自行供應 GPU(H100/H200/B200)及 NVSwitch 晶片;部分 NVLink 相關晶片由 NVIDIA 設計,台積電代工 | NVIDIA 供應商公開資訊 |
| CPU | Intel(Xeon Scalable 系列)、AMD(EPYC 系列)、NVIDIA(Grace 系列)均得到 MGX 支援,具體由系統廠商選配 | NVIDIA MGX 平台相容列表 2023‑2024 |
| HBM 記憶體 | SK 海力士、三星、美光提供 HBM3/HBM3e,當前 SK 海力士為 NVIDIA GPU 的主要 HBM 供應商 | TrendForce 2024 年 HBM 市場報告 |
| 先進製造與封裝 | 台積電製造 GPU 核心晶片並提供 CoWoS 先進封裝,產能直接制約 GPU 供應量;2024 年 CoWoS 月產能估計約 30‑35 千片,台積電計劃持續擴產 | 台積電 2024 年法說會與行業估算 |
| 網路元件 | NVIDIA 自身供應 ConnectX DPU/NIC 和 InfiniBand 交換器,亦相容來自博通等廠商的乙太網路交換器方案 | 公開產品資料 |
| PCB、電源、散熱元件 | 偉創力(Flex)、臺達、雙鴻等供應電源模組、液冷部件、PCB 等,具體配套視 ODM/OEM 選擇 | 供應鏈調研 2024 |
MGX 平台的終端需求主要集中於以下三類客戶,其交付方式皆為通過 ODM/OEM 購買完整伺服器,而非 NVIDIA 直銷。
下表梳理了 MGX 生態內各型別參與者的受益邏輯及可驗證業績線索,不構成任何投資建議。
| 型別 | 公司名稱 | 受益邏輯 | 可參考的財務/產能數字(年份、口徑、來源) |
|---|---|---|---|
| 平台定義者 | NVIDIA (NVDA) | 通過向授權 ODM 出售 GPU、網路產品及軟體許可獲得營收,MGX 擴大總目標市場並增加生態粘性 | NVIDIA FY2024(截至 2024.01.28)資料中心業務營收 475 億美元,年增率增長 217%(來源:NVIDIA 10‑K);FY2025 Q1 資料中心營收 226 億美元(來源:NVIDIA 財報) |
| 核心 ODM 製造商 | 廣達電腦 (2382.TW)、緯創資通 (3231.TW) | 為 CSP 大規模製造 MGX 節點,營收隨 AI 伺服器出貨量放大而強勁增長 | 公開資料可見,廣達 2024 年依靠 AI 伺服器營收年增率增幅逾 50%;緯創 AI 伺服器代工同樣成為主要增長極(資訊來源:Digitimes Research 2024) |
| 品牌系統廠商 | Supermicro (SMCI)、戴爾科技 (DELL)、聯想集團 (0992.HK)、慧與科技 (HPE) | 利用 MGX 快速推出 AI 產品線,縮短研發週期,搶佔企業客戶市場 | Supermicro FY2024 Q4(截至 2024.06.30)營收 53.1 億美元,AI/GPU 相關伺服器佔比超過 55%(來源:Supermicro 財報);戴爾 2024 年 AI 最佳化伺服器積壓訂單約 38 億美元(來源:戴爾 2025 財年 Q1 電話會議) |
| 關鍵部件供應商 | SK 海力士、三星、美光(HBM);台積電(製造/封裝) | HBM 及先進封裝產能隨 NVIDIA GPU 放量而滿載,ASP 與營收顯著提升 | SK 海力士 HBM 產能 2024 年均已售罄,2025 年亦近乎訂滿(來源:公司公開宣告 2024);台積電 CoWoS 產能 2024 年約 33 千片/月,2025 年預計擴充至 50 千片/月(來源:台積電 2024 Q4 法說會與行業估算) |
注:MGX 平台營收不單獨列示,上述公司受益程度需結合其在 AI 伺服器整體市場中的份額與業務結構綜合判斷。
NVIDIA 不單獨揭露 MGX 平台的直接出貨量與營收,但可通過 NVIDIA 資料中心業務及第三方機構對 AI 伺服器市場的統計進行估量。
注:上述資料均來自第三方機構及上市公司公開揭露,MGX 在其中的具體佔比屬推斷,實際應以 NVIDIA 日後可能釋出的生態系統資料為準。
MGX 平台與其他主流伺服器設計理念在多個維度上存在差異,此處將 MGX 與傳統定製化設計、開放計算專案(OCP)進行橫向比較。
| 對比維度 | NVIDIA MGX 平台 | 傳統純定製伺服器設計 | 基於 OCP 的通用開放設計 |
|---|---|---|---|
| 設計模式 | 由 NVIDIA 定義的核心模組化參考設計,系統廠商可二次調整 | 廠商依據客戶需求從板卡到機箱完全定製 | 社群驅動,定義開放的機箱、主機板、電源標準 |
| GPU 加速整合度 | 深度整合 NVIDIA GPU、NVSwitch、DPU,預驗證最佳化 | 需廠商自行開發 GPU 互聯拓撲,週期長 | 相容多種 GPU,但通常無原生 NVSwitch 支援 |
| 軟體最佳化 | 出廠預裝全棧 NVIDIA AI 軟體,效能已調優 | 依賴廠商自主最佳化,耗時且結果不確定 | 開源驅動與通用架構,需使用者自行調優 |
| 開發與交付週期 | 6‑12 個月,得益於驗證好的藍圖 | 18‑24 個月 | 視社群貢獻與廠商成熟度,通常 6‑12 個月 |
| 生態系統 | 圍繞 NVIDIA 硬體與 ISV 緊密繫結 | 多晶片供應商選擇,但難以復現深度協同最佳化 | 廠商中立,適合通用雲端運算和儲存 |
| 典型客戶場景 | 面向大規模 AI 訓練與推論、HPC 的雲端/企業 | 高階金融、電信等要求高度定製化的環境 | 公有雲端、電信、低成本儲存等 |
| 冷卻與能效 | 提供標準化液冷選項,專為高功耗 GPU 最佳化 | 需要單獨設計散熱方案 | 多數設計仍以風冷為主,液冷規範尚在推進 |
| 關鍵差異總結 | “AI 就緒”的最短路徑,犧牲部分硬體自由換取效能與上市速度 | 自由度高,但時間與研發成本巨大 | 經濟、開放,但 AI 特性需要額外整合 |
在 MGX 生態內部,不同系統廠商提供的 MGX 產品也存在差異化:Supermicro 強調“快速上市”和豐富的模組選項,戴爾側重企業級管理軟體(如 OpenManage)與全球服務,聯想致力於液冷技術的先驅部署。但所有產品均建立在同一套 NV 驗證體系之上,確保了核心效能基準的一致性。
以下列出 2023‑2024 年圍繞 MGX 平台的關鍵事件,所有資訊均來自公開報道或公司公告。