SXM 模組

3 秒看懂

SXM 模組（SXM Module）是 NVIDIA 面向 AI 訓練與高效能運算推出的一種非 PCIe 物理封裝的 GPU 交付形態。它將 GPU 裸片與高頻寬記憶體（HBM）集成於一塊 mezzanine 式板卡上，通過超高密度的板對板聯結器直連繫統主機板，從而獲得數倍於 PCIe 形態的 NVLink 互聯頻寬、更高的供電上限和更緊湊的散熱版面配置。SXM 是 HGX 伺服器基板上的“細胞”，它讓八個 GPU 直連 NVSwitch 形成無阻塞的全互聯域，是大型模型並行訓練的核心物理載體。

3 分鐘產業解釋

在搭建千卡甚至萬卡級 AI 訓練叢集時，純 CPU 伺服器無法滿足運算密度，GPU 需要更徹底的頻寬與功耗解放。PCIe 插卡形式受限於標準金手指的引腳數、走線長度和供電能力，單卡雙向頻寬限於數十 GB/s，且多卡互聯常需外接橋接器，拓撲僵化。

SXM 模組解開了這些束縛：首先，用一塊定製 PCB 承載 GPU 晶片與 HBM 堆疊，通過一片專門設計的高密度聯結器（引腳數遠高於 PCIe，據公開資料估測在數千以上）直接貼合到 HGX 基板。這使供電不再受標準插槽金手指約束，典型單模組可支援 400 W 以上的持續熱設計功耗（TDP），新近代際甚至接近或超過 700 W（估算值，具體視型號而定）；同時，模組上的 NVLink 訊號以最短路徑經主機板走線接到 NVSwitch 晶片，讓同一個 HGX 底板內的 8 個 GPU 能以數百 GB/s 的單 GPU 總頻寬彼此互通，這是目前大型 MoE 模型張量並行和資料並行通訊的物理基礎。

產業側，SXM 模組的推出實質上把高效能 GPU 的整合從“插卡組裝”推到了“系統級設計”，使得 ODM/OEM 廠商能夠圍繞標準化的 HGX 基板建置整機，但也讓客戶無法像 PCIe 卡那樣隨意插拔更換 GPU，粘性更強。從部署實踐看，SXM 形態幾乎成為萬卡級以上訓練叢集的唯一選擇，而 PCIe 形態則更多保留在中小規模訓練、推論以及需要靈活混插的企業場景。

技術原理

SXM 模組的技術棧可以從物理層、互聯層和系統層拆解。

物理層
模組主體是一塊高多層 PCB，上方焊接 GPU 大型 BGA 封裝（內括計算 die 與 6 顆或更多 HBM 堆疊，通過矽中介層或 CoWoS 互聯），下方則是專有的 mezzanine 聯結器。聯結器引腳密度遠高於 PCIe x16 金手指，引腳總資料外圍估算可達數千，其中大量引腳用於供電和接地，以支撐幾百安培的電流。與主機板間的訊號走線長度被嚴格控制，以保證 NVLink 的 50 GT/s 乃至 100 GT/s 以上的 PAM4 訊號完整性。高引腳數還直接決定 GPU 可引出的 NVLink 埠數，使得 SXM 能提供遠超 PCIe 形態的 NVLink 通道數量——例如 A100 SXM4 支援 12 路 NVLink 3.0，而對應 PCIe 版本僅能通過橋接器實現有限互聯。

互聯層
模組內部，GPU die 與 HBM 通過 1024 位寬以上的介面相連，頻寬超過 TB/s（具體數值依 HBM 代際浮動）；模組對外，每個 GPU 引出若干 NVLink 埠。以公開資料為例，SXM4 世代可帶 12 個 NVLink 通道，每通道雙向約 50 GB/s，聚合雙向頻寬約 600 GB/s；SXM5 通過把 NVLink 通道數從 12 增至 18，每通道雙向仍約 50 GB/s，總頻寬約 900 GB/s（均為 NVIDIA 官方釋出會公開數字，因檢索受限未逐字核查）。這些埠經由母板直連 NVSwitch，再由 NVSwitch 實現 GPU 間全互聯。典型 HGX 板內 8 卡拓撲如下 ASCII 示意：

[GPU0] [GPU1] [GPU2] [GPU3]
   |     |     |     |
   +--NVSwitch0--+---NVSwitch3--+  （簡化示意）
   |     |     |     |     |
   ...   ...   ...   ...   ...
[GPU4] [GPU5] [GPU6] [GPU7]

NVSwitch 實質是高速 SerDes 交換晶片，將流入的 NVLink 資料包基於目標 GPU 快速轉發，使得任意兩 GPU 之間對頻寬僅受埠數限制，而非拓撲瓶頸。該二層交換結構消除了傳統樹形 PCIe 交換的根節點擁塞，大幅縮短 AllReduce、All-to-All 等集合通訊的步數。

系統層
與 NVSwitch 匹配的還有 GPU 間共享的端到端地址翻譯和直接記憶體訪問，使 GPU 可以通過 NVLink 直接存取遠端 HBM，在程式設計模型上呈現為統一地址空間。這大幅簡化了 NCCL 等通訊庫的實現，一個 AllReduce 可以分解為 ReduceScatter 加 AllGather，分別利用 NVSwitch 的無阻塞特性完成。此外，SXM 模組的熱設計高度工程化：直接貼合冷板的大面積與高 TDP 設計，使得液冷或高效均溫板成為強制選項，但多數 HGX 整機仍使用強風冷配合均溫板實現 400–500 W 散熱，更高功耗則轉向液冷。

在部署萬卡叢集時，通訊延遲與頻寬的微小差異會被梯度同步的 AllReduce 迴圈幾何級放大，SXM 模組的意義就在於它把 GPU 互聯這個最卡脖子的環節作了硬體級最佳化。與 PCIe 或 OAM 等其他形態相比，SXM 最核心的差異在於它附著了一套“基板級全互聯”思路：不是把多張卡湊到一個伺服器裡再設法聯接，而是在底板上直接設計了一個高速交換網路。對於 MoE 模型那種通訊/計算比極端的場景，硬體拓撲的優勢會被直接轉化為算力利用率（MFU）的提升。

關鍵引數

評估 SXM 模組的核心指標如下。因即時檢索受限，部分代際數值標註出處或註明“據公開資料”。

1. GPU 間聚合雙向頻寬：決定 AllReduce/All-to-All 通訊下限。SXM4（A100）約 600 GB/s，SXM5（H100）約 900 GB/s（均來自 NVIDIA 官方釋出）。Blackwell 代際（SXM6）據 GTC 2024 主題演講宣稱每 GPU 提供 1.8 TB/s 雙向 NVLink 吞吐，具體規格以最終白皮書為準。
2. TDP 與散熱包絡：限制持續時鐘與算力釋放。SXM4 為 400 W，SXM5 為 700 W（典型值），B200 SXM 預計達到 1000 W（據 2024 年 GTC 公開資訊）。液冷方案在 700 W 以上已成標配。
3. NVLink 通道數與 NVSwitch 埠數：SXM4 每 GPU 12 路 NVLink 3.0，SXM5 18 路 NVLink 4.0。NVSwitch 晶片代際同步升級，決定交換容量與跳數。NVIDIA 於 2024 年推出 NVLink Switch 新品，單機架 72 GPU 全互聯，推動 256 GPU 超級 Pod 至更大規模（官方釋出）。
4. HBM 容量與頻寬：SXM4 整合 40/80 GB HBM2e，頻寬約 1.6/2.0 TB/s；SXM5 配備 80 GB HBM3，頻寬約 3.35 TB/s；B200 SXM 預裝 192 GB HBM3e，頻寬可達 8 TB/s（GTC 2024 揭露，待量產確認）。大型模型引數和批次大小上限直接受制於這兩個值。
5. 引腳/聯結器可靠性：數千安培級電流與高速訊號對接觸電阻、串擾、壽命提出嚴苛要求。NVIDIA 與聯結器供應商定製設計，未公開具體 MTBF 指標。
6. 單位功耗算力效率（TOPS/W）：H100 SXM5 在 INT8 下可超 2000 TOPS，700 W 對應約 2.9 TOPS/W 級別（推算值）。B200 基於新架構和 4nm 製程有望大幅提升該指標，具體仍待廠商公佈。

技術路線

SXM 形態伴隨 NVIDIA 計算卡的架構迭代逐步進化，其主要代際可歸納如下：

• SXM2（Pascal P100 時代，約 2016 年）：引入 NVLink 1.0，單 GPU 4 條鏈路，雙向總頻寬約 160 GB/s（官方數字），奠定了非 PCIe 高頻寬模組的雛形。
• SXM3（Volta V100，2017 年）：NVLink 2.0，單鏈路頻寬提升，總頻寬約 300 GB/s，首次在模組上搭載 HBM2，記憶體頻寬推進到 900 GB/s 量級。
• SXM4（Ampere A100，2020 年）：NVLink 3.0，聚合雙向頻寬約 600 GB/s，TDP 提升至 400 W 級（公開規格），開始支援 MIG 多例項切割，模組物理尺寸隨散熱需求加大。
• SXM5（Hopper H100，2022 年）：NVLink 4.0，總頻寬約 900 GB/s，支援 FP8 Transformer Engine，TDP 達到 700 W 級別（據公開資料，某些型號），首次從物理層全面擁抱第三代 NVSwitch，促進 256 卡超級 Pod 的建置。
• SXM6（Blackwell B200/B100，2024 年）：進一步升級的 NVLink 與 HBM3e，雙向頻寬破 1 TB/s（GTC 2024 宣佈每 GPU 1.8 TB/s 雙向），引入雙 dies 拼接的高速互聯，模組的熱設計向液冷傾斜，並首次支援機架級液冷參考架構。

每一代 SXM 的演進不僅提升物理頻寬，還縮短了 NVSwitch 與 SXM 之間的走線延遲，並增強了板級供電架構的冗餘，為未來數千瓦級的 rack-scale 預留了空間。

與其他形態對比
下表基於可獲取的公開資訊與定性估算，對比 SXM 與其他 GPU 封裝形態的關鍵差異。

維度	SXM 模組 (以 SXM4/5 為例)	PCIe 插卡 (如 A100 PCIe)	OAM (開放加速器模組, 如 AMD MI300)
物理形態	mezzanine 封裝，專有聯結器	標準 PCIe 金手指，插卡式	開放標準模組，板對板聯結器
最大 TDP 支援	約 400 W~700 W+（據代際）[公開資料]	通常 ≤300 W（受 PCIe 插槽供電）	可支援 500 W+ [未充分揭露]
GPU 間互聯頻寬	每 GPU 約 600~900 GB/s 雙向 [NVIDIA官方]	需通過 PCIe + NVLink 橋，頻寬折損	取決於廠商 Infinity Fabric 或類似，部分方案全互聯頻寬相當
拓撲	底板直連 NVSwitch，8GPU 全互聯	樹狀或非對稱，拓撲受限	通常 4~8 路全互聯 (Infinity Fabric)
可替換性	模組 + 底板繫結，客戶無法單替換	支援熱插拔、單卡替換	模組化，部分支援替換 [待證實]
適用場景	大規模訓練叢集（千卡~萬卡）	企業級推論/小規模訓練	大型訓練及HPC，AMD生態

此表僅為示意，具體速率、功耗以廠商最終規格書為準。值得關注的是，2024 年成立的 UALink 聯盟（AMD、Intel、博通、思科等）試圖定義開放的晶片間互聯標準，未來可能對 SXM 的封閉體系構成對比選項。

上游

SXM 模組的核心供應鏈高度集中於少數廠商，具體為：

• 晶片製造與先進封裝：台積電先進製程（N7、N5、N4 等）及 CoWoS-S/L/R 封裝，將 GPU die 與 HBM 堆疊封裝為一體。CoWoS 產能自 2023 年起持續緊張，據台積電公開說明，其先進封裝產能擴產計劃將延續至 2025 年，直接影響 SXM 模組的產出節奏（來源：台積電季度法說會，2024 年多次提及）。
• HBM 供應商：SK 海力士、三星、美光提供 HBM2e/HBM3/HBM3e 堆疊。SK 海力士在 HBM3 市場份額領先（據 TrendForce 2024 年報告），並於 2024 年初宣佈 HBM3e 量產；美光在 2024 年切入 HBM3e 供應。
• 聯結器與基板：專有高密度 mezzanine 聯結器由安費諾、莫仕等提供；HGX 底板 PCB 通常由景碩、欣興等生產。高多層板及大尺寸基板工藝能力限制擴充速度。
• NVSwitch 晶片：NVIDIA 自研，與 SXM 深度繫結，代工同樣依賴台積電先進製程。

下游

SXM 模組通過與 HGX 基板捆綁，以系統形式流向以下環節：

• 系統整合商（OEM/ODM）：富士康、廣達、英業達、超微、戴爾、HPE 等獲 NVIDIA 授權生產 HGX 整機，嵌入 SXM 模組。2023‑2024 年間，這些廠商 AI 伺服器產線持續滿載，例如廣達於 2024 年 Q2 法說會表示 AI 伺服器營收逐季強勁增長（來源：公司公開簡報）。
• 雲端服務商與大型企業：AWS、微軟 Azure、Google Cloud、Meta、xAI、Oracle 等直接採購整機或定製 rack。其中，Meta 於 2024 年初宣佈採購 35 萬塊 H100 GPU（公開部落格），主要形式即為 SXM 模組的 HGX 整機；xAI 的 Colossus 叢集宣稱採用 10 萬 H100，亦以 HGX 為單元建置。
• 資料中心基建：液冷/風冷散熱方案商，如 CoolIT、Asetek、Vertiv、Chilldyne（未上市）等。隨著 SXM TDP 突破 700 W，液冷滲透率快速上升，帶動 CDU、冷板、快接頭等部件需求。
• 軟體棧：NVIDIA 的 CUDA、NCCL、Megatron‑LM 等深度學習架構針對 SXM+NVSwitch 拓撲做通訊最佳化，形成軟硬一體生態。

受益公司

SXM 生態內的價值分配高度集中於 NVIDIA 自身，但數個環節亦存在清晰對映：

• NVIDIA：SXM 生態的唯一定義者，從晶片、模組到 NVSwitch 到 HGX 底板參考設計全部自研，擁有絕對定價權。其資料中心業務營收（2025 財年 Q2 達 263 億美元，年增率增長 154%，來源：NVIDIA 財報）絕大部分來自 SXM 形態關聯的 HGX 系統。
• HBM 供應商：SK 海力士、三星、美光受益於 SXM 對 HBM 容量的持續推高。HBM 營收在 SK 海力士 2024 年二季度達歷史新高，佔總 DRAM 營收逾 30%（來源：SK 海力士 2024 年 Q2 財報）。
• 先進封裝：台積電 CoWoS 產能直接繫結 SXM 模組出貨。台積電 2024 年宣佈今年 CoWoS 產能較 2023 年翻倍，仍供不應求，是短期供給瓶頸。
• ODM/散熱鏈：富士康、廣達、英業達等 ODM 企業，以及 CoolIT、雙鴻、高力等散熱供應鏈，因 HGX 整機價值提升與液冷滲透而獲得增量營收，但獲利率受競爭格局影響。
• ASIC 替代者：Google TPU、AWS Trainium/Inferentia 等採用自有形態，不依賴 SXM。AMD MI300 系列以 OAM 形態對標，已獲微軟、Meta 等採用，構成 SXM 的市場分割力量。

注：以上均為產業分析，不構成對任何公司的買賣建議。

市場規模

由於 SXM 模組不單獨零售，其市場規模須透過 HGX 系統及 NVIDIA 資料中心營收推估。關鍵資料點如下：

• NVIDIA 資料中心營收：2024 財年（截止 2024 年 1 月）資料中心營收為 475 億美元，2025 財年上半年（2024 年 2‑7 月）即達 489 億美元（來源：NVIDIA 年報及季報）。營收中絕大部分與 SXM 形態的 HGX 系統相關，具體比例未單獨拆分，第三方機構如 Omdia、IDC 的估算可作參考。
• AI 伺服器出貨：據 TrendForce 2024 年 7 月報告，2024 年全球 AI 伺服器出貨量預計達 167 萬臺，年增約 39%，其中訓練型 AI 伺服器仍以 HGX（SXM）為絕對主力，推論型伺服器中 PCIe 形態佔比較高。該報告未拆分 SXM 模組顆粒，但指出 NVIDIA 在 AI 伺服器 GPU 市佔率逾 90%。
• HBM 出貨折射 SXM 需求：據 TrendForce 統計，2024 年 HBM 位元需求年增近 200%，HBM3 佔整體出貨比重逾 60%，大量被 SXM5 及後續 SXM6 模組消耗。HBM 的供不應求狀態可作為 SXM 出貨量的側面印證。
• 公開資料未見 SXM 模組單獨的出貨量或金額預測。投資者和研究機構通常以 NVIDIA HGX 平台對應 SKU 出貨量（如 A100/H100/B100 系統）結合 NVSwitch 出貨量進行交叉驗證。未來 Blackwell 代際 SXM6 的滲透速度，以及從 8 卡 HGX 向 72 GPU 機架（NVL72）的升級路徑，是影響 2025‑2026 年市場規模的關鍵變數。

玩家對比

在機架級高頻寬 GPU 互聯領域，主要玩家與方案對比如下：

• NVIDIA SXM + NVSwitch：封閉生態，成熟度最高。硬體方面擁有 SXM5 900 GB/s、SXM6 1.8 TB/s 雙向 NVLink 頻寬，結合 NVSwitch 實現 8 GPU 全互聯、256 GPU 超級 Pod 乃至 72 GPU 單機架全液冷系統。軟體方面有 CUDA、NCCL 深度適配，是當前萬卡叢集事實標準。
• AMD MI300 系列 + OAM：採用 OC 聯盟的開放加速器模組標準，Infinity Fabric 互聯。MI300X 單 GPU 互聯頻寬可達 896 GB/s（雙向，據 AMD 2023 年釋出會），8 GPU 全互聯平台已用於微軟、Meta 等客戶。優勢在於開放性與成本靈活性，但軟體生態（ROCm）及大規模部署成熟度仍處追趕階段。
• Intel Gaudi 系列：Gaudi3 採用 PCIe 形態或自研板載模組，搭載 24 個 200GbE RoCE 埠用於對外互聯，傾向於 RDMA‑focal 而非板內高頻寬互聯，主攻訓練與推論的一種差異化路徑。公開資料未見其與 SXM 直接對位的 NVSwitch 式拓撲。
• 定製 ASIC 及內部互聯：Google TPU v5p 採用自研板卡及 ICI 光學互聯，單 Pod 可達 8960 晶片，通訊不依賴 SXM 範式；AWS Trainium2 亦以自有形態和 NeuronLink 互聯部署。這類方案專屬封閉，不與 SXM 直接競爭，但侵蝕通用 GPU 訓練市場。
• UALink 聯盟：2024 年 5 月成立，成員包括 AMD、Intel、博通、思科、微軟、Meta 等，目標制定開放的晶片間互聯標準，第一版規範預計 2025 年釋出。若成功推廣，可能對 NVLink 的封閉性形成長期挑戰。

綜合而言，SXM 在當下大型模型訓練領域佔主導，但其封閉性和交付模式正在催生陣營分化和開放替代力量。

風險

• 供給集中與產能瓶頸：SXM 模組所需的 CoWoS 封裝、HBM 堆疊及高密聯結器產能高度集中，任何環節受限均會直接影響出貨。歷史上 2023 H100 交期延長即與 CoWoS 產能不足密切相關。
• 生態鎖定與升級強制性：SXM mezzanine 封裝使得新一代 GPU 必須搭配新一代 HGX 基板，客戶無法混插，升級即需成套汰換。若開源或標準化互聯方案（如 UALink）成熟，使用者可能轉向更靈活的多供應商方案，削弱 NVIDIA 的定價權和重複採購粘性。
• 功耗與散熱挑戰：SXM TDP 從 400 W 攀升至 1000 W，強制資料中心轉向液冷，帶來基建複雜度、成本及可靠性風險。液冷方案的單點失效可能導致整個機架宕機，運維門檻升高。
• 推論市場替代：推論工作負載通常對 GPU 間互聯頻寬要求較低，SXM 高頻寬優勢未必能完全轉化為競爭力。定製 ASIC（如 Google TPU、AWS Inferentia）及低成本 PCIe GPU 在推論側可能逐步替代部分 SXM 需求，限制該形態在推論市場的滲透。
• 地緣政治與合規風險：高階 GPU 出口管制（如美國 2023 年 10 月與 2024 年 4 月規則趨嚴）直接限制 SXM 模組對特定地區的出貨，對中國等市場的供給形成政策不確定性，可能催化國產替代或繞過式方案。

誤讀糾偏

1. “SXM 就是 NVLink 物理介面”
   SXM 是一種包含了供電、機械、散熱和訊號完整性的完整模組規格，NVLink 只是其上承載的一種高速互聯協議。在 PCIe 形態的 GPU 上同樣可以通過 NVLink Bridge 提供部分 NVLink 功能，但 SXM 通過板載直連提供更優的訊號質量與更高階口密度，才是 SXM 真正的價值差異。

2. “SXM 模組必須上液冷，否則燒燬”
   前幾代 SXM4 和 SXM5 的 400 W 級 TDP 在許多部署中仍使用高效風冷（均溫板+強力軸流風扇）來散熱。液冷的強制需求主要出現在 700 W 以上或高密度上架場景。不同 TDP 檔位對應不同散熱方案，並非一刀切。

3. “SXM 模組和 OAM 是一回事”
   OAM 是由 OC 聯盟推動的開放加速器模組標準，AMD、Intel 等均有采用；SXM 是 NVIDIA 的封閉規格。兩者都是板載式高頻寬方案，但互相不相容，管理介面、供電和互聯協議均有差異。

4. “SXM 模組僅是物理連線替代，對訓練效率影響有限”
   硬體拓撲直接決定了通訊步數與梯度同步延遲，尤其在大規模分散式訓練中，通訊效率的細微差異會被成倍放大。SXM 的 NVSwitch 全互聯可避免多跳轉發，提升算力利用率，這是單純升級 PCIe 頻寬無法復現的系統級增益。

最新事件

• 2024 年 3 月，NVIDIA GTC 釋出 Blackwell 架構及 SXM6 形態：推出 B200 SXM 與 GB200 NVL72 機架方案。B200 SXM 採用雙芯粒設計，宣稱每 GPU 18TB/s 雙向 NVLink 吞吐（需以正式規格書為準），TDP 達 1000 W，全面推薦液冷。NVL72 通過 NVLink Switch 將 72 個 GPU 全互聯，實現單一機架內 30 TB 級 HBM 統一記憶體，該架構計劃於 2024 年下半年開始樣品出貨（來源：GTC 主題演講）。
• 2024 年 5 月，超大規模叢集部署動態：xAI 宣佈 Colossus 10 萬 H100 叢集投入訓練（來源：公開報道），Meta 擴編至 35 萬 H100（來源：Meta AI 部落格）。這些大規模叢集絕大多數採用 HGX + SXM 模組。液冷方案在新建叢集中佔比顯著上升。
• 2024 年 5 月，UALink 聯盟成立：AMD、Intel 等聯合成立 UALink，目標制定開放晶片間互聯標準，直面 NVLink 與 SXM 的封閉體系。預計第一版規範 2025 年釋出，產業長期格局可能因此重塑。
• 2024 年 Q2，NVIDIA 財報拆分：NVIDIA 2025 財年 Q2 資料中心營收 263 億美元，年增率增長 154%，其中計算 GPU 營收達到 226 億美元（來源：財報），H200 與 Spectrum‑X 等相關係統開始貢獻增量。Blackwell 產品預計 Q3 進行首次生產出貨，Q4 起有望規模營收（來源：公司展望）。
• 2024 年下半年，出口管制調整：美國商務部更新對華高階晶片出口管制細則，將某些互聯密度及總頻寬納入管制範圍，直接觸及 SXM 級互聯規格，影響對特定地區的供給。國內部分雲端廠商轉向合規版本或國產替代方案。

追蹤指標

追蹤 SXM 模組及生態發展，可定期關注以下指標與信源：

1. NVIDIA 資料中心營收與分項展望（每季度財報及電話會）：關注計算 GPU 營收增速、H200/B200 的 ramp‑up 進展以及 HGX 與液冷系統出貨佔比變化。
2. CoWoS 與 HBM 產能及價格：台積電每季度法說會揭露先進封裝產能擴張進度；SK 海力士、三星、美光財報中 HBM ASP 與位元出貨趨勢；TrendForce、Omdia 的季度供應鏈追蹤報告。
3. NVSwitch 與 NVLink 迭代節點：NVIDIA GTC 及熱晶片會議上的互聯頻寬升級路線圖，以及 UALink 等開放標準推進進展。
4. 液冷滲透率與相關公司營收：系統整合商（如超微、廣達）及散熱方案商（如 CoolIT、Vertiv 等）的季報中液冷產品線營收佔比變化；資料中心 PUE 指標改善資料。
5. 萬卡叢集建設與 GPU 採購公佈：主要 CSP 與企業（微軟、Meta、xAI、Oracle 等）的資本支出展望及公開 GPU 採購數量，可通過財報、部落格、供應商新聞追蹤。
6. HBM 總搭載容量與 SKU：每代 SXM 配備的 HBM 容量與頻寬躍升速度（如 B200 192 GB HBM3e），直接影響大型模型訓練容量上限，可在 NVIDIA 白皮書和 GTC 演講中獲取。
7. 出口管制條約與限制性清單：關注美國商務部 BIS 出口管制規則更新，特別是頻寬密度、互聯總量等門檻，以及中國企業替代方案（如昇騰）的進展。

信源

• NVIDIA HGX Platform 官方技術架構文件（nvidia.com）
• NVIDIA A100 Tensor Core GPU 白皮書，SXM4 技術規格
• NVIDIA H100 Tensor Core GPU 白皮書，SXM5 與 NVLink 4.0
• “NVIDIA Blackwell GPU 架構” GTC 2024 主題演講及官方新聞稿
• “Megatron‑LM：Training Multi‑Billion Parameter Language Models Using Model Parallelism”，論文中對並行通訊的分析
• Open Compute Project (OCP) – NVIDIA HGX Baseboard Specification（如有公開版本）
• 台積電季度法說會（2024 年 Q1‑Q3）先進封裝產能相關發言
• TrendForce、Omdia、IDC 等關於 AI 伺服器、HBM 市場季度追蹤報告（因檢索受限，本文引用概覽性資料，具體報告期註明來源）
• 主要雲端運算廠商（微軟、Meta、xAI）公開的 GPU 部署數量與資本支出揭露
• UALink 聯盟成立公告（2024 年 5 月官方新聞稿）
• NVIDIA 季度財報及業績展望（2025 財年各季度）
• AMD MI300 系列釋出資料及 Infinity Fabric 技術文件

（本文因即時檢索服務受限，部分傳遞的具體頻寬、功耗數字基於 NVIDIA 既往公開資料及 GTC 2024 釋出的內容整理，並非即時核查結果，最新精確規格建議以 NVIDIA 官方釋出為準。文內不包含任何投資建議或買賣主張。）