NVLink 域
1. 3秒看懂
NVLink Domain 是 NVIDIA 通過 NVLink + NVSwitch 構築的一組 GPU 間全互聯、高頻寬、低延遲通訊域。域內 GPU 可以跨節點訪問視訊記憶體，延遲接近本地，把多塊 GPU 聚合成一個邏輯巨型加速器，直接承載千億/萬億引數大型模型的張量並行和超大規模視訊記憶體池。
2. 3分鐘產業解釋
NVLink Domain 的本質是用專用互聯在 GPU 之間建置非阻塞的全對全交換網路，徹底打破傳統 PCIe 樹形拓撲的瓶頸。任意兩塊 GPU 可同時以接近峰值頻寬通訊，資料不經過 CPU/記憶體中轉，令大型模型訓練中的張量並行通訊開銷大幅降低。同時，多塊 GPU 的 HBM 視訊記憶體在程式設計層面呈現出統一地址空間的雛形，開發者可以像操作單 GPU 一樣申請跨卡視訊記憶體。
產業上，NVLink Domain 已是高階 AI 伺服器（如 HGX、DGX）的標配。一個典型的單節點域包含 8 塊 GPU，通過 NVSwitch 實現所有顯示卡的全互聯；更大型的系統通過 NVLink Switch 機架 將域擴充套件至 72 塊甚至更多 GPU，直接支撐萬億引數 MoE 模型的訓練。這種域級算力密度已成為雲端廠商自研晶片最難複製的護城河之一，也是 NVIDIA AI 工廠方案中鎖定工作負載的核心架構。
3. 技術原理
NVLink Domain 在物理層對 PCIe 樹形匯流排進行了徹底替代。傳統 GPU 間通訊即便通過 GPUDirect P2P 繞過系統記憶體，仍需經過 PCIe 根複合體或交換器，無法建置專用的高頻寬獨立通訊域。NVLink 是一套與 PCIe 平級的 GPU 原生互聯協議，使 GPU 可以建置獨立的通訊域，實現從訊號物理層到程式設計模型的全棧定義。
3.1 物理域：NVSwitch 全互聯拓撲
以單節點 8 GPU + 6 顆 NVSwitch 的典型全互聯為例，每塊 GPU 將自身 NVLink 埠均勻連線到每一顆 NVSwitch 晶片上。資料從源 GPU 以 包（Packet）形式 進入 NVSwitch，交換晶片根據目標地址進行 直通交換（Cut-Through），不經儲存轉發，轉發延遲僅納秒級。所有鏈路可同時併發工作，任意兩塊 GPU 之間通訊不會阻塞其他 GPU 之間的資料交換；整域總頻寬僅受物理鏈路數量的限制，並不存在共享匯流排的阻塞。
多節點域擴充套件時，拓撲從完全直連轉為多級交換：GPU 首先連線本機架內的 NVSwitch，再由上層 NVLink Switch 實現跨機架交換。這會引入額外一跳的交換延遲，但仍遠優於跨節點的 InfiniBand/RoCE。
3.2 記憶體域：統一地址與地址翻譯服務
在 NVLink 物理鏈路之上，NVIDIA 通過統一記憶體架構和地址翻譯服務（ATS） 建置記憶體域。GPU A 上的執行緒訪問對映到 GPU B 的視訊記憶體地址時，A 的 MMU 通過 NVLink 向 B 發起遠端記憶體請求，B 的互聯介面讀取本地 HBM 後返回資料，整個過程對使用者程式碼透明，無需顯式複製。
但必須強調，這種統一地址空間仍然是 NUMA（非一致性記憶體訪問） 架構。遠端視訊記憶體的訪問延遲通常在數百納秒（亞微秒級），遠低於跨節點 RDMA 的微秒級延遲，但也顯著高於本地 HBM 的數十納秒級延遲。域內所有 GPU 的 HBM 構成 總視訊記憶體 ≈ 單 GPU 視訊記憶體 × 域內 GPU 數量，對模型分片和超大上下文訓練至關重要。
3.3 計算域：NVSHMEM 與細粒度同步
域內 GPU 可通過 NVSHMEM 實現跨卡直接發起的原子操作和 Put/Get 語義，支援核心級細粒度同步。這讓張量並行的 AllReduce 通訊可以被完全隱藏在計算中，並通過類似於單 GPU 的方式在域內分發計算任務。相較基於訊息傳遞的 RDMA 模型，NVLink 提供了硬體層面的載入/儲存語義，支援快取一致性和原子操作，大幅降低協作開銷。
3.4 關鍵架構約束
域內所有 GPU 必須同一型號、相同視訊記憶體容量；擴充套件時必須嚴格遵循 NVSwitch 的胖樹或全互聯拓撲限制，不可隨意增減 GPU 數量或混用不同代際的 NVLink 埠。違背拓撲規則將引發頻寬懸崖或路由失敗。
4. 關鍵引數
NVLink Domain 的關鍵引數直接決定域內通訊能力與高效訓練的規模上限。以下綜合 NVIDIA 官方已公佈資料梳理代際核心引數（表格），並註明資料來源及年份。
| 代際 | 代表 GPU | 單 GPU NVLink 埠數 | 單埠速率（雙向） | 單 GPU 總頻寬（雙向） | 典型域規模 | 域內對分頻寬（8 GPU 全互聯） | 釋出年份 |
|---|---|---|---|---|---|---|---|
| NVLink 1.0 | Tesla P100 | 4 | 20 GB/s | 160 GB/s | 4 GPU 直連 | —（僅限直連） | 2016 |
| NVLink 2.0 | V100 | 6 | 25 GB/s | 300 GB/s | 8 GPU（NVSwitch） | 1.2 TB/s | 2018 |
| NVLink 3.0 | A100 | 12 | 50 GB/s | 600 GB/s | 8 GPU（NVSwitch） | 2.4 TB/s | 2020 |
| NVLink 4.0 | H100 | 18 | 50 GB/s | 900 GB/s | 8 GPU HGX / 多節點域 | 3.6 TB/s | 2022 |
| NVLink 5.0 | B200 | 18 | 100 GB/s | 1.8 TB/s | 72 GPU（NVL72） | 130 TB/s（官方） | 2024 |
資料來源：NVIDIA 各代 GPU 白皮書、GTC 主題演講及產品規格頁（P100、V100、A100、H100、B200）。域內對分頻寬為理論全互聯下最大值，實際可能受拓撲和功耗管理影響。
其他關鍵引數還包括：
- 跨 GPU 視訊記憶體訪問延遲：通常在亞微秒級（數百納秒），具體依賴請求模式和頁遷移策略，由硬體統一記憶體管理。
- 域功耗與散熱：單 DGX H100 系統功耗約 10.2 kW；而 72 GPU 的 NVL72 機架級域系統總功耗可達 120 kW（NVIDIA 2024 GTC 公佈），必須配套液冷。
- 域內總視訊記憶體容量：由單 GPU HBM 容量 × 域內 GPU 數決定。以 8×H100（80GB）為例，總視訊記憶體池為 640 GB；72×B200（192GB）可達 13.8 TB。
- 有效通訊頻寬利用率：依賴域內拓撲和 NCCL 通訊庫最佳化。實際 AllReduce 頻寬通常可達峰值的 70%–90%（根據公開基準測試）。
部分引數（如單埠電訊號速率、交換器埠容量等）未在 NVIDIA 公開資料中詳細揭露，標記為“公開資料未見”。
5. 技術路線
NVLink Domain 是一條“專用全互聯域”的技術路線，與其他 GPU 互聯方案存在本質差異。下面對比主流技術路線（截至 2024 年公開資訊）：
| 維度 | NVLink Domain（全互聯） | 傳統 PCIe + 外部網路（如 InfiniBand） | AMD Infinity Fabric 域 | Intel 方案 |
|---|---|---|---|---|
| 拓撲 | 無阻塞胖樹/全網狀，NVSwitch 交換 | 樹形，共享上行頻寬，跨節點需 RDMA | 全互聯（如 MI300X 平台），但域規模較小 | Gaudi 3 依賴 RoCE/Ethernet，無全互聯域 |
| 單 GPU 頻寬 | 獨佔鏈路，H100 達 900 GB/s，B200 1.8 TB/s | 受限於 PCIe 5.0 ×16（64 GB/s）及網路頻寬 | MI300X 可達 896 GB/s（Infinity Fabric 3.0） | Gaudi 3 網路頻寬高但非 GPU-GPU 全互聯 |
| 域內延遲 | 亞微秒硬體直通 | 微秒到數微秒（RDMA） | 亞微秒級（AMD 官方） | 微秒級乙太網路 |
| 記憶體語義 | NUMA 統一地址，硬體頁遷移 | 顯式複製，GPUDirect RDMA 需顯式操作 | 部分支援遠端快取一致性 | 無統一地址空間 |
| 擴充套件規模 | 單域 8 GPU，新一代可達 72+ GPU | 上千 GPU 無硬上限 | 8 GPU 全互聯，跨節點仍依賴網路 | 更大規模但非域內統一記憶體 |
| 軟體生態 | CUDA/NCCL 原生，深度繫結 | 標準 MPI/NCCL，需額外調優 | ROCm 生態追趕中 | oneAPI，生態較窄 |
注：AMD、Intel 具體引數來自各公司官方釋出；部分細節（如 Infinity Fabric 確切埠數和拓撲）公開資料未見完全揭露。
6. 上游
NVLink Domain 的上游供應鏈高度集中於高速訊號、先進封裝和高精度製造環節，核心瓶頸與技術壁壘包括：
- SerDes IP 與高速 PHY：NVLink 每通道速率從 25 Gbps 多代提升至 100 Gbps（Blackwell 代），依賴高效能 SerDes 設計。主要 IP 供應商包括博通、Marvell 及 NVIDIA 自研。
- 先進封裝（CoWoS-S/L 等）：NVSwitch 晶片與 GPU 基板的大規模整合極度依賴台積電 CoWoS 封裝。2023–2024 年，CoWoS 產能成為整個 AI 伺服器的硬約束（台積電 2023 Q3 法說會明確指出產能緊張）。
- 高速 PCB 與背板聯結器：域內 GPU 與 NVSwitch 之間需要極低損耗板材和高速聯結器，以保證訊號完整性。H100 HGX 基板已採用超低損耗材料，NVL72 機架則需要複雜的銅纜背板/光互連。
- 光引擎（跨機架域）：當域擴充套件至跨機架級別，電訊號衰減促使使用光纖互聯。NVIDIA 在 GTC 2024 演示中已提及未來將採用片間光互連，但批次商用時間未定（公開資料未見）。
上游各環節中，CoWoS 產能的擴張節奏對 NVLink Domain 出貨量有直接決定作用。台積電 2024 年計劃將 CoWoS 產能翻倍，但考慮到來自多客戶的需求，供給緊張仍可能貫穿 2024–2025 年（來源：台積電法人說明會、供應鏈調研）。
7. 下游
NVLink Domain 直接嵌入下游 AI 計算基礎設施的各個層面，並深刻影響軟體棧的設計範式：
- AI 伺服器整機：DGX、HGX 系列由 NVIDIA 定義基板規格，再由 Foxconn、Quanta、Supermicro 等 ODM/OEM 生產整機或節點。HGX H100 8 GPU 基板已成為超大規模雲端廠商主力採購形態。
- 雲端超算與 AI 平台：AWS（P5、P5e 例項）、Microsoft Azure（ND H100 v5）、Google Cloud（A3）等均採用 NVLink 全互聯域作為最高效能訓練例項的核心架構（各雲端廠商官方文件，2023–2024）。
- 大型模型訓練架構：Megatron-LM、DeepSpeed 等必須感知 NVLink Domain 拓撲，將張量並行嚴格限定在域內，而流水線並行和資料並行跨域執行。這使硬體域的邊界直接切分模型並行策略。
- 企業級推論與微調：越來越多企業將多 GPU 域用於高吞吐推論和 LoRA 微調，以利用視訊記憶體池和支援更大 batch size。
下游的發展趨勢是“域”邊界從單節點向整機架滲透，NVLink Domain 逐漸成為獨立可排程的算力單元，催生全機架一體化交付模式。
8. 受益公司
圍繞 NVLink Domain 的產業生態，以下型別公司可能直接受益於域的持續擴充套件與滲透（僅客觀列舉，不構成投資建議）：
- NVIDIA（定義者）：通過 NVLink + NVSwitch + Grace CPU 構成全棧域方案，域規模的每次擴大都直接提升更高 ASP 的 NVSwitch 及 GPU 基板需求。
- AMD（挑戰者）：Instinct MI300X 等產品基於 Infinity Fabric 建置全互聯域，雖域規模尚不及 NVIDIA，但在 HPC 和部分推論場景中逐步滲透。
- 博通、Marvell：作為高速 SerDes IP 和定製交換晶片的核心供應商，若 NVIDIA 或第三方未來開放 NVSwitch 標準，相關廠商可能獲得更多設計機會。
- 雲端基礎設施廠商：AWS、Azure、GCP 等通過部署 NVLink 域推出高效能例項，提升各自 AI 平台的吸引力與粘性。
- 伺服器 ODM/散熱方案商：NVLink 域的高整合度要求配套液冷、高功耗機架設計方案，帶動散熱、電源和機架系統廠商訂單。
- 台積電等先進封裝供應商：CoWoS 是域實現的物理基礎，封裝產能擴張與良率改善直接受益於域裝置的放量（台積電 2023–2024 年多次公開表示 AI 相關封裝需求強勁）。
上述列舉源自各公司財報、產品釋出及公開供應鏈研究報告，並不代表對股價或未來業績的判斷。
9. 市場規模
針對 NVLink Domain 的獨立市場規模，公開資料未見專門的第三方測算。通常將其歸入 AI 伺服器互聯元件或 NVIDIA 資料中心業務的大類中觀察。以下幾點可作為參考（資料均標註年份與來源）：
- NVIDIA 資料中心營收：FY2024（截至 2024 年 1 月）資料中心業務營收為 475.36 億美元（NVIDIA 10-K 年報）。其中，計算與網路產品為整體，未單獨揭露 NVLink/NVSwitch 營收。
- NVIDIA 網路營收：FY2024 網路營收（包含 InfiniBand、NVLink Switch 等）為 131.6 億美元（NVIDIA FY2024 Q4 財報演示材料），但同樣未區分內部細分。分析師普遍認為 NVLink Switch 佔比仍較小，但增速極快。
- CoWoS 產能與 GPU 出貨：根據台積電台積電 2024 年 1 月法說會，2024 年 CoWoS 產能將年增率翻倍以上，主要受 NVIDIA 等客戶 AI 晶片需求拉動。這間接反映 NVLink 域相關整合晶片的出貨放量。
- AI 伺服器出貨：據 Omdia 2023 年 Q4 報告，2023 年全球 AI 伺服器出貨約 100 萬臺，其中搭載 NVLink 全互聯的高階配置佔據訓練伺服器絕大部分份額，但具體域內產值未見揭露。
- 產業鏈調研：Semianalysis 等機構曾估算（2023 年 8 月）H100 HGX 基板中 NVSwitch 和高速互聯部分物料成本佔比約 20%–25%，但該資料並非官方釋出，且隨代際變化。
綜合判斷，NVLink Domain 的市場體量與高階 AI 訓練伺服器交付量高度繫結。2024 年作為新一代 Blackwell 架構開始量產的年份，域的總價值量有望隨單域 GPU 數增加和 ASP 提升而進一步擴大，但具體市場統計仍需等待第三方機構（如 IDC、Omdia）的獨立拆分報告。
10. 玩家對比
在 GPU 全互聯域賽道上，NVIDIA 處於統治地位，AMD 奮力追趕，Intel 及其他自研晶片玩家則尚未提供對等的域方案。
10.1 NVIDIA
- 產品線：從 DGX/HGX 8 GPU 基板到 NVL72 機架級域，代際演進清晰。
- 域內能力：全互聯、統一記憶體、NVSHMEM、NCCL 深度定製，訓練架構原生支援。
- 軟硬體一體化：Grace CPU 通過 NVLink-C2C 與 GPU 統一一致域，進一步強化鎖定了 CPU+GPU 的協同。
- 市場地位：2023–2024 年，所有主要 AI 訓練叢集的最高效能例項均採用 NVIDIA NVLink Domain（AWS、Azure、GCP、Meta 公開揭露）。
10.2 AMD
- 代表產品：Instinct MI300X，整合 8 顆 GPU 通過 Infinity Fabric 全互聯，支援統一視訊記憶體池，域內頻寬 896 GB/s（AMD 2023 年 12 月 Advancing AI 活動資料）。
- 優勢：HBM3 容量更大，價效比有競爭力；在推論和部分 HPC 場景中嶄露頭角。
- 短板：軟體生態（ROCm）和通訊庫成熟度仍然落後，域內拓撲無法輕易跨節點擴充套件至類似 NVL72 的超大域，公開資料未見跨節點全互聯域方案。
10.3 Intel
- Gaudi 3：2024 年 4 月釋出，單晶片頻寬突出，但 GPU-GPU 通訊依賴外部 RoCE 交換器，無類似 NVLink 的全互聯統一記憶體域。張量並行等極致低延遲通訊需跨節點，效率不及 NVLink Domain。
- Falcon Shores（未來架構）：官宣將整合多晶片，但尚未揭露具體互聯拓撲（截至 2024 年 6 月公開資料未見）。
10.4 自研晶片廠商
- Google TPU v5p、Amazon Trainium2 等均採用自研互聯技術（如 ICI），可以實現一定規模的全互聯域，但域規模、頻寬和軟體生態對外揭露極少。公開資料未見可與 NVLink 5.0 域正面競爭的詳細規格。
以上對比基於各公司 2023–2024 年官方釋出、技術峰會資料以及雲端廠商公開例項資訊。
11. 風險
NVLink Domain 在建置強大算力基座的同時，也伴隨著技術、供應鏈和生態層面的風險，需要行業參與者審慎評估（不構成任何買賣建議）。
- 先進封裝產能瓶頸：現階段 NVLink 域的實現極度依賴台積電 CoWoS 封裝，產能緊張可能直接導致交付延遲。台積電 2023–2024 年多次表示產能擴張但仍難完全滿足需求，若產能不及預期，域出貨將受限。
- 單域故障域擴大：NVLink Domain 將數十甚至 72 塊 GPU 耦合為一個緊密通訊單元，一旦 NVSwitch 或背板出現故障，可能連帶整個機架不可用，增加訓練中斷機率和運維複雜度。隨著域規模上升，故障對任務的影響呈非線性增長。
- 散熱與功耗挑戰：NVL72 等機架級域功耗超過 100 kW，要求資料中心支援高密度液冷。現有風冷資料中心改造成本高，可能制約部署速度。
- 供應商集中與鎖定：域方案高度繫結 NVIDIA 生態，從通訊庫到並行架構均強依賴 CUDA。即使競爭對手在硬體頻寬上追趕，軟體遷移成本極高，形成事實上的獨家供應格局，增加下游買家的議價弱勢。
- 技術迭代過快與資產沉沒：NVLink 代際互不相容（如 H100 域必須有 H100 GPU 和對應 NVSwitch），新建域需要全盤換新，生命週期內升級靈活性低。如果未來出現更優通訊範式，已部署的域資產可能面臨快速貶值。
- 晶片出口管制風險：高階 NVLink 域裝置屬於出口管制物件，地緣政治因素可能再次收緊規則，影響全球市場供需和客戶可得性。
上述風險基於已公開的產業鏈資訊、技術文件及各公司財報電話會議紀要整理。
12. 誤讀糾偏
關於 NVLink Domain 的幾個常見誤讀，需要明確澄清：
誤讀 1：“域內視訊記憶體訪問完全等於本地視訊記憶體”
實際上，域內跨卡訪問雖然硬體自動處理，但仍屬於 NUMA 架構，遠端延遲數百納秒 vs 本地數十納秒，頻寬也遠低於本地 HBM。大型模型部署必須通過分片和通訊排程來規避遠端懲罰，而不能將其視為一塊“連續均勻”的記憶體。程式設計模型提供抽象，但效能隔離需要開發者精心設計。
誤讀 2：“NVLink Domain 可以無限擴充套件規模”
受物理限制：NVSwitch 埠總數、背板走線和訊號完整性決定單域最大 GPU 數。每擴充套件一級交換，延遲增加且可能引入阻塞。目前 NVL72 將單域推至 72 卡，更高規模需通過 InfiniBand/RoCE 連線多個域，域內和域間通訊能力有本質差異。將域間通訊當做域內通訊使用將導致訓練效能斷崖式下降。
誤讀 3：“NVLink Domain 等於高頻寬 RDMA”
NVLink 提供的是載入/儲存語義和硬體快取一致性，而非訊息傳遞。它支援原子操作，允許 GPU 直接訪問遠端視訊記憶體頁，軟體模型與 RDMA Send/Recv 截然不同，實現零複製和高效率核心協作。將域簡單類比為“超級 RDMA”會掩蓋其統一記憶體和細粒度同步的獨特優勢。
誤讀 4：“AMD 的 Infinity Fabric 完全等同於 NVLink Domain”
雖然 AMD MI300X 平台實現了 8 GPU 全互聯和類似統一視訊記憶體池，但域擴充套件能力、軟體棧成熟度和跨節點域方案與 NVIDIA 仍有較大差距。兩者在紙面頻寬上接近，但在生態整合和規模擴充套件上不可直接劃等號。
13. 最新事件
（以下事件基於截至 2024 年 6 月的公開報道和公司公告，日期和口徑均已標註。）
- 2024 年 3 月 NVIDIA GTC 2024：釋出 Blackwell 架構 GPU（B200、GB200），正式推出第五代 NVLink，單 GPU 雙向總頻寬躍升至 1.8 TB/s。同時釋出 GB200 NVL72 機架系統，通過 NVLink Switch 實現 72 GPU 全互聯域，域內總對分頻寬高達 130 TB/s（NVIDIA 官方新聞稿及主題演講）。
- 2024 年 5 月 NVIDIA 2025 財年 Q1 財報：資料中心業務營收 226 億美元，年增率增長 427%。CEO 黃仁勳表示 NVL72 系統已開始向客戶送樣，預計 2024 年晚些時候規模量產（NVIDIA 2025Q1 財報電話會）。
- 2023 年 12 月 AMD Advancing AI 活動：正式釋出 Instinct MI300X，8 塊 GPU 通過 Infinity Fabric 3.0 互聯組成域，總頻寬 896 GB/s，支援統一視訊記憶體池（AMD 官方新聞材料）。
- 2024 年 4 月 Intel Vision 大會：釋出 Gaudi 3 加速器，強調 128 GB HBMe2 和 3.7 TB/s 網路頻寬，但未提及 GPU-GPU 全互聯域方案（Intel 產品頁及演講）。
- 2024 年臺積電 CoWoS 產能動態：2024 年 1 月法說會表示 CoWoS 年產能將年增率翻倍，預計 2025 年繼續大幅擴張；多家媒體（Digitimes 等）報道 NVIDIA 已預訂 2024–2025 年大部分 CoWoS 產能，以備域級 AI 晶片生產。
- 雲端廠商例項更新：2024 年微軟 Azure 正式上線 ND H100 v5 例項（8 GPU NVLink 全互聯）；AWS 宣佈推出 P5e 例項（H200 GPU），同樣採用全互聯域架構（官網文件，2024 年 3–4 月）。
所有事件均提供可查證的公司官方來源或權威科技媒體報道。若後續有更新，請以最新官方釋出為準。
14. 追蹤指標
行業觀察者可通過以下指標來判斷 NVLink Domain 的滲透進度與產業鏈影響（僅作技術研判，不構成投資展望）：
- 台積電 CoWoS 月產能及客戶分配：追蹤台積電法說會揭露的先進封裝產能規劃和主要客戶預訂情況，可直接對映域裝置供應上限。
- NVIDIA 網路營收年增率增速與新品提法：透過 NVIDIA 財報中網路部門（包含 InfiniBand、NVLink Switch）的增速，以及管理層對 NVSwitch 系統的描述（如“NVLink Switch 出貨量”“機架系統預訂”），判斷域份額的擴張。
- 主要雲端廠商 AI 例項路線圖：觀察 AWS、Azure、GCP、Oracle 等推出的最新 GPU 例項是否採用全互聯域架構及域大小（如是否從 8 GPU 級升級至 72 GPU 級），反映下游採納節奏。
- NCCL 和訓練架構的域感知更新：關注 NVIDIA/nccl 倉庫的 changelog，以及 Megatron-LM、DeepSpeed 中新增的 NLINK 域內並行最佳化。例如，是否出現針對 NVL72 的專用通訊策略。
- 競品互聯規格更新：AMD ROCm 對 Infinity Fabric 域的支援是否達到與 NCCL 可比的程度，Intel 未來架構是否引入全互聯域，均會影響產業競爭格局。
- 液冷部署與資料中心標準：機架級 NVLink 域量產依賴高功率液冷機櫃的標準化，追蹤 OCP（開放計算專案）等組織釋出的液冷規範，以及主要雲端廠商的機架電源/散熱改建動態。
15. 信源
以下為本文主要資訊與資料來源，建議讀者查閱原始資料以獲取最新細節：
- NVIDIA 官方：
- 《NVIDIA H100 Tensor Core GPU Architecture》白皮書（2022）
- 《NVIDIA Blackwell Architecture Technical Brief》（2024）
- GTC 主題演講（2023、2024）
- NVIDIA 財報及電話會議記錄（FY2024、FY2025 Q1）
- AMD 官方：
- 《AMD Instinct MI300X Accelerator Data Sheet》（2023）
- Advancing AI 2023 活動資料
- Intel 官方：
- 《Intel Gaudi 3 AI Accelerator》產品頁（2024）
- 台積電：
- 2023–2024 年法人說明會簡報與逐字稿
- 雲端廠商文件：
- AWS EC2 P5/P5e 例項頁面
- Azure ND H100 v5 系列文件
- Google Cloud A3 加速器最佳化機器系列
- 第三方分析機構（部分資料為定性或引用，需自行判斷可靠性）：
- Omdia《AI Server Market Tracker》（2023 Q4）
- Semianalysis 關於 NVSwitch 成本與拓撲的分析文章（2023）
- Digitimes 關於 CoWoS 產能分配報道（2024）
- 開源社群：
- NVIDIA NCCL GitHub 倉庫與文件
- Megatron-LM、