機櫃間互聯
3 秒看懂
機櫃間互聯(Scale-out Interconnect)是 AI 超級叢集中連線不同機櫃內計算節點、將幾十到上萬個 GPU 聚合成統一算力池的高效能網路。它承擔著分散式訓練中 All‑Reduce、All‑to‑All 等集合通訊的全對全流量,直接決定了訓練任務的有效頻寬、尾延遲和線性加速比。沒有它,再多的 GPU 也只是算力孤島。
3 分鐘產業解釋
單機櫃通常容納 4~8 臺 GPU 伺服器,算力無法支撐千億甚至萬億引數大型模型。機櫃間互聯通過 Spine‑Leaf、Fat‑Tree 等拓撲將數十到數千個機櫃串聯成一個邏輯整體,讓所有 GPU 能以接近一臺巨型計算機的方式協同工作。
- 層次關係:機櫃內 GPU 間使用超高頻寬私有直連(NVLink、Infinity Fabric);機櫃頂交換器匯聚櫃內多臺伺服器;機櫃間互聯則作為資料中心級 backbone,跨機櫃連線各櫃頂交換器。Scale‑out 網路的物理介質從銅纜升級為有源光纜和光模組,以支撐數十米到數百米的跨櫃距離。
- 核心訴求:極致單埠頻寬(端側已進入 400 Gbps,2025 年加速轉向 800 Gbps)、微秒級尾延遲、零丟包的無損傳輸、高效的集合通訊解除安裝與自適應擁塞控制。
- 主流實現:InfiniBand(IB)和基於融合乙太網路的 RDMA(RoCEv2)。近年成立的超乙太網路聯盟(UEC)正在設計一套乙太網路原生的 AI 網路協議棧,目標是打破 IB 的封閉生態。需特別注意,NVIDIA NVLink Switch 跨機櫃方案雖將直連記憶體語義延伸至多機櫃,但其本質是 Scale‑up 緊耦合統一大記憶體域,不在 Scale‑out 機櫃間互聯討論之列。
對訓練叢集而言,機櫃間互聯就是“神經網路”,它讓數千張加速卡同步呼吸、一致行動,能否線上性加速比下完成一次訓練,網路往往是第一約束。
技術原理
物理層與訊號速率
機櫃間互聯依賴 SerDes 高速序列鏈路。當前主流單 Lane 速率已演進至 112 Gbps PAM‑4,2024‑2025 年開始規模匯入 224 Gbps PAM‑4。以 8 個 Lane 並行構成一個埠,對應 400 Gbps(4×112 Gbps)或 800 Gbps(8×112 Gbps / 4×224 Gbps)。訊號從電到光轉換通過光模組實現,典型封裝為 QSFP‑DD 或 OSFP,傳輸距離從 30 m(多模)到 10 km(相干光)不等。誤位元速率(BER)在無 FEC 條件下通常劣於 10^‑9,需靠 Reed‑Solomon 等前向糾錯碼使有效 BER 優於 10^‑12,實現邏輯無損。
RDMA 與協議解除安裝
遠端直接記憶體訪問(RDMA)是機櫃間互聯的基石。一臺機器上的網絡卡可繞過對方 CPU 直接讀寫遠端記憶體,將通訊延遲壓至 1‑3 μs,並釋放主機 CPU。其核心機制是 Queue Pair(QP)、Completion Queue(CQ)和 Memory Region(MR)註冊。AI 集合通訊庫(如 NCCL、RCCL)在初始化階段預建全部 QP,鎖定物理記憶體並交換遠端金鑰,讓訓練迴圈中的梯度同步不再觸發系統呼叫。
InfiniBand 的自適應路由與信用流控
InfiniBand 從 L2 到傳輸層全為 RDMA 而生。鏈路層採用基於信用的流控,逐跳保證不丟包;網路層支援多路徑自適應路由,可對同一流的不同包進行 spraying,極大緩解傳統 ECMP 雜湊的極化問題。配合 SHARP(集線器聚合歸約)技術,在交換器內部完成 Reduce 操作,進一步降低跨機櫃的通訊資料量。
RoCEv2 的無損與 ECN
RoCEv2 將 RDMA 承載在 UDP/IP 上,複用標準乙太網路交換器。為達到無損,需開啟優先順序流控(PFC),同時藉助 ECN 標記和傳送端 DCQCN 或 TIMELY 等擁塞控制演算法抑制傳送速率。然而 PFC 易引發頭阻和死鎖,大規模調優複雜。UEC 正在拋棄 PFC,轉而設計基於報文噴灑(packet spraying)、選擇性重傳和靈活排序的新傳輸層,力求在乙太網路物理層上提供 IB 級別的健壯性。
網路拓撲與集合通訊對映
Fat‑Tree 是當前 AI 叢集最普遍拓撲,提供 1:1 收斂比,任意一對主機間具備全線速無阻塞頻寬,代價是層級多、光模組用量大。Dragonfly+ 或 Megafly 則在組內全連線、組間有限鏈路,藉助自適應路由降低遠端頻寬需求,適合萬卡以上規模。NCCL 的 Ring、Tree 或 CollNet 演算法需與物理拓撲對齊,讓 GPU 間通訊鏈路不重疊、不擁塞,才能將有效頻寬推近埠速率的 80% 以上。
關鍵引數
(本節所引速率、功耗區間均來自產業公開演進路徑,非特定廠商指標。)
- 埠速率:2024 年主流 AI 叢集以 400 Gbps 埠為主;頭部雲端廠商已開始批次部署 800 Gbps(單埠 8×112 Gbps 或雙埠 2×400 Gbps),2025 年有望匯入 1.6 Tbps。來源:Omdia 2024 年資料中心網路報告、各雲端廠商技術釋出。
- 交換器晶片頻寬:單顆晶片容量已推進至 51.2 Tbps(如 Broadcom Tomahawk 5),支援 64 個 800 Gbps 埠;2025‑2026 年將迭代至 102.4 Tbps。來源:Broadcom 2023‑2024 年產品釋出、各晶片官方資料。
- 端到端延遲:跨機櫃一跳(網絡卡→交換器→網絡卡)典型值在 1‑3 μs(IB) 與 2‑5 μs(RoCEv2)。交換器 pipelining 延遲約 200‑500 ns,光纜傳輸約 5 ns/m。來源:公開測試資料及網絡卡/交換器廠商效能白皮書。
- 訊息速率:小包(64/128 B)轉發能力約 800 Mpps 以上,部分晶片突破 1 Bpps。影響集合通訊中 Reduction 樹的分發效率。
- 有效頻寬(Goodput):扣除協議棧負荷、重傳開銷後,應用可達的吞吐量。在理想拓撲對齊下可達到物理埠速率的 75‑90%;若出現擁塞或拓撲不對齊,可能驟降至 50% 以下。
- 尾延遲(P99/P99.9):一次 All‑Reduce 的延遲取決於最慢鏈路。典型要求 P99 延遲不超過中位數 1.5 倍,否則同步柵欄等待將大幅拉低 GPU 利用率。
- 功耗預算:每個 800 Gbps OSFP/QSFP‑DD 光模組功耗約 13‑18 W,一臺 64 埠 800 G 交換器整機功耗可達 4‑6 kW,對機架供電和散熱提出嚴峻挑戰。來源:OIF 及各光模組廠商資料表。
- 誤位元速率與 FEC:224 Gbps PAM‑4 通道電訊號 BER 在無 FEC 下約為 1×10^‑6,需依靠 KP4 或更高編碼強度的 FEC,將淨解碼後 BER 提升至 10^‑15 量級。來源:IEEE 802.3df 任務組草案。
技術路線
| 維度 | InfiniBand(IB) | RoCEv2 / 融合乙太網路 | 超乙太網路(UEC) | NVLink 跨機櫃(Scale‑up,作對比) |
|---|---|---|---|---|
| 頻寬等級 | NDR 400 Gbps / NDR200 800 Gbps,路線圖明確 | 隨乙太網路代際,400 G→800 G→1.6 T,多供應商 | 基於 800 G/1.6 T 乙太網路物理層,傳輸層變革中 | 極高,專線繫結多組 NVLink 鏈路,可達 TB/s 級 |
| 延遲 | 極低(協議棧全硬體解除安裝,1‑1.5 μs 跳) | 低(2‑5 μs),但無損配置及 PFC 代價大 | 預計接近 IB,去除 PFC,通過噴灑+選擇性重傳實現 | 最低(nVIDIA 私有直連, <1 μs) |
| 擁塞控制 | 信用基流控 + 自適應路由 + SHARP 聚合 | PFC + ECN + DCQCN/HPCC,易觸發頭阻 | 多路徑噴灑、包級負載均衡、接收端重排序,無 PFC | 端到端信用式,受控直連域 |
| 規模 | 已穩定支撐超 2 萬節點量產叢集 | 大型 RoCE 叢集可達萬卡,但調優複雜 | 目標 10 萬級節點,信令與傳輸分離設計 | 限於同構平台,當前單域 256‑576 GPU |
| 生態開放性 | 封閉,依賴 NVIDIA/Mellanox 網絡卡和交換器 | 開放,多交換器、多網絡卡供應商 | 開放聯盟,多家雲端與晶片廠商參與 | NVIDIA 私有,鎖定自家 GPU 與交換器 |
| 成本 | 每 400 G 埠總擁有成本較高,IB 交換器溢價 | 乙太網路交換器 ASP 低 30‑50%,網絡卡也較便宜 | 尚在早期,預期硬體與高階乙太網路持平 | 與特定平台捆綁,系統成本高 |
| 典型應用 | 前沿大型模型訓練叢集(GPT‑4、Gemini 等效) | 推論叢集、中小訓練、多租戶雲端環境 | 未來一兩年預計成為 AI 訓練的主流開放方案 | 超大規模稠密模型訓練、緊耦合記憶體池 |
資料來源:各廠商白皮書、UEC 2024 年技術更新、Dell’Oro Group 2024 年資料中心網路報告等;成本對比為公開裝機經驗區間,不作精確引用。
上游
- 交換晶片:機櫃間互聯的核心矽基板,整合數百路 High‑Speed SerDes、包處理引擎、大容量快取和路由表。頭部產品如 Broadcom Tomahawk 5 / Jericho3‑AI、Marvell Teralynx、Cisco Silicon One 以及國內初創晶片,決定了交換器基數和轉發能力。交換晶片的代工主要依賴台積電、三星等先進製程。
- 光模組與電晶片:實現電‑光轉換,對應不同傳輸距離(SR、DR、FR、LR)。800 Gbps 模組大量採用矽光(SiPh)或 EML 方案,並整合 DSP 晶片。上游 EML/矽光晶圓由博通、Lumentum、相干等提供,電 DSP 由 Marvell、Broadcom、MaxLinear 等主導。
- 聯結器與線纜:高密 MPO‑16/MPO‑24 光纖聯結器、背板聯結器,以及櫃頂到交換器的高速率 DAC/AOC 線纜。隨著埠密度上升,聯結器損耗與清潔度直接影響 BER。
- IP核與設計工具:SerDes PHY IP、FEC 邏輯、RDMA 協議棧 RTL(硬核或軟核),授權商如 Synopsys、Cadence,影響晶片廠商推出新品的速度。
- 網路作業系統(NOS):管理面軟體,如 Arista EOS、Cisco NX‑OS、SONiC(社群開源)以及各廠商私有 NOS,負責路由協議(BGP‑EVPN)、遙測、自動化配置和故障定位。
下游
- 雲端與網際網路廠商:自研或採購白盒/品牌交換器組網,執行 AI 訓練和推論叢集。代表性如 Google Jupiter、Amazon 自研網路、Meta 的 AI Research SuperCluster,它們是將互聯需求轉化為大批次採購的主力。
- AI晶片設計企業:在自家訓練/推論晶片中整合高速 SerDes 和 RDMA 能力(如 Google TPU ICI、AMD Infinity Fabric、Intel Gaudi),出口對接 Scale‑out 網路,決定與網絡卡、交換器的耦合深度。
- 大型模型企業與研究機構:對效能最敏感的一線使用者(如 OpenAI、Anthropic、國內基礎模型公司),提出集合通訊特定最佳化需求,驅動網路廠商改進擁塞控制和拓撲對映。
- 系統整合商與服務商:將網路裝置、光模組、光纖配線架整合到整櫃,並完成佈線、驗證和交付,以及後續 O&M 服務。
受益公司
(僅客觀梳理產業鏈環節及代表性公司,不構成任何買賣建議。)
- NVIDIA(含 Mellanox):同時在 InfiniBand 和高速乙太網路卡/交換器兩端版面配置。2024 財年(截至 2024 年 1 月)網路業務營收 131 億美元,年增率 +249%,IB 佔據 AI 訓練網路絕對主流份額。2024 年推出 Spectrum‑X 乙太網路平台,進軍開放乙太網路市場。來源:NVIDIA FY2024 財報及 GTC 2024 公開資訊。
- Broadcom:交換晶片領域的寡頭,Tomahawk 系列和 Jericho‑AI 產品為白盒交換器廠商及 Cisco 提供核心晶片。據公司財報及行業估算,其在資料中心乙太網路交換晶片市場份額超過 70%(2023 年口徑)。同時博通也是領先的 DSP 和光學元件供應商。來源:Broadcom 2023‑2024 年財報、Omdia 分析。
- Marvell:通過收購 Innovium 獲得 Teralynx 交換晶片,並在電 DSP 和定製 ASIC 領域具備優勢,為雲端廠商自研交換器和光模組提供全面矽方案。2024 財年資料中心相關營收快速增長。來源:Marvell FY2024 財報。
- Cisco:自研 Silicon One 晶片的 Nexus 系列交換器參與 AI Fabric,提供豐富的遙測和運維功能。儘管在超大規模純 AI 叢集中面臨白盒競爭,其解決方案在企業 AI 和混合雲端中仍有較高份額。
- Arista:基於 Broadcom 等晶片的高階交換器,憑藉 EOS 和 CloudVision 在超大規模資料中心享有高份額,2023 年來自雲端及 AI 客戶的營收佔比超 40%。來源:Arista 2023 年年報。
- 光模組廠商:中際旭創、新易盛、光迅科技、Finisar(Coherent)等,是 800 Gbps 光模組的核心供應商。據 LightCounting 2024 年報告,中際旭創在全球光模組出貨量中排名領先,主要受益於 AI 驅動的高速模組需求。
- 國內綜合裝置商:華為、銳捷、新華三等,提供自研晶片或商用晶片的盒式/框式交換器,配套 AI 網路解決方案;同時華為自研交換晶片(如 Solar 系列)提升國產化比例。相關廠商在運營商和政企市場表現活躍,AI 叢集相關營收佔比正在上升。
- 銅纜與聯結器:泰科(TE)、安費諾(Amphenol)、莫仕(Molex)以及國內立訊精密等,在高速背板聯結器、高密光纖聯結器領域佔據供應鏈關鍵節點。
(以上公司列表均基於公開產業鏈資訊,不涉及目標價或估值判斷。)
市場規模
(本節資料來自第三方研究機構公開發布,已註明來源與年份。)
- 資料中心乙太網路交換器市場:根據 Dell’Oro Group 2024 年 7 月釋出的報告,2024 年全球資料中心乙太網路交換器市場預計達到 265 億美元,其中 100 Gbps 及以上埠營收佔比超過 65%;受 AI 叢集推動,高速埠(400/800 Gbps)出貨量在 2024 年預計翻倍,推動市場規模到 2028 年突破 500 億美元。來源:Dell’Oro Group “Ethernet Switch – Data Center 5‑Year Forecast Report, July 2024”。
- InfiniBand 網路裝置市場:據 NVIDIA 財報及行業估算,2023 年 IB 市場規模約 45‑50 億美元(主要來自 NVIDIA),受益於超大訓練叢集,預計 2024 年增長至 80 億美元以上。長期份額將受乙太網路替代影響,但絕對值仍在提升。來源:NVIDIA FY2024 資料、Crehan Research。
- 高速光模組市場:LightCounting 在 2024 年 4 月預測,2024 年全球光模組市場達 160 億美元,年增率增長約 50%;其中 400 G 和 800 G 模組的 AI 需求貢獻超過一半。預計 2029 年市場增至 300 億美元級別,高基數光模組中 1.6 T 將成為新增長極。來源:LightCounting “High‑Speed Optics Market Forecast, April 2024”。
- AI網路(Scale‑out)綜合支出:Omdia 在 2024 年 3 月估計,2024 年全球 AI 叢集在交換、網絡卡和光模組上的總支出約為 370 億美元,到 2028 年將提升至 620 億美元,年複合增長率約 14%。來源:Omdia “AI Infrastructure Networking Report, March 2024”。
- 國產替代空間:國內交換器市場約 40‑50 億美元,高速交換晶片國產化率不足 15%(2023 年),光模組國產份額較高但在核心 DSP 和 EML 晶片仍依賴進口。隨著國產交換晶片和光電晶片的成熟,2025‑2026 年份額有望提升。來源:公開資料未見精確統計口徑,表述為定性區間。
(公開資料如未明確註明具體數值,文中使用“約”“超過”的表述均基於上述機構報告中的區間提取,非精確統計。)
玩家對比
InfiniBand 陣營:NVIDIA 的全棧閉環
NVIDIA 藉助 Mellanox 在 IB 網絡卡、交換器和線纜市場形成 90% 以上的份額,並通過自家 GPU 與 IB 網路的緊耦合最佳化(如 SHARP、nvSwitch Link)鎖定了多數萬卡級以上訓練叢集。優勢在於效能穩定、部署可達“開箱即用”級別;劣勢是單源供應風險和高成本。來源:公司財報,行業估算。
乙太網路開放陣營:Broadcom + 白盒 + Arista/Cisco
Broadcom 提供 51.2 Tbps 交換晶片,白盒廠商(如 Accton、Wistron)及 Arista/Cisco/華為等品牌廠利用該晶片建置高密度交換器。網絡卡側,NVIDIA ConnectX、Intel IPU、國產晶片均可提供 RoCE 網絡卡。產業鏈分工清晰,使用者不會被單一供應商鎖定,總擁有成本顯著低於 IB。但大規模無損 RoCE 的運維複雜度高,PFC 故障定位困難,對網路工程師能力要求高。
超乙太網路聯盟(UEC)的顛覆性嘗試
由 AMD、Intel、Meta、Microsoft、Broadcom、Arista 等聯合推動,UEC 擬打造一個開放、高效能的 AI 網路標準。其關鍵技術:基於報文噴灑的自適應路由(無需 ECMP)、接收端重排序(去除 PFC)、傳輸與物理層解耦的靈活信令。UEC 1.0 規範預計 2025 年釋出,多家廠商表示將在 2025‑2026 年推出第一批商用晶片和裝置。如果成功,可能重塑整個 Scale‑out 互聯格局,使 IB 在訓練市場的佔有率從當前的 70‑80% 顯著下降。來源:UEC 官方釋出,2024‑2025 年各成員技術演示。
雲端廠商自研與定製化
Google 以光電路交換器(OCS)和自研 Orion 站架建置起獨有的機櫃間互聯;Amazon 自研 Nitro 及內部 Fabric;國內頭部雲端廠商也在嘗試自研交換器和定製化拓撲。這些自研方案多基於商用交換晶片+自研 NOS,或利用矽光技術進行簡化拓撲,以降低總體成本和功耗,但其技術路線公開細節有限。來源:各雲端廠商公開技術部落格。
對比小結
短期內,IB 在 2 萬卡以上訓練叢集中仍具穩固地位;但隨著 UEC 成熟和 800G/1.6T 乙太網路生態的完善,預計 2026 年後 RoCE/UEC 在新建 AI 叢集中的滲透率將顯著上升,形成 IB、UEC、傳統 RoCE 三足鼎立。成本、供應鏈多樣性和開放生態的力量是驅動轉型的關鍵因素。
風險
- 技術路線不確定性:若 UEC 標準落地延遲或實際效能不及預期,乙太網路方案在大型訓練叢集的份額增長可能慢於市場預期,導致 IB 價格劣勢未改善,影響下游客戶的部署節奏。
- 單一供應商依賴:IB 生態高度集中於 NVIDIA,若其產能受限或調整產品策略(如限制第三方平台),將給依賴 IB 的雲端廠商和 AI 企業帶來供應中斷風險。
- 功耗與散熱挑戰:800G 及更高速率光模組和交換晶片功耗激增,單機架功耗可能逼近 15‑20 kW,超出大多數資料中心既有供電與散熱能力,可能導致部署延遲或改造成本超預期。
- 資本支出波動:AI 叢集建設具有強週期性,如果大型模型需求不及預期或宏觀融資環境收緊,雲端廠商可能削減網路採購,引起產業鏈庫存調整和價格競爭。
- 光電晶片產能瓶頸:高速 EML 雷射器、矽光晶圓和高精度 DSP 代工集中在少數供應商,任何地緣政治、自然災害或產能分配失誤都可能造成供給短缺,推升交付週期和成本。
- 運維複雜性:RoCE 大規模部署的 PFC 死鎖、ECN 誤觸發等問題可能導致訓練任務間歇性掛起,企業需要儲備稀缺的網路運維專家,增加持續運營成本。
誤讀糾偏
- 誤讀 1:“機櫃間互聯就是 InfiniBand” IB 在大型訓練叢集中佔據主導,但 RoCEv2 已是廣泛部署的方案,且 UEC 的推出正加速乙太網路向訓練主力身份演進。機櫃間互聯的本質是“為集合通訊最佳化的高頻寬無損網路”,IB 只是實現之一。
- 誤讀 2:“只要埠頻寬足夠高就沒有瓶頸” 集合通訊尤其是 All‑Reduce 對延遲、網路直徑、拓撲對稱性極敏感。即便鏈路頻寬充裕,不當的雜湊路由、擁塞控制引數或收斂比設定都會導致尾延遲劇增,使得 GPU 利用率大幅下降。“有效頻寬/通訊效率”遠比標稱埠頻寬關鍵。
- 誤讀 3:“Scale‑out 和 Scale‑up 互斥” 機櫃內不斷增強 Scale‑up(如下一代的 NVLink 或 PCIe 6.0),減少跨櫃通訊量,減輕 Scale‑out 網路壓力;同時 Scale‑out 網路負責承載剩餘通訊。兩者合力擴大有效叢集規模,是互補關係而非替代。
- 誤讀 4:“光模組速率翻倍即可平滑升級” 速率升級需要交換器晶片、背板 SerDes、光模組 DSP 和 FEC 程式碼全線同步迭代。此外,224 Gbps 電訊號鏈路的訊號完整性、聯結器阻抗匹配等工程挑戰遠超紙面。實際部署中經常出現不同廠商元件的互操作性問題,需要整合測試和磨合。
- 誤讀 5:“AI 推論不需要高效能機櫃間互聯” 大型模型推論逐漸採用張量並行和流水線並行分佈在多 GPU/多節點上,跨節點 KV 快取同步和模型分片通訊對延遲和頻寬也有較高要求。未來大規模推論叢集將同樣需要最佳化的 RoCE 甚至類 IB 效能的互聯,只是要求尚不及訓練極端。
最新事件
(基於公開資訊截至 2025 年 3 月可溯源的行業動態。)
- UEC 1.0 草案達成里程碑:2024 年 12 月,UEC 宣佈完成傳輸層協議核心架構,並於 2025 年 2 月釋出 1.0 候選規範,涵蓋基於噴灑的端到端傳輸、擁塞通知和重排序機制。多家成員開始開發適配的網絡卡和交換器 ASIC,預計 2025 年底有原型系統展示。來源:UEC 官方部落格及成員通訊。
- NVIDIA 推出 Spectrum‑X800:2024 年 3 月 GTC 上,NVIDIA 釋出 Spectrum‑X800 乙太網路平台,採用 51.2 Tbps 交換晶片和 BlueField‑3 DPU,支援自適應路由和基於遙測的擁塞控制,旨在為 AI 提供 RoCE 之上的增強乙太網路方案,首批部署在 Microsoft Azure 等環境。來源:NVIDIA GTC 2024 主題演講。
- 博通推出 Jericho3‑AI:2023 年釋出,2024 年規模出貨的 Jericho3‑AI 架構專為 AI 設計,支援 26‑28.8 Tbps 的深層快取和 DDC 架構,滿足超大規模叢集長距離無損需求。2025 年 Q1 財報顯示該產品線營收年增長超過 80%。來源:Broadcom FY2024‑2025 業績說明。
- 800G 光模組進入規模交付:2024 年下半年,800 Gbps DR8/FR8 模組出貨量快速攀升,LightCounting 資料顯示 2024Q4 出貨超過 150 萬隻;多家光模組廠商表示 2025 年出貨量有望再翻倍。同時 1.6 T 光模組樣機開始向客戶送樣。來源:LightCounting 2024Q4 市場速報。
- Google釋出 Cloud TPU v5p 網路:2023‑2024 年間,Google 揭露 TPU v5p 的 ICI 互聯基於光交換器,提供 4.8 Tbps 的跨機櫃聚合頻寬,拓撲與傳統乙太網路/IB 存在差異,展示超大規模雲端商自研互聯的演進方向。來源:Google Cloud TPU 文件。
- 中國 AI 叢集啟動規模部署:國內主流雲端廠商和運營商在 2024 年開啟萬卡級國產 AI 叢集建設,部分採用國產交換器+RoCE 方案,推動國產交換晶片和光模組的驗證與上量。根據公開招標資訊,2024 年 AI 高速網路採購額年增率增幅顯著。
追蹤指標
(指標及資料來源均為公開機構定期報告或企業財報,可連續追蹤。)
- 800 Gbps 埠交換器季度出貨量:Dell’Oro Group 和 Crehan Research 每季度釋出,反映 Scale‑out 網路代際切換節奏。
- InfiniBand 交換器營收年增率增速:NVIDIA 財務季度中“網路”分部的營收和增速,可觀察 IB 的絕對規模變化。
- 高速光模組(400G/800G)季度出貨量:LightCounting 每季度追蹤,可交叉驗證下游需求景氣度。
- 乙太網路交換晶片廠商營收增速(Broadcom、Marvell 相關業務):財報揭露的資料中心網路晶片業績,體現 RoCE 方案滲透。
- UEC 規範版本與合規產品列表:UEC 官網更新,里程碑事件判斷新技術的商業化程序。
- 頭部雲端商資本支出展望:Microsoft、Amazon、Google、Meta、國內 BAT 等季報中關於 IT 基礎設施和網路的投資規模,直接影響 Scale‑out 裝置訂單。
- 全線速交換晶片的功耗與每位元功耗(pJ/bit):交換器/光模組廠商產品手冊,衡量能效進步與散熱挑戰。
- 超算 TOP500 中 IB vs 乙太網路互聯份額:統計每年 6 月和 11 月排行榜,反映高效能運算領域的技術傾向,雖不完全代表 AI 叢集,但可作為參考訊號。
- GPU 與 Scale‑out 網路配比(如每 1000 GPU 配置的交換器埠數):通過分析師報告或雲端廠商公開演講估算,反映網路頻寬富餘度趨勢。
信源
- InfiniBand Trade Association (IBTA):架構規範及行業白皮書。
- Ultra Ethernet Consortium (UEC):技術白皮書、協議草案、成員釋出。
- NVIDIA 官網及 GTC 演講:Spectrum‑X、Quantum InfiniBand、NCCL 文件。
- Broadcom、Marvell、Cisco、Arista 等企業財報及產品釋出。
- Dell’Oro Group:“Ethernet Switch – Data Center” 季度與年度報告。
- Crehan Research:資料中心交換及介面卡市場長期追蹤。
- LightCounting:“High‑Speed Optics Market Forecast”及季度速報。
- Omdia:“AI Infrastructure Networking”系列分析。
- IEEE 802.3 乙太網路工作組(特別是 802.3df/802.3dj 任務組)關於高速 PHY 的討論。
- 各雲端廠商技術部落格:Google (Jupiter、OCS)、Meta (AI Research SuperCluster)、Microsoft (Azure 網路架構) 等。
- 中國資訊通訊研究院及國內相關行業研討會公開材料,用於國產替代定性判斷。
- 《NCCL: Optimized Inter‑GPU Communication》論文及 NCCL 原始碼,GitHub 公開。