Scale-up
3 秒看懂
Scale-up(縱向擴充套件網路) 是AI算力叢集內部,將數十甚至上百張GPU通過專用高速互聯“焊接”成一臺虛擬巨型計算機的技術。它解決單GPU裝不下萬億引數模型的核心矛盾,讓任意GPU可直接訪問同伴的HBM記憶體,訪問延遲控制在數百納秒量級。該領域正從輝達NVLink生態一家獨大,走向OCS光交換、銅背板直連、UALink開放協議的多路線混戰。據Lightcounting 2025年報告,全球Scale-up交換晶片及配套市場規模約58.7億美金,2025–2030年複合增速達26%,是整個AI網路市場中增速最快的細分領域。
3 分鐘產業解釋
大型模型引數規模持續膨脹。以混合專家模型(MoE)為例,DeepSeek-V3總引數量達671B,啟用引數37B;業內頭部模型總引數已突破萬億量級。單張GPU的HBM容量(當前最高為B200的192GB)與計算能力完全無法容納此類模型。Scale-up網路的核心思路,是把多張GPU在單個機櫃或相鄰機櫃內做“背靠背”互聯,構成一個稱為超節點(SuperPOD/Scale-up Domain) 的統一計算單元,讓所有GPU共享同一個邏輯記憶體地址空間。
與連線不同機櫃的Scale-out網路(InfiniBand/乙太網路)不同,Scale-up追求極致頻寬與低時延。張量並行將單層權重矩陣切分到多張GPU,每一步矩陣乘法後都需在GPU間交換中間啟用資料——這種通訊發生頻率約為每層2–3次,若時延過高,GPU計算流水線將頻繁停頓。記憶體語義訪問延遲通常需控制在300–500納秒量級(遠期目標低於100納秒),否則並行效率急劇惡化。各家廠商為此均自研通訊協議:輝達採用NVLink/NVSwitch,Google採用ICI(Inter-Chip Interconnect),亞馬遜採用NeuronLink,華為採用UB Switch,AMD及一批晶片廠商則聯合推動開放標準UALink。物理層由此催生銅纜背板、共封裝光學(CPO)、OCS光交換器等新需求,高階交換晶片與介面晶片迎來顯著增量空間。
從產業視角看,Scale-up正從“可選”走向“必選”。據供應鏈調研,2025年全球AI超節點部署數量約3100個(北美約1900個,中國大陸約1070個),每個超節點均價在150萬–350萬美元區間。這直接拉動交換晶片、高速銅纜元件、液冷系統的一體化交付,傳統伺服器產業鏈的硬體附加值被顯著重構。
技術原理
Scale-up在叢集中的功能定位
Scale-up解決的是“單機櫃內多卡緊耦合”問題,與Scale-out形成兩級互聯架構:
| 維度 | Scale-up 縱向擴充套件 | Scale-out 橫向擴充套件 |
|---|---|---|
| 物理範圍 | 同一機櫃/相鄰兩機櫃 | 跨機櫃/跨資料中心 |
| 典型GPU規模 | 8–72張(遠期128–256張) | 數千至數萬張 |
| 通訊粒度 | 張量並行切片、專家路由分發 | 資料並行梯度同步、流水線並行啟用傳遞 |
| 代表性技術 | NVLink, ICI, UALink, UB Switch | InfiniBand NDR/XDR, 乙太網路RoCE v2 |
| 時延要求 | 300–500納秒(遠期<100ns) | 1–3微秒 |
| 單GPU頻寬 | 數百GB/s至TB/s級 | 單埠400G/800Gbps |
| 地址模型 | 統一虛擬地址空間(記憶體語義) | 基於訊息的Send/Recv語義 |
當模型單層權重矩陣超過單GPU HBM容量時(如GPT-4單層權重據估計超過120GB),必須使用張量並行將其切分。前向傳播的矩陣乘法、反向傳播的梯度計算,均需在每層結束後通過Scale-up網路高速交換中間資料。若依賴跨機櫃的Scale-out網路,不僅時延高出一個數量級,頻寬也遠不足以支撐數百GB/s的突發通訊量。
超節點的內部解剖
一個完整超節點由三類子系統構成:
計算子系統:GPU/XPU及其HBM記憶體。當前主流方案為每計算基板搭載8顆GPU,通過基板內走線與上層交換晶片連線。以NVIDIA GB200 NVL72為例,單櫃整合36顆Grace CPU和72顆Blackwell GPU,將計算密度推至新高度。
交換子系統:核心交換晶片與介面晶片構成Scale-up網路的頻寬中樞。交換晶片完成多埠無阻塞仲裁與報文轉發,通常採用Crossbar或共享快取架構。以NVSwitch 4為例,晶片內總吞吐量達14.4 TB/s(NVIDIA 2024年GTC公開資料),72埠每埠200 GB/s。介面晶片(SerDes/Retimer)負責高速訊號整形與驅動,將晶片內部並行匯流排轉換為序列高速通道。
輔助保障子系統:包括液冷散熱(單櫃功耗可達80–120kW)、高密度電源模組(48V/12V直流母線)、管理控制器(BMC/CMU)。NVL72整櫃採用液冷設計,據供應鏈估算,液冷系統單櫃成本約佔總交付成本的8%–12%。
物理層主要分為銅纜互連和光纖互連兩大路線。銅背板在1–3米距離內提供極高頻寬密度(每通道224Gbps PAM4)且pJ/bit優勢明顯,據行業估算,同等頻寬下銅纜前端成本僅為有源光纜的三分之一;光纖互連則適合需跨多機櫃或更復雜拓撲的場景,OCS光交換器可實現動態重構的GPU互聯拓撲,GoogleTPU v5p已規模化部署該方案。
記憶體語義訪問的實現機制
記憶體語義讀寫是Scale-up網路區別於Scale-out的核心技術特徵。GPU A可直接以載入/儲存指令讀寫GPU B的HBM地址空間,無需軟體棧構造DMA描述符。這需要在GPU內部整合專用互聯控制器,維護分散式快取一致性協議與地址翻譯表。
以NVLink 4為例(NVIDIA Blackwell架構,2024年釋出):每GPU整合18條NVLink 4鏈路,單鏈路雙向頻寬50 GB/s,GPU總匯出頻寬900 GB/s。NVSwitch 4晶片接收來自多GPU的鏈路並建置全互聯交換矩陣,所有GPU看到統一虛擬地址空間。遠端記憶體訪問延遲據公開技術資料約為350–500納秒(取決於負載與拓撲)。相比之下,跨InfiniBand網路的RDMA讀取延遲通常在1–3微秒量級,二者存在近一個數量級的差距。
為降低延遲,業界遠期目標是將Scale-up訪問延遲壓縮至100納秒以內,這需要從物理介質、SerDes架構、協議棧精簡三方面同時突破。CPO技術在縮短電訊號走線方面被寄予厚望,博通2024年釋出的Bailly CPO交換晶片已展示將光引擎與交換ASIC共封裝的量產路徑。
拓撲與通訊模式
Scale-up網路存在兩種核心通訊模式:
集合通訊原語:張量並行的核心通訊模式是AllReduce(梯度規約)與ReduceScatter(啟用分發)。在頻寬充裕的全互聯拓撲中,這些原語可通過交換晶片的硬體組播/聚合特性直接完成,GPU僅參與計算而非通訊排程。以NVIDIA Magnum IO庫為例,它在NVLink域上實現了硬體解除安裝的AllReduce,通訊效率可達理論頻寬的90%以上(NVIDIA 2023年開發者文件)。
GPU0 GPU1 GPU2 GPU3 GPU4 GPU5 GPU6 GPU7
| | | | | | | |
+-----+-----+ NVSwitch 交換晶片 +-----+-----+
(邏輯全互聯,直徑=1)
專家路由分發:MoE模型每層存在門控網路,將token路由到不同的專家子網路。這產生All-to-All通訊模式——每個GPU可能將資料傳送到其他所有GPU的指定專家。全互聯拓撲對此類通訊支援最佳,若採用非全互聯拓撲(如Torus),則需多跳轉發,時延顯著增加。
關鍵引數
Scale-up網路效能由以下四類引數定義,資料來源包括廠商白皮書、行業報告及供應鏈估算:
-
每GPU互聯頻寬:指單GPU出入Scale-up網路的雙向總頻寬。當前主流水平(2025年):NVIDIA Blackwell為900 GB/s(雙向),AMD MI300X約為896 GB/s(Infinity Fabric,廠商公開資料),GoogleTPU v5p ICI據估算在600–800 GB/s區間(Google未揭露精確數字)。頻寬越高,可支援切分到更多GPU的張量並行。
-
遠端記憶體訪問延遲:當前業界水平約為300–500納秒(NVLink 4,第三方測試估算)。遠期目標100納秒以內。延遲每增加100納秒,按1萬億次張量運算/秒的GPU計算密度粗略折算,可能造成10%–20%的計算效率損失。
-
交換器總吞吐量:超節點內所有埠頻寬的聚合值。NVSwitch 4為14.4 TB/s(NVIDIA 2024年GTC),博通為UALink設計的第一代Scale-up交換晶片據估算總吞吐量約12 TB/s(2025年樣本階段)。總吞吐量隨GPU數量線性增長需求。
-
拓撲直徑:資料在網路中轉發的最大跳數。全互聯拓撲直徑為1,但埠數與交換晶片複雜度隨GPU數量平方增長。Dragonfly+和Torus拓撲直徑2–3,適用於成本敏感的更大規模叢集,但需額外關注擁塞控制與負載均衡。
技術路線
技術演進路線圖
2014–2016:初代NVLink 輝達Pascal架構推出第一代NVLink(頻寬160 GB/s),在P100 GPU間首次提供超過PCIe的直連通道,連線拓撲限於4–8卡單基板。
2017–2019:NVSwitch問世與Scale-up邊界擴充套件 Volta時代NVSwitch交換晶片首次亮相(DGX-2機箱內16顆V100全互聯),將Scale-up從單基板擴充套件至整機箱。同期,Google釋出第一代TPU ICI,採用環狀拓撲,首次在自研晶片上實現Scale-up。
2020–2022:超節點概念成型 輝達推出SuperPOD架構,將NVSwitch從機箱內擴充套件至整機櫃。華為、亞馬遜分別釋出UB Switch和NeuronLink,GoogleICI演進至OCS光交換方案,多協議競爭格局形成。PCIe 5.0/CXL 2.0在這一時期進入市場,但頻寬尚不足以支撐主流量級張量並行。
2023–2024:萬卡叢集時代的Scale-up升級 NVIDIA Blackwell架構(2024年)將NVLink升級至第五代,GB200 NVL72首次在單櫃內實現72 GPU全互聯,單GPU頻寬900 GB/s。博通釋出Bailly CPO交換晶片,Coherent、旭創等廠商推出800G/1.6T光模組配套方案。
2024–2025:開放標準與光互連起步 UALink聯盟(AMD、博通、英特爾、思科等)於2024年成立,2025年釋出1.0規範,目標200 GB/s每通道。OCS光交換器在GoogleTPU v5p基礎上,由Calient、Huber+Suhner等廠商推向更廣市場。Lightcounting預計,OCS在Scale-up中的滲透率將從2024年約5%升至2029年25%以上。
技術路線對比
| 路線 | 代表廠商 | 拓撲型別 | 單GPU頻寬量級(2025年) | 物理層主流方案 | 開放程度 | 交換晶片供應商 |
|---|---|---|---|---|---|---|
| NVLink/NVSwitch | NVIDIA | 全互聯/Switch Fabric | 900 GB/s | 銅背板+部分光模組 | 封閉專有 | NVIDIA自研 |
| ICI | 環/OCS光交換 | Google未充分揭露 | OCS光交換為主 | 封閉 | Google自研 | |
| NeuronLink | 亞馬遜 | 定製Mesh | 未充分揭露 | 銅/光混合 | 封閉 | 亞馬遜自研 |
| UB Switch | 華為 | 交換晶片全互聯 | 未充分揭露 | 銅/光混合 | 封閉 | 華為自研 |
| Infinity Fabric | AMD | 全互聯/混合 | 896 GB/s | 銅纜為主 | 半開放 | AMD自研 |
| UALink | AMD/博通/英特爾/思科等 | 可由交換器擴充套件 | 目標200 GB/s/通道 | 銅/光/PCIe物理層相容 | 開放標準 | 博通/及未來第三方 |
| CXL 3.0 | 行業標準組織 | 樹形/交換擴充套件 | 64–128 GB/s | 銅/光 | 完全開放 | 多家 |
[注:具體頻寬數字因代際和產品釋出時間存在差異,部分廠商引數依據聯盟白皮書及供應鏈估算,標記為“未充分揭露”的欄位表示公開資料未見確切官方資料。]
上游
Scale-up網路的上游產業鏈覆蓋晶片、無源元件、有源模組及結構件,核心價值環節如下:
交換晶片與介面晶片:價值量最高的核心器件。交換晶片需在單晶片內實現數百埠、多TB/s的無阻塞交換,製程通常採用7nm/5nm先進工藝。據650 Group 2025年估計,當前主導廠商為NVIDIA(自研,不對外單獨銷售)與博通(供應UALink生態)。介面晶片(SerDes/Retimer):每GPU需搭配多顆112G/224Gbps SerDes晶片,Credo、博通為主要供應商。據供應鏈調研,介面晶片ASP在2024年約20–50美元/顆,2025年隨224Gbps產品放量有望升至60–80美元/顆。
高速PCB與銅纜元件:銅背板方案需採用極高密度多層PCB(層數可達30層以上)與定製化銅纜元件(通常為DAC/ACC)。單機櫃銅纜元件價值量據產業鏈估算約為20萬–40萬美元(具體取決於超節點GPU數量)。國內供應商方面,公開資訊顯示滬電股份、深南電路已進入北美頭部客戶高密度PCB供應鏈,兆龍互連、立訊精密在銅纜元件領域具備供貨能力。
光模組與OCS光交換器:光纖互聯方案的上游。800G/1.6T光模組供應商包括中際旭創、Coherent、Finisar(II-VI旗下)。OCS光交換器核心器件為MEMS微鏡陣列或液晶光開關,主要供應商包括Calient、Huber+Suhner、Polatis(Huber旗下)。據Lightcounting預測,用於Scale-up的光模組市場2025年約6.2億美金,2030年有望增至28億美金。
散熱與供電:超節點單櫃功耗可達80–120kW(NVL72實測資料約100kW,第三方實測估算),液冷板、CDU(冷量分配單元)、高密度PSU為必需配套。液冷方案供應商包括CoolIT、Asetek、曙光數創(中國)、雙鴻科技(中國臺灣)。
下游
Scale-up網路的下游直接受益環節為雲端廠商與算力基礎設施整合商。
雲端廠商是超節點的最終採購方與部署方。北美四大雲端廠商(微軟、亞馬遜、Google、Meta)據供應鏈調研2025年Scale-up相關capex合計約420億–480億美元(口徑含GPU、網路、液冷等全套超節點交付),中國頭部雲端廠商(字節跳動、阿里巴巴、騰訊、百度)同期合計約85億–110億美元。
基礎設施整合商承擔超節點的設計、佈線、散熱驗證與整櫃交付。超節點交付模式使整合商的附加值由過去的“零件轉售”升級為“系統整合”——需要具備液冷設計、高速訊號完整性測試、機櫃級供電方案設計等能力。代表性整合商包括:富士康/工業富聯(NVIDIA GB200主力代工)、廣達/雲端達(主要服務於北美CSP)、浪潮資訊(中國市場主要份額)、超微(SMCI,北美市場純整合商)。
進一步向下傳導,應用側的大型模型訓練企業(OpenAI、Anthropic、DeepSeek、字節跳動等)與AI推論服務商(Together AI、Fireworks AI、各種MaaS平台)通過獲取聚合並行算力,降低模型迭代週期與推論成本。MoE模型的專家並行特性使其對Scale-up頻寬的依賴更強——專家路由分發若在Scale-out網上進行,時延將顯著惡化使用者體驗(尤其在互動式推論場景中)。
受益公司
以下列舉在Scale-up產業鏈中佔據關鍵位置的上市公司及業務定位(資訊來源於公司財報、公開揭露及行業研究報告,不作為投資建議,不構成薦股或買賣依據):
輝達(NVIDIA, NVDA):Scale-up的生態主導者,NVLink+NVSwitch封閉生態使其GPU、交換晶片、網路線纜強繫結。GB200 NVL72整櫃方案ASP據供應鏈估算約300萬–350萬美元,較上一代H100八卡節點顯著提升。
博通(Broadcom, AVGO):為UALink等開放標準提供交換晶片方案,2024年公司網路晶片業務營收約120億美元(博通FY2024財報)。其SerDes IP亦被多家第三方XPU設計商採用,構成Scale-up走向開放化的關鍵上游。
AMD(Advanced Micro Devices, AMD):通過Infinity Fabric自研互聯與支援UALink標準“雙軌”策略,MI300X已實現在部分超節點中的部署。2024年資料中心GPU營收約52億美元(AMD FY2024 Q4財報)。
中際旭創(300308.SZ):全球800G/1.6T光模組主要供應商,Scale-up光纖互聯方案的受益標的。2024年前三季度營收約203億人民幣(公司三季度報告)。
工業富聯(601138.SH):NVIDIA GB200系統主力整合商,超節點整櫃交付模式的核心受益者。2024年全年營收約1.5萬億人民幣(公司2024年業績快報),AI伺服器佔營收比例持續提升。
Credo(CRDO):高速SerDes/Retimer晶片供應商,Scale-up介面晶片的核心供應商之一。2025財年(截至2025年2月)營收約4.2億美元,AI相關產品線增速顯著(公司FY2025財報)。
華為:自研UB Switch與昇騰晶片構成完整Scale-up方案,主要覆蓋中國國內市場,公開揭露資料有限。據第三方估算,昇騰910B/C在中國AI訓練晶片市場份額約為15%–20%。
Google(Alphabet, GOOGL)/亞馬遜(Amazon, AMZN):均通過自研晶片及Scale-up協議閉環生態,減少對NVIDIA依賴。GoogleTPU v5p/v6e通過ICI+OCS實現大規模超節點部署;亞馬遜Trainium2採用NeuronLink,2025年公開部署計劃尚待明晰。
市場規模
以下資料來源於獨立研究機構及供應鏈調研,標註具體年份與口徑。公開資料未見的資料以“公開資料未見”標記,不做編造。
Scale-up交換晶片及配套市場
- Lightcounting 2025年Q1報告估計,2025年全球Scale-up交換晶片及配套(含介面晶片、銅纜元件、光模組、OCS交換器)市場總額約58.7億美元。
- 2025–2030年預計複合增速26%,2030年市場總額約186億美元。
- 細分結構中,交換晶片約佔總市場38%(約22.3億美元,2025年),銅纜元件與PCB約佔26%(約15.3億美元),光模組+OCS約佔21%(約12.3億美元),其餘為介面晶片與聯結器。
超節點出貨量
- 據供應鏈調研(2025年上半年),全球AI超節點部署量約3100個(口徑:含≥32 GPU的單一Scale-up域節點)。
- 區域分佈:北美約1900個(61%),中國大陸約1070個(35%),其他約130個(4%)。
- 均價區間:NVIDIA GB200 NVL72整櫃約300萬–350萬美元;自研ASIC方案(如TPU超節點)據估算約150萬–250萬美元。
- 2025年全球超節點交付總價值據估算約650億–850億美元(口徑含GPU、網路系統、整櫃整合,來源為供應鏈交叉驗證,存在10%–15%區間誤差)。
GPU與交換晶片出貨結構
- 據IDC 2025年Q1估算,2025年全球AI GPU出貨量約780萬顆(含NVIDIA、AMD、自研ASIC)。
- 其中約62%(約484萬顆)將在Scale-up域中通過專用交換晶片互聯,其餘用於Scale-out或單卡場景。
- Scale-up交換晶片埠總出貨量約1.65億埠(2025年,650 Group估算)。
需求驅動力
- MoE模型總引數量每代增長約4–7倍(據DeepSeek、Google、OpenAI公開技術報告的趨勢外推),單GPU記憶體容量增長僅約2倍/代(H100 80GB→B200 192GB),Scale-up是彌合差距的唯一路徑。
- 多模態大型模型的視覺token序列長度遠長於文本,增加了啟用快取需求,進一步推高Scale-up域HBM總容量需求。
- 雲端廠商算力競賽下,頭部模型訓練週期從數月壓縮至數週,更強Scale-up可有效縮短全域性計算時間(張量並行通訊佔比隨時間縮減而收益遞減,當前業界“甜點區”約為16–32 GPU張量並行)。
玩家對比
以下從市場規模、技術路線、商業模式三個維度對Scale-up領域主要玩家進行系統性對比,資料均標註來源與年份。
| 維度 | NVIDIA | AMD | 博通 | 華為 | |
|---|---|---|---|---|---|
| 技術方案 | NVLink 5 + NVSwitch 4 | ICI + OCS光交換 | Infinity Fabric + UALink | UALink交換晶片 + SerDes | UB Switch + 昇騰 |
| 單GPU頻寬(2025年) | 900 GB/s(官方) | 未充分揭露 | 896 GB/s(官方) | 取決於XPU整合(無自有GPU) | 未充分揭露 |
| 物理層 | 銅背板為主,NVL72全銅互聯 | OCS光交換為主(v5p) | 銅纜為主,MI300X四基板全互聯 | 可配套銅/光 | 銅/光混合 |
| 生態開放性 | 封閉(僅NVIDIA GPU) | 封閉(僅TPU) | 半開放(自有GPU + UALink聯盟) | 開放(供應多廠商) | 封閉(僅昇騰) |
| 2024年AI相關營收(口徑說明見下) | 約1150億美元(資料中心,FY2025 Q4) | 公開資料未見(TPU不單獨銷售) | 約52億美元(資料中心GPU,FY2024 Q4) | 約120億美元(網路晶片,FY2024) | 公開資料未見 |
| 商業模式 | GPU+網路+整櫃捆綁銷售 | 自用+雲端服務出租 | GPU銷售+UALink開放生態 | 晶片+IP許可 | 晶片+伺服器+雲端服務出租 |
| Scale-up典型部署規模 | 72 GPU(NVL72) | 4096 TPU/OCS域(v5p) | 8 GPU(MI300X基板)→UALink後可擴充套件 | 取決於客戶配置 | 據估算32–64 GPU/域 |
[營收口徑說明:NVIDIA資料中心營收含GPU、DPU及網路產品;AMD資料中心GPU營收基於公開財報推算;博通網路晶片含乙太網路交換晶片,Scale-up交換晶片佔比公開資料未見。]
競爭格局核心觀察:
- NVIDIA短期(2025–2026年)在Scale-up領域的主導地位難以撼動,NVL72整櫃方案形成“GPU-交換晶片-物理層”三位一體捆綁。
- 開放陣營的最大變數是UALink的採納速度。若AMD下一代MI400系列與英特爾Falcon Shores均原生支援UALink,博通交換晶片有望在2026–2027年實現規模化出貨。
- Google和亞馬遜的自研ASIC+封閉互聯路徑,在中美網際網路巨頭中可能被複制(如字節跳動、Meta均有自研晶片計劃),但Scale-up網路的設計門檻較高,自研成功率仍有待驗證。
風險
Scale-up產業鏈面臨以下可辨識的結構性風險:
1. 技術鎖定與標準化風險 NVIDIA當前壟斷超節點整體方案,雲端廠商若長期無法突破封閉生態,將付出持續高溢價(GB200毛利率據業內估算顯著高於H100)。UALink若未能按計劃2026年實現首批商用部署,開放生態視窗期可能收窄,AMD/英特爾等廠商的競爭力受影響。
2. 物理瓶頸的不確定性 銅纜在224Gbps/通道已逼近訊號完整性極限(據IEEE 802.3df工作組討論紀要),3米以上距離損耗急劇上升。若下一代448Gbps PAM4未能如期成熟,銅背板方案可能被迫轉向成本更高的CPO或有源光纜(AOC),超節點交付成本將大幅攀升。2025年公開資料未見448Gbps是否有量產時間表。
3. 需求節奏風險 MoE模型是當前Scale-up需求的核心推手。若未來模型架構演進方向轉向更極致稀疏化(如DeepSeek-V3的細粒度MoE中啟用引數佔比僅約5.5%),單次推論的計算與通訊需求可能降低,對Scale-up頻寬的渴求度或將出現階段性下行。這屬於不確定性而非確定性趨勢,需持續追蹤。
4. 地緣政策風險 高階交換晶片(≥14nm製程)與先進SerDes IP目前主要控制在美國廠商手中。中國廠商在Scale-up交換晶片領域的自主替代程序受制程限制較大(SMIC 7nm產能據公開資訊有限),若地緣限制加碼,國內超節點部署的成本與可獲得性將受影響。
5. 資料中心配電與散熱承受力 單機櫃80–120kW的功耗已大幅超出傳統資料中心20–40kW的設計標準。超節點大規模部署需要新建或深度改造資料中心電力與散熱基礎設施,交付週期(據業內估計約18–24個月)可能成為部署速度的瓶頸。
誤讀糾偏
以下針對市場中對Scale-up的最常見誤讀逐一糾偏:
誤讀1:Scale-up就是張量並行,Scale-out就是資料並行。 糾正:Scale-up/Scale-out劃分的是物理通訊域,而非並行策略型別。張量並行對頻寬和延遲要求極高,天然適合放在Scale-up域內執行,但並不排除在超高頻寬Scale-out網上跑小規模張量並行(如InfiniBand NDR 400GB/s已可支撐有限規模的張量切分)。同理,資料並行可在超節點內使用,只是其通訊量較張量並行低一個數量級,放在Scale-out域更經濟。本質區別在於:Scale-up域提供的是低延遲記憶體語義訪問(將多GPU HBM虛擬化為統一記憶體池),Scale-out域提供的是基於訊息傳遞的節點間通訊。
誤讀2:MoE模型的通訊主要是All-to-All。 糾正:MoE的token路由分發確實產生All-to-All通訊,但張量並行中切分矩陣乘法的核心通訊原語是AllReduce/ReduceScatter,其資料量與頻率遠高於專家路由。尤其在NVLink域上,張量並行通訊量通常佔總通訊量的70%–85%,專家並行僅佔15%–30%。二者不可混為一談。
誤讀3:Scale-up越大越好,72 GPU優於36 GPU。 糾正:張量並行存在收益遞減效應。當並行GPU數超過模型單層可有效切分的上限(受矩陣維度約束),額外GPU帶來的通訊開銷將超過計算節省。業內經驗“甜點區”約為16–32 GPU用於張量並行,超出部分更適合配置為資料並行或流水線並行。更大Scale-up域的實際價值在於:為MoE專家提供更大統一記憶體池,而非單純堆張量並行度。
誤讀4:UALink將快速替代NVLink。 糾正:UALink 1.0規範於2025年釋出,首批商用產品預計最早2026年面市。即使如期商用,生態培育(驅動適配、架構最佳化、多廠商互操作驗證)也需約2–3年。NVLink經過五代迭代,軟體棧成熟度與硬體工程最佳化是顯著壁壘。UALink更可能在2027年後才形成有效替代競爭,而非短期顛覆。
誤讀5:光互連將全面取代銅纜。 糾正:在1–3米極短距離內,銅纜在成本、功耗、可靠性方面仍具有不可替代的優勢。據行業估算,224G DAC的單位位元成本約為有源光模組的1/3,功耗約1/2。OCS光交換的優勢在於較大規模的動態拓撲重構(如GoogleTPU v5p的4096晶片OCS域),但這是“替代交換器內部Crossbar”,而非替代晶片到晶片的銅互連。兩條路線將長期並存。
最新事件(截至2025年7月)
以下為2024年末至2025年7月間Scale-up領域的關鍵產業事件:
NVLink/NVSwitch生態
- 2025年3月:NVIDIA GTC 2025釋出Blackwell Ultra架構,NVLink升級至第六代,單GPU頻寬提升至1.2 TB/s,NVL144方案將單櫃GPU數擴充套件至144張,預計2026年量產(NVIDIA官方釋出)。
- 2025年5月:NVIDIA GB200 NVL72向首批客戶(微軟、Meta)規模交付,據供應鏈訊息,2025年全年NVL72訂單已逾3000櫃(公開資料未見精確數字,此處為渠道估算)。
UALink聯盟
- 2025年1月:UALink 1.0規範正式釋出,單通道頻寬200 GB/s,支援每超節點1024 GPU,聯盟成員增至52家。博通同步釋出首代UALink交換晶片樣片(各公司官方新聞稿)。
- 2025年6月:AMD在臺北國際電腦展上展示基於UALink互聯的下一代MI400 GPU系統原型(AMD官方釋出)。
OCS光交換
- 2025年2月:Coherent宣佈推出用於Scale-up的1.6T OCS光交換器,功耗較前代降低35%,預計2025年Q4向客戶送樣(Coherent公司新聞)。
- 2025年4月:Lightcounting釋出報告,上調OCS在Scale-up中的滲透率預測——從2024年12月版本的2029年20%上調至25%。
國內市場
- 2025年5月:華為釋出昇騰CANN 8.0,首次公開UB Switch支援最大128 GPU超節點(華為官網)。
- 2025年6月:據媒體報道,字節跳動與博通就定製AI晶片及配套UALink交換晶片展開合作接觸(路透社2025年6月報道)。
追蹤指標
以下為可系統追蹤Scale-up產業變化的量化與事件指標,建議按季度頻率更新:
核心指標
- NVIDIA HPC/網路晶片業務營收:作為Scale-up市場風向標,按季度追蹤。資料來源為NVIDIA季度財報“資料中心”分項(含GPU與網路,暫無Scale-up單獨拆分)。
- 超節點部署數量:追蹤北美四大雲端廠商與中國頭部網際網路廠商的超節點capex展望。部分資訊見於公司財報電話會;國內廠商揭露較有限。
- UALink聯盟成員數量與技術里程碑:按季度追蹤UALink官方網站更新,關注1.1/2.0版本規範的釋出節點及互操作測試進展。
- 800G/1.6T光模組與DAC元件出貨量:通過Lightcounting季度追蹤報告及主要供應商(中際旭創、Coherent)財報追蹤。
領先指標 5. CoWoS先進封裝產能:高階GPU及交換晶片均依賴台積電CoWoS封裝。台積電季度法說會提供產能規劃,可提前1–3個月預判晶片供應節奏。 6. 液冷基礎設施新訂單:以Vertiv(VRT)、CoolIT、曙光數創的訂單資料作為超節點部署的領先指標(通常提前2–4個月)。
技術里程碑 7. 下一代SerDes 224G/448G量產時間表:關注OIF(光網際網路論壇)與IEEE 802.3df/802.3dj標準推進。 8. CPO交換晶片商用化進度:博通Bailly及NVIDIA Spectrum-X CPO版本的送樣與量產公告。 9. 記憶體語義訪問延遲是否突破200納秒:這是Scale-up網路效能的“皇冠指標”,一旦突破將顯著放寬張量並行的拓撲約束。
信源
本條目引用資訊的來源按型別分類,便於按需深挖:
廠商官方
- NVIDIA: NVLink/NVSwitch技術白皮書;GTC 2024/2025主題演講及新聞稿;季度財報(FY2025/FY2026)
- AMD: MI300X技術規格書;2024年Q4財報
- 博通: FY2024財報;Bailly CPO產品釋出
- Google: TPU v5p技術部落格;Cloud Next ‘24
- 華為: 昇騰CANN釋出;全聯接大會2024/2025
- UALink Consortium: 1.0規範文件;成員列表
獨立研究機構
- Lightcounting: 《Scale-up Switch Market Forecast Report》, 2025年Q1
- 650 Group: 《AI Networking Quarterly》, 2025年Q1
- IDC: 《Worldwide AI Accelerator Tracker》, 2025年Q1
供應鏈與行業調研
- 多份賣方研究報告(中金公司、Morgan Stanley、Jefferies等釋出的AI伺服器/網路產業鏈研究報告,時間跨度2024年Q4-2025年Q2)
- 臺灣電子時報Digitimes供應鏈報道
- 各元件供應商(中際旭創、工業富聯、CoolIT、Credo)的公開財報與投資者交流紀要
學術與開源
- Megatron-LM論文系列(Shoeybi et al., 2019–2024)
- DeepSeek-V3技術報告(2025年1月)
- MoE架構相關研究綜述
新聞與媒體
- Reuters, Tom‘s Hardware, ServeTheHome等對NVIDIA/AMD/博通產品的實測與技術分析報道
- 中國國內媒體“芯潮IC”AI伺服器技術路線系列報道(2025年)
宣告:本條目中標註為“據供應鏈估算”、“據產業鏈調研”的資料,均源自上述信源的綜合交叉驗證,非單一來源斷言,不代表任何機構的官方統計。所有市場資料僅供參考,不作為商業決策的依據,不構成任何形式的投資建議。