UALink 1.0
3秒看懂
UALink 1.0 是一個開放的、為人工智慧(AI)及高效能運算(HPC)資料中心量身定製的超級叢集互連技術規範。 它旨在為不同供應商的GPU/AI加速器之間提供一種高效能、低延遲的替代互連方案,打破當前由單一廠商(如輝達NVLink)主導的封閉生態,建置一個更開放、多元的算力基礎設施。
3分鐘產業解釋
在大型AI模型(如萬億引數大語言模型)的訓練中,成千上萬的GPU需要像一臺超級計算機一樣緊密協作。這種協作極度依賴GPU之間的高速、低延遲資料交換。當前,輝達的專有技術NVLink/NVSwitch在單個伺服器/機櫃內(即“Scale-Up”)提供了頂級效能,但將其擴充套件到更大範圍(即“Scale-Out”連線多個機櫃)時,可通過NVSwitch建置跨機櫃的NVLink域(例如DGX SuperPOD等方案),無需依賴InfiniBand。InfiniBand通常用於更大規模或傳統叢集的Scale-Out網路,構成了其生態系統的一部分。
UALink(Ultra Accelerator Link)的誕生,正是為了破解這一局面。 它由AMD、Intel、Google、Microsoft、Meta等科技巨頭於2024年5月組成的聯盟推出,目標是定義一個開放的行業標準。其核心價值在於:
- 開放與解耦:允許客戶從不同供應商(如AMD、Intel、或其他新興AI晶片公司)分別採購加速器和網路裝置,避免供應鏈單一依賴。
- 極致的“Scale-Up”效能:專注於伺服器機櫃內部(通常為8到64個加速器)的互連,提供接近或媲美NVLink的頻寬和延遲,這是訓練效率的關鍵。
- 為AI原生設計:協議設計會考慮AI訓練中常見的集體通訊操作(如AllReduce)和記憶體語義訪問,進行硬體加速最佳化。
簡單說,UALink試圖為AI計算打造一條“開放高速公路”,與輝達的“專用高速鐵路”競爭,旨在通過市場競爭降低資料中心算力成本,並加速AI硬體創新。
15分鐘專家深入
戰略意圖:建置“Scale-Up”層的開放標準,直擊輝達護城河核心。 輝達在AI訓練市場的統治力,不僅來自其GPU晶片效能,更在於其建置的 “計算(GPU)+ 互連(NVLink)+ 網路(InfiniBand)” 一體化封閉生態系統。其中,NVLink提供的機櫃內超高頻寬互連是許多客戶無法輕易替換的關鍵。 UALink聯盟的成立,標誌著行業主要參與者試圖在最核心的“Scale-Up”層建立一個開放替代方案。其直接目標是成為 “AI領域的PCIe” ——一個無處不在、不被單一廠商控制的互連標準。這將從體系結構層面動搖輝達的壟斷基礎。
技術定位與競爭格局:
- 與NVLink競爭:UALink 1.0規範[未充分揭露]具體頻寬數字,但業界預期其將瞄準單通道200Gbps以上,總頻寬達到TB/s級別,以匹配或逼近下一代NVLink效能。其關鍵差異化是開放性。
- 與PCIe競爭:PCIe是通用匯流排,雖在演進(如PCIe 7.0),但其設計並非專為AI集體通訊最佳化,延遲和頻寬效率在機櫃內互連場景下通常低於UALink/NVLink這類專用協議。
- 與Infinity Fabric/UALink的競合:聯盟發起者AMD擁有自己的Infinity Fabric技術。參與UALink標準制定,可將自身技術推向行業標準,同時利用開放生態吸引更多合作伙伴,形成對NVLink的集體優勢。
技術架構初探(基於已釋出架構): UALink 1.0規範定義了一個分層的協議棧,旨在實現低延遲、高頻寬、記憶體語義訪問和直接記憶體訪問(DMA)能力。
+-----------------------+
| 應用層 | (如NCCL, RCCL等集合通訊庫)
+-----------------------+
| 傳輸層 | (可靠/不可靠資料包, 處理包排序、流控)
+-----------------------+
| 鏈路層 | (鏈路訓練、錯誤檢測、鏈路級重傳)
+-----------------------+
| 物理層(PHY) | (電氣/光學介面, 調變解調, 訊號完整性)
+-----------------------+
其核心創新點可能在於傳輸層和鏈路層,針對AI負載進行了最佳化,以實現更低的端到端延遲和更高的有效頻寬,特別是在執行AllReduce、All-to-All等集體操作時。
技術原理
1. 問題定義:為什麼機櫃內互連是瓶頸? 在資料並行或模型並行的AI訓練中,GPU需要頻繁交換梯度、啟用值等大量資料。如果互連頻寬不足或延遲過高,GPU將處於等待資料狀態,導致計算單元閒置,整體訓練效率(MFU)低下。傳統的PCIe匯流排在此場景下頻寬和延遲均不理想。
2. UALink的核心設計目標:
- 極低延遲:減少通訊開銷,提高GPU計算利用率。
- 超高聚合頻寬:支援大規模GPU叢集間的高速資料交換。
- 記憶體語義支援:允許加速器直接、高效地訪問遠端加速器的記憶體,實現零複製或快速資料同步,這對張量並行等模型並行策略至關重要。
- 可擴充套件性:支援從少量裝置到多達數百個裝置的靈活互連拓撲(如星型、環型、網狀)。
- 可靠性:提供鏈路級和端到端的錯誤檢測與恢復機制。
3. 關鍵機制推測(基於開放標準常見實踐):
- 協議分層:採用分層設計,物理層(PHY)可複用或演進現有高速SerDes技術(如基於PAM4調變),以實現每通道高資料率。鏈路層負責建立和維護點到點連線,處理資料包化、編解碼、錯誤檢測(如CRC)和鏈路級重傳。
- 傳輸與定址:可能引入基於記憶體地址的直接訪問語義(類似RDMA),減少作業系統和軟體棧的介入開銷。裝置間通過統一的地址空間進行定址。
- 集體通訊解除安裝:規範可能定義硬體原語,以加速常見的AI集體通訊模式(如AllReduce),這些操作可以由互連硬體或專用加速單元(DPU/XPU)協助完成,從而釋放GPU計算資源。
- 拓撲與路由:支援靈活的物理拓撲,並在協議層實現智慧路由,以最佳化流量、避免擁塞、實現負載均衡。
4. 效能引數(定性/估算):
- 鏈路頻寬:預期每通道速率在200 Gbps及以上。單裝置可能配置多個通道(如x16),實現數TB/s的聚合頻寬。具體數字需等待最終產品化。
- 延遲:目標是將端到端通訊延遲控制在亞微秒(< 1微秒)到低微秒級別,顯著低於基於傳統網路棧的解決方案。
- 埠密度:支援建置包含32、64甚至更多加速器的緊耦合單域叢集。
技術演進史
- 前傳:NVLink的崛起與鎖定(2016年至今):輝達從Pascal架構開始引入NVLink,逐步取代PCIe作為GPU間主要互連。隨著AI規模擴大,NVLink與InfiniBand的結合成為高效能訓練標配,但也帶來了強大的供應商鎖定。
- 萌芽:開放互連的早期嘗試:業界曾出現OpenCAPI、Gen-Z、CXL等開放互連標準,但它們主要面向通用記憶體擴充套件或快取一致性,並非完全針對AI加速器叢集的“Scale-Up”通訊深度最佳化。
- 催化劑:AI算力需求的爆發與供應鏈多元化訴求(2023-2024):大型模型訓練對互連頻寬的需求呈指數增長,同時地緣政治和供應鏈風險促使雲端廠商和科技公司尋求多元化供應商。這為專門為AI設計的開放標準創造了巨大的市場需求。
- 誕生:UALink聯盟成立與1.0規範釋出:AMD、Intel、Google、Microsoft、Meta、HPE、Astera Labs等公司於2024年5月聯合宣佈成立Ultra Accelerator Link推廣組(Promoter Group),並於2024年第4季度正式釋出UALink 1.0規範。這標誌著行業團結一致,向輝達的封閉生態發起正式挑戰。
技術路線對比
| 特性 | UALink (1.0目標) | 輝達 NVLink/NVSwitch (5.0及以後) | AMD Infinity Fabric | PCIe (6.0/7.0) |
|---|---|---|---|---|
| 性質 | 開放行業標準 | 專有技術 | 專有技術,部分開放 | 開放通用標準 |
| 主要目標 | AI/HPC資料中心機櫃內“Scale-Up”互連 | AI/HPC資料中心機櫃內“Scale-Up”互連 | AMD CPU/GPU/APU內部及互連 | 通用I/O互連,計算與裝置連線 |
| 設計焦點 | 低延遲、高頻寬、記憶體語義、集體通訊 | 低延遲、高頻寬、記憶體一致性、NVSwitch全互聯 | 高頻寬、快取一致性、可擴充套件性 | 通用性、相容性、頻寬演進 |
| 典型拓撲 | 待定,可能支援全連線、環、網狀 | NVSwitch實現全連線(Fully Connected) | 靈活的片上/片間網路 | 點對點,通過交換器擴充套件 |
| 記憶體語義 | 支援(關鍵特性) | 支援 | 支援(尤其在APU中) | 有限(主要用於DMA) |
| 生態系統 | 聯盟開放,多廠商支援 | 封閉,輝達主導 | 主要限於AMD產品 | 極其廣泛,所有廠商 |
| 當前狀態 | 規範1.0已釋出,產品化中 | 已商用多代,持續迭代 | 商用,內部為主 | 標準成熟,廣泛部署 |
注:上表中技術路線對比的定性描述基於各技術公開發布的定位和設計目標。具體效能指標(如頻寬、延遲)因代際和實現而異,此處不進行具體數字對比。
上下游
- 上游(技術/元件供應):
- 晶片設計:IP核提供商(如提供高速SerDes PHY IP的公司)。
- 半導體制造:先進製程代工廠(如台積電、三星)。
- 裝置與材料:高速聯結器、光模組、PCB板材、散熱方案供應商。
- 中游(產品製造/整合):
- AI加速器廠商:AMD、Intel、及可能加入聯盟的其他AI晶片初創公司。
- 網路裝置廠商:設計和製造基於UALink的交換器、DPU(資料處理單元)的公司(如Astera Labs、Broadcom、Marvell等)。
- 系統整合商/原始設計製造商:將UALink加速器、交換器整合到伺服器機櫃中的公司(如Supermicro、HPE、Dell等)。
- 下游(終端應用與需求方):
- 雲端運算廠商:Microsoft Azure、Google Cloud、Meta、阿里雲端等,是推動UALink發展的核心力量,他們需要低成本、高效能的算力來訓練自己的大型模型並提供雲端服務。
- 大型企業/科研機構:用於本地部署大規模AI訓練叢集。
- AI模型開發商:享受更低的算力成本和更多的硬體選擇。
關鍵指標
評估UALink技術及產品成熟度需關注以下關鍵效能與商業指標:
- 效能指標:
- 單向/雙向頻寬:每裝置埠的聚合頻寬(TB/s級)。
- 延遲:端到端、節點到節點的通訊延遲(納秒/微秒級)。
- 有效頻寬:在實際AI負載(如AllReduce)下,接近理論峰值的百分比。
- 可擴充套件性:在保持高有效頻寬和低延遲的同時,能支援的最大裝置數量。
- 生態指標:
- 聯盟成員數量與範圍:是否有主流雲端廠商、晶片公司、網路公司加入。
- 首款商用晶片/系統釋出時間:標誌技術從紙面走向現實。
- 主要雲端廠商的採納情況:是否在頭部資料中心得到規模部署。
- 軟體棧成熟度:主流AI架構(PyTorch, TensorFlow)、集合通訊庫(NCCL)對UALink的支援與最佳化程度。
- 經濟指標:
- 總體擁有成本:與NVLink/InfiniBand方案相比,硬體採購成本、運維複雜度、能耗的綜合對比。
- 供應鏈安全溢價:因降低供應商集中風險帶來的無形價值。
供需與市場資料
- 需求側:全球AI算力需求正以指數級增長。據主流行業報告估算,用於訓練的高階GPU/加速器出貨量在未來幾年將持續高速增長。雲端廠商每年數百億美元的資本支出中,相當一部分用於GPU及互連網路。互連裝置市場作為關鍵子市場,增速與算力市場基本同步。
- 供給側:目前,AI伺服器“Scale-Up”互連市場由輝達NVLink/NVSwitch方案高度主導。UALink的出現,旨在為供給側引入競爭。
- 市場預測(定性):在UALink標準成熟並實現產品化後,有望在幾年內搶佔部分新增市場份額,尤其是在對供應鏈多元化有強烈需求的超大規模資料中心客戶中。其市場滲透速度取決於產品效能達標程度、價格競爭力以及軟體生態的完善速度。[未充分揭露] 具體市場規模預測數字,但業界共識這是一個快速成長且戰略意義重大的高價值市場。
代表公司與資本對映
- 聯盟核心發起人(Promoter Group):
- AMD:擁有GPU和CPU,是UALink的最直接受益者之一。其Instinct系列AI加速器將可能率先支援UALink,直接挑戰輝達A100/H100/B100/B200系列。
- Intel:擁有Gaudi系列AI加速器和GPU Max系列。UALink為其提供了繞過NVLink封鎖、建置高效能叢集的路徑。
- Google:作為AI晶片自研者(TPU)和最大雲端服務商之一,UALink有助於其降低算力成本和供應鏈風險。
- Microsoft:全球第二大雲端服務商(Azure),是輝達最大客戶之一,但同時積極尋求多元化,已投資AMD和自研晶片。
- Meta:擁有龐大的AI訓練叢集,且自研MTIA晶片,是UALink的重要推動者和潛在使用者。
- 關鍵使能技術公司:
- Astera Labs:一家專注於解決PCIe/CXL互連複雜性的公司,已明確是UALink聯盟成員,其在智慧連線裝置領域的技術積累可能使其成為UALink生態中的關鍵元件供應商。
- 潛在參與/受益者:
- Broadcom、Marvell:網路晶片巨頭,可能推出支援UALink的交換晶片或DPU。
- 光模組與聯結器廠商:如II-VI (Coherent)、中際旭創等,將受益於對高速互連硬體的需求。
投資邏輯
- 破壞性創新邏輯:UALink旨在打破輝達在AI算力互連核心環節的壟斷。如果成功,將重塑AI伺服器硬體供應鏈,使產業觀察者可追蹤 “開放生態的崛起” 。相關參與方主要包括:
- 挑戰者晶片公司:AMD、Intel,以及可能加入生態的AI晶片初創企業。
- 互連生態使能者:專注於高速互連晶片、PHY IP、DPU的公司,如Astera Labs、相關IP供應商。
- 光通訊與高速聯結器供應鏈:對更高速率模組和器件的需求將提升。
- 雲端廠商降本邏輯:對於Google、Microsoft、Meta等雲端廠商,投資UALink生態是降低長期算力成本、保障供應鏈安全的戰略性舉措。它們的資本支出動向是觀察UALink落地速度的先行指標。
- 風險與不確定性:
- 技術執行風險:能否按時交付達到宣傳效能的晶片和系統?
- 生態遷移成本:客戶從成熟的NVLink/CUDA生態遷移到UALink生態的阻力有多大?
- 輝達的反制:輝達可能通過更強效能的下一代產品、更靈活的定價或生態繫結來守住市場。
- 標準統一性風險:聯盟內部是否存在技術路線分歧,可能導致標準分裂或實施效率低下?
常見誤讀糾偏
誤讀1:UALink將取代乙太網路用於資料中心所有網路連線。
- 糾偏:這是一個常見的誤解。UALink專注於機櫃內部(Scale-Up)的緊耦合互連,連線的是計算節點內部的多個加速器。它旨在替代或補充PCIe在機櫃內的角色,以及與NVLink競爭。對於機櫃之間(Scale-Out)的松耦合、長距離連線,目前的主流技術仍是高速乙太網路(如400G/800G)和InfiniBand。兩者定位不同,是互補關係。
誤讀2:UALink是完全“開源”的,任何人都可以免費使用。
- 糾偏:這是一個關於“開放標準”的混淆。UALink是由聯盟制定的開放規範,其技術文件可能向成員公司開放,未來也可能以合理條件向更廣泛的行業開放。但這並不等同於軟體意義上的“開源”。開發UALink相容的晶片和裝置,仍然需要投入鉅額研發資金進行晶片設計、流片、驗證,並且很可能需要支付智慧財產權(IP)授權費用。它的“開放”主要體現在行業標準不被單一公司控制,允許不同供應商基於此規範生產互操作的產品,從而促進市場競爭。
誤讀3:UALink 1.0已經可以完全媲美甚至超越當前的NVLink。
- 糾偏:需謹慎看待。2024年5月釋出的是規範1.0版本,主要是一個技術架構和路線圖。首款符合UALink 1.0的產品仍在研發中,尚未面世。其最終的效能、功耗、成本等關鍵指標,需等待實際產品的測試驗證。同時,輝達的NVLink技術也在快速迭代。因此,比較應是動態的,UALink的目標是瞄準未來的競爭,而非立即對標現有產品。
學習路徑
- 入門:閱讀UALink聯盟成立的官方新聞稿及1.0規範的概述性介紹,理解其背景、目標和參與方。
- 理解技術背景:學習PCIe、NVLink、CXL等現有互連技術的基本原理,特別是它們在AI叢集中的角色和侷限性,從而理解UALink要解決的核心問題。
- 深入規範細節:獲取並精讀 UALink 1.0 規範文件(如果公開)。重點理解其分層架構、協議狀態機、事務型別、記憶體模型和集體通訊支援等核心設計。
- 追蹤產業動態:關注AMD、Intel等聯盟成員的產品路線圖更新,以及Astera Labs等使能技術公司的進展。留意頭部雲端廠商(Google, Microsoft, Meta)關於自研晶片和互連技術的演講與論文。
- 對比與分析:將UALink的設計哲學、效能目標與輝達的NVLink、AMD的Infinity Fabric進行深入技術對比,分析其優劣和適用場景。
一句話總結
UALink 1.0是AI算力生態走向開放與多元化的關鍵里程碑,它通過定義一個專為AI最佳化的機櫃內高速互連開放標準,直擊輝達生態護城河的核心,其成功與否將深刻影響未來全球AI基礎設施的競爭格局與成本結構。
延伸閱讀與來源
- 官方來源:Ultra Accelerator Link Promoter Group 官方網站及釋出的規範概述。
- 行業分析:檢視知名半導體行業分析機構(如TechInsights, Yole Group)釋出的關於AI互連技術市場的深度報告。
- 技術背景:
- PCI-SIG 官網關於 PCIe 規範的介紹。
- NVIDIA 關於 NVLink 技術的白皮書。
- CXL Consortium 官網關於 CXL 協議的資料。
- 產業新聞:關注 《電子時報》、《半導體行業觀察》、AnandTech、SemiAnalysis 等專業媒體對UALink進展、成員動態及競品反應的追蹤報道。
- 相關公司技術文件:AMD(Infinity Fabric)、Intel(互連技術)、Google(TPU互連)、Microsoft(Azure Boost)等公司釋出的技術部落格和白皮書,可瞭解其在互連領域的版面配置。