網路層 開放閱讀

UCX

Unified Communication X

概念 ID
unified-communication-x
更新時間
2026-05-29
來源數量
待補

UCX

1 3 秒看懂

UCX(Unified Communication X)是一個開源、跨廠商的統一通訊架構與 API 標準。它像一套高效能的“通訊翻譯層”,讓 PyTorch、TensorFlow 等 AI 訓練架構以及科學計算程式,無需感知底層網路硬體細節,就能自動呼叫 InfiniBand、RoCE、NVLink、共享記憶體等最高效的資料通道。在由成千上萬張 GPU 組成的訓練叢集中,UCX 是保證算力單元之間資料交換“低延遲、高頻寬、零複製”的核心中介軟體,是決定叢集總體利用率(MFU)的隱形神經連線系統。

2 3 分鐘產業解釋

大規模 AI 訓練(千卡至萬卡叢集)的本質是平行計算,所有參與計算的 GPU/加速卡在每一次迭代中都需要交換海量梯度、引數或專家路由資訊。如果通訊效率跟不上,算力就會被空轉等待,形成“通訊瓶頸”。現實中的網路硬體高度異構:NVIDIA 端採用 InfiniBand 和 NVSwitch 互聯,AMD 生態多用 RoCE(RDMA over Converged Ethernet),雲端廠商有時因成本考慮保留 TCP/IP 通道,還有 Intel 的 Omni-Path 和新興的 CXL 記憶體池化互連。每一種硬體都擁有自己特有的驅動介面和最佳化路徑,如果應用開發者要逐一適配,工程複雜度極高,且會形成“煙囪式”的硬體繫結。

UCX 解決的是 “寫一次程式碼,在多種網路上高效執行” 的問題。它在應用程式(更準確地說,是集合通訊庫 NCCL、Gloo、OneCCL,或 MPI 實現)與硬體驅動之間,插入了一層標準化、可動態適配的中間層。通訊庫呼叫 UCX 的統一 API(ucp),UCX 則根據執行時環境自動選擇並載入最優傳輸層模組(如 uct_ib、uct_rocm、uct_cuda_ipc),並啟用 RDMA、GPUDirect 等高階特性。這種架構一舉打破了“特定通訊庫繫結特定硬體”的傳統模式——例如,NCCL 雖然為 InfiniBand 做了極致最佳化,但通過 UCX,它同樣可以流暢執行在非 NVIDIA 的 InfiniBand/RoCE 硬體上;AMD 的 RCCL(ROCm 版集合通訊庫)也同樣可以穿透 UCX 適配多種網路。由此,資料中心和超算中心在採購硬體時,能夠降低對單一供應商的依賴,混合部署不同代的網絡卡、加速卡和交換器,通過統一的 UCX 層獲得接近硬體物理極限的效能。

產業趨勢上,隨著模型引數規模向萬億級演進,AI 叢集已經從單棟建築內的幾臺機櫃,擴充套件至橫跨多個數據中心的分散式系統。在這一尺度下,網路通訊不再是“附屬品”,而是決定訓練成敗的關鍵設施。UCX 的推廣程度,直接映射了一個基礎設施生態的開放性與可演進能力。它也被眾多雲端廠商(AWS、Azure、Google Cloud、Oracle Cloud)和國家級超算中心(如美國 Frontier、歐洲 LUMI)採用,成為衡量一個 AI 平台是否具備“規模化可靠通訊”能力的基準元件。

3 技術原理

UCX 採用分層、可插拔的模組架構,核心目標是實現高效能通訊的原語抽象,同時將硬體差異封裝在可動態載入的傳輸層中。其設計不僅追求低延遲和高頻寬,更關注 CPU 解除安裝、記憶體零複製和訊息協議的自適應選擇。

3.1 架構分層

[ 應用/通訊庫 ]  (NCCL, MPI, SHMEM, Gloo, OneCCL)
        |
[ UCP 協議層 ] : 高階通訊語義,包括 tag-matching、活躍訊息(Active Message)、流(stream)、遠端記憶體訪問(RMA)
        |
[ UCS 服務層 ] : 記憶體管理器、事件迴圈、非同步任務排程、拓撲發現、效能計數器、日誌
        |
[ UCT 傳輸層 ] : 模組化硬體後端
   ├─ uct_ib (InfiniBand/RoCE)
   ├─ uct_rocm (AMD ROCm RDMA)
   ├─ uct_cuda_ipc / uct_rocm_ipc (GPU 內同一節點 P2P)
   ├─ uct_cma (CPU 共享記憶體跨程序)
   ├─ uct_tcp, uct_ugni (Cray GNI), uct_self 等
  • UCP (Unified Communication Protocols):對上層暴露端點(ucp_ep)、工作執行緒(ucp_worker)和請求控制代碼。它實現了所有通訊模式,包括點對點兩階段協議(eager/rndv)、集合通訊加速原語和端到端保序機制。UCP 會根據訊息大小、緩衝區位置(主存或視訊記憶體)和網路鏈路特徵,自動選擇合適的 UCT 傳輸和協議。
  • UCS (Unified Communication Services):提供跨所有層共享的基礎服務,如大頁記憶體池(可繫結 NUMA)、無鎖佇列、原子操作、裝置發現與拓撲樹建置,以及細粒度的效能監控(支援 PAPI、Accelerator Metrics)。
  • UCT (Unified Communication Transport):最接近硬體的抽象層,定義了底層傳輸的介面(如 uct_ep_am_short 等),並將 RDMA read/write、send/recv、原子操作等對映到不同的驅動程式。每個 UCT 模組可以在執行時載入,支援多 rail(多網絡卡)聚合和錯誤處理策略。

3.2 零複製與 GPUDirect RDMA

UCX 深度整合 Linux 核心的 ib_verbsnvidia-fsdmabuf 等架構,實現 GPU 緩衝區直接通過 RDMA 網絡卡拉取資料,無需經過 CPU 記憶體搬移。

  • 對於 NVIDIA GPU,UCX 藉助 CUDA IPC 和 GPUDirect RDMA 技術(通過 uct_cuda 元件),使 NCCL 在跨節點 ring 或 tree 演算法中可直接傳送/接收 GPU 視訊記憶體中的資料。
  • 對於 AMD GPU,UCX 則利用 ROCm 的 RDMA 支援(uct_rocm)以及 Linux DMA-BUF 進行 P2P,實現與 NVIDIA 生態類似的零複製效果。
  • 記憶體註冊快取:UCX 內部維護了記憶體域(memory domain)和註冊快取,避免頻繁的 mr_reg 開銷,這對於反覆使用相同資料傳輸緩衝區的訓練迴圈至關重要。

3.3 非同步執行與協議選擇

UCX 採用基於事件驅動和非同步請求的模型。所有的通訊操作立即返回 ucs_status_ptr_t 控制代碼,實際進度由內建的輪詢執行緒或應用手動呼叫 ucp_worker_progress 推進。這種方式允許通訊與計算高效重疊。

  • 小訊息(<= 約 8KB) 通常採用 eager 協議,訊息立即通過快速路徑傳送,在接收方預先配好的 bounce buffer 中落地,延遲可低至 1-2 微秒。
  • 大訊息(> 約 8KB) 使用 rendezvous 協議,先握手交換緩衝區資訊,再由硬體通過 RDMA write 直接寫入目標記憶體,頻寬可接近網絡卡物理極限(例如 400GB/s 的 NDR InfiniBand 實際有效頻寬可達 390Gbps+)。

3.4 拓撲感知與路由

UCX 能夠通過 ucs_topo 發現 PCIe 拓撲、NUMA 節點、GPU 與網絡卡的親和性,並據此建立最少跳數的通訊路徑。在建置通訊端點時,優先選擇與 GPU 同一 PCIe 交換節點的 HCA(主機通道介面卡),避免跨 NUMA 的 QPI/UPI 頻寬瓶頸,這對單機八卡訓練框至關重要。

4 關鍵引數

評估 UCX 部署效能的關鍵引數集中在訊息延遲、峰值頻寬、CPU 開銷和規模擴充套件性,這些指標通常會通過 ucx_perftest 工具量化。

引數定義典型值範圍與說明
點對點小訊息延遲64 位元組傳送/接收的端到端時延InfiniBand HDR/NDR 下可穩定在 1.0-1.5 µs,RoCE v2 通常 1.5-2.5 µs,共享記憶體約 0.2-0.3 µs(2024 年公開測試資料,來源:UCF 社群 基準結果)。
峰值頻寬單 rail 大訊息(≥ 1MB)的吞吐單埠 NDR200 實測約 180-195 Gbps,HDR100 約 95-100 Gbps。多 rail 聚合能力取決於 PCIe 拓撲與網絡卡數量。
訊息速率每秒可處理的小訊息個數典型值在 10-20 百萬 msg/s,受 CPU 頻率和 NUMA 位置影響。
CPU 利用率通訊資料搬運所消耗的 CPU 週期理想狀態下,使用硬體傳輸解除安裝(如 RDMA write)時,CPU 利用率接近 0%;若涉及記憶體複製或協議處理(如 TCP 後備),則 CPU 佔用率將顯著上升,通常成為擴充套件瓶頸。
可擴充套件節點數維持低延遲和線性頻寬增長的節點數量多數中規模叢集(數千節點)中表現優秀,但圍繞肥樹或多平面蝶形結構的萬級節點需配合精準的路由演算法;公開資料中未見精確的“最大支援節點數”,通常由上層集合通訊庫決定。
連線建立速度大規模 Job 啟動時 worker 同步時間與節點數量、交換器型號和拓撲相關,UCX 通過非同步 endpoint 初始化和 WIREUP 階段減少握手阻塞,典型 1024 節點叢集的 ep 建立可在數百毫秒內完成。
記憶體註冊延遲呼叫 ucp_mem_map 所需時間取決於緩衝區大小與驅動實現,首次註冊大緩衝區(GB 級)可能達數百毫秒,但 UCX 的快取機制可使重複呼叫幾乎無開銷。

注:以上典型值多基於 UCF 社群在 2022-2024 年釋出的公開測試資料,具體結果隨硬體世代、韌體版本及系統配置差異顯著,實際部署時需自行測試。

5 技術路線

5.1 起源與演進

UCX 專案始於 2014 年,由美國能源部(DOE)勞倫斯利弗莫爾、橡樹嶺、阿貢等國家實驗室,聯合 Mellanox(後併入 NVIDIA)、IBM、Arm 等發起,目標是為百億億次(E)級超算提供統一的通訊執行時。它整合了早期 UCM(Unified Communication for Multicore)和 UCP 原型的思路,並於 2016 年前後形成穩定的開原始碼庫。2018 年後,隨著 NVIDIA 收購 Mellanox 以及 AMD 大力推動 ROCm,UCX 迅速成為聯接 InfiniBand、RoCE、Cray Slingshot 等網路的中介軟體事實標準。截至 2024 年末,UCX 由 UCF 聯盟(包括 NVIDIA、AMD、Intel、HPE、Micosoft、Oracle 等)聯合維護,其釋出節奏約為每年 2-3 次主要版本。

5.2 主流技術棧位置對比

比較維度UCX原生 Verbs APINCCLlibfabric (OFI)
定位統一通訊中介軟體硬體使用者態驅動介面GPU 專用集合通訊庫HPC 通用通訊 API 架構
可移植性高,覆蓋 InfiniBand、RoCE、TCP、共享記憶體、Cray 等低,繫結 InfiniBand/RoCE 廠商驅動中,主要支援 NVIDIA GPU 搭配 InfiniBand/RoCE高,支援多種網路(但每個 provider 需獨立開發)
GPU 親和與零複製原生支援 GPUDirect RDMA、CUDA IPC、ROCm需額外庫配合深度最佳化 GPU Direct部分 provider 支援,成熟度滯後
上層應用示例NCCL、RCCL、Gloo、MPI、SHMEM直接程式設計(少見)PyTorch、TensorFlow 等架構的分散式後端MPICH、某些雲端儲存服務
維護社群UCF 多廠商聯盟廠商各自維護NVIDIA 主導開源OFI 工作組,Intel 等

UCX 與 libfabric 存在一定的競爭/互補關係。libfabric 被 MPI 實現(如 MPICH)廣泛使用,但在 AI 叢集中,因 NCCL 和 RCCL 更傾向穿透 UCX 來獲取最穩定的 GPUDirect RDMA 支援,使得 UCX 在 AI 工作負載中的實際佔有率更高。

5.3 未來路線

  • CXL 互連整合:隨著 Compute Express Link 成為統一緩聚記憶體介面,UCX 已在試驗性分支中支援 CXL.mem 和 CXL.cache,未來有望實現跨節點記憶體池化通訊。
  • 多樣化傳輸解除安裝引擎:對 DPU/IPU(如 NVIDIA BlueField、Intel IPU)的支援不斷增強,將 UCX 控管面遷移至智慧網絡卡,進一步降低主機 CPU 佔用。
  • 多路徑與自適應路由:UCX 正在增強對 NVIDIA SHARP(網路聚合)和 AMD 類似技術的支援,使集合通訊從“端到端”轉向“網路內計算”模式,減少資料移動量。
  • 安全多租戶與 TLS:面向雲端環境,UCX 將逐步引入基於 DTLS 的 RDMA 加密和記憶體域隔離,以滿足金融、醫療等大規模訓練對資料安全的要求。

6 上游

UCX 的上游依賴主要涵蓋硬體驅動、核心子系統與編譯器工具鏈,它們共同構成通訊能力和高效能執行的基礎。

  1. 硬體廠商驅動棧
  • NVIDIA:MLNX_OFED(含 ib_uverbs、mlx5 核心驅動及使用者空間庫 libibverbs),直接為 uct_ib 提供 RDMA 裝置操作。NVIDIA HCA 韌體版本會影響 UCX 的原子操作和 RDMA 記憶體傳輸的可靠性。
  • AMD:ROCm RDMA 驅動(基於 Linux 核心的 amdkfdirdmarxe 及使用者態的 rocm_rdma 庫),uct_rocm 依賴此棧。
  • Intel:Intel Ethernet RDMA 驅動(irdma)或舊的 i40iw 驅動,支撐 uct_ib 在 Intel E810 等網絡卡上的 RoCE v2 執行。
  • 其他:Cray 的 gen1,以及 Broadcom 的 RoCE 網絡卡驅動等。
  1. Linux 核心 RDMA 子系統
  • rdma-core 使用者空間庫(含 libibverbs、librdmacm)是 UCX 在 InfiniBand/RoCE 上執行的基石。核心中 ib_core、ib_uverbs 模組提供硬體抽象和裝置檔案操作介面。
  • 記憶體固定與註冊依賴核心的 pin_user_pages 等功能,任何核心版本差異都可能影響 UCX 大頁和實體地址連續記憶體的分配效能。
  1. GPU 執行時庫
  • CUDA Toolkit(含 CUDA driver API、nvidia-fs、cuda-ipc),用於 uct_cuda_ipc 和 GPUDirect RDMA;ROCm 對應堆疊用於 uct_rocm_ipc
  • 對 AMD 而言,還需 Linux 核心 DMA-BUF 架構支援 GPU P2P。
  1. 編譯與建置工具
  • UCX 使用 GNU Autotools 建置系統,依賴 C11 編譯器、pthreads 和 numactl。在功能啟用上,可選依賴 knem(用於高效能共享記憶體)和 xpmem,以及 java、python 繫結等。
  1. 韌體與交換器
  • InfiniBand 交換器 SM(子網管理器)必須正確配置路由和分割槽鍵,否則 UCX 無法建立可靠連線。NVSwitch 等盒內互連也需配合 uct_cuda 實現多 GPU 單機高效通訊。

7 下游

UCX 的直接下游是各種集合通訊庫、並行程式設計模型和分散式架構。這些下游軟體通過連結 UCX 獲得跨多種硬體的統一高效能傳輸通道。

  1. AI 架構分散式後端
  • NCCL: NVIDIA 集合通訊庫,PyTorch、TensorFlow 等架構所依賴的預設通訊核心。NCCL 通過 --enable-ucx 或環境變數 NCCL_PROTO=UCX 啟用 UCX 作為 transport 外掛,這使得 NCCL 不僅可以用 InfiniBand,還可以在 RoCE、TCP 上執行 allreduce、allgather 等操作。
  • RCCL: AMD 的 ROCm 通訊庫,核心實現與 NCCL 同源,也通過 UCX 實現多網絡卡、多節點集合通訊。
  • Gloo: Meta 開源的通訊庫,主要用於 PyTorch 分散式資料並行(DistributedDataParallel)在後端 gloo 模式,支援 UCX 作為底層 transport,提供基於 InfiniBand/RoCE 的加速。
  • OneCCL: Intel 提供的集合通訊庫,用於其 oneAPI 生態,整合了 UCX 以提升在 HPU 和 GPU 叢集上的適用性。
  1. 訊息傳遞介面(MPI)
  • OpenMPI: 可通過 --with-ucx 編譯,使用 UCX 的 PML(Point-to-point Messaging Layer)或 BTL 層。大多數 HPC 中心採用 OpenMPI + UCX 組合來執行天氣模擬、分子動力學等經典並行程式。
  • MPICHMVAPICH: 部分版本支援 UCX 作為可選的 netmod/transport,儘管它們更常使用 libfabric。
  1. 高階並行程式設計模型與架構
  • UCC (Unified Collective Communication): 一個建置在 UCX 之上的集合通訊庫級抽象,旨在進一步統一多個通訊後端的集體操作 API,UCX 是其核心傳輸提供者。
  • SHMEM/PGAS: 部分 PGAS 實現利用 UCX 的 RMA 語義實現遠端記憶體訪問。
  • 分散式儲存與計算引擎: 如 Spark RAPIDS 加速庫、Horovod 的一部分後端、以及 Dask 的部分網路外掛也嘗試穿透 UCX 來減少 shuffle 階段的資料移動延時。
  1. 終端使用者應用
  • 大型模型訓練(如 LLM、多模態模型)通過 PyTorch FSDP、DeepSpeed、Megatron-LM 等架構間接使用 UCX。
  • 科學計算(如 VASP、GROMACS)通過 MPI 間接呼叫 UCX。
  • 終端開發者通常無需直接呼叫 UCX API,但其效能和配置直接影響訓練和模擬的迭代速度。

8 受益公司

UCX 作為基礎中介軟體,其廣泛採用和持續演進,使多類公司和機構在不同層面受益。

  1. 晶片與硬體廠商
  • NVIDIA:擁有完整的 InfiniBand(Mellanox)產品線和 Spectrum-X 乙太網路方案,通過 UCX 使其網路硬體的價值得以在非 NVIDIA 主導的軟體棧中體現,並降低了客戶遷移風險,增強整體計算平台的鎖定強度。
  • AMD:在挑戰 NVIDIA AI 訓練生態時,UCX 是其搭建高效能 ROCm 網路的關鍵支點。通過 RCCL+UCX,使 AMD GPU 能夠接入 InfiniBand 或 RoCE 交換器,而無需從零建置專有網路生態。
  • Intel:通過 UCX 支援其 Habana Gaudi HPU、IPU 智慧網絡卡和乙太網路交換產品,爭取在超算和 AI 叢集中獲得更開放的互操作性。
  • Arm:ARM 架構伺服器(如 AWS Graviton)在雲端 AI 叢集中執行,UCX 提供了可觀的通訊最佳化,有助於 Arm 生態進入 HPC/AI 份額。
  1. 雲端服務商
  • AWS:其自研的 EFA(Elastic Fabric Adapter)網路介面卡通過實現 libfabric 也提供 RDMA,但 AWS 的 ParalletCluster 和 EKS 環境中,UCX 常作為 MPI 和 NCCL 的加速層,使 EFA 可以無縫支援多租戶 AI 訓練。
  • Microsoft Azure、Google Cloud、Oracle Cloud:在這些雲端平台上的 GPU 超算例項中,UCX 是其高效能網路軟體棧的必要元件,用於將 InfiniBand 或 RDMA over Ethernet 的能力暴露給租戶的 PyTorch 作業,直接關係到客戶滿意度與算力利用率的 SLA。
  • 國內雲端廠商:阿里雲端、華為雲端等在自有 AI 加速器或 GPU 叢集中也使用或相容 UCX,以降低通訊軟體遷移成本。
  1. 超算中心與國家級實驗室
  • 如美國橡樹嶺國家實驗室(Frontier)、阿貢國家實驗室(Aurora)、歐洲高效能運算聯合組織(EuroHPC)等,其系統軟體棧深度依賴 UCX,承載著數十億美元的超算投資,受益於 UCX 帶來的硬體可互換性和長期維護的持續性。
  1. AI 模型企業與創業公司
  • OpenAI、Anthropic、Google DeepMind、Meta 等大規模模型訓練企業,通過 UCX 在硬體層面獲得性能最佳化,無需固守單一網路技術路徑,從而在採購談判時擁有更多籌碼。
  1. DPU/IPU 廠商
  • NVIDIA BlueField、Intel IPU、Marvell、Broadcom 等智慧網絡卡產品,通過高效支援 UCX RDMA 解除安裝,實現主機 CPU 通訊開銷趨近於零,這直接拉開了與傳統網絡卡在 AI 組網中的代際差距。

9 市場規模

UCX 本身為開源中介軟體,不產生直接市場營收,其關聯的間接市場體量取決於下游高速互連裝置的支出和部署規模。公開資料未見專門針對“UCX 相關市場”的獨立測算,但可依據關聯硬體與系統市場進行觀察:

  • InfiniBand 市場:據 NVIDIA 財務揭露,其網路業務(含 InfiniBand 和乙太網路)營收在 2025 財年第二季度(截至 2024 年 7 月 28 日)達到 37 億美元,年增率增長 114%,其中有相當比重來自 AI 叢集的 InfiniBand 介面卡和交換器。行業分析機構如 Dell’Oro Group 在 2024 年 7 月的報告中指出,AI 後端網路市場(含 InfiniBand 和高速乙太網路)在 2024 年有望超過 300 億美元。儘管這些數字並非 UCX 專屬,但鑑於 InfiniBand 與 RoCE 生態幾乎全面使用 UCX 或 libfabric,UCX 的有效滲透率極高。
  • RDMA 智慧網絡卡市場:650 Group 等機構預估 2023 年 DPU/IPU 市場規模約為 20-25 億美元,預計 2028 年將超過 100 億美元(資料來源待核實,綜合多家分析)。這類硬體的高階價值需通過 UCX 等軟體棧來變現。
  • HPC 系統支出:根據 Hyperion Research 2024 年 6 月資料,2023 年全球 HPC 伺服器市場約為 380 億美元,其中很大一部分系統集成了 UCX 最佳化的通訊庫。AI 訓練叢集的 TCO(總擁有成本)中,網路通常佔 10-20%,這部分網路裝置的價值釋放直接與 UCX 成熟度相關。

需要強調的是,上述資料並非對 UCX 市場規模的精確統計,而是反映其所處的並行軟體和硬體交叉領域的總體熱度和增長趨勢。UCF 聯盟並未對 UCX 採取商業授權模式,所有貢獻來自成員單位的開源投入。

10 玩家對比

在 AI/HPC 統一通訊中介軟體賽道上,儘管 UCX 具有事實標準地位,但存在其他技術路徑或架構與其競爭或協同。

玩家/技術策略與關鍵特徵與 UCX 的關係社群與生態影響力
NVIDIA (Mellanox)擁有 InfiniBand 主導權,推動 UCX 與 NCCL 深度整合,同時在其 BlueField DPU 上提供對 UCX 的解除安裝支援。核心貢獻者,大量程式碼提交和測試。極高,定義了 AI 網路主流軟體棧。
AMD通過 RCCL + UCX 實現 ROCm 生態的集合通訊,積極參加 UCF 並貢獻 uct_rocm 等模組。關鍵貢獻者,力求效能對等。影響力隨 MI300 等部署增長,但社群貢獻量仍小於 NVIDIA。
Intel一方面推動 libfabric 作為 MPI 首選後端,另一方面也在 OneCCL 中整合 UCX,在其 GPU/HPU 叢集中提供選擇。參與貢獻 uct_ib 功能和 oneAPI 整合,但策略更偏向雙軌。生態影響力分化,部分 HPC 使用 libfabric,AI 場景向 UCX 靠攏。
HPE/CraySlingshot 互連採用 custom provider,內部使用 Portals 或透過 UCX 的 uct_ugni 進行適配。特定硬體provider的維護者。在 Frontier 等系統上驗證了萬卡規模,定製化程度高。
Huawei (Ascend)華為昇騰生態推廣自己的 HCCS 和 HCCL 通訊庫,但部分對外合作和學術機構環境仍相容 UCX 以支援第三方網路。有限貢獻,主要出於相容性考量。在中國國內市場影響力大,國際開源參與度有提升空間。
Libfabric (OFI)通用 HPC 通訊 API,廣泛應用於 MPICH、某些儲存系統,但在 GPUDirect RDMA 和與 NCCL 的深度適配方面不如 UCX。與 UCX 存在路線競爭,但部分場景共存。老牌 HPC 領域根基深厚,但在 AI 大型模型訓練生態中處於追趕狀態。
特定廠商的純驅動直調路徑一些封閉系統(如特定雲端的自研 RPC)直接建置在 libibverbs 上,放棄 UCX 的抽象,以換取極致微調的效能,但犧牲可移植性。互補/替代,多出現在定製化程度極高的頭部 AI 實驗室。零星存在,不構成主流生態。

綜合來看,UCX 在 AI 基礎設施中的統治地位源於其與 NCCL/RCCL 的緊密耦合以及多廠商共建的治理模式,短期內難以被替代。libfabric 則在經典超算和部分儲存領域保留優勢。

11 風險

任何開源基礎軟體都存在不可忽視的風險,UCX 也不例外。

  1. 維護與治理風險:UCX 高度依賴 NVIDIA(原 Mellanox 團隊)和少數國家級實驗室的核心工程師。儘管 UCF 聯盟成員眾多,但關鍵路徑的程式碼審查和版本釋出仍然由少數人主導。一旦發生主要貢獻機構戰略轉向或人才流失,專案可能面臨發展緩慢、安全漏洞未能及時修補等風險。

  2. 硬體廠商支援退潮:如果某一天 NVIDIA 或 AMD 決定在 AI 通訊庫(如 NCCL)中完全繞過 UCX,採用純私有、閉源的最佳化路徑,UCX 在頭部 AI 訓練負載中的使用率將大打折扣。目前尚無此種跡象,但技術企業在競爭壓力下可能做出此類決策。

  3. 安全與隔離不足:RDMA 通訊本身存在安全設計缺陷,例如一旦建立連線,遠端可直接讀寫記憶體。UCX 雖然在連線建立階段引入了 key 匹配,但缺乏對 multi-tenant 雲端環境的原生強隔離和加密。在涉及敏感資料的訓練叢集中,可能存在資料洩露或被惡意節點注入的風險。與 TLS 和安全記憶體域的整合仍在早期階段。

  4. 效能壟斷與內捲:雖然 UCX 帶來開放性,但超級最佳化往往需要逐個硬體進行深度引數調優,這最終仍可能導致大客戶(如頂級雲端廠商和 AI 實驗室)內部建立專門團隊,形成一種新的“工程能力壟斷”。對中小企業和新進入者,調優 UCX 以實現“數萬卡線性擴充套件”仍有極高門檻。

  5. 替代技術演進:CXL 互連、Ultra Ethernet Consortium 等新標準可能在未來提供比 RDMA 更優的池化通訊模型。如果新的互聯標準自帶高層 API 並直接整合進 AI 架構,UCX 的抽象層價值可能被削弱。

  6. 許可證變更風險:UCX 採用 BSD 3-Clause 許可證,對商業友好。但歷史上開源專案變更許可證的案例並不罕見,若未來轉向 GPL 或引入附加條款,可能影響部分雲端廠商和硬體廠商的整合意願。

以上風險均為技術生態中的普遍隱憂,目前尚無具體事件表明 UCX 將立即面臨嚴重的持續性危機,但使用者和投資者需持續追蹤聯盟動態和程式碼庫活躍度。

12 誤讀糾偏

  1. 誤讀:“UCX 是 NVIDIA 專屬的通訊庫,和 NCCL 本質一樣。” 糾偏:UCX 是由多家公司和國家實驗室組成的 Unified Communication Framework 聯盟所維護的開源專案,是通訊中介軟體。NCCL 是 NVIDIA 公司開發的 GPU 集合通訊庫,兩者是上下游協作關係。NCCL 可以配置為以 UCX 作為底層傳輸方式,但這並不是唯一方式,NVIDIA 自有最佳化路徑(例如 NCCL 的 InfiniBand 直接傳輸)仍然在多數單一路徑高效能場景使用。把 UCX 貼上“NVIDIA 標籤”會掩蓋其跨硬體、跨架構的根本定位。

  2. 誤讀:“啟用了 UCX,叢集通訊效能就自動最優,無需調優。” 糾偏:UCX 提供了高效能的介面和預設路徑,但“開箱即優”只有在小規模、典型配置下才可能成立。現實中的叢集需要針對訊息大小分佈、傳輸協議(rc/ud/dc)、QoS、多 rail 分裂(UCX_MAX_RNDV_RAILS)、記憶體分配策略等大量環境變數進行細緻調整,才能逼近硬體極限。此外,還需要交換器、子網管理器和 PCIe 拓撲協同最佳化。

  3. 誤讀:“UCX 只能用在 InfiniBand 上。” 糾偏:UCX 的設計初衷就是支援多種傳輸層,包括 InfiniBand、RoCE、TCP/IP、共享記憶體、CUDA IPC/ROCm IPC,甚至 Knem 和 xpmem。在大規模叢集中,通常混合使用節點內共享記憶體和跨節點 InfiniBand/RoCE,統一由 UCX 管理,使得同一個程序可以高效地同時使用多種傳輸資源。

  4. 誤讀:“只要使用 UCX,AI 架構就能自動獲得所有 RDMA 優勢。” 糾偏:獲得 RDMA 的零複製和低延遲優勢,還需要上層架構(如 PyTorch)正確使用通訊 API,並且硬體、核心、驅動、庫版本全部相容。尤其是 GPUDirect RDMA 要求 GPU 驅動、NIC 韌體和 CUDA/ROCm 版本嚴格匹配。如果某一層未正確註冊記憶體,通訊可能回退到慢速的複製路徑,而使用者並未察覺。

  5. 誤讀:“UCX 是在削弱 NVIDIA 的硬體鎖定。” 糾偏:UCX 在一定程度上讓非 NVIDIA 硬體也能接入高效能通訊,但這並不意味著它“反 NVIDIA”。相反,NVIDIA 作為 UCX 的核心維持者,通過 UCX 鞏固了其 InfiniBand 交換器、BlueField DPU 的全場景覆蓋能力。UCX 實現的是生態互通,而非硬體替代。

13 最新事件

本節聚焦 2023 下半年至 2024 年的關鍵動態,體現 UCX 及周邊生態的演進

source: 公開揭露與公開資料整理 本頁僅用於產業鏈學習、資訊檢索和研究輔助;不構成投資建議,不預測漲跌,不提供買賣、部位或目標價建議。
完整概念頁 複盤 13 節結構 公司投研頁 沿產業鏈找到受益公司 投資課 把概念轉成可跟蹤模型