Cache Coherent Numa
1 三秒看懂
CC-NUMA 是一種讓數十乃至上百個 CPU 核心在同一作業系統下共享全部記憶體的伺服器架構——每個 CPU 訪問“自己的”記憶體很快,訪問“別人的”記憶體稍慢,但硬體會通過快取一致性協議自動讓所有核心看到的資料永遠一致,應用程式彷彿面對的是一臺巨大的單機。
2 三分鐘產業解釋
為什麼需要 CC-NUMA? 在金融交易、大型資料庫、ERP 和虛擬化主機等關鍵業務中,把任務拆散到大量小伺服器上程式設計複雜、延遲不可控,業務方更希望買一臺“大機器”。單顆 CPU 能整合的核心數和記憶體控制器數量有限,CC-NUMA 就是把這些 CPU 晶片或晶片組(die/package)通過高速一致性互聯“拼”成一臺邏輯上單一、物理上記憶體訪問時間有梯度的伺服器。它是**縱向擴充套件(scale-up)**的終極手段,與橫向擴充套件(scale-out)叢集形成互補。
商業價值在哪裡?
- 軟體廠商可以繼續沿用共享記憶體程式設計模型,無需重構成分散式系統,大量既有企業軟體可直接受益於更高核心數,降低遷移成本。
- 系統整合商可以出售高單價、高毛利的 4 路/8 路伺服器,支撐核心業務市場。
- 雲端廠商在公有雲端上推出“超大規格虛機”或裸金屬例項(如 96 vCPU 以上),主要依靠 CC-NUMA 構成的物理主機實現差異化溢價。
- 資料庫廠商(Oracle、SAP HANA 等)按核心數收費的商業模式,天然需要在一臺機器上塞入儘可能多的高效能核心,CC-NUMA 為其提供了硬體基石。
競爭格局概覽 目前 CC-NUMA 的統治架構為 x86 的雙強:Intel 的 Xeon 可擴充套件系列搭配 UPI(Ultra Path Interconnect),AMD 的 EPYC 系列搭配 Infinity Fabric。Arm 伺服器側,Ampere 基於 Arm Neoverse 平台的 Altra 系列單路即可達 128 核,但其多路擴充套件能力較弱;Nvidia 自研 Grace CPU 使用高速 NVLink-C2C 構成雙路超級晶片,演進方向值得關注。國產替代中,華為鯤鵬 920 採用自研互聯,已在政府、金融等領域規模部署。
一句話總結 CC-NUMA 是高效能、高單價通用伺服器的“底座”,在核心資料庫和關鍵業務中地位難以替代,但其技術門檻極高,競爭集中於 CPU 大廠對一致性互聯的掌控能力。
3 技術原理
3.1 基本概念
CC-NUMA 系統由多個節點組成,每個節點至少包含一個 CPU 晶片(或晶片模組)以及直接連線的本地記憶體(DDR 或 HBM)。節點之間通過高速一致性互聯鏈路連成整體。作業系統看到的是一個統一的記憶體地址空間,任意 CPU 可以訪問任意實體地址,但訪問時間不同:
- 本地訪問:CPU 訪問自己直連的本地記憶體控制器所轄記憶體,延遲最低;
- 遠端訪問:需要穿越互聯鏈路訪問其他節點的記憶體,延遲較高。 這種不對稱性就是“非一致性記憶體訪問”(NUMA)。
3.2 快取一致性協議
保證“所有 CPU 看到的記憶體內容相同”的核心是一套分散式狀態機協議,通常基於 MESI 或 MOESI 等基本狀態:
- M (Modified):當前快取行資料僅存在於本快取中,已被修改,寫回主存前其他節點看不到;
- E (Exclusive):僅本快取擁有,資料與主存一致;
- S (Shared):多個快取可能擁有副本,資料與主存一致;
- I (Invalid):該快取行無效,不能使用。 協議的關鍵在於:當一個 CPU 希望修改某個快取行時,必須唯一地擁有(E/M 狀態),因此需要通過網際網路絡使所有其他快取中的該行副本無效(Invalidate)或更新。
實現方式分為兩大類:
- 監聽式(Snooping):所有節點共享一個廣播匯流排或邏輯匯流排,每個節點“監聽”其他節點的快取事務。適合節點數較少的系統(如 2-4 路),協議簡單延遲低,但廣播流量隨節點數快速攀升。
- 目錄式(Directory-based):在記憶體端或統一代理中維護一個目錄,記錄每個快取行被哪些節點持有。節點請求資料時先查詢目錄,再點對點發送訊息。大幅降低廣播開銷,支援更大規模(8 路及以上)。現代大型 CC-NUMA 系統幾乎全部採用目錄式協議或混合方案(如 Intel 的 Snoop Filter 本質就是目錄快取)。
3.3 互聯架構
互聯拓撲直接影響遠端訪問延遲和頻寬。常見拓撲有:
- 全互聯:每個節點直連其他所有節點,延遲低但物理鏈路數量隨節點數平方增長,難擴充套件。一般用於 2-4 路。
- 網格(Mesh)/環形(Ring)/ Crossbar:在單個多核晶片內部使用,擴充套件到多路系統時需通過額外橋接。
- 層級互聯:大型 8 路及以上系統通常採用兩級或三級互聯,第一級為晶片內部網格,第二級為跨晶片的一致性鏈路,第三級可能通過節點控制器組成更大系統(例如 Intel 的 QPI/UPI 多路拓撲、AMD 的 Infinity Fabric 跨 socket 連線,以及曾經的 xNC 節點控制器擴充套件)。
3.4 典型延遲量級
以 2023 年主流資料中心 CPU 為例(資料來自 ServeTheHome/AnandTech 評測,DDR5 平台):
- 核心到本地 L3 快取延遲:約 10-20 ns
- 本地記憶體訪問延遲:約 80-110 ns(DDR5-4800/5600)
- 跨插槽遠端記憶體訪問延遲:約 140-250 ns(雙路系統,空載) 延遲可比本地記憶體高出 50%-150%。在重度負載下,互聯鏈路擁塞可能導致遠端延遲進一步飆升至 300 ns 以上,對效能影響顯著。
3.5 作業系統與軟體的角色
現代 OS(Linux、Windows Server)和虛擬化層能感知 NUMA 拓撲,儘量將執行緒和記憶體分配在同一節點內,“就近”分配是預設策略。但應用仍可能因為資料共享、不合理的鎖機制等引發大量遠端訪問。因此,Oracle、SAP HANA 等關鍵資料庫都提供了 NUMA-aware 配置引數,甚至自動把程序/執行緒繫結到特定節點上。
4 關鍵引數
評價一個 CC-NUMA 系統的能力,通常關注以下可量化/可對比的維度,典型數值儘量引用公開評測或廠商白皮書。
-
支援的最大 CPU 插槽數 Intel Xeon Scalable(第四代):單系統 8 路(需專用節點控制器);AMD EPYC 9004:單系統最高 2 路,Infinity Fabric 支援 2P 直連。過去的大型 UNIX 伺服器如 Oracle SPARC、IBM Power 曾支援 16 路以上,但 x86 領域 8 路已屬頂級。 來源:Intel/AMD 官方規格表(2023)。
-
單路最大核心數/執行緒數 AMD EPYC 9654(Genoa):96 核/192 執行緒(2023);Intel Xeon 8490H(Sapphire Rapids):60 核/120 執行緒(2023);Ampere Altra Max:128 核(單執行緒,2022)。更高的單路核心數意味著大部分工作負載可以在單節點內完成,減少跨節點訪問,降低對 CC-NUMA 的依賴,但同時也推動了大記憶體頻寬和互聯頻寬的需求。
-
互聯頻寬與協議 Intel UPI 2.0(Sapphire Rapids):每條 UPI 鏈路最高 20 GT/s(約 40 GB/s 雙向?公開資料顯示每條鏈路有效頻寬約 20+ GB/s 單向);AMD Infinity Fabric 跨 socket 鏈路:在 EPYC 9004 中,單鏈路頻寬約 36 GB/s(雙向),通常使用多條 GMI 鏈路組成。 來源:Intel 和 AMD 技術資料,Hot Chips 會議論文。
-
本地/遠端記憶體訪問延遲比 理想系統接近 1:1,但實際通常為 1:1.3 至 1:2.5。該比值越小,說明互聯和一致性引擎效率越高,應用對資料放置不敏感。評測中常用 Intel Memory Latency Checker (MLC) 或 lmbench 測試。
-
快取一致性協議型別與目錄大小 協議如 MESIF(Intel)、MOESI(AMD)等。目錄大小和命中率影響可擴充套件性:目錄過小會導致頻繁的目錄 miss 和全域性廣播,限制擴充套件。一般未公開詳細目錄結構(商業機密),但可從擴充套件度和延遲曲線推斷。
-
遠端訪問頻寬與擁塞特性 單流遠端記憶體讀頻寬可能僅有本地頻寬的 50%-80%,多流併發時由於互聯總頻寬有限,區域性熱點可能迅速進入飽和,成為實際瓶頸。MLC 工具可測。
-
虛擬化環境中的 NUMA 暴露 虛擬化層的 vNUMA 拓撲模擬準確度,直接影響虛機內資料庫效能。VMware vSphere、Linux KVM 等均已支援 vNUMA,但大型 8 路系統的 vNUMA 配置對效能調優仍有挑戰。
-
記憶體容量擴充套件 單系統最大支援記憶體容量:雙路 AMD EPYC 可支援 12 TB(16 通道 DDR5),雙路 Intel 可達 6 TB(8 通道 DDR5 + Optane PMem 以來,但 Optane 已停產)。CXL 記憶體池化未來可能突破本地記憶體限制。 來源:廠商公開規格,2023。
5 技術路線
CC-NUMA 並非一成不變,它在歷史演進中不斷吸收新技術,當前主要技術路線如下:
傳統多路 SMP 到 ccNUMA(1990s–2000s) 早期的對稱多處理(SMP)共享一條系統匯流排,導致匯流排競爭,擴充套件性受限(通常 4 路以內)。引入本地記憶體和點對點互連後形成 ccNUMA,代表產品如 SGI Origin 2000、HP Superdome 等。該路線確立了“節點內 SMP + 節點間 NUMA”的範式,沿用至今。
x86 雙雄的現代實現
- Intel UPI + Mesh:從 Nehalem 的 QPI 開始,逐步演變至 UPI。核心內部採用網格拓撲,通過 Caching/Home Agent 提供分散式一致性引擎和目錄。Sapphire Rapids 引入 EMIB 多片整合,但仍保留統一的一致性域。Intel 在 8 路系統中通常使用“監聽過濾器 + 分散式目錄”混合模式。
- AMD Infinity Fabric:自 Zen 架構起,將所有 IP 通過 Infinity Fabric 互連,跨 socket 採用 Scalable Data Fabric (SDF),每個 CCD(核心複合晶片)通過 Infinity Fabric On-Package 與 IOD 連線,IOD 再對外提供 GMI 鏈路。這種 chiplet 架構本身就是一個微縮版的 CC-NUMA 系統,即使單路伺服器內部也具備 NUMA 特徵(不同 CCD 訪問某些 IOD 資源延遲不同)。EPYC 9004 的單路 12-chiplet 架構,軟體可見為 NPS(NUMA per socket)分割槽,可配置為多個 NUMA 域。
Arm 陣營路線 Arm Neoverse 提供 CMN(Coherent Mesh Network)互連 IP,為晶片設計公司建置 CC-NUMA 提供基礎模組。CMN-700 支援多晶片一致性,但實際商用的多路 Arm 伺服器仍少見,多數 Arm 伺服器追求高單路核心數,規避複雜多路 NUMA。Nvidia Grace 超級晶片通過 NVLink-C2C 將兩塊 Grace CPU 連成緩一致性共享記憶體節點,內部採用高速一致性的 900 GB/s 鏈路,是一種獨特的雙路極致效能 NUMA 實現。
新興互連技術的衝擊與融合
- CXL(Compute Express Link):基於 PCIe 物理層但攜帶一致性協議(CXL.cache 和 CXL.mem),允許主機 CPU 與加速器、記憶體擴充套件器之間維持快取一致性。CXL 3.0 支援多級交換和記憶體共享,有望建置更大範圍的一致性記憶體池,將 CC-NUMA 的邊界從機箱內部擴充套件到機架級別。
- UCIe(Universal Chiplet Interconnect Express):晶片之間的一致性互連標準,推動 chiplet 生態,可能使未來 CC-NUMA 系統不再由單一廠商封閉實現,而可採用異構 chiplet 組裝。
路線爭論:大一致域 vs. 小一致域 + 高速網路 部分超大規模網際網路公司推崇“小一致域多路機器 + InfiniBand 高速叢集 + 應用層分散式一致性”,認為大規模 CC-NUMA 的價效比在多數網際網路業務中不如橫向擴充套件。但在企業關鍵任務市場,CC-NUMA 的不可替代性依然牢固。這兩條路線將長期共存。
6 上游
CC-NUMA 的產業鏈上游是決定一致性互聯效能與擴充套件性的核心技術供應商,包括 IP 授權、EDA 工具、晶圓製造和先進封裝。
處理器架構與互連 IP
- Arm:憑藉 Neoverse 參考平台和 CMN 一致性網狀網路 IP,向華為海思、Ampere、Nvidia 等多個晶片公司提供授權,是當前除 x86 外最具影響力的上游 IP 源。
- Intel 和 AMD:均採用自研架構與封閉互聯 IP,不對外授權。它們的互聯技術(UPI、Infinity Fabric)是雙方伺服器 CPU 競爭力的核心差異化要素。
- SiFive、RISC-V 生態:目前還沒有可商業化、支援大規模多路快取一致性的 RISC-V 處理器和互聯 IP,但國際上已有研究專案;公開可用的商用級 RISC-V CC-NUMA IP 仍未成熟。
EDA 與設計服務
- **EDA 供應商(Synopsys、Cadence、西門子 EDA)**提供快取一致性協議驗證、NoC(片上網路)設計、訊號完整性模擬等關鍵工具。一致性協議的驗證複雜度極高,構成極高的設計門檻。
- **設計服務公司(如 Alchip、Global Unichip 等)**協助晶片設計公司整合 Arm CMN 等第三方 IP,完成物理設計與流片。
晶圓代工與先進封裝
- 台積電(TSMC):幾乎壟斷先進製程(7nm 及以下)的伺服器 CPU 製造,Ampere、Nvidia Grace、部分國產 CPU 均由其代工(或基於其工藝)。
- 三星:提供 5nm 等製程,但伺服器晶片體量較小。
- 先進封裝(CoWoS、FoCoS、EMIB 等):隨著晶片面積不斷增大和 chiplet 普及,CC-NUMA 系統 die-to-die 一致性互聯更多依賴高密度封裝,台積電 CoWoS/InFO、Intel EMIB/ Foveros 成為關鍵使能技術。互聯密度和能效直接影響晶片內部和各節點間一致性的頻寬與延遲。
上游的供給集中度極高,技術迭代週期與伺服器 CPU 換代密切相關(約 2-3 年一代)。
7 下游
下游是購買和使用 CC-NUMA 伺服器的終端使用者,以及為其提供軟硬體適配的廠商。
伺服器 ODM/OEM
- 品牌伺服器廠商:Dell Technologies、HPE、Lenovo、浪潮資訊、新華三、超微(Super Micro)等是 CC-NUMA 伺服器的直接設計和銷售者。他們定義整機架構(如 2U 雙路、4U 四路等),設計電源、散熱、佈線,並進行相容性驗證。頭部廠商會與 CPU 廠商聯合開發旗艦多路機型。
- ODM 商:廣達、仁寶、富士康等為雲端廠商代工定製化伺服器,主要出貨仍以單路/雙路為主,超大規格多路機型較少。
基礎軟體與虛擬化
- 作業系統:Red Hat Enterprise Linux、SUSE Linux Enterprise Server、Windows Server 等均提供高階 NUMA 親和性排程,通過 Administer Memory Policy 等實現節點繫結或交叉分配。
- Hypervisor:VMware vSphere、Linux KVM、Microsoft Hyper-V 支援 vNUMA 拓撲暴露,以便虛機內部最佳化,否則效能可能損失 20% 以上(VMware 官方文件 2021)。
- 容器平台:Kubernetes 的 Topology Manager 可以協調 NUMA 對齊,但生態成熟度不如虛擬機器。
資料庫與關鍵應用
- 關係型資料庫:Oracle Database、MySQL/InnoDB、PostgreSQL 等在大型 SMP/NUMA 平台上可能需要配置記憶體親和性、鎖分割槽等引數。Oracle 的 Cache Fusion(RAC)在共享儲存叢集中也依賴 NUMA 感知。
- 記憶體資料庫與分析平台:SAP HANA 對 NUMA 極度敏感,其認證裝置清單嚴格規定了硬體配置(HANA TDI 認證規範,2023),包括必須開啟 NUMA node interleaving 或使用特殊配置。Redis(單執行緒)在多 NUMA 節點下需要謹慎部署多例項繫結節點。
- HPC 應用:很多模擬程式碼基於 MPI+OpenMP 混合程式設計,單節點效能高度依賴記憶體訪問的本地性,MPI 程序繫結策略受 NUMA 拓撲影響。
終端行業 金融(核心交易資料庫、風控)、電信(計費系統、HLR)、政府(稅務、海關)、製造(ERP/MES)、醫療(HIS 系統)等場景是需要大單例項處理能力、資料強一致性的傳統 IT 市場,也是 CC-NUMA 伺服器的核心消耗領域。雲端服務商(AWS、Azure、阿里雲端等)的金屬伺服器和大型虛機例項同樣構成規模需求。
8 受益公司
CC-NUMA 的受益方涵蓋技術供應商、伺服器整機廠商和軟體生態企業,以下列示代表性公開公司(不含未上市主體),並簡述其受益邏輯,不構成任何投資建議。
- AMD(超威半導體):EPYC 9034/9004 系列憑藉 Zen4 核心和高頻寬 Infinity Fabric,在單/雙路伺服器市場份額快速提升(Mercury Research 2023Q4 顯示 AMD 伺服器 CPU 市場份額約 23%)。CC-NUMA 能力是支撐高核心數和高記憶體頻寬的核心競爭力,受益於企業數字化轉型對多路大記憶體主機的需求。
- Intel(英特爾):Xeon 可擴充套件處理器長期主導 4 路及以上 CC-NUMA 市場,儘管近年失去部分份額,但憑藉成熟的 8 路平台和 ISV 認證生態,依然是金融、大型資料庫使用者的首選。Sapphire Rapids 及後續 Granite Rapids 強化了加速器和 CXL 支援,試圖擴充套件 classic NUMA 邊界。
- Nvidia(輝達):Grace CPU 與 Grace Hopper 超級晶片在 AI 大型模型推論和特定科學計算場景要求高頻寬共享記憶體,其 NVLink-C2C 實現雙路緩一致性 Grace 系統(實質為 NUMA)。隨著 Nvidia 切入 CPU 領域,其一體化的 GPU-CPU 一致性記憶體架構可能在某些 HPC 和 AI 場合替代傳統 x86 的 CC-NUMA。
- Ampere Computing(未上市,投資方包括微軟等):作為 Arm 伺服器頭部晶片公司,其 Altra 系列主打高核數低功耗,雖然目前未推多路,但基於 Neoverse 的路線圖有望支援更大規模一致性互聯,成為雲端原生資料中心的潛在受益者。
- Inspur(浪潮資訊,000977.SZ):國內最大的伺服器供應商之一,深度參與 Intel/AMD 雙路的系統開發,併為國內鯤鵬等平台提供整機。政府在信創和數字化採購中對高配多路伺服器有持續需求,浪潮直接受益。
- Lenovo(聯想集團,0992.HK)、HPE(惠與)、Dell Technologies(DELL.US):全球 TOP 伺服器廠商,均以高配多路 CC-NUMA 機型(如 ThinkSystem SR950、HPE Superdome Flex、Dell PowerEdge R960)錨定企業關鍵應用市場,高 ASP 產品貢獻可觀獲利。
- Oracle(甲骨文,ORCL.US):旗下資料庫和 Exadata 一體機深度繫結 CC-NUMA 伺服器的最佳化,向客戶銷售硬體和授權時,強勁的大記憶體節點能力是賣點。
- SUSE、Red Hat(IBM 子公司):企業 Linux 的 NUMA 最佳化是其與免費版本的重要差異點之一,大記憶體多路伺服器的訂閱營收較高。
國產替代鏈方面,華為海思(未上市)的鯤鵬 920 是國產 CC-NUMA 代表,飛騰、海光等 CPU 亦在各自生態中建置雙路/四路系統,浪潮、新華三、曙光等整機廠商受益於信創採購。但供應鏈因製程和 IP 受限存在不確定性。
9 市場規模
CC-NUMA 系統沒有單獨的獨立市場統計,通常內嵌於整個伺服器市場,尤其是在中高階的多 socket 伺服器和大記憶體/關鍵應用伺服器中體現。我們通過拆解相關資料來估算。
整體伺服器市場 據 IDC Worldwide Quarterly Server Tracker,2023 年全年全球伺服器市場廠商營收約為 1200 億美元,出貨量約 1300 萬臺(IDC,2024 年 3 月公佈)。其中,x86 伺服器營收佔比逾 90%,非 x86(包括大型機、RISC 及 ARM 等)不到 10%。
多路伺服器佔比 IDC 按 CPU 插槽分類,2023 年單路和雙路伺服器佔出貨量絕大部分,4 路及以上平台出貨量極低(少於 2%),但由於高 ASP,4 路及以上佔營收比重約 6%-8%(IDC 歷史資料,2022)。以 2023 年 1200 億美元營收粗略估算,4 路及以上多處理器伺服器市場年營收約 70 至 100 億美元,這部分幾乎全面採用 CC-NUMA 架構。此外,雙路伺服器也有大量採用高效能一致性互聯,雙路是 CC-NUMA 的典型形態,若將高階雙路(如支援記憶體映象、Rank Sparing 的業務關鍵級雙路)計入,則 NUMA 相關市場遠超百億美元。
記憶體市場的側面印證 CC-NUMA 系統往往配置大記憶體,IDC 追蹤的企業級記憶體條出貨中,2023 年 128GB/256GB 大容量 RDIMM 需求強勁,主要搭配四路及以上伺服器。三星、SK 海力士、美光的 DRAM 出貨結構可間接反映大型 NUMA 系統的擴張趨勢。
CAGR 展望 IDC 預測 2023-2027 年伺服器市場整體營收將以約 5% 的 CAGR 增長,其中高配多路伺服器因 AI 推論和記憶體資料庫場景驅動,增速可能略高於整體伺服器(約 7% CAGR),主要受金融、醫療和政府數字化推動(IDC 2023 年預測)。
國產市場特殊機會 中國信創和“東數西算”工程帶來額外需求,2023 年國產伺服器採購額約 400 億元人民幣(賽迪顧問估算),其中高階多路機型滲透率逐步提升,整體市場規模幾十億元量級,但增速較快。具體數字因採購名錄未公開而難以精確拆分。
風險提示:上述市場拆分基於多種假設,且高階多路不能完全等同於 CC-NUMA 市場(部分低端多路可能不滿足嚴格的一致性要求),讀者需注意口徑。任何市場份額數字均來自第三方機構估計,可能存在偏差。
10 玩家對比
以下對比主要 CC-NUMA 平台的技術指標(基於公開引數,截至 2024 年中期已釋出的產品)。
| 玩家 / 平台 | 架構與互聯 | 單路最大核心數(釋出時間) | 支援最大插槽數 | 一致性協議 | 典型本地/遠端延遲(雙路)* | 關鍵特性 |
|---|---|---|---|---|---|---|
| AMD EPYC 9004 (Genoa) | x86, Infinity Fabric GMI3 鏈路連線 IOD | 96 Zen4 核(2023) | 2 | MOESI 變體, 監聽+目錄混合 | 本地約 90 ns, 遠端約 150 ns(雙路間,MLC 測試) | Chiplet 設計,12 CCD;單路內 NPS 分割槽可配置 NUMA 域 |
| Intel Xeon Scalable (Sapphire Rapids) | x86, UPI 2.0 (20 GT/s) | 60 核(2023) | 1-8(4路及以上需節點控制器) | MESIF + Snoop Filter(目錄快取) | 本地約 85 ns, 遠端約 130-150 ns(雙路,MLC) | 內建加速器(DSA, IAA), CXL 1.1 支援 |
| Ampere Altra Max | Arm Neoverse N1, 單路,無跨 socket 互聯 | 128 核(2022) | 1 | 晶片內部 CMN 網狀一致性 | 本地約 70-80 ns(單路,無遠端概念) | 主打高核低功耗,雲端原生;不參與多路 NUMA 競爭 |
| Nvidia Grace Superchip | Arm Neoverse V2 定製, NVLink-C2C 雙晶片 | 144 核(每 Grace 晶片 72 核,雙晶片 144)(2024) | 2 | 自定義緩一致性協議,跨晶片頻寬 900 GB/s | 雙晶片間延遲極低,約 <100 ns(Nvidia 白皮書) | 主要搭配 Hopper GPU,面向 AI/HPC 記憶體共享 |
| 華為鯤鵬 920 | Arm v8 定製, 自研一致性互聯 | 64 核(2020,封測受限後未更新) | 2-4(部分系統支援 4 路) | 公開資料未見 | 本地延遲約 80-100 ns(使用者實測,資料差異大) | 國產信創主力晶片,受制程限制單核效能偏弱 |
*本地/遠端延遲資料來自 ServeTheHome、AnandTech 等公開評測,使用 MLC 或 lmbench 工具,系雙路系統下 idle 值,負載下可能上升。不同平台配置差異較大,僅做定性參考。
簡要分析:
- x86 雙強在擴充套件性、生態成熟度上全面領先,雙路是本世代主力形態。
- Arm 方案試圖另闢蹊徑:Ampere 用超高單路核數避免多路,Nvidia 用極致頻寬雙路配合 GPU。
- 華為鯤鵬的互聯技術理論上可支撐多路,但受制於製造,迭代緩慢,與主流差距拉大。
11 風險
CC-NUMA 架構及其相關市場面臨多重技術與商業風險,投資者和決策者需充分認知。
1. 擴充套件性牆與效能收益遞減 隨著節點數增多,目錄查詢、緩衝請求衝突、網路路由開銷等指數增長,一致性的“開銷”吃掉更多頻寬。Amdahl 定律在一致性互聯上的表現:當程式有 10% 的訪問是跨節點時,即便無限增加節點,加速比也受限。實際 8 路系統相對於 4 路的效能增幅往往只有 30%-50%,甚至在某些負載下出現倒退。這限制了廠商繼續推出 16 路及以上通用伺服器的經濟性。
2. 軟體最佳化不足導致硬體空轉 大量應用程式和中介軟體並未針對 NUMA 進行合理的記憶體和執行緒繫結,預設排程器可能將執行緒在節點間隨意遷移,導致遠端訪問佔比高,效能不及預期。根據 VMware 和 Red Hat 的技術文件,未開啟 NUMA 親和性可能令資料庫效能下降 20%-40%,但企業使用者的調優能力和意願參差不齊。軟體生態的滯後會拖慢高階硬體的滲透率。
3. 功耗與熱密度 高速寬位一致性互聯鏈路本身就是能耗大戶,多個大功率 CPU 和大量記憶體集中在同一個機箱,對供電和散熱要求極為嚴苛。一臺 4 路頂級 x86 伺服器的滿載功耗可達 2000-3000W 以上,迫使資料中心進行液冷改造,推高 TCO(總擁有成本)。液冷技術和供電就是當前擴充套件的另一瓶頸。
4. 供應鏈與授權依賴 x86 陣營由 Intel 和 AMD 獨佔,全球產能和製程高度依賴台積電和 Intel 自身工廠。Arm 方案依賴 Arm 的 Neoverse 架構授權,地緣政治下國產晶片獲取最新 IP 和先進製程存在不確定性。一旦授權或製造斷裂,國內 NUMA 路線可能被迫停滯或降級到舊制程,進一步拉大效能差距。
5. 替代架構蠶食
- 分散式資料庫 + 普通雙路/單路伺服器:Google Spanner、CockroachDB 等 NewSQL 系統依靠應用層一致性代替硬體 cache 一致性,降低對巨型 NUMA 節點的依賴。
- CXL 記憶體池化:雖然初看是 CC-NUMA 的延伸,但也有可能改變伺服器架構,使計算和記憶體分離,屆時“大記憶體多路”的優勢可能被記憶體池共享所削弱,傳統 OEM 整機的價值被解耦。
- GPU/DPU 異構:在大 AI 推論和訓練中,單 GPU 記憶體頻寬遠超 CPU 記憶體,部分場景已經不再以 CPU 為核心,CPU 快取一致性重要性下降。
6. 市場週期性波動 企業 IT 支出具有強週期性,宏觀預期轉弱時,昂貴的多路伺服器採購往往遭推遲(IDC 歷史資料表明,多路市場波動幅度遠大於整體伺服器),導致產業鏈業績劇烈波動。
12 誤讀糾偏
交流中常見對 CC-NUMA 的簡化甚至錯誤理解,特此辨析。
誤讀1:遠端記憶體訪問也就慢了一點點,影響不大 實際上遠端延遲可達本地延遲的 1.5-2 倍,頻寬也可能萎縮為 50%。在記憶體密集型工作負載(如 SAP HANA 分析、Redis)中,頻繁的遠端訪問會急劇拉低吞吐。有案例顯示,未繫結節點的 Oracle 資料庫 TPC-C 效能僅為正確 NUMA 繫結的 60%-70%,並非“一點點”。
誤讀2:有了 CC-NUMA,編寫程式就完全跟單機一樣 硬體提供了統一地址空間,但效能的可預測性消失了。為獲得最佳效能,程式設計師仍然需要理解拓撲、進行資料區域性性最佳化。許多 HPC 和資料庫團隊需耗費大量精力進行效能調優,否則生產效能可能嚴重偏離基準測試結果。CC-NUMA 是“程式設計模型相對簡單”,並不等於“可以完全瞎寫”。
誤讀3:NUMA 只出現在多路伺服器上 現代單路晶片內部往往也是 NUMA 架構,尤其是 AMD EPYC 和 Intel 的 chiplet 設計,不同核心叢集訪問某些 IOD/記憶體控制器的延遲存在差異。作業系統會將單路呈現為多個 NUMA 節點(如 EPYC 9004 可配置為 4 個 NPS 節點)。因此單路也可能因 NUMA 效應而產生效能波動,管理員必須在單路系統上進行 NUMA 繫結。
誤讀4:CC-NUMA 已過時,被叢集取代 NUMA 與叢集是互補而非替代。共享記憶體程式設計模型在事務型資料庫、記憶體分析等領域依然遠勝於分散式訊息傳遞模型,資料一致性保障更簡單。同時,大型多路伺服器的維護和運維成本遠低於等同規模的幾十臺小伺服器叢集,軟體授權(按核心計費)有時也更划算。兩者將在不同場景持續並存。
誤讀5:所有聲稱“支援 CXL 一致性”的產品都是 CC-NUMA CXL 的 Type 3 裝置提供記憶體擴充套件,CXL.cache 可使主機 CPU 快取這些擴充套件記憶體的副本並維護一致性,但這更像是將記憶體池接入原有的一致性域,而不是重新定義一個完整的多節點 NUMA 系統。真正的 CC-NUMA 需要在多個主動計算引擎間維護全部記憶體的快取一致性,包括 CPU 之間的共享。CXL 當前更多扮演記憶體/加速器一致性互連的角色,二者有交集但不完全等同。
誤讀6:國產 CC-NUMA 伺服器已與國際水平同步 儘管華為鯤鵬 920 等國產晶片構成了一套可用的 NUMA 系統,但在核心數、單核效能、互聯頻寬、一致性引擎效率以及最大節點數等關鍵指標上,對比同期 Intel/AMD 產品仍存在明顯差距。生態適配(資料庫、OS)的深度和廣度亦有待提升。國產化是“可用”,但遠未到“好用”且在絕對效能上抗衡的水平。
13 最新事件
以下為 2024 年至 2025 年初與 CC-NUMA 密切相關的產業動態,均基於公開報道。
-
Intel Granite Rapids 釋出(2024 年 Q3) Intel 推出了面向多路伺服器的 Granite Rapids Xeon 6 系列,核心數提升至最多 128 核(單路),採用 Intel 3 製程,並引入 UPI 3.0 和更大的目錄快取,顯著改善 4 路/8 路系統的遠端延遲。同時內建 CXL 2.0 加速器,伺服器廠商同步展示 8 路 1152 核系統原型。(Source: Intel Newsroom, Aug 2024)
-
AMD Turin 系列公佈(2024 年 Computex) AMD 宣佈 EPYC “Turin” 將採用 Zen5 核心,核心數提升至 128 核/256 執行緒以上,Infinity Fabric 更新至第 4 代,跨 socket 頻寬提升約 30%,低於 100 ns 遠端延遲成為目標。預計 2024 年下半年出樣。(Source: AMD 官方新聞)
-
Nvidia Blackwell 平台對 NUMA 的延伸 Nvidia 釋出 Blackwell B200 GPU 及 Grace-Blackwell 超級晶片,採用 NVLink-C2C 2.0,跨晶片頻寬達 1.8 TB/s。雖然主要連結 GPU,但 Grace CPU 與 Blackwell GPU 之間構成大一致記憶體域,Nvidia 開始將一致性 NUMA 概念擴充套件到加速器主導的計算平台。(Source: Nvidia GTC 2024 keynote)
-
CXL 3.0 規範落地,記憶體池化加速 CXL Consortium 釋出 CXL 3.0 規範,支援多級交換和跨機架一致性記憶體共享。三星、SK 海力士展示基於 CXL 3.0 的 512 GB CMM 記憶體模組。部分廠商宣佈將在 2025 年推出支援 CXL 3.0 多路池化的伺服器平台,可能重新定義 NUMA 的邊界。(Source: CXL Consortium, 2024)
-
中國信創政策推動國產 NUMA 應用 2024 年信創工作持續推進,多家國有大行和電信運營商在核心交易資料庫領域嘗試使用鯤鵬 920/飛騰 S5000C 等國產 4 路伺服器替代部分 Oracle/Intel 系統,並開展 NUMA 調優聯合驗證。行業 TPC-C 類基準測試顯示,國產多路叢集在特定最佳化下能勝任中等規模 OLTP,但峰值效能仍僅為同代 x86 系統的 30%-50%。(Source: 公開 IT168、DOIT 社群報道,2024)
-
IBM Power11 路線圖強調 NUMA 繼承 IBM 公佈 Power11 處理器路線圖,仍沿用多路大記憶體 NUMA 架構,繼續服務 AIX/IBM i 核心客戶。大型機市場競爭格局穩定,但體量相對較小。(Source: IBM 技術更新,2024)
上述事件表明,CC-NUMA 依然在 active 演進,並即將進入新一輪平台升級週期,技術擴散至更廣泛的異構記憶體池化領域。
14 追蹤指標
若需持續追蹤 CC-NUMA 產業的景氣度與技術進展,可關注以下可量化指標,資料來源見括號說明。
硬體迭代訊號
- 主流 CPU 廠商下一代平台的最大核心數、UPI/Infinity Fabric 頻寬提升百分比(AMD/Intel 官網、Hot Chips 論文)。
- 多 socket 系統的 SPEC CPU / STREAM 多路擴充套件比(SPEC.org, STREAM benchmark 第三方評測)。理想擴充套件比應接近線性,實際 2 路到 4 路擴充套件比在 1.8x-2.0x 之間為優秀。
- 本地與遠端記憶體延遲比(MLC 評測),比值縮小意味互聯改進。
市場採納指標
- IDC 季度伺服器 tracker 中 4 路及以上伺服器出貨量和營收佔比,尤其關注亞太區和中國區。
- 超大記憶體(≥2 TB)配置伺服器滲透率,可從 DRAM 原廠營收電話會議中的大容量模組出貨趨勢推斷。
- 主要資料庫和 ERP 廠商的硬體認證列表更新,關注是否新增國產平台。
軟體生態進展
- Linux 核心 NUMA 相關補丁數量和主要貢獻者(LKML 活躍度)。
- 主要 Linux 發行版(RHEL、SLES)release notes 中有關 AutoNUMA 或記憶體策略的改進。
- VMware/KVM 的 vNUMA 增強,以及超大型虛機(≥128 vCPU/ ≥ 4TB 記憶體)的支援例項數量變化。
競爭格局訊號
- Arm 伺服器晶片廠商宣佈多路一致性產品的時間表。
- CXL 2.0/3.0 記憶體模組在伺服器上的商用落地數量和 benchmark 結果(CXL Consortium 或廠商白皮書)。
- 主要雲端廠商提供的裸金屬 NUMA 例項規格變化(AWS / Azure / 阿里雲端官網)。
國產替代追蹤
- 信創目錄中國產伺服器中 4 路及以上佔比(政府公開招標資訊統計)。
- 鯤鵬/飛騰等晶片官方效能評估(SPEC CPU 2017 成績)是否隨製程/架構升級而躍升。
- 達夢、人大金倉等國產資料庫官方文件中關於 NUMA 配置最佳化的推薦和案例。
財務關聯指標
- Intel 資料中心業務(DCAI)和 AMD 資料中心業務營收中,高 ASP 產品(如 Xeon Max、EPYC 高核心數)比重(季度財報電話會議)。
- 主流 OEM 廠商的企業級伺服器 ASP 變化趨勢(Dell/HPE/Lenovo 財報)。
通過定期追蹤上述指標,可以形成對 CC-NUMA 產業鏈景氣度、技術成熟度和國產化進展的系統性認知。
15 信源
以下列出本文提及的公開資料、