晶片層 開放閱讀

CXL 記憶體分層

CXL Memory Tiering

概念 ID
cxl-memory-tiering
更新時間
2026-05-29
來源數量
待補

CXL 記憶體分層(CXL Memory Tiering)

3 秒看懂

一句話定義: CXL 記憶體分層是利用 CXL(Compute Express Link)互聯協議,將”本地高速 DRAM”與”CXL 附加的遠端 DRAM”組織為多層記憶體架構,由作業系統/虛擬機器管理程式動態排程資料放置,從而在不改變 CPU 記憶體控制器設計的前提下,以較低的每 GB 成本大幅擴充套件伺服器可用記憶體容量。

類比: 本地 DDR 是辦公桌(快、小),CXL 記憶體是隔壁檔案櫃(稍慢、大),NVMe 是地下室倉庫(慢、巨)。分層排程器就是幫你決定哪些檔案該放桌上、哪些放櫃裡的”助理”。

與 AI 的關係: 大型模型引數/啟用/KV-Cache 膨脹速度遠超 HBM 容量增長,CXL 記憶體分層提供了一條容量彈性擴充套件路徑,可望成為 HBM 與 NVMe 之間的關鍵中間層。

3 分鐘產業解釋

為什麼需要 CXL 記憶體分層?

現代資料中心面臨一個核心矛盾:計算能力增長快,記憶體容量增長慢,且記憶體成本攀升更快。

  • AI 訓練側: 一個千億引數模型的訓練需要同時駐留引數、梯度、最佳化器狀態與啟用值,僅最佳化器狀態(Adam)就需要約 12 倍於引數量的記憶體位元組數[行業通用估算]。
  • AI 推論側: 長上下文推論的 KV-Cache 可佔用數十 GB 乃至數百 GB 記憶體;多模型併發服務的記憶體需求更為龐大。
  • 傳統擴充套件瓶頸: 增加本地 DDR DIMM 受限於 CPU 記憶體通道數與主機板插槽,且 DDR 顆粒成本持續上漲;HBM 容量受限且價格極高(價格通常為 DDR 的數倍至十餘倍[供應鏈估算])。

CXL 記憶體分層的解決思路:

  1. 通過 CXL 鏈路(基於 PCIe 物理層)附加額外的 DRAM 模組,突破 CPU 原生記憶體通道數的限制。
  2. OS/Hypervisor 將 CXL 附加記憶體識別為獨立 NUMA 節點(延遲高於本地 DRAM),並在快/慢記憶體之間排程資料。
  3. 熱資料留在本地 DRAM,冷/溫資料自動”降級”到 CXL 記憶體——這就是分層(Tiering)

核心價值主張

維度傳統方案CXL 記憶體分層
容量擴充套件受限於 DIMM 插槽/通道數可通過 CXL 鏈路外掛大量 DRAM,容量彈性遠大於傳統擴充套件
每 GB 成本DDR5:標準伺服器級;HBM:極高CXL 附加 DDR5 成本接近標準 DDR5 模組(額外增加 CXL 控制器成本),顯著低於 HBM[供應鏈估算]
延遲本地 DDR5:~80–100 ns(典型值[行業文獻估算])CXL 附加記憶體:在本地 DDR 基礎上增加 ~80–150 ns 開銷(因具體實現與鏈路配置而異[廠商演示/行業文獻估算])
頻寬單 DDR5 通道:~38–45 GB/s(影片率而定[行業估算])受 CXL 鏈路頻寬約束,PCIe 5.0 x16 單向 ~63 GB/s[PCIe 5.0 規範]

本質:用可接受的延遲/頻寬換容量與成本優勢。

15 分鐘專家深入

CXL 記憶體分層在 AI 產業鏈中的位置

┌──────────────────────────────────────────────────────────────┐
│                        AI 應用層                              │
│  (LLM Training / Inference / Recommendation Systems)         │
├──────────────────────────────────────────────────────────────┤
│                     執行時 & 架構層                            │
│  (PyTorch / JAX / vLLM / TensorRT-LLM)                      │
│  → 模型並行、KV-Cache 管理、offloading 策略                    │
├──────────────────────────────────────────────────────────────┤
│                     OS / Hypervisor 層                        │
│  NUMA 感知排程、CXL 記憶體自動降級/升級、memory tiering 支援      │
├──────────────────────────────────────────────────────────────┤
│                     硬體平台層                                │
│  ┌─────────┐   CXL.mem   ┌──────────────────┐               │
│  │ CPU/GPU │◄────────────►│ CXL Type 3 裝置   │               │
│  │         │  (PCIe 5.0/  │ (附加 DDR5 DRAM)  │               │
│  │ 本地    │   6.0 PHY)   │                   │               │
│  │ DDR5/   │              └──────────────────┘               │
│  │ HBM     │                                                 │
│  └─────────┘              可選: CXL Switch (2.0+)            │
└──────────────────────────────────────────────────────────────┘

關鍵觀察:

  • 在 AI 推論場景中,模型權重是一次載入、多次讀取的只讀(或準只讀)資料,非常適合放在 CXL 記憶體層——首次訪問雖慢,但可預取到本地快取層,後續命中本地 DRAM。
  • 對於訓練場景,CXL 記憶體可存放最佳化器狀態的冷分量或 checkpoint 資料,減少對 NVMe offload 的依賴。
  • CXL 記憶體分層不替代 HBM,而是補足 HBM 容量不足時的第二層彈性記憶體

技術原理

1. CXL 協議棧基礎

CXL(Compute Express Link)是基於 PCIe 物理層建置的開放互聯標準,由 CXL Consortium 維護。其協議棧包含三套子協議:

┌───────────────────────────────────┐
│          應用層                    │
├───────────┬───────────┬───────────┤
│  CXL.io   │ CXL.cache │ CXL.mem   │
│ (基於 PCIe │ (快取一致  │ (主機訪問  │
│  事務層)   │  性協議)   │  裝置記憶體) │
├───────────┴───────────┴───────────┤
│        CXL 鏈路層                  │
├───────────────────────────────────┤
│     PCIe 物理層 (PHY)              │
└───────────────────────────────────┘

CXL.mem 是記憶體分層的核心協議:它允許主機 CPU 通過 CXL 鏈路發起對裝置端 DRAM 的讀寫請求,裝置端的記憶體控制器完成實際 DRAM 訪問後返回資料。

2. CXL 裝置型別與記憶體分層的關係

裝置型別描述與記憶體分層的關係
Type 1僅使用 CXL.io + CXL.cache 的加速器(如 SmartNIC)無直接關係
Type 2使用 CXL.cache + CXL.mem 的加速器(如帶本地記憶體的 GPU/FPGA)裝置端記憶體可參與分層
Type 3純記憶體擴充套件裝置(Memory Expander / Pooler)記憶體分層的主角

Type 3 裝置內部通常包含:

  • CXL 控制器晶片(如瀾起科技 MXC、Astera Labs、Microchip 等廠商提供)
  • DDR5 DIMM 插槽或焊接式 DRAM 顆粒
  • 電源管理與溫度監控模組

3. 記憶體分層的實現機制

3.1 硬體層:NUMA 拓撲對映

當 CXL Type 3 裝置被系統識別後,OS 將其附加的記憶體對映為一個新的 NUMA 節點,且該節點具有較高的延遲特徵。

          ┌──────────────┐
          │    CPU 0      │
          │ NUMA Node 0   │
          │ (本地 DDR5)   │
          │ Latency: ~Low │
          └──────┬───────┘
                 │ CXL Link (PCIe 5.0 x16)

          ┌──────┴───────┐
          │ CXL Type 3    │
          │ NUMA Node 2   │
          │ (附加 DDR5)   │
          │ Latency: ~Med │
          └──────────────┘

系統可同時擁有:

  • Node 0(本地 DRAM)—— 最低延遲
  • Node 2(CXL 附加 DRAM)—— 較高延遲(CXL 協議開銷 + 裝置控制器延遲)
  • 若接 NVMe,可進一步有 Node N(磁碟層)—— 最高延遲

3.2 軟體層:分層排程策略

Linux 核心(5.x–6.x 演進) 已逐步加入 CXL 記憶體分層支援,核心機制包括:

① NUMA 感知記憶體分配

  • numactl --membind / --preferred 可手動指定應用的記憶體分配節點。
  • 應用可通過 mbind() 系統呼叫精細控制頁面放置。

② 自動降級(Demotion)

  • Linux 核心的 memory tiering 子系統(mm/migrate.c 中的 demotion 路徑)可自動將不活躍頁面從本地 NUMA 節點遷移到 CXL NUMA 節點。
  • 降級策略基於頁面訪問熱度(通過 LRU 列表、accessed bit 掃描等機制)。
  • 關鍵核心引數(具體名稱和預設值隨版本演進有所變化,建議查閱對應核心文件)包括 demotion 閾值、遷移頻率等。

③ 主動升級(Promotion)

  • 當應用訪問 CXL 層資料時,可觸發頁面遷回本地層。
  • 部分實現利用硬體提供的訪問提示(access hint)或 PTE accessed bit 定期掃描來識別熱點。

④ 使用者態協作

  • 新型程式設計模型(如 libnumahbwlib)和執行時可感知記憶體層次,主動管理資料放置。
  • AI 架構(如 PyTorch)可通過自定義記憶體分配器將模型權重、KV-Cache 等分配到合適的層級。

3.3 延遲疊加分析(定性)

本地 DRAM 訪問延遲構成:
  CPU → 記憶體控制器 → DDR PHY → DRAM 陣列 → 返回
  總計: ~80–100 ns [行業典型估算]

CXL 附加 DRAM 訪問延遲構成:
  CPU → CXL Root Complex → PCIe PHY → CXL Link
    → CXL 裝置控制器 → DDR PHY → DRAM 陣列
    → 返回路徑(逆序)
  額外開銷: ~80–150 ns [行業文獻/廠商演示估算]
  總計: ~160–250 ns [行業估算,因實現而異]

關鍵變數影響額外延遲:

  • PCIe 鏈路代際(Gen5 vs Gen6):影響傳輸延遲,但協議處理開銷可能佔更大比重
  • CXL 控制器實現:不同廠商控制器的 pipeline 深度和協議處理效率不同
  • 鏈路寬度(x8 vs x16):影響頻寬,對單次請求延遲影響較小
  • NUMA 跳數和拓撲:多級 switch 增加額外延遲

4. 與 CXL 記憶體池化(Pooling)的關係

CXL 2.0 引入了記憶體池化能力:通過 CXL Switch,多個主機可共享一組 CXL Type 3 記憶體裝置。

  ┌────────┐   ┌────────┐   ┌────────┐
  │ Host A │   │ Host B │   │ Host C │
  └───┬────┘   └───┬────┘   └───┬────┘
      │            │            │
      └────────────┼────────────┘

            ┌──────┴───────┐
            │  CXL Switch  │
            │  (2.0+)      │
            └──┬──────┬────┘
               │      │
         ┌─────┴─┐  ┌─┴─────┐
         │Mem Dev│  │Mem Dev │
         │  A    │  │  B     │
         └───────┘  └────────┘

記憶體分層 vs 記憶體池化:

維度記憶體分層(Tiering)記憶體池化(Pooling)
核心目標在單一主機內建置快/慢記憶體層次多主機共享一組記憶體資源池
主機關係單主機使用多主機動態分配/釋放
關鍵 CXL 版本CXL 1.1 即可實現基本分層CXL 2.0+ 需要 switch 支援
資料放置熱/冷分層排程按需分配/回收
AI 場景價值單機大型模型推論的容量擴充套件多節點推論叢集的記憶體共享

兩者可疊加使用:在一個 CXL 池化叢集中,每臺主機內部也進行本地 DRAM 與 CXL 記憶體的分層排程。

5. CXL 3.0/3.1 的進一步演進

CXL 3.0 基於 PCIe 6.0 物理層(PAM4 編碼,64 GT/s/lane),並引入了多項增強:

  • 多頭裝置(Multi-Headed Device): 一個 CXL 裝置可同時服務多個主機埠,提升池化靈活性
  • 增強的記憶體池化管理: 更精細的 QoS 和容量隔離
  • 向後相容性設計: 支援與 CXL 2.0 裝置混合部署

這些特性使得記憶體分層架構可以向更大規模、更細粒度的方向演進。


技術演進史

時間里程碑記憶體分層相關意義
2019CXL 1.0 規範釋出奠定 CXL.mem 協議基礎,Type 3 裝置概念確立
2019CXL 1.1 釋出微調,首批支援 CXL 的 CPU 開始研發(如 Intel Sapphire Rapids)
2022CXL 2.0 釋出引入記憶體池化與 switch 支援,記憶體分層進入實用階段
2023Intel Sapphire Rapids 釋出(2023 年 1 月正式量產)首批支援 CXL 1.1 的量產伺服器 CPU,業界首次大規模驗證 CXL 記憶體擴充套件
2022三星/SK 海力士/美光 展示 CXL 記憶體模組原型記憶體廠商跟進,CXL DRAM 產品形態初步成型
2022–2023Linux 核心持續加入 CXL 支援NUMA 管理、裝置列舉、分層排程基礎程式碼合入主線
2022CXL 3.0 釋出基於 PCIe 6.0 PHY,多頭裝置、增強池化
2023CXL 3.1 釋出進一步細化 fabric 管理與安全機制
2023AMD EPYC Genoa(9004 系列)支援 CXLAMD 跟進,主流伺服器平台 CXL 覆蓋面擴大
2023–2024瀾起科技 MXC 控制器量產國產 CXL 控制器晶片進入市場,供應鏈多元化
2024+多家廠商推進 CXL 記憶體產品化從原型演示走向小批次部署,軟體生態持續成熟

技術路線對比(量化表)

指標本地 DDR5HBM3 / HBM3ECXL 附加 DDR5 (Type 3)NVMe SSD
容量/節點受限於 DIMM 槽數與記憶體通道數(典型伺服器數十 GB 至 ~數 TB [視平台而定])單 HBM3 堆疊容量: 公開資訊為 ~16–36 GB/堆疊 [廠商釋出資料,視代際]理論上可通過多個 CXL 裝置擴充套件至遠超本地 DDR 容量上限 [取決於平台與 switch 規模]單盤數 TB 級
訪問延遲~80–100 ns [行業典型估算]~數十 ns(HBM 與計算 die 封裝在同一基板上,具體值廠商未完全公開)~160–250 ns(含 CXL 協議開銷)[行業估算]~10–100 μs(NVMe SSD)[視佇列深度]
頻寬單通道 ~38–45 GB/s(DDR5-4800/5600 [行業估算]),多通道疊加單堆疊頻寬: 廠商公佈值可達數百 GB/s 級別(視代際與配置,具體值見廠商 spec)受 CXL 鏈路頻寬約束:PCIe 5.0 x16 單向 ~63 GB/s [PCIe 5.0 規範]PCIe 4.0 x4 ~8 GB/s(順序讀)[行業典型]
每 GB 成本中等(伺服器級 DDR5 [供應鏈估算])極高(通常為 DDR5 的數倍至十餘倍 [供應鏈估算])接近標準 DDR5 + CXL 控制器成本增量 [供應鏈估算]低(但延遲極高)
易失性易失易失易失非易失(但延遲差距巨大)
AI 場景適用通用計算記憶體、中小模型GPU 側視訊記憶體、大型模型訓練 HBM 頻寬需求大容量擴充套件、推論 KV-Cache、模型權重儲存Checkpoint、冷資料歸檔

注: 上表中的具體數值為行業公開文獻與廠商演示中的典型範圍,因平台配置、韌體版本、工作負載特徵不同會有顯著差異。標註 [行業估算] 的資料未經單一權威來源驗證。


上下游

上游(CXL 記憶體分層的硬體與 IP 供應)

┌──────────────────────────────────────────────────────┐
│                      上 遊                             │
├──────────────────┬───────────────────────────────────┤
│  CXL 控制器晶片   │ 瀾起科技(MXC)、Microchip、         │
│                  │ Astera Labs、Rambus(IP授權)         │
├──────────────────┼───────────────────────────────────┤
│  DRAM 顆粒        │ 三星、SK 海力士、美光                 │
│  (CXL模組用DDR5) │ 長鑫儲存(CXMT,潛在供應商)          │
├──────────────────┼───────────────────────────────────┤
│  CXL Switch       │ Microchip(XpressConnect 系列,      │
│                  │ 具體產品線命名請參閱廠商官網)、        │
│                  │ 其他廠商跟進中                       │
├──────────────────┼───────────────────────────────────┤
│  Retimer/PHY      │ Astera Labs、Parade Technologies、  │
│                  │ Broadcom                            │
├──────────────────┼───────────────────────────────────┤
│  CPU 平台          │ Intel(Sapphire/Emerald Rapids,     │
│  (CXL 主機端)    │ Granite Rapids)、AMD(EPYC 9004+)、│
│                  │ Arm 生態(部分廠商規劃中)              │
└──────────────────┴───────────────────────────────────┘

中游(系統整合與軟體)

環節關鍵參與者
伺服器 OEM浪潮、新華三、Dell、HPE、Supermicro、聯想
OS/HypervisorLinux 核心社群(核心貢獻者包括 Intel、Meta、Google 等)、VMware/Broadcom(虛擬化支援)
管理軟體各 OEM 的 BMC/BIOS CXL 配置管理、CXL Consortium 互操作性測試

下游(應用方)

場景需求特徵
AI 推論服務大型模型權重駐留、KV-Cache 擴充套件、多模型併發
AI 訓練輔助Checkpoint 快取、最佳化器狀態冷資料儲存
資料庫/記憶體計算Redis/Memcached 容量擴充套件、SAP HANA 記憶體池化
雲端服務多租戶記憶體資源池化,按需分配,提升記憶體利用率
HPC/科學計算大規模模擬需要的超大記憶體空間

關鍵指標

評估 CXL 記憶體分層方案時,技術側需關注以下指標:

指標定義典型範圍重要性
附加延遲CXL 記憶體訪問延遲 − 本地 DRAM 訪問延遲~80–150 ns [行業估算]決定工作負載適用性
有效頻寬CXL 鏈路實際可為 CXL.mem 使用的吞吐受 CXL 鏈路規格與協議開銷約束,遠低於鏈路理論頻寬決定頻寬敏感型負載的效能
容量擴充套件比CXL 附加記憶體容量 / 本地 DRAM 容量取決於裝置配置,可達數倍至更高 [視具體部署]核心商業價值
每 GB 總擁有成本DRAM 顆粒 + CXL 控制器 + 電力 + 散熱 / 可用 GB理論上接近本地 DDR 的 1.x 倍 [供應鏈估算]決定 ROI
本地命中率訪問命中本地 DRAM 層的比例因工作負載與排程策略而異越高則系統有效延遲越接近本地 DRAM
分層遷移開銷頁面在本地與 CXL 層之間遷移的 CPU/頻寬消耗通常為後臺低優先順序任務,但高遷移率下可能影響前臺效能需監控與調優
互操作性不同廠商 CPU、CXL 控制器、DRAM 模組的相容性CXL Consortium 有互操作性測試計劃部署風險

供需與市場資料

⚠️ 以下資料主要來自行業分析師報告、公開財報表述及供應鏈估算,非精確審計資料。具體數字因統計口徑和時間點不同可能存在顯著差異。

需求側驅動

  • AI 模型規模增長曲線: 從 GPT-3(175B 引數)到更大型模型,模型引數量呈指數增長,記憶體需求隨之膨脹。訓練一個超大型模型可能需要 TB 級記憶體 [行業估算]。
  • 伺服器記憶體容量增長瓶頸: 伺服器 CPU 記憶體通道數增長緩慢(如從 8 通道到 12 通道),而 AI 應用對容量的需求增速遠超此節奏。
  • 記憶體成本佔伺服器 BOM 比重: DRAM 已佔伺服器物料成本的重要份額(具體比例隨 DRAM 週期波動),CXL 分層可通過在非關鍵資料上使用更經濟的記憶體方案來最佳化成本。

供給側進展

  • CXL 記憶體模組產品化: 三星、SK 海力士、美光均已展示 CXL 記憶體模組原型或早期產品,但截至所掌握的資訊,大規模量產時間表尚未明確公開 [未充分揭露]。
  • CXL 控制器供應鏈: 瀾起科技 MXC 控制器是目前較為知名的 CXL 記憶體介面晶片之一,該公司在 CXL 領域有持續版面配置 [瀾起科技公開資訊]。
  • 市場預測(參考性質): 多家行業分析機構對 CXL 相關市場規模有不同預測,從數十億美元到更高不等,預測時間視窗多為 2026–2030 年。具體數字因統計口徑和假設差異較大 [行業報告估算]。

採納時間線(定性判斷)

2022–2023:  早期驗證階段(CPU 平台 + CXL 控制器原型 + 概念驗證)
2024–2025:  小規模試部署階段(特定 AI/資料庫工作負載、雲端廠商內部試點)
2025–2027:  規模化部署階段(預計隨 CXL 2.0+ 生態成熟、軟體棧完善)
2027+:      普及階段(CXL 3.0+ 生態、池化廣泛部署)

以上為行業共識性時間線的大致判斷,實際進度取決於互操作性、軟體生態成熟度和成本競爭力。


代表公司與資本對映

公司角色CXL 記憶體分層關聯備註
IntelCPU + CXL 控制器 IP + 平台推動者Sapphire/Emerald/Granite Rapids 平台均支援 CXL;Intel 是 CXL Consortium 的核心推動者Intel 公開資訊
AMDCPU 平台EPYC 9004(Genoa)系列支援 CXLAMD 公開資訊
三星電子DRAM 顆粒 + CXL 記憶體模組展示過 CXL DRAM 模組原型,積極版面配置 CXL 產品線三星公開發布資訊
SK 海力士DRAM 顆粒 + CXL 記憶體模組CXL 記憶體解決方案開發中SK 海力士公開資訊
美光DRAM 顆粒 + CXL 記憶體模組CXL 記憶體產品開發中美光公開資訊
瀾起科技 (688008.SH)CXL 記憶體介面控制器晶片 (MXC)國內 CXL 控制器領域的代表企業,MXC 晶片切入 CXL 記憶體擴充套件價值鏈瀾起科技公開資訊
Astera LabsCXL Retimer / 連線解決方案CXL 物理層聯結器件,保障訊號完整性未上市
MicrochipCXL Switch / 控制器XpressConnect 系列 CXL 交換晶片(具體型號請查閱廠商官網)Microchip 公開資訊
RambusCXL IP 授權提供 CXL PHY 與控制器 IP 授權Rambus 公開資訊

A 股/港股相關對映(簡要)

  • 瀾起科技 (688008):CXL 控制器晶片標的,國內最直接對映
  • 兆易創新 (603986):DRAM 側潛在受益(若 CXMT DDR5 顆粒進入 CXL 模組供應鏈)
  • 中際旭創/光模組板塊:間接相關——CXL switch 與 retimer 對高速訊號完整性有需求,但關聯度較弱

投資邏輯

核心論點

  1. AI 記憶體牆是結構性問題: 模型規模增長持續快於記憶體容量/頻寬增長,CXL 記憶體分層是少數已被硬體標準支援、有清晰產業鏈路徑的解決方案之一。

  2. CXL 是記憶體產業從”賣顆粒”到”賣系統級方案”的關鍵轉折點: CXL 控制器、switch、retimer 等新增環節創造了新的價值鏈,尤其利好上游晶片設計公司。

  3. 中國市場特殊性: 中國伺服器廠商對國產 CXL 控制器有采購需求(供應鏈安全),瀾起科技 MXC 可能受益於國產替代邏輯。

主要風險

風險說明
軟體生態成熟度不足OS 排程策略、應用適配尚在早期;如果軟體層無法有效利用 CXL 記憶體分層,硬體投資回報將受限
互操作性問題多廠商 CXL 裝置間的相容性驗證需要時間;早期部署可能出現相容性故障
延遲敏感型負載不適用對記憶體延遲極度敏感的工作負載(如某些 HPC 場景)可能無法受益於 CXL 分層
替代方案競爭LPDDR5X 擴充套件、新記憶體技術(如 CXL 附加的新型 NVM)、晶片內更大快取等方案可能削弱 CXL 分層的必要性
標準演進節奏CXL 3.0+ 的成熟落地時間存在不確定性
技術採用週期資料中心客戶通常保守,新技術從驗證到規模部署的週期可能比預期更長

估值架構參考

  • 短期(1–2 年):關注 CXL 控制器晶片出貨量、與伺服器 OEM 的 design-in 進展。
  • 中期(3–5 年):關注 CXL 記憶體模組在 AI 推論叢集中的實際部署規模、軟體生態成熟度。
  • 長期(5+ 年):關注 CXL 池化架構在雲端資料中心的滲透率、是否成為”標準配置”。

常見誤讀糾偏

誤讀 1:「CXL 記憶體分層可以完全替代 HBM」

糾偏: 不可以。CXL 記憶體分層的延遲遠高於 HBM(HBM 與 GPU die 封裝在同一基板上,延遲遠低於經 PCIe/CXL 鏈路走線的外部 DRAM),且 CXL 鏈路頻寬遠低於 HBM 堆疊內部頻寬。HBM 滿足的是頻寬敏感的計算密集型需求(如矩陣乘法中的啟用讀寫),而 CXL 記憶體分層滿足的是容量敏感的儲存密集型需求(如大型模型權重駐留、KV-Cache 擴充套件)。兩者是互補關係,不是替代關係。

誤讀 2:「CXL 記憶體分層只是給伺服器加了一根記憶體條」

糾偏: 這忽略了三個關鍵

source: 公開揭露與公開資料整理 本頁僅用於產業鏈學習、資訊檢索和研究輔助;不構成投資建議,不預測漲跌,不提供買賣、部位或目標價建議。
完整概念頁 複盤 13 節結構 公司投研頁 沿產業鏈找到受益公司 投資課 把概念轉成可跟蹤模型