OAM 模組
3 秒看懂
OAM 是開放計算專案(OCP)定義的AI 加速器標準化模組規格——把加速晶片、HBM 視訊記憶體、供電與高速互聯介面封裝進一個可熱插拔的統一尺寸模組中,插在標準化基板(Baseboard/UBB)上工作。本質是一套”AI 晶片的 ATX 規範”:誰家的 AI 晶片都按這個尺寸、介面、功耗做,下游伺服器設計就能”一個底座適配多家晶片”。
3 分鐘產業解釋
問題:AI 晶片百花齊放,伺服器怎麼”裝得下”?
2018 年以前,每家 AI 晶片廠商出貨的都是”整卡”甚至”整櫃方案”,形狀、介面、功耗各不相同。Meta(Facebook)作為全球最大 AI 訓練叢集運營商之一,深刻感受到:每換一家晶片就要重新設計伺服器底板和機櫃供電,生態完全鎖死。
解法:像 DDR 記憶體條一樣標準化
OAM 由 OCP(Open Compute Project)聯盟定義,核心思路是:
| 維度 | 標準化內容 |
|---|---|
| 外形尺寸 | 統一模組長寬高、重量約束 |
| 功耗包絡 | 定義單模組功耗上限及供電介面規格 |
| 高速互聯 | 統一 SerDes 數量與聯結器規格,支援片間通訊拓撲 |
| 熱設計 | 統一散熱介面高度與壓力規格 |
| 管理介面 | 定義帶外管理(BMC)通訊協議 |
簡言之:把”晶片”變成”記憶體條”式的標準化部件,即插即用。
誰在用?
- 晶片廠商按 OAM 出貨:Intel Habana(Gaudi 系列)、AMD(Instinct MI250X 等)、寒武紀、壁仞、燧原、崑崙芯等均推出過 OAM 形態產品。
- Meta 是最大推動者和消費者,其內部 AI 訓練硬體(MTIA 前的方案)大量基於 OAM 基板。
- ODM/OEM(如廣達、緯創、和碩)按 OAM 標準設計基板,服務多家客戶。
15 分鐘專家深入
為什麼 OAM 對 AI 產業鏈意義重大?
1. 打破 NVIDIA 的”平台鎖定”
NVIDIA 的 A100 使用 SXM4 形態(Ampere 架構),H100 使用 SXM5 形態(Hopper 架構)——非標準、專有介面、需配合自家 NVSwitch/NVLink 基板。OAM 的存在讓第二梯隊 AI 晶片廠商有了一個”被公平整合”的通道:Meta、微軟等大客戶可以在同一個機櫃設計中替換不同供應商的 OAM 模組。
2. 加速”白盒 AI 硬體”生態
類比網路交換器領域的 OCP 白盒交換器,OAM 讓 AI 訓練硬體也能走”開放設計、多家供貨”路線。這對於超大規模資料中心的供應鏈安全意義重大。
3. 但也暴露了生態短板
OAM 只管”物理層標準化”,不管軟體棧。換一塊 OAM 晶片,編譯器、通訊庫、分散式訓練架構全要換。所以 OAM 的實際價值能否兌現,取決於各晶片廠商的軟體成熟度。
關鍵技術細節
模組形態
┌──────────────────────────────────────┐
│ OAM 模組 (頂視) │
│ │
│ ┌─────────────┐ ┌──────────┐ │
│ │ AI 加速 Die │ │ HBM 堆疊 │ │
│ │ (封裝體) │ │ (多個堆疊)│ │
│ └─────────────┘ └──────────┘ │
│ │
│ ┌──────────────────────────────┐ │
│ │ 高速互聯聯結器 (底部) │ │
│ │ SerDes lanes (數量取決於 │ │
│ │ 具體 OAM 版本與廠商實現) │ │
│ └──────────────────────────────┘ │
│ │
│ [電源聯結器] [管理介面] │
└──────────────────────────────────────┘
↓ 插入
┌──────────────────────────────────────┐
│ OAM 基板 / UBB (Baseboard) │
│ ┌─────┬─────┬─────┬─────┐ │
│ │OAM 0│OAM 1│OAM 2│OAM 3│ │
│ ├─────┼─────┼─────┼─────┤ │
│ │OAM 4│OAM 5│OAM 6│OAM 7│ │
│ └─────┴─────┴─────┴─────┘ │
│ 基板負責模組間互聯拓撲 + 主機PCIe上聯 │
└──────────────────────────────────────┘
典型配置是 8 個 OAM 模組插在一塊基板上,基板內部通過高速 SerDes 實現模組間互聯(常見拓撲包括 2D Torus、3D Torus、Ring、Fat-Tree 等,取決於晶片廠商互聯架構設計)。基板再通過 PCIe 或其他總線上聯主機 CPU。
功耗包絡
OAM 規範定義了功耗範圍約束,單模組典型功耗包絡在 數百瓦量級(不同版本與廠商實現有所不同,具體上限請參閱 OCP 官方 OAM 規範文件 [OCP Spec])。這意味著一個 8 模組基板的功耗可達數千瓦級別,對供電和散熱提出極高要求。
互聯頻寬
模組間高速互聯的 SerDes 通道數量和單通道速率是 OAM 規範的關鍵引數。不同 OAM 版本以及不同晶片廠商的具體實現中,總互聯頻寬存在差異——這取決於 OAM 規範版本定義的 SerDes lane 數量以及晶片自身的 SerDes IP 能力。具體頻寬數字請以各廠商公佈的規格為準,此處不作編造。
技術原理
OAM 的分層架構
OAM 模組不是一塊簡單的 PCB 載板,而是涉及多層技術協同的系統級封裝:
┌─────────────────────────────────────────────┐
│ 系統層 (機櫃) │
│ ┌─────────────────────────────────────────┐ │
│ │ 伺服器主機板 (CPU Host) │ │
│ │ PCIe Gen4/5 x16 上聯 │ │
│ └────────────┬────────────────────────────┘ │
│ │ │
│ ┌────────────▼────────────────────────────┐ │
│ │ OAM 基板 (UBB / Baseboard) │ │
│ │ ┌────────────────────────────────────┐ │ │
│ │ │ 基板級互聯拓撲 │ │ │
│ │ │ (SerDes Retimer/Switch 可選) │ │ │
│ │ └────────────────────────────────────┘ │ │
│ │ 電源轉換 (12V→核心電壓 VR) │ │
│ │ 帶外管理 (BMC/I2C/JTAG) │ │
│ └──┬──┬──┬──┬──┬──┬──┬───────────────────┘ │
│ │ │ │ │ │ │ │ │ │
│ ┌──▼──▼──▼──▼──▼──▼──▼──▼────────────────┐ │
│ │ 8× OAM 模組 │ │
│ │ ┌───────────────────────────────┐ │ │
│ │ │ OAM 模組 N │ │ │
│ │ │ ┌──────────┐ ┌───────────┐ │ │ │
│ │ │ │ AI Die │ │ HBM Stack │ │ │ │
│ │ │ │(2.5D封裝) │ │ (e.g. HBM3│ │ │ │
│ │ │ │ │ │ 堆疊) │ │ │ │
│ │ │ └──────────┘ └───────────┘ │ │ │
│ │ │ ┌──────────────────────────┐ │ │ │
│ │ │ │ 高速互聯 SerDes PHY │ │ │ │
│ │ │ │ (片間通訊) │ │ │ │
│ │ │ └──────────────────────────┘ │ │ │
│ │ │ [電源輸入] [管理訊號] │ │ │
│ │ └───────────────────────────────┘ │ │
│ └──────────────────────────────────────────┘ │
└─────────────────────────────────────────────┘
關鍵機制解析
1. 模組內:AI Die + HBM 的 2.5D/3D 封裝
OAM 模組內的 AI 加速晶片通常採用 2.5D 矽中介層(Silicon Interposer)封裝技術,如台積電 CoWoS 等,將 AI 計算 Die 與 HBM 高頻寬視訊記憶體堆疊整合在同一基板上。這種封裝方式提供極高的晶片-視訊記憶體間頻寬(每顆 HBM 堆疊數百 GB/s 量級,具體取決於 HBM 代際與介面寬度)。
2. 模組間:高速 SerDes 互聯
OAM 規範在模組底部定義了高速 SerDes 聯結器。這些 SerDes 通道既可承載模組間的直接點對點通訊,也可經基板上的 retimer 或 switch 進行訊號中繼/路由。互聯拓撲由晶片廠商的互聯架構決定,OAM 規範只管物理層介面標準化,不強制拓撲。例如:
- Intel Habana Gaudi 系列使用**乙太網路(RoCE)**作為 OAM 模組間互聯協議
- AMD MI250X 的 OAM 實現使用 Infinity Fabric 作為片間互聯
- 其他廠商可能採用私有協議
3. 基板級管理與電源
OAM 基板承擔以下關鍵功能:
- 電源分配與轉換:將機櫃 12V/48V 電源轉換為各 OAM 模組核心所需的低壓大電流供電(通過 VRM)
- 帶外管理:通過 I²C/JTAG 等介面實現對各模組的狀態監控、韌體更新、故障隔離
- 主機連線:將各 OAM 模組的 PCIe 介面上聯至主機 CPU(部分設計通過 PCIe switch 匯聚)
技術演進史
| 時期 | 事件 | 意義 |
|---|---|---|
| 2019 年 | OCP 釋出 OAM 1.0 規範草案 | 首次定義 AI 加速器標準化模組形態 |
| 2020 年 | Intel Habana Gaudi (HL-2000) 以 PCIe 加速卡形態出貨 | 第一代 Habana 產品,非 OAM 形態 |
| 2021 年 | AMD Instinct MI250X 採用 OAM 形態 | GPU 陣營首次大規模採用 OAM |
| 2021-2022 年 | 中國廠商(壁仞 BR100、寒武紀、燧原等)推出 OAM 產品 | OAM 生態擴充套件到國產 AI 晶片 |
| 2022-2023 年 | Intel Habana Gaudi2 以 OAM 形態出貨;Meta 大規模部署 | OAM 在超大規模訓練叢集中驗證可行 |
| 2023-2024 年 | OAM 規範持續演進,功耗與頻寬約束更新;AMD MI300 系列形態有所變化(部分採用非 OAM 專有形態) | 行業對標準化模組的需求持續,但頂級產品仍傾向自研形態 |
關鍵趨勢:隨著單晶片功耗突破 700W+、HBM 容量向 192GB+ 演進,OAM 規範面臨持續的功耗與散熱挑戰。部分頂級 AI 晶片(如 AMD MI300X 的某些配置、NVIDIA 從未採用 OAM)走向專有形態,OAM 的”統一標準”覆蓋度在高階市場有所收窄。
技術路線對比
| 維度 | OAM 模組 | NVIDIA SXM (SXM4/SXM5) | PCIe 加速卡 | 自研模組(如 TPU Module) |
|---|---|---|---|---|
| 標準化 | OCP 開放標準 | NVIDIA 專有 | PCIe SIG 標準 | 廠商自定義 |
| 典型功耗包絡 | 數百瓦級 [OCP Spec] | 數百瓦級 [NVIDIA Spec] | 上限取決於板卡設計及輔助供電,可遠超 300-350W(不受限於 PCIe 插槽供電) | 廠商自定 |
| 模組間互聯 | 高速 SerDes(協議視廠商) | NVLink/NVSwitch | 無(需外部網路) | 廠商自研匯流排 |
| 擴充套件性 | 8 模組/基板(典型) | 8 GPU/基板(DGX 架構) | 單卡獨立 | 廠商自定 |
| 供應鏈開放度 | 多家晶片廠商可出貨 | 僅 NVIDIA | 多家 | 僅自研廠商 |
| 軟體棧 | 各廠商自研,碎片化 | CUDA 生態,成熟統一 | CUDA 或各廠商自研 | 廠商自研 |
| 適用場景 | 超大規模訓練(Meta 等推動) | 通用 AI 訓練/推論主力 | 推論/中小規模訓練 | 廠商自用雲端服務 |
關鍵洞察:OAM 在物理層實現了標準化,但軟體生態的碎片化使其短期內難以取代 SXM 作為預設選擇。OAM 的真正價值在於為有自研軟體棧能力的超大規模使用者(Meta、微軟等)提供供應鏈議價權。
上下游
上游(OAM 模組的構成要素)
| 環節 | 內容 | 關鍵供應商 |
|---|---|---|
| AI 加速晶片 Die | 模組核心計算單元 | Intel Habana、AMD、寒武紀、壁仞、燧原、崑崙芯等 |
| HBM 視訊記憶體 | 高頻寬記憶體堆疊,2.5D/3D 整合 | SK 海力士、三星、美光 |
| 先進封裝 | 2.5D interposer / fan-out 封裝 | 台積電(CoWoS 系列)、日月光、長電科技 |
| 高速聯結器 | 模組-基板間高速 SerDes 聯結器 | Amphenol、TE Connectivity 等 |
| PCB 載板 | 模組級 HDI 載板 | 欣興、Ibiden、深南電路等 |
| 電源器件(VRM) | 基板上的電壓調節模組 | Renesas、Infineon、MPS 等 |
下游(OAM 的整合與使用)
| 環節 | 內容 | 關鍵玩家 |
|---|---|---|
| 基板/UBB 設計 | 8 卡基板設計與製造 | 廣達、緯創、和碩、英業達等 ODM |
| 伺服器整機整合 | 基板 + CPU 主機板 + 散熱 + 機櫃 | Meta(自研設計委託 ODM 代工)等 |
| 終端使用者 | AI 訓練/推論叢集運營商 | Meta、微軟 Azure、字節跳動、百度等 |
產業鏈價值分配(定性)
[晶片 Die + HBM 封裝] ──佔模組 BOM 大頭──→ [OAM 模組] → [基板 + 系統整合] → [叢集部署]
(~70-80% [供應鏈估算]) (~5-10%) (~10-15%) (終端使用者)
注:BOM 佔比為行業定性估算,具體比例因晶片型別與 HBM 配置差異較大,無精確公開資料。
關鍵指標
| 指標 | 說明 | 備註 |
|---|---|---|
| 單模組功耗 | OAM 規範定義的功耗包絡上限 | 具體數值隨規範版本演進 [OCP Spec] |
| 模組尺寸 | 統一的長×寬×高約束 | 參見 OCP 官方 OAM 機械規範 |
| SerDes 通道數 | 模組底部高速互聯 lane 數量 | 決定模組間通訊總頻寬 |
| HBM 容量/頻寬 | 取決於晶片廠商配置與 HBM 代際 | 各廠商不同,參見具體產品規格 |
| 基板模組數 | 單基板可插 OAM 模組數量 | 典型為 8,部分設計可更多 |
| 散熱介面壓力 | 模組散熱器的安裝壓力規範 | 確保接觸熱阻可控 |
| 管理介面 | I²C/JTAG/帶外管理協議 | 實現健康監控與故障隔離 |
供需與市場資料
需求端
| 驅動因素 | 詳情 |
|---|---|
| Meta AI 訓練叢集擴張 | Meta 是 OAM 最大需求方,其訓練叢集規模持續擴大 |
| 中國 AI 晶片國產替代 | 國產 AI 晶片普遍選擇 OAM 形態出貨,受政策與供應鏈安全驅動 |
| 多元化供應鏈策略 | 超大規模使用者希望”一個底座多晶片可插”,降低對單一供應商依賴 |
供給端
- OAM 模組出貨量缺乏獨立公開統計,通常計入各晶片廠商的產品出貨資料中。
- 行業估算 [供應鏈估算]:全球 OAM 形態 AI 加速器模組年出貨量在數十萬至百萬量級(含中國廠商),但遠小於 NVIDIA GPU 出貨規模。
- OAM 在整體 AI 加速器市場中的份額定性判斷為”小眾但戰略意義高”——主要服務頭部超大規模使用者和國產替代場景。
關鍵約束
- HBM 供應:HBM 是 OAM 模組的關鍵瓶頸,全球 HBM 產能集中於 SK 海力士、三星、美光。
- 先進封裝產能:OAM 模組內 AI Die + HBM 的 2.5D 封裝依賴台積電 CoWoS 等先進封裝產能,產能緊張時 OAM 交付同樣受限。
代表公司與資本對映
| 角色 | 代表公司 | 公開程式碼/備註 |
|---|---|---|
| OAM 晶片供應商 | Intel(Habana Gaudi 系列) | INTC(NASDAQ) |
| AMD(Instinct MI250X 等) | AMD(NASDAQ) | |
| 寒武紀 | 688256.SH | |
| 壁仞科技 | 未上市 | |
| 燧原科技 | 未上市 | |
| HBM 供應商 | SK 海力士 | 000660.KS |
| 三星電子 | 005930.KS | |
| 美光 | MU(NASDAQ) | |
| 先進封裝 | 台積電 | TSM(NYSE)/ 2330.TW |
| 日月光 | 3711.TW | |
| 聯結器 | Amphenol | APH(NYSE) |
| TE Connectivity | TEL(NYSE) | |
| ODM/基板製造 | 廣達 | 2382.TW |
| 緯創 | 3231.TW | |
| 欣興(IC 載板) | 3037.TW | |
| 深南電路 | 002916.SZ | |
| 電源器件 | MPS | MPWR(NASDAQ) |
| Renesas | 6723.T |
投資邏輯
看多邏輯
- 國產 AI 晶片崛起 = OAM 放量:中國 AI 晶片廠商(寒武紀、壁仞、燧原等)幾乎全部以 OAM 形態出貨,國產替代程序直接拉動 OAM 需求。
- 供應鏈多元化是不可逆趨勢:頭部雲端廠商有意建置”多晶片可替換”的硬體平台,OAM 是實現這一目標的物理基礎。
- 上游核心環節受益確定性高:無論哪家 OAM 晶片出貨,HBM(SK 海力士、三星、美光)、先進封裝(台積電 CoWoS)、高速聯結器(Amphenol)等上游供應商均受益。
風險與剋制
- 軟體碎片化制約採用速度:OAM 晶片的軟體棧成熟度遠不及 CUDA,大客戶實際切換意願可能慢於預期。
- 頂級 AI 晶片可能繞開 OAM:功耗和互聯頻寬持續突破後,最頂級的 AI 晶片可能傾向自研專用模組(如 AMD MI300 系列的部分配置已非傳統 OAM),OAM 可能退守”中高階”市場。
- OAM 本身標準化程度有限:物理層標準化但電氣/協議層仍有廠商差異,“即插即換”的完全互操作性目前難以實現。
常見誤讀糾偏
誤讀 1:“OAM = 開放的通用 AI 晶片介面,插上就能用”
糾偏:OAM 只標準化了物理形態與聯結器,不同廠商的 OAM 模組不能隨意互換插拔。原因包括:(1) 各晶片的 SerDes 協議不同(有的用乙太網路 RoCE,有的用私有協議);(2) 軟體棧完全不同;(3) 基板設計可能針對特定晶片有定製。OAM 的”開放”更多是為 ODM 降低設計門檻,而非實現跨廠商無縫替換。
誤讀 2:“OAM 正在取代 NVIDIA SXM 成為主流”
糾偏:從出貨量看,NVIDIA SXM 形態(A100 SXM4/H100 SXM5 等)仍是 AI 訓練硬體的絕對主流。OAM 的市場份額定性判斷為少數派,其價值更多體現在為 Meta 等特定超大規模使用者提供供應鏈選擇權,以及為中國 AI 晶片廠商提供標準化出貨形態。OAM 與 SXM 不是替代關係,更多是並行存在、服務不同客戶群。
誤讀 3:“OAM 規範定義了模組間的互聯協議”
糾偏:OAM 規範定義的是物理層(SerDes 通道數、聯結器規格、訊號完整性要求等),不規定上層通訊協議。模組間用什麼協議通訊是晶片廠商自己的選擇——Habana 用 RoCE,AMD 用 Infinity Fabric,其他廠商可能用私有協議。這意味著 OAM 基板不是”萬能底座”,需要針對具體晶片做適配。
學習路徑
Level 1: 理解 OCP 生態
├── 閱讀 OCP 官網 (opencompute.org) 關於 OAM 的概述頁
├── 理解 OCP 聯盟的運作方式與成員結構
└── 對比 OCP 其他標準(如 Open Rack、SONiC)理解"開放硬體"理念
Level 2: 掌握 OAM 規範細節
├── 下載並研讀 OAM 規範文件(OCP 官網註冊可獲取)
├── 重點關注:機械尺寸、功耗包絡、SerDes 規格、聯結器定義、管理介面
└── 對比不同版本規範的演進(功率提升、lane 數增加等)
Level 3: 理解具體產品實現
├── 研讀 Intel Habana Gaudi2/Gaudi3 的 OAM 產品白皮書
├── 研讀 AMD Instinct MI250X 的 OAM 規格(部分資料在 AMD 官網)
├── 瞭解中國廠商(寒武紀、壁仞等)的 OAM 產品形態
└── 關注 OCP Global Summit 年會中的 OAM 相關演講
Level 4: 系統級理解
├── 理解 OAM 基板/UBB 的設計挑戰(電源、散熱、訊號完整性)
├── 理解 OAM 模組在完整 AI 訓練叢集中的位置(與網路、儲存的互動)
└── 對比 NVIDIA DGX/HGX 架構理解 OAM 架構的優劣勢
一句話總結
OAM 是 AI 晶片產業的”標準化努力”——它用統一的物理形態降低硬體整合門檻、增強供應鏈彈性,但受制於軟體棧碎片化和頂級晶片的專有化趨勢,其實際覆蓋範圍目前集中在 Meta 等超大規模使用者和中國國產替代兩條線上。
延伸閱讀與來源
| 來源 | 說明 |
|---|---|
| OCP 官網 OAM 規範 | [opencompute.org] 官方規範文件,註冊後可下載 |
| OCP Global Summit 演講影片 | 每年 OCP 峰會中關於 OAM/加速器模組的技術演講 |
| Intel Habana Gaudi 系列產品頁 | Gaudi2/Gaudi3 的 OAM 形態規格與白皮書 |
| AMD Instinct 產品頁 | MI250X 的 OAM 規格參考 |
| SemiAnalysis | 付費行業分析,對 AI 硬體形態演進有深度分析 |
| Colfax International | 曾釋出 OAM 基板設計的技術分享 |
| 各中國 AI 晶片廠商官網 | 寒武紀、壁仞、燧原等的 OAM 產品規格頁 |
⚠️ 免責宣告:本文中未標註具體來源的數字與規格均為定性描述或行業共識性判斷,具體引數請以 OCP 官方規範文件及各廠商官方規格為準。供應鏈佔比資料為行業估算 [供應鏈估算],非精確統計。