OAM 模组
3 秒看懂
OAM 是开放计算项目(OCP)定义的AI 加速器标准化模组规格——把加速芯片、HBM 显存、供电与高速互联接口封装进一个可热插拔的统一尺寸模块中,插在标准化基板(Baseboard/UBB)上工作。本质是一套”AI 芯片的 ATX 规范”:谁家的 AI 芯片都按这个尺寸、接口、功耗做,下游服务器设计就能”一个底座适配多家芯片”。
3 分钟产业解释
问题:AI 芯片百花齐放,服务器怎么”装得下”?
2018 年以前,每家 AI 芯片厂商出货的都是”整卡”甚至”整柜方案”,形状、接口、功耗各不相同。Meta(Facebook)作为全球最大 AI 训练集群运营商之一,深刻感受到:每换一家芯片就要重新设计服务器底板和机柜供电,生态完全锁死。
解法:像 DDR 内存条一样标准化
OAM 由 OCP(Open Compute Project)联盟定义,核心思路是:
| 维度 | 标准化内容 |
|---|---|
| 外形尺寸 | 统一模块长宽高、重量约束 |
| 功耗包络 | 定义单模组功耗上限及供电接口规格 |
| 高速互联 | 统一 SerDes 数量与连接器规格,支持片间通信拓扑 |
| 热设计 | 统一散热接口高度与压力规格 |
| 管理接口 | 定义带外管理(BMC)通信协议 |
简言之:把”芯片”变成”内存条”式的标准化部件,即插即用。
谁在用?
- 芯片厂商按 OAM 出货:Intel Habana(Gaudi 系列)、AMD(Instinct MI250X 等)、寒武纪、壁仞、燧原、昆仑芯等均推出过 OAM 形态产品。
- Meta 是最大推动者和消费者,其内部 AI 训练硬件(MTIA 前的方案)大量基于 OAM 基板。
- ODM/OEM(如广达、纬创、和硕)按 OAM 标准设计基板,服务多家客户。
15 分钟专家深入
为什么 OAM 对 AI 产业链意义重大?
1. 打破 NVIDIA 的”平台锁定”
NVIDIA 的 A100 使用 SXM4 形态(Ampere 架构),H100 使用 SXM5 形态(Hopper 架构)——非标准、专有接口、需配合自家 NVSwitch/NVLink 基板。OAM 的存在让第二梯队 AI 芯片厂商有了一个”被公平集成”的通道:Meta、微软等大客户可以在同一个机柜设计中替换不同供应商的 OAM 模组。
2. 加速”白盒 AI 硬件”生态
类比网络交换机领域的 OCP 白盒交换机,OAM 让 AI 训练硬件也能走”开放设计、多家供货”路线。这对于超大规模数据中心的供应链安全意义重大。
3. 但也暴露了生态短板
OAM 只管”物理层标准化”,不管软件栈。换一块 OAM 芯片,编译器、通信库、分布式训练框架全要换。所以 OAM 的实际价值能否兑现,取决于各芯片厂商的软件成熟度。
关键技术细节
模组形态
┌──────────────────────────────────────┐
│ OAM 模组 (顶视) │
│ │
│ ┌─────────────┐ ┌──────────┐ │
│ │ AI 加速 Die │ │ HBM 堆栈 │ │
│ │ (封装体) │ │ (多个堆栈)│ │
│ └─────────────┘ └──────────┘ │
│ │
│ ┌──────────────────────────────┐ │
│ │ 高速互联连接器 (底部) │ │
│ │ SerDes lanes (数量取决于 │ │
│ │ 具体 OAM 版本与厂商实现) │ │
│ └──────────────────────────────┘ │
│ │
│ [电源连接器] [管理接口] │
└──────────────────────────────────────┘
↓ 插入
┌──────────────────────────────────────┐
│ OAM 基板 / UBB (Baseboard) │
│ ┌─────┬─────┬─────┬─────┐ │
│ │OAM 0│OAM 1│OAM 2│OAM 3│ │
│ ├─────┼─────┼─────┼─────┤ │
│ │OAM 4│OAM 5│OAM 6│OAM 7│ │
│ └─────┴─────┴─────┴─────┘ │
│ 基板负责模组间互联拓扑 + 主机PCIe上联 │
└──────────────────────────────────────┘
典型配置是 8 个 OAM 模组插在一块基板上,基板内部通过高速 SerDes 实现模组间互联(常见拓扑包括 2D Torus、3D Torus、Ring、Fat-Tree 等,取决于芯片厂商互联架构设计)。基板再通过 PCIe 或其他总线上联主机 CPU。
功耗包络
OAM 规范定义了功耗范围约束,单模组典型功耗包络在 数百瓦量级(不同版本与厂商实现有所不同,具体上限请参阅 OCP 官方 OAM 规范文档 [OCP Spec])。这意味着一个 8 模组基板的功耗可达数千瓦级别,对供电和散热提出极高要求。
互联带宽
模组间高速互联的 SerDes 通道数量和单通道速率是 OAM 规范的关键参数。不同 OAM 版本以及不同芯片厂商的具体实现中,总互联带宽存在差异——这取决于 OAM 规范版本定义的 SerDes lane 数量以及芯片自身的 SerDes IP 能力。具体带宽数字请以各厂商公布的规格为准,此处不作编造。
技术原理
OAM 的分层架构
OAM 模组不是一块简单的 PCB 载板,而是涉及多层技术协同的系统级封装:
┌─────────────────────────────────────────────┐
│ 系统层 (机柜) │
│ ┌─────────────────────────────────────────┐ │
│ │ 服务器主板 (CPU Host) │ │
│ │ PCIe Gen4/5 x16 上联 │ │
│ └────────────┬────────────────────────────┘ │
│ │ │
│ ┌────────────▼────────────────────────────┐ │
│ │ OAM 基板 (UBB / Baseboard) │ │
│ │ ┌────────────────────────────────────┐ │ │
│ │ │ 基板级互联拓扑 │ │ │
│ │ │ (SerDes Retimer/Switch 可选) │ │ │
│ │ └────────────────────────────────────┘ │ │
│ │ 电源转换 (12V→核心电压 VR) │ │
│ │ 带外管理 (BMC/I2C/JTAG) │ │
│ └──┬──┬──┬──┬──┬──┬──┬───────────────────┘ │
│ │ │ │ │ │ │ │ │ │
│ ┌──▼──▼──▼──▼──▼──▼──▼──▼────────────────┐ │
│ │ 8× OAM 模组 │ │
│ │ ┌───────────────────────────────┐ │ │
│ │ │ OAM 模组 N │ │ │
│ │ │ ┌──────────┐ ┌───────────┐ │ │ │
│ │ │ │ AI Die │ │ HBM Stack │ │ │ │
│ │ │ │(2.5D封装) │ │ (e.g. HBM3│ │ │ │
│ │ │ │ │ │ 堆叠) │ │ │ │
│ │ │ └──────────┘ └───────────┘ │ │ │
│ │ │ ┌──────────────────────────┐ │ │ │
│ │ │ │ 高速互联 SerDes PHY │ │ │ │
│ │ │ │ (片间通信) │ │ │ │
│ │ │ └──────────────────────────┘ │ │ │
│ │ │ [电源输入] [管理信号] │ │ │
│ │ └───────────────────────────────┘ │ │
│ └──────────────────────────────────────────┘ │
└─────────────────────────────────────────────┘
关键机制解析
1. 模组内:AI Die + HBM 的 2.5D/3D 封装
OAM 模组内的 AI 加速芯片通常采用 2.5D 硅中介层(Silicon Interposer)封装技术,如台积电 CoWoS 等,将 AI 计算 Die 与 HBM 高带宽显存堆栈集成在同一基板上。这种封装方式提供极高的芯片-显存间带宽(每颗 HBM 堆栈数百 GB/s 量级,具体取决于 HBM 代际与接口宽度)。
2. 模组间:高速 SerDes 互联
OAM 规范在模组底部定义了高速 SerDes 连接器。这些 SerDes 通道既可承载模组间的直接点对点通信,也可经基板上的 retimer 或 switch 进行信号中继/路由。互联拓扑由芯片厂商的互联架构决定,OAM 规范只管物理层接口标准化,不强制拓扑。例如:
- Intel Habana Gaudi 系列使用**以太网(RoCE)**作为 OAM 模组间互联协议
- AMD MI250X 的 OAM 实现使用 Infinity Fabric 作为片间互联
- 其他厂商可能采用私有协议
3. 基板级管理与电源
OAM 基板承担以下关键功能:
- 电源分配与转换:将机柜 12V/48V 电源转换为各 OAM 模组核心所需的低压大电流供电(通过 VRM)
- 带外管理:通过 I²C/JTAG 等接口实现对各模组的状态监控、固件更新、故障隔离
- 主机连接:将各 OAM 模组的 PCIe 接口上联至主机 CPU(部分设计通过 PCIe switch 汇聚)
技术演进史
| 时期 | 事件 | 意义 |
|---|---|---|
| 2019 年 | OCP 发布 OAM 1.0 规范草案 | 首次定义 AI 加速器标准化模组形态 |
| 2020 年 | Intel Habana Gaudi (HL-2000) 以 PCIe 加速卡形态出货 | 第一代 Habana 产品,非 OAM 形态 |
| 2021 年 | AMD Instinct MI250X 采用 OAM 形态 | GPU 阵营首次大规模采用 OAM |
| 2021-2022 年 | 中国厂商(壁仞 BR100、寒武纪、燧原等)推出 OAM 产品 | OAM 生态扩展到国产 AI 芯片 |
| 2022-2023 年 | Intel Habana Gaudi2 以 OAM 形态出货;Meta 大规模部署 | OAM 在超大规模训练集群中验证可行 |
| 2023-2024 年 | OAM 规范持续演进,功耗与带宽约束更新;AMD MI300 系列形态有所变化(部分采用非 OAM 专有形态) | 行业对标准化模组的需求持续,但顶级产品仍倾向自研形态 |
关键趋势:随着单芯片功耗突破 700W+、HBM 容量向 192GB+ 演进,OAM 规范面临持续的功耗与散热挑战。部分顶级 AI 芯片(如 AMD MI300X 的某些配置、NVIDIA 从未采用 OAM)走向专有形态,OAM 的”统一标准”覆盖度在高端市场有所收窄。
技术路线对比
| 维度 | OAM 模组 | NVIDIA SXM (SXM4/SXM5) | PCIe 加速卡 | 自研模组(如 TPU Module) |
|---|---|---|---|---|
| 标准化 | OCP 开放标准 | NVIDIA 专有 | PCIe SIG 标准 | 厂商自定义 |
| 典型功耗包络 | 数百瓦级 [OCP Spec] | 数百瓦级 [NVIDIA Spec] | 上限取决于板卡设计及辅助供电,可远超 300-350W(不受限于 PCIe 插槽供电) | 厂商自定 |
| 模组间互联 | 高速 SerDes(协议视厂商) | NVLink/NVSwitch | 无(需外部网络) | 厂商自研总线 |
| 扩展性 | 8 模组/基板(典型) | 8 GPU/基板(DGX 架构) | 单卡独立 | 厂商自定 |
| 供应链开放度 | 多家芯片厂商可出货 | 仅 NVIDIA | 多家 | 仅自研厂商 |
| 软件栈 | 各厂商自研,碎片化 | CUDA 生态,成熟统一 | CUDA 或各厂商自研 | 厂商自研 |
| 适用场景 | 超大规模训练(Meta 等推动) | 通用 AI 训练/推理主力 | 推理/中小规模训练 | 厂商自用云服务 |
关键洞察:OAM 在物理层实现了标准化,但软件生态的碎片化使其短期内难以取代 SXM 作为默认选择。OAM 的真正价值在于为有自研软件栈能力的超大规模用户(Meta、微软等)提供供应链议价权。
上下游
上游(OAM 模组的构成要素)
| 环节 | 内容 | 关键供应商 |
|---|---|---|
| AI 加速芯片 Die | 模组核心计算单元 | Intel Habana、AMD、寒武纪、壁仞、燧原、昆仑芯等 |
| HBM 显存 | 高带宽内存堆栈,2.5D/3D 集成 | SK 海力士、三星、美光 |
| 先进封装 | 2.5D interposer / fan-out 封装 | 台积电(CoWoS 系列)、日月光、长电科技 |
| 高速连接器 | 模组-基板间高速 SerDes 连接器 | Amphenol、TE Connectivity 等 |
| PCB 载板 | 模组级 HDI 载板 | 欣兴、Ibiden、深南电路等 |
| 电源器件(VRM) | 基板上的电压调节模块 | Renesas、Infineon、MPS 等 |
下游(OAM 的集成与使用)
| 环节 | 内容 | 关键玩家 |
|---|---|---|
| 基板/UBB 设计 | 8 卡基板设计与制造 | 广达、纬创、和硕、英业达等 ODM |
| 服务器整机集成 | 基板 + CPU 主板 + 散热 + 机柜 | Meta(自研设计委托 ODM 代工)等 |
| 最终用户 | AI 训练/推理集群运营商 | Meta、微软 Azure、字节跳动、百度等 |
产业链价值分配(定性)
[芯片 Die + HBM 封装] ──占模组 BOM 大头──→ [OAM 模组] → [基板 + 系统集成] → [集群部署]
(~70-80% [供应链估算]) (~5-10%) (~10-15%) (最终用户)
注:BOM 占比为行业定性估算,具体比例因芯片类型与 HBM 配置差异较大,无精确公开数据。
关键指标
| 指标 | 说明 | 备注 |
|---|---|---|
| 单模组功耗 | OAM 规范定义的功耗包络上限 | 具体数值随规范版本演进 [OCP Spec] |
| 模组尺寸 | 统一的长×宽×高约束 | 参见 OCP 官方 OAM 机械规范 |
| SerDes 通道数 | 模组底部高速互联 lane 数量 | 决定模组间通信总带宽 |
| HBM 容量/带宽 | 取决于芯片厂商配置与 HBM 代际 | 各厂商不同,参见具体产品规格 |
| 基板模组数 | 单基板可插 OAM 模组数量 | 典型为 8,部分设计可更多 |
| 散热接口压力 | 模组散热器的安装压力规范 | 确保接触热阻可控 |
| 管理接口 | I²C/JTAG/带外管理协议 | 实现健康监控与故障隔离 |
供需与市场数据
需求端
| 驱动因素 | 详情 |
|---|---|
| Meta AI 训练集群扩张 | Meta 是 OAM 最大需求方,其训练集群规模持续扩大 |
| 中国 AI 芯片国产替代 | 国产 AI 芯片普遍选择 OAM 形态出货,受政策与供应链安全驱动 |
| 多元化供应链策略 | 超大规模用户希望”一个底座多芯片可插”,降低对单一供应商依赖 |
供给端
- OAM 模组出货量缺乏独立公开统计,通常计入各芯片厂商的产品出货数据中。
- 行业估算 [供应链估算]:全球 OAM 形态 AI 加速器模组年出货量在数十万至百万量级(含中国厂商),但远小于 NVIDIA GPU 出货规模。
- OAM 在整体 AI 加速器市场中的份额定性判断为”小众但战略意义高”——主要服务头部超大规模用户和国产替代场景。
关键约束
- HBM 供应:HBM 是 OAM 模组的关键瓶颈,全球 HBM 产能集中于 SK 海力士、三星、美光。
- 先进封装产能:OAM 模组内 AI Die + HBM 的 2.5D 封装依赖台积电 CoWoS 等先进封装产能,产能紧张时 OAM 交付同样受限。
代表公司与资本映射
| 角色 | 代表公司 | 公开代码/备注 |
|---|---|---|
| OAM 芯片供应商 | Intel(Habana Gaudi 系列) | INTC(NASDAQ) |
| AMD(Instinct MI250X 等) | AMD(NASDAQ) | |
| 寒武纪 | 688256.SH | |
| 壁仞科技 | 未上市 | |
| 燧原科技 | 未上市 | |
| HBM 供应商 | SK 海力士 | 000660.KS |
| 三星电子 | 005930.KS | |
| 美光 | MU(NASDAQ) | |
| 先进封装 | 台积电 | TSM(NYSE)/ 2330.TW |
| 日月光 | 3711.TW | |
| 连接器 | Amphenol | APH(NYSE) |
| TE Connectivity | TEL(NYSE) | |
| ODM/基板制造 | 广达 | 2382.TW |
| 纬创 | 3231.TW | |
| 欣兴(IC 载板) | 3037.TW | |
| 深南电路 | 002916.SZ | |
| 电源器件 | MPS | MPWR(NASDAQ) |
| Renesas | 6723.T |
投资逻辑
看多逻辑
- 国产 AI 芯片崛起 = OAM 放量:中国 AI 芯片厂商(寒武纪、壁仞、燧原等)几乎全部以 OAM 形态出货,国产替代进程直接拉动 OAM 需求。
- 供应链多元化是不可逆趋势:头部云厂商有意构建”多芯片可替换”的硬件平台,OAM 是实现这一目标的物理基础。
- 上游核心环节受益确定性高:无论哪家 OAM 芯片出货,HBM(SK 海力士、三星、美光)、先进封装(台积电 CoWoS)、高速连接器(Amphenol)等上游供应商均受益。
风险与克制
- 软件碎片化制约采用速度:OAM 芯片的软件栈成熟度远不及 CUDA,大客户实际切换意愿可能慢于预期。
- 顶级 AI 芯片可能绕开 OAM:功耗和互联带宽持续突破后,最顶级的 AI 芯片可能倾向自研专用模组(如 AMD MI300 系列的部分配置已非传统 OAM),OAM 可能退守”中高端”市场。
- OAM 本身标准化程度有限:物理层标准化但电气/协议层仍有厂商差异,“即插即换”的完全互操作性目前难以实现。
常见误读纠偏
误读 1:“OAM = 开放的通用 AI 芯片接口,插上就能用”
纠偏:OAM 只标准化了物理形态与连接器,不同厂商的 OAM 模组不能随意互换插拔。原因包括:(1) 各芯片的 SerDes 协议不同(有的用以太网 RoCE,有的用私有协议);(2) 软件栈完全不同;(3) 基板设计可能针对特定芯片有定制。OAM 的”开放”更多是为 ODM 降低设计门槛,而非实现跨厂商无缝替换。
误读 2:“OAM 正在取代 NVIDIA SXM 成为主流”
纠偏:从出货量看,NVIDIA SXM 形态(A100 SXM4/H100 SXM5 等)仍是 AI 训练硬件的绝对主流。OAM 的市场份额定性判断为少数派,其价值更多体现在为 Meta 等特定超大规模用户提供供应链选择权,以及为中国 AI 芯片厂商提供标准化出货形态。OAM 与 SXM 不是替代关系,更多是并行存在、服务不同客户群。
误读 3:“OAM 规范定义了模组间的互联协议”
纠偏:OAM 规范定义的是物理层(SerDes 通道数、连接器规格、信号完整性要求等),不规定上层通信协议。模组间用什么协议通信是芯片厂商自己的选择——Habana 用 RoCE,AMD 用 Infinity Fabric,其他厂商可能用私有协议。这意味着 OAM 基板不是”万能底座”,需要针对具体芯片做适配。
学习路径
Level 1: 理解 OCP 生态
├── 阅读 OCP 官网 (opencompute.org) 关于 OAM 的概述页
├── 理解 OCP 联盟的运作方式与成员结构
└── 对比 OCP 其他标准(如 Open Rack、SONiC)理解"开放硬件"理念
Level 2: 掌握 OAM 规范细节
├── 下载并研读 OAM 规范文档(OCP 官网注册可获取)
├── 重点关注:机械尺寸、功耗包络、SerDes 规格、连接器定义、管理接口
└── 对比不同版本规范的演进(功率提升、lane 数增加等)
Level 3: 理解具体产品实现
├── 研读 Intel Habana Gaudi2/Gaudi3 的 OAM 产品白皮书
├── 研读 AMD Instinct MI250X 的 OAM 规格(部分资料在 AMD 官网)
├── 了解中国厂商(寒武纪、壁仞等)的 OAM 产品形态
└── 关注 OCP Global Summit 年会中的 OAM 相关演讲
Level 4: 系统级理解
├── 理解 OAM 基板/UBB 的设计挑战(电源、散热、信号完整性)
├── 理解 OAM 模组在完整 AI 训练集群中的位置(与网络、存储的交互)
└── 对比 NVIDIA DGX/HGX 架构理解 OAM 架构的优劣势
一句话总结
OAM 是 AI 芯片产业的”标准化努力”——它用统一的物理形态降低硬件集成门槛、增强供应链弹性,但受制于软件栈碎片化和顶级芯片的专有化趋势,其实际覆盖范围目前集中在 Meta 等超大规模用户和中国国产替代两条线上。
延伸阅读与来源
| 来源 | 说明 |
|---|---|
| OCP 官网 OAM 规范 | [opencompute.org] 官方规范文档,注册后可下载 |
| OCP Global Summit 演讲视频 | 每年 OCP 峰会中关于 OAM/加速器模组的技术演讲 |
| Intel Habana Gaudi 系列产品页 | Gaudi2/Gaudi3 的 OAM 形态规格与白皮书 |
| AMD Instinct 产品页 | MI250X 的 OAM 规格参考 |
| SemiAnalysis | 付费行业分析,对 AI 硬件形态演进有深度分析 |
| Colfax International | 曾发布 OAM 基板设计的技术分享 |
| 各中国 AI 芯片厂商官网 | 寒武纪、壁仞、燧原等的 OAM 产品规格页 |
⚠️ 免责声明:本文中未标注具体来源的数字与规格均为定性描述或行业共识性判断,具体参数请以 OCP 官方规范文档及各厂商官方规格为准。供应链占比数据为行业估算 [供应链估算],非精确统计。