服务器主板
3 秒看懂
服务器主板是承载 CPU、内存、加速卡、网络与存储模块的系统基板,在方寸之间实现大功率供电、数百条高速信号互联与带外管理。在 AI 训练服务器中,主板决定 GPU 扩展规模、互连带宽和供电品质,成为影响大规模并行训练效率的底层枢纽。
3 分钟产业解释
AI 服务器主板不是普通 PC 主板的放大版。一块面向千亿参数大模型训练的服务器主板,需要在相同甚至更紧凑的面积内,为多颗高功耗 CPU 和众多 GPU/NPU 提供数百安培电流,同时保证数百条 PCIe/UPI/xGMI 等高速串行链路的信号质量。为此,主板普遍采用超低损耗 PCB 材料、多相并联供电、重定时器(Retimer)以及独立的基板管理控制器(BMC),并将 GPU 互连从标准插槽进化为专用高速连接器或直连基板。
从产业链位置看,服务器主板处于核心计算平台的中游——向上承接 CPU、内存、加速器等芯片与被动元件,向下交付给白牌/ODM 厂商整机集成,最终部署到云服务商与 AI 企业的数据中心。伴随大模型训练对算力密度和网络带宽的爆发式需求,主板不再是通用计算平台的“配角”,而是整个 AI 计算平面的高速信号与功率分发中枢,设计复杂度已远超市面上绝大多数硬件系统。
技术原理
核心互联拓扑
一台典型的双路 AI 训练服务器主板围绕两颗高性能 CPU 构建,每路 CPU 挂载独立内存通道(DDR5 RDIMM/LRDIMM),并通过 UPI、xGMI 或 Infinity Fabric 实现缓存一致性对称多处理。CPU 提供的 PCIe 根端口经重定时器消除板内长距离损耗后,连接到 GPU 基板、网卡或 NVMe 存储。在 GPU 密集形态(如 NVIDIA HGX)中,CPU 通过 PCIe 交换机与 GPU 基板相连,GPU 间专用高速链路(如 NVLink)则在基板层完成互联,与主板本体形成松耦合。
+--------------------------------------------------------------------+
| AI Server Motherboard |
| |
| +-----------+ +-----------+ |
| | CPU 0 |<==>| CPU 1 | (Dual Socket, xGMI/UPI) |
| +-----+-----+ +-----+-----+ |
| | DDR5 A/B | DDR5 C/D |
| +-----v-----+ +-----v-----+ |
| | Memory Ch.| | Memory Ch.| (RDIMM/LRDIMM slots) |
| +-----------+ +-----------+ |
| |
| +----------+ +--------+ +------------------------+ |
| | Chipset |------------| BMC | | OCP NIC / Mezz. | |
| | (PCH) | +--------+ +------------------------+ |
| +---|--|---+ |
| | | PCIe x4/x8 to NVMe/SATA |
| | | |
| +---v--v---+ +---+ +---+ +---+ +-----+ |
| | Retimer | |PCI| |PCI| |PCI| | GPU | |
| +----------+ |e | |e | |e | |Basebd| |
| |x16| |x16| |x16| | High | |
| +---+ +---+ +---+ | Speed| |
| |Conn. | |
| +-----+ |
| +----------------------------------------------------------------+|
| | Power Delivery Network (Multi-phase VRM, POL) ||
| +----------------------------------------------------------------+|
+--------------------------------------------------------------------+
电源分布网络(PDN)
GPU 瞬时功耗跳跃可达数百瓦,主板 VRM(电压调节模块)需采用多相交错并联 DC-DC 拓扑(常见 12 相以上),搭配低 ESR 固态电容、超大容量陶瓷电容与低感磁性材料,将电源分配网络在直流到数百 MHz 频段内的阻抗压缩至毫欧级,确保瞬态压降被限制在数十毫伏以内。部分新一代 AI 主板已转向 48 V 母线供电架构,以降低线损并提高供电效率。
高速串行链路与信号完整性
PCIe 5.0/6.0 信号速率已分别达到 32 GT/s 和 64 GT/s,接收端必须通过连续时间线性均衡(CTLE)与判决反馈均衡(DFE)来克服码间干扰。主板设计需对差分线对严格等长、控制阻抗,并采用背钻、过孔反焊盘调优等工艺。当走线过长或过孔数量过多时,必须在线路中插入重定时器,以恢复信号质量并保证链路训练成功。链路训练会在上电时协商速率、均衡参数与通道宽度,若通道衰减超标则会降速甚至降宽工作。
BMC 管理子系统
BMC 芯片(通常基于 ARM 内核)拥有独立电源域、DRAM 与闪存,通过 I2C/IPMB/SPI 等管理总线采集温度、电压、功耗与风扇转速。依托 NC-SI 侧带接口,BMC 可共享板载网口,实现完整远程 KVM、虚拟介质挂载与固件更新。对于万卡级 GPU 集群,BMC 是故障定位与资源调度的重要数据入口,并逐步朝向 OpenBMC 与 Redfish 标准化生态演化。
关键参数
- PCIe 总带宽:由 CPU 的 PCIe 通道数、代数以及交换芯片/重定时器共同决定。以 2023 年发布的 AMD EPYC 9004 系列为例,单路支持 128 条 PCIe 5.0 通道(来源:AMD 公开技术文档),提供了充裕的 GPU 与网络注入带宽。
- 内存带宽与容量:每颗 CPU 可配备 8~12 条 DDR5 通道,配合 RDIMM/LRDIMM 或新一代 MRDIMM,容量可达数 TB。高内存带宽对数据预处理、CPU 侧梯度聚合至关重要。
- CPU 间互联带宽:双路系统中 UPI/xGMI 的速率决定跨 NUMA 节点的数据共享效率。例如,第四代至强可扩展处理器通过 4 条 UPI 2.0 提供最高约 16 GT/s 的互联(来源:英特尔平台数据手册)。
- 功率支持上限:主板 VRM、电源连接器及铜厚等限定了可承载的峰值电流与总 TDP。高端 AI 主板常设计为支持每 GPU 功耗 500~700 W(持续)的供电能力。
- BMC 功能完备性:Redfish 支持、远程固件更新、传感器精度、带内/带外交互延迟等指标,是万级节点运维规模化的重要基线。
技术路线
演进历程
- 早期(约 2010–2015 年):基于通用双路 Xeon 主板,通过标准 PCIe 2.0/3.0 x16 插槽直连 2~4 块 GPU,采用 EEB/ATX 形态,供电和散热设计冗余有限。
- 多卡扩展阶段(约 2016–2020 年):集成 PCIe 交换机的主板出现,将有限根端口扩展为更多 x16 物理接口以支持 4 块以上 GPU,但需承受带宽池化带来的性能损失。
- 专用 AI 平台(2020 年起):NVIDIA HGX、OAM 等基板形态铺开,主板与 GPU 基板分离,引入专用高速连接器替代标准 PCIe 插槽,信号路径更短、供电能力更强。主板同步演化出 48 V 母线供电、独立基板管理逻辑与液冷适配能力。
- 异构与开放(持续推进):OCP 开放加速器基础设施(OAI)规范推动同类主板标准化,支持不同加速器模块热插拔。同时,CXL(Compute Express Link)协议逐步渗透,使主板具备缓存/内存池化与加速器一致性访问潜力。
形态对比
注:下表为定性对比,未引用各平台量产版规格书中详细数值,如需精确数字需查阅对应产品 datasheet。
| 特性 | 传统通用双路服务器主板 | AI 训练优化主板(GPU 密集) | 开放标准主板(OCP OAI 类) |
|---|---|---|---|
| CPU 插槽 | 双路,可向上扩展 | 双路或单路,面向高吞吐 | 标准化多代兼容 |
| GPU 连接方式 | 标准 PCIe x16 插槽,数量有限 | 专用基板连接器(SXM/OAM),信号路径短,支持大功率 | 模块化基板连接器,支持不同加速器 |
| PCIe 代次与拓扑 | PCIe 3.0/4.0,可含 Switch | PCIe 4.0/5.0/6.0,多级 Retimer,CPU-GPU 常经 Switch | 预留 PCIe 和 CXL 接口,拓扑灵活配置 |
| 内存技术 | DDR4 ECC,通道数量中等 | DDR5 ECC,多通道、高频率,大容量 RDIMM/LRDIMM | 跟随 JEDEC 标准,扩展性明确 |
| 电源架构 | 12 V 输入,多相 VRM,中等功率 | 大电流多相供电,部分转向 48 V 母线,大功率辅助供电 | 高效开放电源架构,规范电压范围 |
| 管理能力 | 标准 BMC,IPMI 2.0 | 增强 BMC,集成 GPU 监控、功耗封顶、集群遥测 | 标准带外管理,OpenBMC 可选 |
| 物理形态 | 标准 EEB/专有机箱 | 定制大尺寸,适配高密风道或冷板 | 遵循 OCP 开放框架尺寸 |
上游
- 芯片与 IP:英特尔、AMD 提供 CPU 与 PCH;博通、Microchip 提供 PCIe 交换机与重定时器;Astera Labs 是 PCIe Retimer 领域的关键供应商。
- BMC 管理芯片:ASPEED Technology 占据服务器 BMC 市场绝大多数份额,新唐科技等亦有参与(截至 2024 年,多项行业分析指出 ASPEED 出货量占比超过 80%,具体数值公开资料未见独立精确统计)。
- PCB 与材料:深南电路、沪电股份、生益科技等提供高层数、低损耗覆铜板与 HDI 工艺,M6 级及以上材料已成主流。
- 连接器与被动元件:泰科、安费诺、Molex 主导高速连接器;村田、TDK、三星电机等提供 VRM 所需低损耗电感和电容。
下游
- 白牌/ODM 厂商:英业达、广达、鸿海精密、纬创、卓易等将主板集成为完整系统,直接供应给北美及中国大型云服务提供商(CSP)。根据 Digitimes Research 追踪(2023 年),广达、英业达、鸿海长期位列全球服务器 ODM 出货前三。
- 品牌服务器厂商:戴尔科技、慧与(HPE)、联想、浪潮信息、新华三等销售集成系统,面向企业与政企市场。
- 最终用户:海外主要 CSP(AWS、Azure、Google Cloud、Meta)、国内互联网巨头、AI 研究机构与大型企业。
受益公司
注:以下仅描述产业内在逻辑,不构成任何投资建议或交易推荐。
- 超微电脑(Super Micro Computer, SMCI):直接受益于 AI 服务器整机及主板的高 ASP。2024 财年(截至 2024 年 6 月)公司收入达 149.4 亿美元,同比增长约 110%(来源:超微电脑 FY2024 10-K)。其快速定制化能力使其成为 GPU 平台迭代的重要受益者。
- ODM 厂商(英业达、广达、鸿海精密):承接 CSP 大量 AI 服务器订单,其中主板设计、制造与集成贡献可观营收。公开业绩说明会中,上述厂商多次提及 AI 服务器业务高速增长。
- 芯片组与互联 IP 供应商:英特尔的至强平台、AMD 的 EPYC 平台、博通与 Astera Labs 的 PCIe 交换机/ Retimer 产品随主板价值量提升而扩大销售。
- BMC 芯片:ASPEED 作为核心供应商,其月度营收常被市场视为服务器出货先行指标。2024 年 ASPEED 月度营收同比持续高增长,反映 AI 服务器拉货力度。
- 国内产业链映射:浪潮信息、新华三、中科曙光等整机厂商向上游主板供应链扩散采购;PCB 供应商(深南电路、沪电股份)及连接器厂商间接受益于高端主板需求。
市场规模
截至 2025 年 4 月,公开资料未见第三方机构单独披露“AI 服务器主板”这一细分市场的精确营收或出货量绝对值。以下通过相关产业链财务线索进行定性推演。
- NVIDIA 数据中心收入:从 FY2024 的 475.25 亿美元增至 FY2025(截至 2025 年 1 月)的更高水平(来源:NVIDIA 财务报告),印证 AI 训练/推理基础设施大规模部署。
- 超微电脑收入:FY2024 增长约 110% 至 149.4 亿美元,且明确将增长归因于 GPU 相关系统与主板出货。
- BMC 芯片月度营收:ASPEED 2024 年多个月份营收创历史新高,暗示服务器主板生产活跃度。
- 价值量参考:产业链调研普遍估算 AI 服务器主板(含 GPU 基板)在整机 BOM 中的占比可达 15%~25%(因配置而异),明显高于传统服务器主板。随 PCIe 代数演进、层数增加和材料升级,主板 ASP 呈结构性上升趋势。
若不依赖精确数值,从上述交叉验证可推断:AI 服务器主板正处于量价齐升通道,其终端市场规模在百亿美元级别。具体数字建议查阅 IDC、Omdia 针对 AI 服务器/主板市场的最新付费报告。
玩家对比
| 玩家类型 | 代表企业 | 核心模式 | AI 主板布局特点 |
|---|---|---|---|
| 白牌/ODM 一级 | 英业达、广达、鸿海精密 | 直接面向 CSP 的整机设计制造,量大且高度定制 | 参与 NVIDIA/AMD 参考设计,掌握高难度高速信号与 PDN 设计,产能充沛 |
| 品牌解决方案商 | 超微电脑 | 快速上市的标准化产品 + 深度定制,兼顾速度与弹性 | 拥有最丰富的 GPU 服务器产品线,直接受益代际切换 |
| 品牌企业级 | 戴尔科技、慧与、联想 | 以服务与完整企业解决方案打包销售 | 推出 PowerEdge XE 等系列,重点布局液冷和主流 GPU 加速 |
| 国内整机品牌 | 浪潮信息、新华三、中科曙光 | 面向国内 CSP 和政企,部分自主设计主板 | 注重信创适配与本土供应链整合,主板自研比例提高 |
| 组件级厂商 | 技嘉科技、华硕 | 服务器主板与小型系统,倾向渠道及中小型部署 | 提供基于最新芯片组的标准化 AI 主板,灵活度较高 |
风险
- 技术迭代风险:PCIe 6.0、CXL 3.0 以及未来 PCIe 7.0 的导入需要重新设计 PDN 与信号路径,研发和验证周期长,错误可能导致量产延迟。
- 关键元器件供给集中:高端 PCB 材料、Retimer、BMC 芯片、高速连接器等由少数供应商主导,任何供应中断都将影响主板交付。
- 客户集中度:头部 CSP 占据绝大部分 AI 服务器采购,ODM 与品牌厂对单一客户依赖度高,资本开支波动敏感。
- 地缘政治与贸易政策:高端芯片出口管控、关税调整等可能重塑供应链,导致非本土市场订单转移。
- 散热与功耗挑战:CPU+GPU 整板功耗已逼近机柜极限,若液冷或浸没方案成本与可靠性进展不及预期,可能抑制高密度主板部署节奏。
误读纠偏
- “AI 服务器主板与消费级主板差异不大” 实际 AI 主板在 PCB 层数(可达 20 层以上)、铜厚、低损耗材料、多相供电规模(数十相 VRM)、持续满载验证等方面远超消费级。消费级平台无法 7×24 小时承受数百安电流与苛刻信号完整性要求。
- “主板性能仅由芯片组决定,GPU 扩展关系不大” Retimer 布局、连接器选型、走线拓扑与 PDN 设计直接决定 GPU 间有效带宽和训练稳定性。不合理的拓扑可能导致多 GPU 训练速度显著低于理论峰值。
- “标准双路主板插满 GPU 就是 AI 服务器主板” 标准主板受限于电源总包、插槽物理强度与信号路径长度,难以承载大功率、大数量 GPU。AI 主板需专为 GPU 集群定制供电和互连,并使用专用高密连接器替代标准插槽。
- “用料越豪华越好” 主板设计强调整体协同,单纯堆砌高端电容、电感而忽视 PDN 目标阻抗与去耦网络谐振,反而可能引发电压纹波超标。
最新事件
- NVIDIA Blackwell 平台发布:2024 年 GTC 公布 Blackwell GPU,配套 HGX B200/B100 主板方案,推动 ODM 开发支持更高功耗(单 GPU 可达 1000 W)和 NVLink 互连的新一代主板,加速 48 V 供电与液冷设计落地。(来源:NVIDIA 官方新闻)
- AMD MI300X 规模出货:采用 OAM 模块形态,促使 ODM 适配开放加速器主板,CPU-GPU 间通过 Infinity Fabric 互连,增强开放生态板卡的吸引力。(来源:AMD 2024 年产品动态)
- 英特尔至强 6 处理器(Granite Rapids)上市:2024 年 9 月发布,支持 MCR DIMM(多路复用列 DIMM),主板内存带宽大幅提升,推动新一轮平台换代。(来源:英特尔官方新闻)
- PCIe 7.0 规范 0.5 版公布:2024 年 PCI-SIG 发布 0.5 版草案,速率翻倍至 128 GT/s,主板设计需应对更严苛的信号完整性要求,预示未来材料与架构升级方向。(来源:PCI-SIG 公开声明)
- Astera Labs IPO:2024 年 3 月,PCIe Retimer 领军企业 Astera Labs 上市,其业绩成为观察 AI 主板连接件需求的重要窗口。(来源:公开市场信息)
- OCP OAM 规范演进:2024 年 OCP 全球峰会上,多个伙伴展示 OAM v2 设计,支持更高功率模块和 CXL 互联,扩大开放主板的生态参与度。(来源:OCP 社区)
跟踪指标
- 云厂商资本支出:Amazon、Microsoft、Google、Meta 季度资本开支及 AI 相关指引(公开财报),直接预示服务器采购量。
- NVIDIA 数据中心收入:每个季度增长率可反映 AI 基础设施扩张节奏,间接映射主板需求增量。
- 超微电脑营收与毛利率:作为直接映射 AI 服务器出货的上市公司,其季度净销售额和盈利变化体现主板产品组合与定价能力。
- ASPEED 月度营收:BMC 芯片出货是服务器主板产量同步指标,每月 5 日左右公开,可提前感知行业冷暖。
- Astera Labs 营收:PCIe Retimer 出货量反映高速接口需求强度,与主板 PCIe 代际升级节奏高度相关。
- 关键元件价格与交期:DDR5 RDIMM/MRDIMM 价格、高端 PCB 产能与交期、连接器订单等,可从行业供应链渠道(如 TrendForce、中金科技硬件)获取。
- OCP 与标准组织动态:OAM 规范更新、CXL 联盟发布新协议,一般会引发一轮主板重新设计与采购。
信源
- 芯片与平台文档:NVIDIA HGX 平台架构白皮书、英特尔至强平台数据手册、AMD EPYC 技术架构文档。
- 上市公司财报/公告:超微电脑(SMCI)10-K/Q、ASPEED 月度营收(台湾公开资讯站)、Astera Labs 业绩等。
- 市场研究机构:IDC 全球服务器季度追踪、Omdia Cloud & Data Center Market Tracker、Digitimes Research 服务器 ODM 追踪、TrendForce 服务器与存储报告(部分为付费订阅)。
- 开放标准:OCP 开放加速器基础设施(OAI)规范、PCI-SIG 电气规范摘要、CXL 联盟公开资源。
- 行业媒体与社区:ServeTheHome 硬件拆解与板级分析,Next Platform 深度架构文章,可辅助理解主板设计取舍。
- 备注:本稿内所有定量结论以标注来源的最新官方文件或专业数据库检索为准。未检索到确切数字处已如实标明“公开资料未见”,建议通过上述信源跟踪后续更新。