计算托盘 (Compute Tray)
3 秒看懂
一句话定义:计算托盘是数据中心机架内的标准化、可插拔计算模块单元,将处理器、内存、网络接口等集成于一个扁平化的“抽屉”中,可滑入机箱背板实现高密度部署、集中供电与统一散热。
核心价值:把“服务器”从整机概念拆解成可灵活组合的乐高积木——运维效率↑、散热密度↑、故障隔离↑、部署速度↑。
3 分钟产业解释
从机柜里的“抽屉”说起
想象一个标准 19 英寸服务器机柜,传统做法是一台台 1U/2U 机架式服务器塞进去。但当 AI 训练需要数百颗加速卡协同、单机架功耗飙升至数十千瓦时,传统架构面临三大瓶颈:
- 布线复杂度爆炸:每台服务器独立走线,GPU 间互联、存储访问、管理网络交织成“面条墙”
- 散热不均匀:前后通风设计难以应对液冷需求,热点集中导致降频
- 运维颗粒度粗糙:换一块 GPU 可能需要抽出整台服务器,影响邻近节点
计算托盘正是为解决上述问题而生的模块化方案:
| 传统机架服务器 | 计算托盘架构 |
|---|---|
| 独立机箱、独立电源 | 共享机箱背板、集中供电/散热 |
| 整机故障=整机下线 | 单托盘故障=单托盘热替换 |
| 前后通风风冷 | 适配冷板液冷/浸没液冷 |
| 布线分散 | 背板统一互联,线缆集中 |
谁在用?
- 超大规模云厂商(Hyperscaler):自研数据中心标准化,如 Meta、Google、AWS
- AI 训练集群运营商:GPU 密集部署的首选形态,支持万卡级集群
- 高性能计算中心:科学计算、仿真模拟,要求高算力密度与高可靠性
技术原理
内部构成
┌─────────────────────────────────────────────────────────┐
│ 计算托盘 (Compute Tray) │
│ ┌──────────┐ ┌──────────┐ ┌──────────┐ ┌─────────┐ │
│ │ CPU/ │ │ 内存 │ │ 网络 │ │ 管理 │ │
│ │ 加速器 │ │ DIMM │ │ NIC │ │ BMC │ │
│ │ 模块 │ │ 插槽 │ │ 端口 │ │ 控制器 │ │
│ └──────────┘ └──────────┘ └──────────┘ └─────────┘ │
│ │ │ │ │ │
│ └──────────────┴────────────┴────────────┘ │
│ │ │
│ 背板连接器 (Backplane Connector) │
└───────────────────────────────────┬─────────────────────┘
│
┌───────────────┴───────────────┐
│ 机箱背板/中板 │
│ (集中供电/散热/网络交换) │
└───────────────────────────────┘
关键设计要素
1. 背板互联架构
计算托盘通过背板连接器与机箱中板对接,中板负责:
- 电源分配:集中式 PSU 向各托盘供电,托盘内部无需独立电源模块,供电效率提升并减少线缆
- 网络汇聚:托盘的网卡端口通过中板连接至顶部交换机 (ToR) 或机箱内置交换模块,支持 PCIe Gen5 / Gen6 等高速通道
- 管理总线:BMC 管理信号汇聚至机箱级管理控制器,实现统一远程监控
2. 散热方案适配
| 散热方式 | 托盘设计特征 | 适用场景 |
|---|---|---|
| 风冷 | 前后贯通通风,配备散热鳍片和风扇模块,托盘开孔率需精确设计 | 传统负载,中低密度 |
| 冷板液冷 | 托盘集成液冷管路快接接头,CPU/GPU 贴合冷板,冷板与芯片间需导热界面材料 | AI 训练,高密度 |
| 浸没液冷 | 托盘设计需适配绝缘液体,密封性和材料兼容性要求高,需考虑流体阻力与气泡管理 | 极端密度,前沿探索场景 |
3. 热插拔与故障隔离
- 托盘通过滑轨/导轨实现免工具拆装,支持在线更换
- 电气隔离设计:单托盘故障不影响机箱内其他托盘供电,保护电路与断路器配合
- 状态指示灯:托盘前端通常配备健康状态/故障指示,方便巡检
关键参数
衡量一个计算托盘方案的核心参数
| 指标 | 含义 | 重要性 | 典型数值范围(2024, 基于公开产品) |
|---|---|---|---|
| 单托盘加速器数量 | 托盘内可容纳的 GPU/加速卡数量 | 决定单模块算力密度 | 4~8 颗(如 NVIDIA H100/B200),亦有更高密度设计 |
| 单托盘功耗(TDP) | 托盘满载功耗 | 决定散热设计和机架级供电规划 | 1.5 kW ~ 6 kW,液冷托盘上限可达近 10 kW |
| 背板带宽 | 托盘与机箱中板间的通信带宽 | 影响跨托盘通信效率与扩展性 | 通常多条 PCIe 5.0 x16 或 NVLink 通道,合计可达数 Tb/s |
| 热插拔支持 | 是否支持在线替换 | 影响运维效率和可用性 | 大多数新一代托盘支持 |
| 液冷兼容性 | 是否适配冷板/浸没液冷 | 高密度场景必备 | 分为风冷版与液冷版,液冷版配快接头 |
| MTBF(平均无故障时间) | 可靠性指标 | 对 HPC/生产环境至关重要 | 因设计和负载而异,部分厂商标称超过 100,000 小时 |
| 单托盘重量 | 包含所有组件的重量 | 影响安装人力和机械设计 | 约 20~35 kg(含 GPU 与散热器) |
| 托盘高度 | 机架空间占用 | 影响单机架可容纳托盘数 | 常见 1 OU |
注:具体数值因厂商、型号、配置差异巨大,以上为 2024 年行业常见规格的近似范围,精确参数请参考各厂商产品规格书。
技术路线
与传统形态的对比
计算托盘并非凭空出现,而是沿着服务器形态演进的逻辑发展而来:
塔式服务器 → 机架式(1U/2U) → 刀片(Blade) → 计算托盘(Tray/Sled)
↓ ↓ ↓ ↓
独立供电 独立机箱 共享机箱 共享机箱+背板
独立散热 独立散热 共享风扇模块 集中式液冷/风冷
布线分散 布线分散 中央交换 背板统一互联
| 维度 | 传统机架服务器 | 刀片服务器 | 计算托盘(Tray/Sled) |
|---|---|---|---|
| 模块化程度 | 低 | 高 | 高 |
| 共享组件 | 无 | 电源、风扇、网络交换、管理 | 电源、散热、背板互联 |
| 散热灵活性 | 受限(前后通风) | 中等 | 高(适配多种液冷方案) |
| 标准化程度 | 高(行业通用) | 中(厂商专有机箱) | 中低(多为厂商自研,OCP 推动标准化) |
| 典型密度(定性) | 中 | 高 | 高 |
| 故障影响范围 | 单机 | 单刀片 | 单托盘 |
| 适用负载 | 通用计算 | 通用+虚拟化 | AI 训练/推理、HPC、云原生 |
| 供应链成熟度 | 高 | 中 | 中(头部厂商成熟,中小厂仍需定制) |
标准化进展
行业标准主要由 Open Compute Project (OCP) 推动,其制定的 Open Rack 系列规范定义了计算托盘的机械、电气及管理接口。但头部 Hyperscaler 如 Meta、Google、AWS 仍沿用自己的定制规格,形成“部分标准化、多数碎片化”的格局。2024 年 OCP Summit 上发布了进一步融合液冷与更高功率供电的新版规范,力图统一部分接口。
上游
上游供应链
| 环节 | 代表品类 | 说明与代表供应商(2024) |
|---|---|---|
| 计算芯片 | CPU、GPU/加速器 | 托盘核心算力来源,主要由 NVIDIA、AMD、Intel 提供;2024 年 NVIDIA H200/B200 系列加速 AI 托盘升级 |
| 存储 | SSD、内存条 (DIMM) | 容量和带宽直接影响计算效率;DDR5 与 HBM 内存用于不同层级 |
| 网络 | 网卡 (NIC)、交换芯片 | 托盘内网卡通过背板连接至交换层,PCIe/CXL/InfiniBand 等互联协议决定通信性能 |
| PCB/连接器 | 背板连接器、高速 PCB | 信号完整性和供电能力的关键;Amphenol、Molex、沪电股份等为主要供应商 |
| 散热组件 | 冷板、热管、风扇模块、快接接头 | 液冷渗透率提升带动冷板需求;CoolIT、Asetek、Cooler Master、双鸿等布局 |
| 机箱结构件 | 滑轨、导轨、金属框架 | 机械强度和装配精度要求高,主要由精密钣金、冲压厂商提供 |
| 电源 | 机箱级集中供电 PSU | 大功率高效率电源(3 kW~10 kW+),台达电、光宝科技等为主要代工商 |
数据来源:供应链调研、企业年报、Digitimes Research(2024),具体供应商份额未统一披露。
下游
下游应用
| 场景 | 需求特征 | 典型部署形态 |
|---|---|---|
| AI 训练集群 | GPU 密集、功耗高、需液冷、需高带宽互联(NVLink/InfiniBand) | 液冷计算托盘 + 智能机箱,单机架功耗 50 kW+ |
| AI 推理集群 | 计算密度中等、对延迟敏感、可能采用风冷 | 风冷或混合散热托盘,适配多模型部署 |
| HPC/科学计算 | 传统 CPU 密集或异构计算,对可靠性要求极高 | CPU+GPU 混合托盘,注重 ECC 内存与存储加速 |
| 云计算虚拟化 | CPU 为主,强调通用性和资源池化 | CPU 密集型托盘,可能沿用刀片形态 |
| 边缘计算 | 空间和功耗受限,要求紧凑体积 | 非标小型托盘,部分采用被动散热 |
受益公司
注意:以下仅为产业链角色梳理,不代表任何投资建议,亦不涉及对公司股价或业绩的预测。
| 类别 | 代表公司 | 与计算托盘的关联 |
|---|---|---|
| 品牌服务器厂商 | Dell Technologies、HPE、联想、浪潮信息、H3C | 直接出货托盘形态的服务器产品,受益于 AI 服务器升级周期 |
| ODM/JDM 代工 | 广达、纬创、英业达、鸿海(富士康) | 为 Hyperscaler 代工定制托盘,AI 订单占比持续上升 |
| 计算芯片/加速器 | NVIDIA、AMD、Intel | 托盘内置的计算核心,托盘设计围绕其功耗和接口演化 |
| 连接器/PCB | Amphenol、Molex、沪电股份、深南电路 | 背板连接器、高速 PCB 价值量随带宽和层数提升而增长 |
| 散热解决方案 | CoolIT Systems、Asetek、Cooler Master、双鸿、健策 | 液冷冷板、快接接头、导热界面材料为托盘液冷化关键部件 |
| 电源管理 | 台达电、光宝科技、Advanced Energy | 集中供电 PSU 的功率密度与效率持续升级 |
| 管理软件 | 各服务器厂商 BMC 固件、OpenBMC 社区 | 托盘级管理与机箱级协调软件,运维效率的软性支撑 |
以上均为市场公开信息整理,具体受益程度需结合各公司业务占比与竞争态势评估。
市场规模
市场估算(2023-2025)
计算托盘并非独立统计的细分市场,其价值通常包含在 服务器 或 AI 基础设施 整体市场中。以下基于相关市场推估:
| 指标 | 数据/范围 | 年份与来源 |
|---|---|---|
| 全球服务器市场收入 | 约 1,010 亿美元 | 2023 年,IDC《全球服务器季度追踪报告》(2024.03) |
| 全球服务器出货量 | 约 1,370 万台 | 2023 年,IDC (2024.03) |
| AI 服务器出货量 | 约 120 万台 | 2023 年,TrendForce (2024.01),占服务器出货约 8.8% |
| AI 服务器收入占比 | 约 17%~20% | 2023 年,Omdia (2024) |
| 液冷服务器出货量 | 约 30 万台(其中冷板式为主) | 2023 年,赛迪顾问 (2024),中国市场尤为显著 |
| 计算托盘相关市场 | 公开资料未见独立统计,可视为 AI 服务器与部分高性能服务器的载体 | —— |
趋势:2024-2025 年,随着大型语言模型 (LLM) 训练和推理需求增长,计算托盘形态在新建 AI 集群中的占比快速提升。据 TrendForce 预估,2024 年 AI 服务器出货量有望增长约 40%,进一步带动托盘及配套液冷需求。
玩家对比
主要厂商的计算托盘方案比较(2024 典型产品)
| 厂商/平台 | 产品系列 | 单托盘最大 GPU 数 | 散热方式 | 互联 | 特点 |
|---|---|---|---|---|---|
| Dell Technologies | PowerEdge XE9680/XE9860 | 8 颗 NVIDIA H200/B200 | 液冷(可选风冷) | NVLink + NVSwitch | 平衡模块化与主流客户需求 |
| HPE | ProLiant DL560/DL580 系列、Cray XD | 4~8 颗 | 混合(风冷/液冷) | Slingshot/IB | 面向 HPC 和企业 AI |
| 联想 | ThinkSystem SR680a V3/SR685a V3 | 8 颗 GPU | 液冷(Neptune) | InfiniBand/NVLink | 强调温水液冷与能效 |
| 浪潮信息 | NF5688M6/NF5888M6 | 8 颗 GPU | 液冷/风冷 | NVLink | 中国市场领先,适配国产 GPU |
| Meta(自研) | Grand Teton(OCP 贡献) | 高密度,未完全公开 | 液冷 | 定制背板 | 面向内部训练集群 |
| NVIDIA | DGX GB200 NVL72 液冷节点托盘 | 整合 72 颗 Blackwell GPU(节点级) | 液冷 | NVLink 5 | 极高密度,一体交付 |
说明:以上信息基于 2024 年公开产品资料整理,部分自研方案细节未完全披露。
风险
行业与投资层面需要注意的风险
- 技术迭代风险:若出现更优的模块化架构(如异构集成、光学互连等颠覆),现有托盘形态可能被替代,相关模具与产线面临沉没成本。
- 标准化碎片化:OCP 标准与多家厂商自研规格并存,使得 ODM 厂商需要维护多套模具与产线,增加成本负担,产品跨客户复用难度高。
- 服务器需求周期性:企业 IT 支出受宏观经济影响,AI 资本开支可能出现阶段性调整;2023-2024 年的高速增长能否持续存在不确定性。
- 供应链与地缘政治:高端 GPU 出口管制可能限制特定市场的高密度托盘需求,关键连接器、芯片等依赖单一区域的供应风险。
- 液冷技术成熟度:液冷快接头泄漏风险、长效冷却液兼容性、维护复杂性等,若出现重大事故可能延缓行业采用速度。
- 能耗配额与监管:高密度液冷机架功耗惊人(单机架 50 kW 以上),部分城市已对新建数据中心提出严格的 PUE 要求,可能限制高密度托盘部署的选址灵活性。
误读纠偏
误读 1:“计算托盘就是刀片服务器的翻版”
纠偏:两者虽有形态相似性,但设计目标和约束不同。刀片服务器强调通用计算的资源共享和管理简化,共享组件包括网络交换和管理模块;计算托盘更强调计算密度和散热适配,尤其针对 AI/HPC 场景的液冷集成、高速背板互联。刀片时代液冷并非核心需求,而今天计算托盘的设计中液冷兼容性往往是第一优先级。
误读 2:“计算托盘是标准化产品,各厂商方案通用”
纠偏:恰恰相反,当前计算托盘的标准化程度远低于传统机架服务器。头部 Hyperscaler(如 Meta、Google)的托盘设计通常为定制化规格,机械尺寸、背板接口、散热方案各不相同。OCP 虽有标准化努力,但覆盖范围有限。这意味着 ODM/JDM 厂商需要针对不同客户维护不同产线,供应链碎片化是现实挑战。
误读 3:“液冷托盘就是把风冷托盘加上水管”
纠偏:液冷托盘的设计远不止“加水管”。从结构件材料(需兼容冷却液、抗腐蚀)、连接器密封性(防泄漏)、冷板与芯片的贴合精度(影响散热效率)、到快接接头的插拔寿命,都是系统工程。浸没液冷的托盘设计更是需要全面考量材料兼容性和流体流道设计,涉及密封、排气、液位监控等环节。
最新事件
2024-2025 年关键动态
- NVIDIA 发布 GB200 NVL72 液冷节点(2024 年 3 月):将 72 颗 Blackwell GPU 以计算托盘形式集成,采用液冷与 NVLink 5,重新定义了高密度托盘的上限。
- Meta 公开 Grand Teton 平台细节(2023 年末 / 2024 年初):新一代 AI 训练平台采用定制液冷托盘,贡献给 OCP,提升社区标准。
- OCP Summit 2024 推进液冷标准(2024 年 10 月):OCP 发布了包含液冷接口与高功率供电的新版 Open Rack 规范,多家 ODM 展示兼容托盘。
- 浪潮/曙光等中国厂商批量交付液冷托盘(2024 年):在中国“东数西算”政策推动下,国产液冷托盘步入规模化部署,适配华为昇腾等国产加速器。
- 戴尔发布 PowerEdge XE9860(2024 年):集成 8 颗 Blackwell GPU,强调 PUE 优化与液冷集成,面向企业级 AI 市场。
- 台系 ODM 厂商 AI 订单强劲(2024 年):广达、纬创、英业达先后释出 AI 服务器(含托盘)大幅增长的出货指引,部分产线扩产。
来源:各公司官方新闻、OCP Summit 资料、媒体报道。
跟踪指标
观察计算托盘行业景气度的先行指标
| 指标 | 观测频率 | 意义 |
|---|---|---|
| 头部云厂商资本开支(CapEx) | 季度 | Meta、Microsoft、Google、Amazon 等 CapEx 指引直接预示基础设施采购规模 |
| NVIDIA 数据中心收入 | 季度 | 反映 GPU 加速器出货,是托盘需求的先行信号 |
| 台系 ODM 服务器月营收 | 月度 | 广达、纬创、英业达等月度营收可跟踪 AI 服务器产线稼动率和订单变化 |
| 液冷解决方案厂商订单 | 季度 | CoolIT、Asetek、双鸿等液冷组件出货趋势反映液冷托盘渗透速度 |
| 连接器/PCB 厂商订单 | 季度 | 高速背板连接器与高多层板订单可跟踪托盘生产用的关键物料需求 |
| OCP 新规范发布时间 | 年度 | 标准迭代影响产业链同向研发投入,可观测标准化进展 |
| 半导体设备与封测数据 | 月度/季 | GPU/CPU 产量和产能扩展间接决定托盘供给上限 |
| 主要经济区数据中心 PUE 政策 | 不定期 | 低压政策可能催生液冷托盘替换需求 |
注:公开数据来源分别来自公司财报、行业协会与市场研究机构。
信源
| 类型 | 资源 | 说明 |
|---|---|---|
| 行业标准 | Open Compute Project (OCP) 官网 | 开放计算项目,含 Open Rack 服务器规格文档 |
| 厂商文档 | Dell PowerEdge XE 系列、HPE ProLiant DL 系列、Inspur NF 系列、Lenovo Neptune 系列 | 关注“tray”“sled”“node”设计描述与规格书 |
| 市场数据 | IDC、Gartner、TrendForce、Omdia、赛迪顾问 | 全球及区域服务器、AI 服务器、液冷市场规模数据 |
| 技术媒体 | ServeTheHome、AnandTech Server 板块、Next Platform | 服务器硬件深度评测、架构分析与行业动态 |
| 供应链媒体 | Digitimes、MoneyDJ、集微网 | ODM 厂商接单、排产与供应链消息 |
| 企业财报与法说 | 主要 ODM/服务器品牌/芯片厂商季度报告 | 营收、出货指引及 AI 业务占比披露 |
| 学术/行业会议 | OCP Summit、SC(超算大会)、Hot Chips、GTC | 前沿技术、标准化进展与新品发布 |
本文中明确标注来源的数字均基于公开可查的市场报告和企业公告。未标注具体数值或标注“公开资料未见”的,表示在撰写时未获取到权威、统一的定量披露,相关指标需跟踪最新行业报告或厂商白皮书获取精确数据。