网络层 开放阅读

计算托盘

Compute Tray

概念 ID
compute-tray
更新时间
2026-05-29
来源数量
待补

计算托盘 (Compute Tray)

3 秒看懂

一句话定义:计算托盘是数据中心机架内的标准化、可插拔计算模块单元,将处理器、内存、网络接口等集成于一个扁平化的“抽屉”中,可滑入机箱背板实现高密度部署、集中供电与统一散热。

核心价值:把“服务器”从整机概念拆解成可灵活组合的乐高积木——运维效率↑、散热密度↑、故障隔离↑、部署速度↑。

3 分钟产业解释

从机柜里的“抽屉”说起

想象一个标准 19 英寸服务器机柜,传统做法是一台台 1U/2U 机架式服务器塞进去。但当 AI 训练需要数百颗加速卡协同、单机架功耗飙升至数十千瓦时,传统架构面临三大瓶颈:

  1. 布线复杂度爆炸:每台服务器独立走线,GPU 间互联、存储访问、管理网络交织成“面条墙”
  2. 散热不均匀:前后通风设计难以应对液冷需求,热点集中导致降频
  3. 运维颗粒度粗糙:换一块 GPU 可能需要抽出整台服务器,影响邻近节点

计算托盘正是为解决上述问题而生的模块化方案:

传统机架服务器计算托盘架构
独立机箱、独立电源共享机箱背板、集中供电/散热
整机故障=整机下线单托盘故障=单托盘热替换
前后通风风冷适配冷板液冷/浸没液冷
布线分散背板统一互联,线缆集中

谁在用?

  • 超大规模云厂商(Hyperscaler):自研数据中心标准化,如 Meta、Google、AWS
  • AI 训练集群运营商:GPU 密集部署的首选形态,支持万卡级集群
  • 高性能计算中心:科学计算、仿真模拟,要求高算力密度与高可靠性

技术原理

内部构成

┌─────────────────────────────────────────────────────────┐
│                    计算托盘 (Compute Tray)               │
│  ┌──────────┐  ┌──────────┐  ┌──────────┐  ┌─────────┐ │
│  │  CPU/     │  │  内存     │  │  网络     │  │  管理   │ │
│  │  加速器   │  │  DIMM    │  │  NIC     │  │  BMC    │ │
│  │  模块     │  │  插槽    │  │  端口    │  │  控制器 │ │
│  └──────────┘  └──────────┘  └──────────┘  └─────────┘ │
│         │              │            │            │       │
│         └──────────────┴────────────┴────────────┘       │
│                           │                              │
│                    背板连接器 (Backplane Connector)       │
└───────────────────────────────────┬─────────────────────┘
                                    │
                    ┌───────────────┴───────────────┐
                    │        机箱背板/中板           │
                    │  (集中供电/散热/网络交换)      │
                    └───────────────────────────────┘

关键设计要素

1. 背板互联架构

计算托盘通过背板连接器与机箱中板对接,中板负责:

  • 电源分配:集中式 PSU 向各托盘供电,托盘内部无需独立电源模块,供电效率提升并减少线缆
  • 网络汇聚:托盘的网卡端口通过中板连接至顶部交换机 (ToR) 或机箱内置交换模块,支持 PCIe Gen5 / Gen6 等高速通道
  • 管理总线:BMC 管理信号汇聚至机箱级管理控制器,实现统一远程监控

2. 散热方案适配

散热方式托盘设计特征适用场景
风冷前后贯通通风,配备散热鳍片和风扇模块,托盘开孔率需精确设计传统负载,中低密度
冷板液冷托盘集成液冷管路快接接头,CPU/GPU 贴合冷板,冷板与芯片间需导热界面材料AI 训练,高密度
浸没液冷托盘设计需适配绝缘液体,密封性和材料兼容性要求高,需考虑流体阻力与气泡管理极端密度,前沿探索场景

3. 热插拔与故障隔离

  • 托盘通过滑轨/导轨实现免工具拆装,支持在线更换
  • 电气隔离设计:单托盘故障不影响机箱内其他托盘供电,保护电路与断路器配合
  • 状态指示灯:托盘前端通常配备健康状态/故障指示,方便巡检

关键参数

衡量一个计算托盘方案的核心参数

指标含义重要性典型数值范围(2024, 基于公开产品)
单托盘加速器数量托盘内可容纳的 GPU/加速卡数量决定单模块算力密度4~8 颗(如 NVIDIA H100/B200),亦有更高密度设计
单托盘功耗(TDP)托盘满载功耗决定散热设计和机架级供电规划1.5 kW ~ 6 kW,液冷托盘上限可达近 10 kW
背板带宽托盘与机箱中板间的通信带宽影响跨托盘通信效率与扩展性通常多条 PCIe 5.0 x16 或 NVLink 通道,合计可达数 Tb/s
热插拔支持是否支持在线替换影响运维效率和可用性大多数新一代托盘支持
液冷兼容性是否适配冷板/浸没液冷高密度场景必备分为风冷版与液冷版,液冷版配快接头
MTBF(平均无故障时间)可靠性指标对 HPC/生产环境至关重要因设计和负载而异,部分厂商标称超过 100,000 小时
单托盘重量包含所有组件的重量影响安装人力和机械设计约 20~35 kg(含 GPU 与散热器)
托盘高度机架空间占用影响单机架可容纳托盘数常见 1 OU2 OU(Open Rack 单位),或等效 1.5U2U

注:具体数值因厂商、型号、配置差异巨大,以上为 2024 年行业常见规格的近似范围,精确参数请参考各厂商产品规格书。


技术路线

与传统形态的对比

计算托盘并非凭空出现,而是沿着服务器形态演进的逻辑发展而来:

塔式服务器 → 机架式(1U/2U) → 刀片(Blade) → 计算托盘(Tray/Sled)
    ↓              ↓              ↓              ↓
  独立供电      独立机箱      共享机箱       共享机箱+背板
  独立散热      独立散热      共享风扇模块   集中式液冷/风冷
  布线分散      布线分散      中央交换       背板统一互联
维度传统机架服务器刀片服务器计算托盘(Tray/Sled)
模块化程度
共享组件电源、风扇、网络交换、管理电源、散热、背板互联
散热灵活性受限(前后通风)中等高(适配多种液冷方案)
标准化程度高(行业通用)中(厂商专有机箱)中低(多为厂商自研,OCP 推动标准化)
典型密度(定性)
故障影响范围单机单刀片单托盘
适用负载通用计算通用+虚拟化AI 训练/推理、HPC、云原生
供应链成熟度中(头部厂商成熟,中小厂仍需定制)

标准化进展

行业标准主要由 Open Compute Project (OCP) 推动,其制定的 Open Rack 系列规范定义了计算托盘的机械、电气及管理接口。但头部 Hyperscaler 如 Meta、Google、AWS 仍沿用自己的定制规格,形成“部分标准化、多数碎片化”的格局。2024 年 OCP Summit 上发布了进一步融合液冷与更高功率供电的新版规范,力图统一部分接口。


上游

上游供应链

环节代表品类说明与代表供应商(2024)
计算芯片CPU、GPU/加速器托盘核心算力来源,主要由 NVIDIA、AMD、Intel 提供;2024 年 NVIDIA H200/B200 系列加速 AI 托盘升级
存储SSD、内存条 (DIMM)容量和带宽直接影响计算效率;DDR5 与 HBM 内存用于不同层级
网络网卡 (NIC)、交换芯片托盘内网卡通过背板连接至交换层,PCIe/CXL/InfiniBand 等互联协议决定通信性能
PCB/连接器背板连接器、高速 PCB信号完整性和供电能力的关键;Amphenol、Molex、沪电股份等为主要供应商
散热组件冷板、热管、风扇模块、快接接头液冷渗透率提升带动冷板需求;CoolIT、Asetek、Cooler Master、双鸿等布局
机箱结构件滑轨、导轨、金属框架机械强度和装配精度要求高,主要由精密钣金、冲压厂商提供
电源机箱级集中供电 PSU大功率高效率电源(3 kW~10 kW+),台达电、光宝科技等为主要代工商

数据来源:供应链调研、企业年报、Digitimes Research(2024),具体供应商份额未统一披露。


下游

下游应用

场景需求特征典型部署形态
AI 训练集群GPU 密集、功耗高、需液冷、需高带宽互联(NVLink/InfiniBand)液冷计算托盘 + 智能机箱,单机架功耗 50 kW+
AI 推理集群计算密度中等、对延迟敏感、可能采用风冷风冷或混合散热托盘,适配多模型部署
HPC/科学计算传统 CPU 密集或异构计算,对可靠性要求极高CPU+GPU 混合托盘,注重 ECC 内存与存储加速
云计算虚拟化CPU 为主,强调通用性和资源池化CPU 密集型托盘,可能沿用刀片形态
边缘计算空间和功耗受限,要求紧凑体积非标小型托盘,部分采用被动散热

受益公司

注意:以下仅为产业链角色梳理,不代表任何投资建议,亦不涉及对公司股价或业绩的预测。

类别代表公司与计算托盘的关联
品牌服务器厂商Dell Technologies、HPE、联想、浪潮信息、H3C直接出货托盘形态的服务器产品,受益于 AI 服务器升级周期
ODM/JDM 代工广达、纬创、英业达、鸿海(富士康)为 Hyperscaler 代工定制托盘,AI 订单占比持续上升
计算芯片/加速器NVIDIA、AMD、Intel托盘内置的计算核心,托盘设计围绕其功耗和接口演化
连接器/PCBAmphenol、Molex、沪电股份、深南电路背板连接器、高速 PCB 价值量随带宽和层数提升而增长
散热解决方案CoolIT Systems、Asetek、Cooler Master、双鸿、健策液冷冷板、快接接头、导热界面材料为托盘液冷化关键部件
电源管理台达电、光宝科技、Advanced Energy集中供电 PSU 的功率密度与效率持续升级
管理软件各服务器厂商 BMC 固件、OpenBMC 社区托盘级管理与机箱级协调软件,运维效率的软性支撑

以上均为市场公开信息整理,具体受益程度需结合各公司业务占比与竞争态势评估。


市场规模

市场估算(2023-2025)

计算托盘并非独立统计的细分市场,其价值通常包含在 服务器AI 基础设施 整体市场中。以下基于相关市场推估:

指标数据/范围年份与来源
全球服务器市场收入约 1,010 亿美元2023 年,IDC《全球服务器季度追踪报告》(2024.03)
全球服务器出货量约 1,370 万台2023 年,IDC (2024.03)
AI 服务器出货量约 120 万台2023 年,TrendForce (2024.01),占服务器出货约 8.8%
AI 服务器收入占比约 17%~20%2023 年,Omdia (2024)
液冷服务器出货量约 30 万台(其中冷板式为主)2023 年,赛迪顾问 (2024),中国市场尤为显著
计算托盘相关市场公开资料未见独立统计,可视为 AI 服务器与部分高性能服务器的载体——

趋势:2024-2025 年,随着大型语言模型 (LLM) 训练和推理需求增长,计算托盘形态在新建 AI 集群中的占比快速提升。据 TrendForce 预估,2024 年 AI 服务器出货量有望增长约 40%,进一步带动托盘及配套液冷需求。


玩家对比

主要厂商的计算托盘方案比较(2024 典型产品)

厂商/平台产品系列单托盘最大 GPU 数散热方式互联特点
Dell TechnologiesPowerEdge XE9680/XE98608 颗 NVIDIA H200/B200液冷(可选风冷)NVLink + NVSwitch平衡模块化与主流客户需求
HPEProLiant DL560/DL580 系列、Cray XD4~8 颗混合(风冷/液冷)Slingshot/IB面向 HPC 和企业 AI
联想ThinkSystem SR680a V3/SR685a V38 颗 GPU液冷(Neptune)InfiniBand/NVLink强调温水液冷与能效
浪潮信息NF5688M6/NF5888M68 颗 GPU液冷/风冷NVLink中国市场领先,适配国产 GPU
Meta(自研)Grand Teton(OCP 贡献)高密度,未完全公开液冷定制背板面向内部训练集群
NVIDIADGX GB200 NVL72 液冷节点托盘整合 72 颗 Blackwell GPU(节点级)液冷NVLink 5极高密度,一体交付

说明:以上信息基于 2024 年公开产品资料整理,部分自研方案细节未完全披露。


风险

行业与投资层面需要注意的风险

  1. 技术迭代风险:若出现更优的模块化架构(如异构集成、光学互连等颠覆),现有托盘形态可能被替代,相关模具与产线面临沉没成本。
  2. 标准化碎片化:OCP 标准与多家厂商自研规格并存,使得 ODM 厂商需要维护多套模具与产线,增加成本负担,产品跨客户复用难度高。
  3. 服务器需求周期性:企业 IT 支出受宏观经济影响,AI 资本开支可能出现阶段性调整;2023-2024 年的高速增长能否持续存在不确定性。
  4. 供应链与地缘政治:高端 GPU 出口管制可能限制特定市场的高密度托盘需求,关键连接器、芯片等依赖单一区域的供应风险。
  5. 液冷技术成熟度:液冷快接头泄漏风险、长效冷却液兼容性、维护复杂性等,若出现重大事故可能延缓行业采用速度。
  6. 能耗配额与监管:高密度液冷机架功耗惊人(单机架 50 kW 以上),部分城市已对新建数据中心提出严格的 PUE 要求,可能限制高密度托盘部署的选址灵活性。

误读纠偏

误读 1:“计算托盘就是刀片服务器的翻版”

纠偏:两者虽有形态相似性,但设计目标和约束不同。刀片服务器强调通用计算的资源共享和管理简化,共享组件包括网络交换和管理模块;计算托盘更强调计算密度和散热适配,尤其针对 AI/HPC 场景的液冷集成、高速背板互联。刀片时代液冷并非核心需求,而今天计算托盘的设计中液冷兼容性往往是第一优先级。

误读 2:“计算托盘是标准化产品,各厂商方案通用”

纠偏:恰恰相反,当前计算托盘的标准化程度远低于传统机架服务器。头部 Hyperscaler(如 Meta、Google)的托盘设计通常为定制化规格,机械尺寸、背板接口、散热方案各不相同。OCP 虽有标准化努力,但覆盖范围有限。这意味着 ODM/JDM 厂商需要针对不同客户维护不同产线,供应链碎片化是现实挑战。

误读 3:“液冷托盘就是把风冷托盘加上水管”

纠偏:液冷托盘的设计远不止“加水管”。从结构件材料(需兼容冷却液、抗腐蚀)、连接器密封性(防泄漏)、冷板与芯片的贴合精度(影响散热效率)、到快接接头的插拔寿命,都是系统工程。浸没液冷的托盘设计更是需要全面考量材料兼容性和流体流道设计,涉及密封、排气、液位监控等环节。


最新事件

2024-2025 年关键动态

  • NVIDIA 发布 GB200 NVL72 液冷节点(2024 年 3 月):将 72 颗 Blackwell GPU 以计算托盘形式集成,采用液冷与 NVLink 5,重新定义了高密度托盘的上限。
  • Meta 公开 Grand Teton 平台细节(2023 年末 / 2024 年初):新一代 AI 训练平台采用定制液冷托盘,贡献给 OCP,提升社区标准。
  • OCP Summit 2024 推进液冷标准(2024 年 10 月):OCP 发布了包含液冷接口与高功率供电的新版 Open Rack 规范,多家 ODM 展示兼容托盘。
  • 浪潮/曙光等中国厂商批量交付液冷托盘(2024 年):在中国“东数西算”政策推动下,国产液冷托盘步入规模化部署,适配华为昇腾等国产加速器。
  • 戴尔发布 PowerEdge XE9860(2024 年):集成 8 颗 Blackwell GPU,强调 PUE 优化与液冷集成,面向企业级 AI 市场。
  • 台系 ODM 厂商 AI 订单强劲(2024 年):广达、纬创、英业达先后释出 AI 服务器(含托盘)大幅增长的出货指引,部分产线扩产。

来源:各公司官方新闻、OCP Summit 资料、媒体报道。


跟踪指标

观察计算托盘行业景气度的先行指标

指标观测频率意义
头部云厂商资本开支(CapEx)季度Meta、Microsoft、Google、Amazon 等 CapEx 指引直接预示基础设施采购规模
NVIDIA 数据中心收入季度反映 GPU 加速器出货,是托盘需求的先行信号
台系 ODM 服务器月营收月度广达、纬创、英业达等月度营收可跟踪 AI 服务器产线稼动率和订单变化
液冷解决方案厂商订单季度CoolIT、Asetek、双鸿等液冷组件出货趋势反映液冷托盘渗透速度
连接器/PCB 厂商订单季度高速背板连接器与高多层板订单可跟踪托盘生产用的关键物料需求
OCP 新规范发布时间年度标准迭代影响产业链同向研发投入,可观测标准化进展
半导体设备与封测数据月度/季GPU/CPU 产量和产能扩展间接决定托盘供给上限
主要经济区数据中心 PUE 政策不定期低压政策可能催生液冷托盘替换需求

注:公开数据来源分别来自公司财报、行业协会与市场研究机构。


信源

类型资源说明
行业标准Open Compute Project (OCP) 官网开放计算项目,含 Open Rack 服务器规格文档
厂商文档Dell PowerEdge XE 系列、HPE ProLiant DL 系列、Inspur NF 系列、Lenovo Neptune 系列关注“tray”“sled”“node”设计描述与规格书
市场数据IDC、Gartner、TrendForce、Omdia、赛迪顾问全球及区域服务器、AI 服务器、液冷市场规模数据
技术媒体ServeTheHome、AnandTech Server 板块、Next Platform服务器硬件深度评测、架构分析与行业动态
供应链媒体Digitimes、MoneyDJ、集微网ODM 厂商接单、排产与供应链消息
企业财报与法说主要 ODM/服务器品牌/芯片厂商季度报告营收、出货指引及 AI 业务占比披露
学术/行业会议OCP Summit、SC(超算大会)、Hot Chips、GTC前沿技术、标准化进展与新品发布

本文中明确标注来源的数字均基于公开可查的市场报告和企业公告。未标注具体数值或标注“公开资料未见”的,表示在撰写时未获取到权威、统一的定量披露,相关指标需跟踪最新行业报告或厂商白皮书获取精确数据。

source: 公开披露与公开资料整理 本页仅用于产业链学习、信息检索和研究辅助;不构成投资建议,不预测涨跌,不提供买卖、仓位或目标价建议。
完整概念页 复盘 13 节结构 公司投研页 沿产业链找到受益公司 投资课 把概念转成可跟踪模型