計算托盤 (Compute Tray)
3 秒看懂
一句話定義：計算托盤是資料中心機架內的標準化、可插拔計算模組單元，將處理器、記憶體、網路介面等集成於一個扁平化的“抽屜”中，可滑入機箱背板實現高密度部署、集中供電與統一散熱。
核心價值：把“伺服器”從整機概念拆解成可靈活組合的樂高積木——運維效率↑、散熱密度↑、故障隔離↑、部署速度↑。
3 分鐘產業解釋
從機櫃裡的“抽屜”說起
想像一個標準 19 英寸伺服器機櫃，傳統做法是一臺臺 1U/2U 機架式伺服器塞進去。但當 AI 訓練需要數百顆加速卡協同、單機架功耗飆升至數十千瓦時，傳統架構面臨三大瓶頸：
- 佈線複雜度爆炸：每臺伺服器獨立走線，GPU 間互聯、儲存訪問、管理網路交織成“麵條牆”
- 散熱不均勻：前後通風設計難以應對液冷需求，熱點集中導致降頻
- 運維顆粒度粗糙：換一塊 GPU 可能需要抽出整臺伺服器，影響鄰近節點
計算托盤正是為解決上述問題而生的模組化方案：
| 傳統機架伺服器 | 計算托盤架構 |
|---|---|
| 獨立機箱、獨立電源 | 共享機箱背板、集中供電/散熱 |
| 整機故障=整機下線 | 單托盤故障=單托盤熱替換 |
| 前後通風風冷 | 適配冷板液冷/浸沒液冷 |
| 佈線分散 | 背板統一互聯，線纜集中 |
誰在用？
- 超大規模雲端廠商（Hyperscaler）：自研資料中心標準化，如 Meta、Google、AWS
- AI 訓練叢集運營商：GPU 密集部署的首選形態，支援萬卡級叢集
- 高效能運算中心：科學計算、模擬模擬，要求高算力密度與高可靠性
技術原理
內部構成
┌─────────────────────────────────────────────────────────┐
│ 計算托盤 (Compute Tray) │
│ ┌──────────┐ ┌──────────┐ ┌──────────┐ ┌─────────┐ │
│ │ CPU/ │ │ 記憶體 │ │ 網路 │ │ 管理 │ │
│ │ 加速器 │ │ DIMM │ │ NIC │ │ BMC │ │
│ │ 模組 │ │ 插槽 │ │ 埠 │ │ 控制器 │ │
│ └──────────┘ └──────────┘ └──────────┘ └─────────┘ │
│ │ │ │ │ │
│ └──────────────┴────────────┴────────────┘ │
│ │ │
│ 背板聯結器 (Backplane Connector) │
└───────────────────────────────────┬─────────────────────┘
│
┌───────────────┴───────────────┐
│ 機箱背板/中板 │
│ (集中供電/散熱/網路交換) │
└───────────────────────────────┘關鍵設計要素
1. 背板互聯架構
計算托盤通過背板聯結器與機箱中板對接，中板負責：
- 電源分配：集中式 PSU 向各托盤供電，托盤內部無需獨立電源模組，供電效率提升並減少線纜
- 網路匯聚：托盤的網絡卡埠通過中板連線至頂部交換器 (ToR) 或機箱內建交換模組，支援 PCIe Gen5 / Gen6 等高速通道
- 管理匯流排：BMC 管理訊號匯聚至機箱級管理控制器，實現統一遠端監控
2. 散熱方案適配
| 散熱方式 | 托盤設計特徵 | 適用場景 |
|---|---|---|
| 風冷 | 前後貫通通風，配備散熱鰭片和風扇模組，托盤開孔率需精確設計 | 傳統負載，中低密度 |
| 冷板液冷 | 托盤整合液冷管路快接接頭，CPU/GPU 貼合冷板，冷板與晶片間需導熱介面材料 | AI 訓練，高密度 |
| 浸沒液冷 | 托盤設計需適配絕緣液體，密封性和材料相容性要求高，需考慮流體阻力與氣泡管理 | 極端密度，前沿探索場景 |
3. 熱插拔與故障隔離
- 托盤通過滑軌/導軌實現免工具拆裝，支援線上更換
- 電氣隔離設計：單托盤故障不影響機箱內其他托盤供電，保護電路與斷路器配合
- 狀態指示燈：托盤前端通常配備健康狀態/故障指示，方便巡檢
關鍵引數
衡量一個計算托盤方案的核心引數
| 指標 | 含義 | 重要性 | 典型數值範圍（2024, 基於公開產品） |
|---|---|---|---|
| 單托盤加速器數量 | 托盤內可容納的 GPU/加速卡數量 | 決定單模組算力密度 | 4~8 顆（如 NVIDIA H100/B200），亦有更高密度設計 |
| 單托盤功耗（TDP） | 托盤滿載功耗 | 決定散熱設計和機架級供電規劃 | 1.5 kW ~ 6 kW，液冷托盤上限可達近 10 kW |
| 背板頻寬 | 托盤與機箱中板間的通訊頻寬 | 影響跨托盤通訊效率與擴充套件性 | 通常多條 PCIe 5.0 x16 或 NVLink 通道，合計可達數 Tb/s |
| 熱插拔支援 | 是否支援線上替換 | 影響運維效率和可用性 | 大多數新一代托盤支援 |
| 液冷相容性 | 是否適配冷板/浸沒液冷 | 高密度場景必備 | 分為風冷版與液冷版，液冷版配快接頭 |
| MTBF（平均無故障時間） | 可靠性指標 | 對 HPC/生產環境至關重要 | 因設計和負載而異，部分廠商標稱超過 100,000 小時 |
| 單托盤重量 | 包含所有元件的重量 | 影響安裝人力和機械設計 | 約 20~35 kg（含 GPU 與散熱器） |
| 托盤高度 | 機架空間佔用 | 影響單機架可容納托盤數 | 常見 1 OU |
注：具體數值因廠商、型號、配置差異巨大，以上為 2024 年行業常見規格的近似範圍，精確引數請參考各廠商產品規格書。
技術路線
與傳統形態的對比
計算托盤並非憑空出現，而是沿著伺服器形態演進的邏輯發展而來：
塔式伺服器 → 機架式(1U/2U) → 刀片(Blade) → 計算托盤(Tray/Sled)
↓ ↓ ↓ ↓
獨立供電 獨立機箱 共享機箱 共享機箱+背板
獨立散熱 獨立散熱 共享風扇模組 集中式液冷/風冷
佈線分散 佈線分散 中央交換 背板統一互聯| 維度 | 傳統機架伺服器 | 刀鋒伺服器 | 計算托盤（Tray/Sled） |
|---|---|---|---|
| 模組化程度 | 低 | 高 | 高 |
| 共享元件 | 無 | 電源、風扇、網路交換、管理 | 電源、散熱、背板互聯 |
| 散熱靈活性 | 受限（前後通風） | 中等 | 高（適配多種液冷方案） |
| 標準化程度 | 高（行業通用） | 中（廠商專有機箱） | 中低（多為廠商自研，OCP 推動標準化） |
| 典型密度（定性） | 中 | 高 | 高 |
| 故障影響範圍 | 單機 | 單刀片 | 單托盤 |
| 適用負載 | 通用計算 | 通用+虛擬化 | AI 訓練/推論、HPC、雲端原生 |
| 供應鏈成熟度 | 高 | 中 | 中（頭部廠商成熟，中小廠仍需定製） |
標準化進展
行業標準主要由 Open Compute Project (OCP) 推動，其制定的 Open Rack 系列規範定義了計算托盤的機械、電氣及管理介面。但頭部 Hyperscaler 如 Meta、Google、AWS 仍沿用自己的定製規格，形成“部分標準化、多數碎片化”的格局。2024 年 OCP Summit 上釋出了進一步融合液冷與更高功率供電的新版規範，力圖統一部分介面。
上游
上游供應鏈
| 環節 | 代表品類 | 說明與代表供應商（2024） |
|---|---|---|
| 計算晶片 | CPU、GPU/加速器 | 托盤核心算力來源，主要由 NVIDIA、AMD、Intel 提供；2024 年 NVIDIA H200/B200 系列加速 AI 托盤升級 |
| 儲存 | SSD、記憶體條 (DIMM) | 容量和頻寬直接影響計算效率；DDR5 與 HBM 記憶體用於不同層級 |
| 網路 | 網絡卡 (NIC)、交換晶片 | 托盤內網絡卡通過背板連線至交換層，PCIe/CXL/InfiniBand 等互聯協議決定通訊效能 |
| PCB/聯結器 | 背板聯結器、高速 PCB | 訊號完整性和供電能力的關鍵；Amphenol、Molex、滬電股份等為主要供應商 |
| 散熱元件 | 冷板、熱管、風扇模組、快接接頭 | 液冷滲透率提升帶動冷板需求；CoolIT、Asetek、Cooler Master、雙鴻等版面配置 |
| 機箱結構件 | 滑軌、導軌、金屬架構 | 機械強度和裝配精度要求高，主要由精密鈑金、沖壓廠商提供 |
| 電源 | 機箱級集中供電 PSU | 大功率高效率電源（3 kW~10 kW+），臺達電、光寶科技等為主要代工商 |
資料來源：供應鏈調研、企業年報、Digitimes Research（2024），具體供應商份額未統一揭露。
下游
下游應用
| 場景 | 需求特徵 | 典型部署形態 |
|---|---|---|
| AI 訓練叢集 | GPU 密集、功耗高、需液冷、需高頻寬互聯（NVLink/InfiniBand） | 液冷計算托盤 + 智慧機箱，單機架功耗 50 kW+ |
| AI 推論叢集 | 計算密度中等、對延遲敏感、可能採用風冷 | 風冷或混合散熱托盤，適配多模型部署 |
| HPC/科學計算 | 傳統 CPU 密集或異構計算，對可靠性要求極高 | CPU+GPU 混合托盤，注重 ECC 記憶體與儲存加速 |
| 雲端運算虛擬化 | CPU 為主，強調通用性和資源池化 | CPU 密集型托盤，可能沿用刀片形態 |
| 邊緣計算 | 空間和功耗受限，要求緊湊體積 | 非標小型托盤，部分採用被動散熱 |
受益公司
注意：以下僅為產業鏈角色梳理，不代表任何投資建議，亦不涉及對公司股價或業績的預測。
| 類別 | 代表公司 | 與計算托盤的關聯 |
|---|---|---|
| 品牌伺服器廠商 | Dell Technologies、HPE、聯想、浪潮資訊、H3C | 直接出貨托盤形態的伺服器產品，受益於 AI 伺服器升級週期 |
| ODM/JDM 代工 | 廣達、緯創、英業達、鴻海（富士康） | 為 Hyperscaler 代工定製托盤，AI 訂單佔比持續上升 |
| 計算晶片/加速器 | NVIDIA、AMD、Intel | 托盤內建的計算核心，托盤設計圍繞其功耗和介面演化 |
| 聯結器/PCB | Amphenol、Molex、滬電股份、深南電路 | 背板聯結器、高速 PCB 價值量隨頻寬和層數提升而增長 |
| 散熱解決方案 | CoolIT Systems、Asetek、Cooler Master、雙鴻、健策 | 液冷冷板、快接接頭、導熱介面材料為托盤液冷化關鍵部件 |
| 電源管理 | 臺達電、光寶科技、Advanced Energy | 集中供電 PSU 的功率密度與效率持續升級 |
| 管理軟體 | 各伺服器廠商 BMC 韌體、OpenBMC 社群 | 托盤級管理與機箱級協調軟體，運維效率的軟性支撐 |
以上均為市場公開資訊整理，具體受益程度需結合各公司業務佔比與競爭態勢評估。
市場規模
市場估算（2023-2025）
計算托盤並非獨立統計的細分市場，其價值通常包含在 伺服器 或 AI 基礎設施 整體市場中。以下基於相關市場推估：
| 指標 | 資料/範圍 | 年份與來源 |
|---|---|---|
| 全球伺服器市場營收 | 約 1,010 億美元 | 2023 年，IDC《全球伺服器季度追蹤報告》(2024.03) |
| 全球伺服器出貨量 | 約 1,370 萬臺 | 2023 年，IDC (2024.03) |
| AI 伺服器出貨量 | 約 120 萬臺 | 2023 年，TrendForce (2024.01)，佔伺服器出貨約 8.8% |
| AI 伺服器營收佔比 | 約 17%~20% | 2023 年，Omdia (2024) |
| 液冷伺服器出貨量 | 約 30 萬臺（其中冷板式為主） | 2023 年，賽迪顧問 (2024)，中國市場尤為顯著 |
| 計算托盤相關市場 | 公開資料未見獨立統計，可視為 AI 伺服器與部分高效能伺服器的載體 | —— |
趨勢：2024-2025 年，隨著大型語言模型 (LLM) 訓練和推論需求增長，計算托盤形態在新建 AI 叢集中的佔比快速提升。據 TrendForce 預估，2024 年 AI 伺服器出貨量有望增長約 40%，進一步帶動托盤及配套液冷需求。
玩家對比
主要廠商的計算托盤方案比較（2024 典型產品）
| 廠商/平台 | 產品系列 | 單托盤最大 GPU 數 | 散熱方式 | 互聯 | 特點 |
|---|---|---|---|---|---|
| Dell Technologies | PowerEdge XE9680/XE9860 | 8 顆 NVIDIA H200/B200 | 液冷（可選風冷） | NVLink + NVSwitch | 平衡模組化與主流客戶需求 |
| HPE | ProLiant DL560/DL580 系列、Cray XD | 4~8 顆 | 混合（風冷/液冷） | Slingshot/IB | 面向 HPC 和企業 AI |
| 聯想 | ThinkSystem SR680a V3/SR685a V3 | 8 顆 GPU | 液冷（Neptune） | InfiniBand/NVLink | 強調溫水液冷與能效 |
| 浪潮資訊 | NF5688M6/NF5888M6 | 8 顆 GPU | 液冷/風冷 | NVLink | 中國市場領先，適配國產 GPU |
| Meta（自研） | Grand Teton（OCP 貢獻） | 高密度，未完全公開 | 液冷 | 定製背板 | 面向內部訓練叢集 |
| NVIDIA | DGX GB200 NVL72 液冷節點托盤 | 整合 72 顆 Blackwell GPU（節點級） | 液冷 | NVLink 5 | 極高密度，一體交付 |
說明：以上資訊基於 2024 年公開產品資料整理，部分自研方案細節未完全揭露。
風險
行業與投資層面需要注意的風險
- 技術迭代風險：若出現更優的模組化架構（如異構整合、光學互連等顛覆），現有托盤形態可能被替代，相關模具與產線面臨沉沒成本。
- 標準化碎片化：OCP 標準與多家廠商自研規格並存，使得 ODM 廠商需要維護多套模具與產線，增加成本負擔，產品跨客戶複用難度高。
- 伺服器需求週期性：企業 IT 支出受宏觀經濟影響，AI 資本支出可能出現階段性調整；2023-2024 年的高速增長能否持續存在不確定性。
- 供應鏈與地緣政治：高階 GPU 出口管制可能限制特定市場的高密度托盤需求，關鍵聯結器、晶片等依賴單一區域的供應風險。
- 液冷技術成熟度：液冷快接頭洩漏風險、長效冷卻液相容性、維護複雜性等，若出現重大事故可能延緩行業採用速度。
- 能耗配額與監管：高密度液冷機架功耗驚人（單機架 50 kW 以上），部分城市已對新建資料中心提出嚴格的 PUE 要求，可能限制高密度托盤部署的選址靈活性。
誤讀糾偏
誤讀 1：“計算托盤就是刀鋒伺服器的翻版”
糾偏：兩者雖有形態相似性，但設計目標和約束不同。刀鋒伺服器強調通用計算的資源共享和管理簡化，共享元件包括網路交換和管理模組；計算托盤更強調計算密度和散熱適配，尤其針對 AI/HPC 場景的液冷整合、高速背板互聯。刀片時代液冷並非核心需求，而今天計算托盤的設計中液冷相容性往往是第一優先順序。
誤讀 2：“計算托盤是標準化產品，各廠商方案通用”
糾偏：恰恰相反，當前計算托盤的標準化程度遠低於傳統機架伺服器。頭部 Hyperscaler（如 Meta、Google）的托盤設計通常為定製化規格，機械尺寸、背板介面、散熱方案各不相同。OCP 雖有標準化努力，但覆蓋範圍有限。這意味著 ODM/JDM 廠商需要針對不同客戶維護不同產線，供應鏈碎片化是現實挑戰。
誤讀 3：“液冷托盤就是把風冷托盤加上水管”
糾偏：液冷托盤的設計遠不止“加水管”。從結構件材料（需相容冷卻液、抗腐蝕）、聯結器密封性（防洩漏）、冷板與晶片的貼合精度（影響散熱效率）、到快接接頭的插拔壽命，都是系統工程。浸沒液冷的托盤設計更是需要全面考量材料相容性和流體流道設計，涉及密封、排氣、液位監控等環節。
最新事件
2024-2025 年關鍵動態
- NVIDIA 釋出 GB200 NVL72 液冷節點（2024 年 3 月）：將 72 顆 Blackwell GPU 以計算托盤形式整合，採用液冷與 NVLink 5，重新定義了高密度托盤的上限。
- Meta 公開 Grand Teton 平台細節（2023 年末 / 2024 年初）：新一代 AI 訓練平台採用定製液冷托盤，貢獻給 OCP，提升社群標準。
- OCP Summit 2024 推進液冷標準（2024 年 10 月）：OCP 釋出了包含液冷介面與高功率供電的新版 Open Rack 規範，多家 ODM 展示相容托盤。
- 浪潮/曙光等中國廠商批次交付液冷托盤（2024 年）：在中國“東數西算”政策推動下，國產液冷托盤步入規模化部署，適配華為昇騰等國產加速器。
- 戴爾釋出 PowerEdge XE9860（2024 年）：整合 8 顆 Blackwell GPU，強調 PUE 最佳化與液冷整合，面向企業級 AI 市場。
- 臺系 ODM 廠商 AI 訂單強勁（2024 年）：廣達、緯創、英業達先後釋出 AI 伺服器（含托盤）大幅增長的出貨展望，部分產線擴產。
來源：各公司官方新聞、OCP Summit 資料、媒體報道。
追蹤指標
觀察計算托盤行業景氣度的先行指標
| 指標 | 觀測頻率 | 意義 |
|---|---|---|
| 頭部雲端廠商資本支出（CapEx） | 季度 | Meta、Microsoft、Google、Amazon 等 CapEx 展望直接預示基礎設施採購規模 |
| NVIDIA 資料中心營收 | 季度 | 反映 GPU 加速器出貨，是托盤需求的先行訊號 |
| 臺系 ODM 伺服器月營收 | 月度 | 廣達、緯創、英業達等月度營收可追蹤 AI 伺服器產線稼動率和訂單變化 |
| 液冷解決方案廠商訂單 | 季度 | CoolIT、Asetek、雙鴻等液冷元件出貨趨勢反映液冷托盤滲透速度 |
| 聯結器/PCB 廠商訂單 | 季度 | 高速背板聯結器與高多層板訂單可追蹤托盤生產用的關鍵物料需求 |
| OCP 新規範釋出時間 | 年度 | 標準迭代影響產業鏈同向研發投入，可觀測標準化進展 |
| 半導體裝置與封測資料 | 月度/季 | GPU/CPU 產量和產能擴充套件間接決定托盤供給上限 |
| 主要經濟區資料中心 PUE 政策 | 不定期 | 低壓政策可能催生液冷托盤替換需求 |
注：公開資料來源分別來自公司財報、行業協會與市場研究機構。
信源
| 型別 | 資源 | 說明 |
|---|---|---|
| 行業標準 | Open Compute Project (OCP) 官網 | 開放計算專案，含 Open Rack 伺服器規格文件 |
| 廠商文件 | Dell PowerEdge XE 系列、HPE ProLiant DL 系列、Inspur NF 系列、Lenovo Neptune 系列 | 關注“tray”“sled”“node”設計描述與規格書 |
| 市場資料 | IDC、Gartner、TrendForce、Omdia、賽迪顧問 | 全球及區域伺服器、AI 伺服器、液冷市場規模資料 |
| 技術媒體 | ServeTheHome、AnandTech Server 板塊、Next Platform | 伺服器硬體深度評測、架構分析與行業動態 |
| 供應鏈媒體 | Digitimes、MoneyDJ、集微網 | ODM 廠商接單、排產與供應鏈訊息 |
| 企業財報與法說 | 主要 ODM/伺服器品牌/晶片廠商季度報告 | 營收、出貨展望及 AI 業務佔比揭露 |
| 學術/行業會議 | OCP Summit、SC（超算大會）、Hot Chips、GTC | 前沿技術、標準化進展與新品釋出 |
本文中明確標註來源的數字均基於公開可查的市場報告和企業公告。未標註具體數值或標註“公開資料未見”的，表示在撰寫時未獲取到權威、統一的定量揭露，相關指標需追蹤最新行業報告或廠商白皮書獲取精確資料。