機櫃功率密度

1. 3 秒看懂

機櫃功率密度定義了單個機櫃所能承載的 IT 裝置最大功耗，通常用 kW/rack 表示。在傳統資料中心，這一數字長期停留在 3～7 kW；隨著生成式 AI 訓練與推論負載爆發，單機櫃功耗已快速跳升至 30～60 kW，NVIDIA 最新 NVL72 機架級方案更將整櫃峰值推至 約 120 kW。機櫃功率密度不再是機房管理員的後臺引數，而是決定算力部署規模、選址可行性、供電架構與散熱方式的第一物理約束——冷卻必須從純風冷轉向冷板液冷或浸沒式液冷，配電從單相 32 A 躍遷到三相 400 V/63 A 甚至直流母線，資料中心建築也從通用樓宇變為圍繞“兆瓦級 Pod”設計的專用設施。

2. 3 分鐘產業解釋

為什麼機櫃功率密度突然成為基礎設施競賽的核心？

一座資料中心的總引入電力、每排機櫃的配電容量和散熱能力，最終都壓縮到“單櫃可消耗多少千瓦”這個數字上。過去，裝有雙路 CPU 和少量擴充套件卡的通用伺服器，單櫃 8～10 kW 已被視為“高密”；但到了 H100/H200/GB200 時代，一臺 8 GPU 的 AI 訓練節點本身就有 8–10 kW 的峰值功耗，單個標準 42U 機櫃即使僅放 2–4 臺此類伺服器，IT 負載輕輕鬆鬆突破 30 kW。

連鎖反應

• 散熱方式被迫改變：傳統風冷單櫃極限約 15～25 kW，要繼續提升只能靠液冷。
• 配電系統重新設計：需要從 230 V 單相升級為 400 V 三相、更高安培母線，甚至 48 V 或 380 V 直流微網。
• 選址與電網容量變成瓶頸：很多現有建築受限於變壓器和橋架，只能推倒重建；部分超大型叢集不得不建在具有充沛水電的偏遠地區。

因此，機櫃功率密度既是衡量一座資料中心“算力濃度”的標尺，也是決定其造價、工期與可擴充套件性的物理天花板。它把晶片 TDP、伺服器 ODM 設計、溫控裝置、配電系統和建築結構串聯成了一條剛性約束鏈，任何一環缺失都無法安全運轉。

3. 技術原理

3.1 功耗構成與配電模型

一個滿配 AI 機櫃的總 IT 功耗 P_{IT} 可表示為：

P_{IT} = \sum (P_{server} + P_{network}) + P_{switch} + P_{storage}

以 8 卡 NVIDIA H100 SXM 系統為例，單 GPU 熱設計功耗（TDP）約 700 W，整機峰值約 10 kW（根據 NVIDIA 公開設計導則估算）。4 臺並置即達到 40 kW，計入 Top-of-Rack 交換器、管理網路和智慧 PDU 自耗，IT 負載可達 45 kW+。

中心向市電的取電還需疊加上游損耗：

P_{input} = P_{IT} \times PUE

優質超大規模資料中心 PUE 可低至 1.1～1.3。承載 45 kW IT 負載的機櫃，實際需要從市電汲取約 50 kW 以上的總功率，供電鏈路從變壓器 → 低壓配電櫃 → UPS → 列頭櫃/母線 → 機櫃 PDU 均需以此峰值設計。

3.2 典型高密供電拓撲

市電 10 kV / 20 kV
     ↓
變壓器 → 低壓配電櫃 (400 V)
     ↓
UPS 系統（鋰電/飛輪）
     ↓
配電列頭櫃 / 母線系統
     ↓
機櫃 PDU → 裝置內 PSU

為承載單櫃 30 kW 以上負載，業界正快速轉向：

• 三相 400 V/63 A 輸入：理論容量約 43 kW；超過則需要雙路供電或更高電流。
• 48 V 直流 / 380 V 高壓直流：減少 AC-DC 變換級數，電池可直掛在母線上，顯著降低線路損耗。
• 機架內銅母線：替代多股電纜，支援動態調整分配，單母線電流可達 400 A 以上。

3.3 散熱傳熱機理與物理限制

風冷散熱能力可用簡化公式描述：

Q_{cooling\_air} \approx 0.02 \times \Delta T \times text(Airflow) \;(text(m)^3/text(min))

ΔT 通常上限為 20 K，即便將風量推至機房條件允許的極限，單櫃風冷也很難長時間穩定超過 25 kW 的熱負載；區域性熱點更會導致晶片降頻或宕機。

液冷利用液體的高比熱容：冷板式液冷直接冷卻 CPU/GPU 冷板，帶走晶片 60%～80% 的熱量，剩餘部分由低速風冷輔助。配合 CDU（冷量分配單元）和一次側冷水，單櫃可輕鬆做到 60 kW，部分浸沒式方案達 100 kW 以上。液冷系統的核心控制引數包括二次側供水溫度（通常 32～45 ℃）、流量和溫差，必須與晶片允許結溫精確匹配。

3.4 功率密度與算力密度的對映

晶片 TDP（瓦）與能效比（TFLOPS/W）的乘積決定了固定功耗下可獲得多少算力。若每一代 AI 加速器 TDP 繼續攀升（以 H100 的 700 W 到 Blackwell 的單晶片更高），則機櫃功率密度提高是維持或增加叢集總算力的必要前提。這使功率密度升級成為一條與摩爾定律並行、但受物理約束更苛刻的路徑。

4. 關鍵引數

• 單機櫃額定功率 (kW/rack)：設計階段最硬性的邊界。當前行業實踐：傳統企業機房 5～8 kW，主流雲端風冷 10～20 kW，高密液冷 30～60 kW，下一代旗艦達到 100 kW+。
• 機房單位面積功率 (kW/m²)：用於整體規劃，高密 AI 機房可到 15～25 kW/m² 甚至更高（來源：施耐德電氣高密部署白皮書系列）。
• 電能使用效率 (PUE)：全年總能耗/IT 能耗。採用液冷和高壓直流的新建園區可達 1.1 以下（目標 1.05～1.08）。
• 冷卻容量利用率：實際 IT 負載 ÷ 設計散熱能力，反映冗餘情況。
• 供電路徑損耗：從變壓器到晶片的累進損耗百分比，48 V 直流方案實測可節省 5%～8% 的線路損耗（參考 OCP ORv3 技術文件）。
• 機櫃進/出風溫差 ΔT：熱點與平均溫度差值，典型要求 ≤15 K（ASHRAE TC 9.9 推薦）。
• 液冷二次側供水溫度與流量：通常供水 32 ℃，回水 45 ℃，流量按 kW 負載和 ΔT 設計，是 CDU 選型核心。
• 晶片結溫 Tjunction：GPU 通常上限 95～105 ℃，液冷設計須留有 15 ℃ 以上裕量。

以上引數均在資料中心設計階段通過 CFD（計算流體動力學）模擬與電氣系統模型迭代確認，缺一不可。

5. 技術路線

5.1 散熱方式演進

散熱方案	典型單櫃密度	關鍵技術	優勢	侷限
房間級風冷	3～8 kW	空調、架空地板	結構簡單，改造便宜	存在冷熱氣流短路，難以超過 10 kW
列間風冷 + 熱通道封閉	8～20 kW	列間精密空調、智慧風牆	接近熱源，可動態調配	穩定上限約 25 kW，對建築層高、承重要求高
冷板液冷 + 輔助風冷	25～60 kW	冷板、CDU、去離子水	直接帶走晶片 60%～80% 熱量，支援高密	管路複雜，洩漏風險，需雙冷源
浸沒式液冷（單相/兩相）	60～100 kW+	密閉槽體、介電液體	散熱極限極高，可省去伺服器風扇	液體維護成本高，承重、密封和消防特殊要求
兩相冷板 + 背板換熱	≥50 kW	製冷劑蒸發換熱	極高換熱係數，無漏水風險	製冷劑環保限制，系統控制複雜

5.2 配電架構升級路線

• 傳統交流：230 V 單相 32 A → 三相 400 V 63 A/125 A，銅纜母線。
• 48 V 直流整機櫃（OCP Open Rack v3）：集中式整流模組將交流轉為 48 V，銅母線直供主機板，省去裝置內 AC-DC 電源，降低損耗。
• 380 V 高壓直流 (HVDC)：在部分超大規模專案中探索，可進一步壓縮電流、減少銅用量，但生態成熟度較低。
• 儲能整合：鋰電 UPS 直接掛在 48 V 或 400 V 母線，實現峰谷套利與電網輔助服務。

注：以上密度範圍、供電容量均為行業實踐經驗值，實際需結合裝置熱設計、單路供電能力和機櫃結構綜合評估。

6. 上游

6.1 晶片與伺服器設計

• GPU/ASIC 供應商：NVIDIA (H100/H200/B200/GB200)、AMD (MI300X)、Intel (Gaudi 系列)、Google (TPU v5p)、Amazon (Trainium2) 等。晶片 TDP 提升是機櫃功耗增長的根本源頭。
• 伺服器 ODM/OEM：富士康、英業達、廣達、超微、技嘉、聯想等，負責整合 GPU 節點並適配液冷。基於 NVIDIA 參考設計，推出定製整機櫃方案。

6.2 散熱解決方案

• 冷板元件：CoolIT Systems、Boyd Corporation、Delta Electronics 等，提供 GPU/CPU 直接液冷冷板與快速接頭。
• CDU 與管路：CoolIT、Vertiv、nVent 等提供一次/二次側熱交換與水泵系統。
• 浸沒式液冷：Iceotope、LiquidStack、GRC 等專注單相或兩相浸沒式散熱。
• 製冷劑：3M Novec 等生產介電液體（注意環保法規變化）。

6.3 電力基礎設施

• UPS/STS/儲能：Vertiv、施耐德電氣 (APC)、伊頓等提供高功率鋰電 UPS、靜態切換開關和 48 V/400 V 直流系統。
• PDU/母線：Server Technology (Legrand)、Raritan (Legrand)、Vertiv 等提供智慧機櫃 PDU 與高電流母線槽。
• 變壓器與開關櫃：ABB、西門子、施耐德等提供 10 kV/20 kV 中壓到 400 V 的變電裝置。

6.4 整機櫃與標準

• OCP 社群：推動 Open Rack v3 48 V 規範、液冷介面標準化。
• 關鍵基礎設施除錯與模擬：提供 CFD 分析、電力系統建模的工程諮詢公司。

7. 下游

7.1 超大規模雲端與網際網路廠商

• AWS、Microsoft Azure、Google Cloud、Meta、Oracle：大規模部署 GPU 叢集以訓練和推論大型模型，自研或共同定義液冷整機櫃標準，是全球高密機櫃需求的最大來源。
• 國內雲端廠商：字節跳動、阿里雲端、騰訊雲端等在自建資料中心中快速引入冷板液冷。

7.2 新興 AI 與超算機構

• 頭部大型模型創業公司、國家超算中心等需要數十至數百個高密液冷機櫃，通常託管在第三方資料中心或與雲端廠商合作。

7.3 託管與零售資料中心

• Equinix、Digital Realty、CyrusOne、GDS (萬國資料)、秦淮資料 等提供支援高密液冷的託管空間（通常為 15–20 kW/櫃起，並可定製液冷單元）。
• 輔助服務：設計諮詢、熱流體模擬、電氣合規認證。

8. 受益公司

（本節描述業務關聯與價值鏈地位，不構成任何投資建議）

• GPU 定義者 NVIDIA：DGX SuperPOD 和 NVL72 等參考架構直接設定行業功率密度標杆，生態供應商必須對標其要求，帶動冷卻與供電升級。
• 關鍵基礎設施雙巨頭：Vertiv 和施耐德電氣，提供覆蓋 UPS、配電櫃、CDU、行級空調、監控的全套高密方案，是高密升級過程中的基礎設施中樞。
• 液冷專業廠商：CoolIT Systems（冷板龍頭，已部署於多個超算與雲端叢集）、Boyd（熱管理）、Iceotope（浸沒式），受益於液冷滲透率從 2022 年的不足 10% 向 2026 年預計 30%+ 的結構性提升。
• 液冷整機櫃供應商：Supermicro（液冷整機櫃大量出貨，緊密接入 NVIDIA 認證）、廣達、英業達、富士康等 ODM 獲得高價值 AI 伺服器與機櫃訂單。
• 資料中心 REITs：Equinix、Digital Realty 通過改造部分設施支援 30 kW+ 機櫃，提升租金和定價能力，吸引 AI 客戶。
• 國內產業鏈對映：中科曙光、浪潮資訊（液冷伺服器）；英維克、高瀾股份、同飛股份（液冷 CDU、水泵、管路）；良信股份、正泰電器（配電母線）。

所有受益邏輯均基於各公司公開揭露的業務定位與行業趨勢推導，不涉及經營預測。

9. 市場規模

高密機櫃的相關市場分散在多個產品類別中，目前尚無“機櫃功率密度解決方案”的統一統計，公開資料未見獨立規模資料。但可通過幾個細分子項勾勒增長輪廓：

• 資料中心液冷市場：據第三方研究機構 650 Group 資料（2023 年釋出），全球資料中心液冷市場 2023 年預估約 22 億美元，預計 2028 年達 89 億美元，年複合增速約 32%（口徑含冷板、浸沒式及相關 CDU/分配系統）。需注意此為基於公開轉述的估算，最終以報告全文為準。
• 高壓直流與母線市場：根據 Global Market Insights 等調研（2022–2023 年），資料中心 PDUs/母線市場約 25 億–30 億美元，高功率母線因 30 kW+ 需求而加速增長，但精確細分暫缺。
• AI 伺服器資本支出：主要雲端廠商（Amazon、Microsoft、Google、Meta、Oracle）2024 年資本支出合計預計超 1,800 億美元（來源：公司財報展望、彭博一致預期），其中相當比例用於 GPU 叢集基建，直接拉動高密機櫃配電與散熱投入。
• 單位造價：傳統風冷單櫃配電+散熱約 $3,000–$5,000，同等容量的液冷方案現階段約 $10,000–$25,000（來源：施耐德電氣與 Vertiv 白皮書及行業調研，具體取決於規模與冗餘等級）。隨著標準化和規模效應，價差有望收斂。

以上資料僅展示公開研究中的部分參考口徑，不構成對任何公司營收或市場規模的承諾。

10. 玩家對比

類別	代表企業	核心產品/方案	特點	典型部署場景
液冷冷板與CDU	CoolIT Systems	直接液冷冷板、CDU	液冷出貨量領先，與各大 OEM 合作緊密	超大規模雲端、超算中心
液冷冷板與CDU	Boyd Corporation	冷板、換熱器	熱管理領域歷史悠久，深度耦合 OEM	工業、超算、部分雲端
液冷冷板與CDU	Vertiv / 施耐德	整合液冷 + UPS + 配電	提供全棧基礎設施，單一供應商交付便利	中大型資料中心
浸沒式液冷	Iceotope / LiquidStack / GRC	單相/兩相浸沒槽	解熱能力極高，但運維門檻高	邊緣高密、POC 專案
液冷整機櫃	Supermicro	Liquid Cooling Rack Solution	面向 NVIDIA SXM 等提供即插即用液冷機櫃	AI 叢集、集團私有雲端
液冷伺服器 ODM	廣達、英業達、富士康	定製 48 V 整機櫃、液冷節點	為大型雲端廠定製，規模龐大，單價較低	雲端廠自建巨型園區
高密配電	Server Technology (Legrand)	智慧三相 PDU、母線	80 kW+ 高密機架配電，遠端監測	所有高密機櫃
資料中心託管商	Equinix / Digital Realty	高密託管單元	推出液冷專區，30 kW+ 單櫃，按 kW 計價	需要在超一線城市部署的 AI 客戶

注：此表基於公開資訊整理的行業概況，各企業財務資料、市佔率等需查閱其定期報告，此不贅述。

11. 風險

11.1 液冷洩漏與系統可靠性

冷板快速接頭、管路長期執行存在滴漏風險，一旦冷卻液洩漏可能損壞整櫃乃至整排 GPU，造成訓練中斷和鉅額資產損失。行業對材料、焊接、接頭壽命和監控要求極高，全行業交付能力和認證週期仍是瓶頸。

11.2 區域電網與審批

單座 AI 資料中心年耗電未來可能以百兆瓦計算，很多城市電網無法滿足，獲取變電站指標和環境審批週期長達 2–5 年。高密機櫃的優勢可能因“有硬體但無電可用”而無法落地。

11.3 標準不統一

儘管 OCP 推進 48 V 和液冷介面標準化，但各家雲端廠仍存在自研介面和協議，“各自為戰”導致供應商無法大範圍平滑複用，增加成本和備件壓力。

11.4 成本與投資回報

高密液冷方案單位初始資本支出遠高於傳統風冷，老舊機房無法原地升級。投資者和運營方需仔細評估 AI 需求持續性，避免基礎設施過度建設而利用率不足。

11.5 環保法規變化

浸沒式液冷常用的 PFAS 類介電液體面臨全球日益嚴苛的環保管控（歐盟、美國部分地區已在推動限制），可能影響長期運維成本和方案選擇。

12. 誤讀糾偏

• 誤讀：“高密機櫃就是換個空調或加個液冷” 糾偏：供電線路、UPS 容量、變壓器、承重和消防等都需要同步改造。僅更換冷卻但供電未升級，輕則跳閘，重則線纜過熱引發火災。
• 誤讀：“液冷機櫃可以無限堆高密度” 糾偏：受晶片封裝熱阻、冷板面積、CDU 換熱能力和流量極限，以及聯結器電流承載力的物理約束。成本隨密度指數上升，100 kW 級方案通常需要浸沒式或兩相，仍有天花板。
• 誤讀：“額定功率=所有裝置電源銘牌功率相加” 糾偏：實際負載很少同時達到所有部件峰值，但資料中心設計必須按最大可能負荷考慮 N+1 冗餘。安全餘量取決於實測與 CFD，不能用簡單的額定疊加做出判斷。
• 誤讀：“機櫃功率密度只在 AI 訓練叢集有意義” 糾偏：推論、邊緣計算和高效能儲存也在推高密度，只是增長速度與訓練叢集有差異。機櫃功率密度是通用基礎設施度量。

13. 最新事件

• NVIDIA NVL72 機架級方案 (2024 年 3 月 GTC)：單個 GB200 NVL72 機架整合 72 塊 Blackwell GPU 和 36 顆 Grace CPU，滿載功耗達 約 120 kW，採用直接液冷與水迴圈分配單元。這是量產級方案中單櫃功耗的新高點，也標誌著液冷成為高階 AI 叢集標配。
• OCP 2024 全球峰會 (2024 年 10 月)：釋出 Open Rack v3 液冷整機櫃規範更新，多家廠商展出 100 kW+ 液冷電源架構與全直流方案，推動 48 V、380 V 直流生態成熟。
• 雲端廠商大規模液冷部署：Microsoft 在 2024 年宣佈為 Azure 高密度區域規模引入冷板液冷；Meta 在新一代 AI 叢集中也轉向液冷整機櫃方案；Google 揭露其自研 TPU v5p 叢集已採用液冷。
• 國內推動：三大運營商與大型網際網路公司釋出液冷白皮書，推進“風液融合”，部分省份規定新建大型資料中心液冷比例不低於 10%–20%（2025 年目標）。
• 擔憂與事故：2024 年內有媒體報道某超算液冷洩漏導致 GPU 損壞，引發對冷板快速接頭可靠性的再次審視，行業開始強調接頭認證標準和二次防護設計。

（以上事件皆為 2024 年公開報道與技術公告摘要，具體細節以廠商官方宣告為準。）

14. 追蹤指標

若需持續觀察行業動態，可重點追蹤以下資料和訊號：

• 雲端廠商資本支出：Amazon、Microsoft、Google、Meta、Oracle 的季度資本支出與展望，尤其 AI 基礎設施相關部分。
• NVIDIA 資料中心 GPU 出貨與供電需求：NVIDIA 每季度資料中心業務營收、釋出的參考設計功耗值，可作為功率密度需求的直接代理。
• 液冷滲透率：定期出自 650 Group、Omdia 等報告；也關注超大規模廠商在財報電話會議中提及的“液冷部署比例”。
• 基礎設施公司訂單：Vertiv、施耐德電氣、CoolIT 等非上市或上市公司財報中液冷相關營收增速、在手訂單與 backlog。
• 高密機櫃功率目標：雲端廠商在技術大會（AWS re:Invent、Microsoft Ignite、Google Cloud Next 等）公佈的新一代機櫃設計目標，常為 50 kW→100 kW 躍遷節點。
• 電力與選址指標：主要城市建設 100 MW+ 新建資料中心專案的審批進度、電網增容規劃，反推現實落地速度。
• 標準與法規：OCP 規範更新、IEC/UL 針對液冷和直流配電的安全標準、PFAS 相關環保法規進展，影響技術路線切換。

15. 信源

• Uptime Institute：“Rack Density Trends, Risks and Preparations” 年度調查報告、高密度白皮書。
• OCP (Open Compute Project)：Advanced Cooling Solutions、Open Rack v3 48 V 規範。
• NVIDIA：DGX SuperPOD 參考架構、NVL72 技術白皮書。
• ASHRAE TC 9.9：Datacom Equipment Power Trends and Cooling Applications 熱設計指導。
• 施耐德電氣：“How to Deploy High-Density Racks” 設計系列白皮書。
• Vertiv：“High Density and AI’s Impact on Data Center Power Infrastructure” 白皮書。
• 650 Group：Data Center Liquid Cooling Market Report（2023/2024）。
• 各公司財報與公開宣告：NVIDIA、Vertiv、施耐德電氣、Supermicro、Equinix、Digital Realty 等。
• 第三方市場研究：Global Market Insights、Mordor Intelligence 等對機架 PDU、電力基礎設施市場的估計（使用時請核實最新版本）。
• 雲端廠商技術部落格：Azure High-Performance Computing、Meta AI Research Infrastructure、Google Cloud TPU System Architecture 等公開工程分享。

以上信源可在各機構官網、技術社群及公開資料庫中檢索獲取，部分深度報告需付費訂閱。