IT 負載

1. 3 秒看懂

IT 負載（IT Load）指資料中心內所有執行計算、網路傳輸和資料儲存功能的資訊與通訊技術（ICT）裝置所消耗的總電力。它是定義電能使用效率（PUE）的分母，是衡量資料中心產出效率的核心錨點，直接將電力基礎設施投資與算力產出掛鉤。

2. 3 分鐘產業解釋

在資料中心的電力拓撲中，從市電進線到伺服器晶片引腳，電能需經歷多級變換與分配，最終進入機櫃，驅動伺服器、交換器、儲存等 ICT 裝置。這部分裝置的能耗總和，即為 IT 負載。

若將資料中心視作一座數字工廠，IT 負載就是生產線上所有機器運轉所消耗的能量；而為保障機器在恆溫恆溼潔淨環境中穩定執行所需的製冷、配電損耗、照明等輔助設施能耗，則被歸類為基礎設施開銷。產業界之所以將 IT 負載置於能效管理的核心，原因有三：

• PUE 最佳化的唯一抓手：PUE = 總設施功率 / IT 負載功率。提升能效的實質，在於降低分子中“非 IT 負載”的部分，讓每一度市電更多地流向分母，直接產生算力。
• 資本支出 (Capex) 的決策錨點：IT 負載的總功率和機架密度直接決定了供電容量、柴油發電機備用功率、製冷方案和建築承重，是資料中心投資的基準引數。
• 運營支出 (Opex) 與碳核算的應計基礎：IT 裝置的每瓦特效能與 IT 負載總量，共同決定了電力成本和運營階段的碳足跡範疇。

當前，產業核心趨勢是 IT 負載的功率密度正經歷一場由 AI 驅動的指數級躍升。據 Uptime Institute 2023 年報告，傳統企業資料中心的單機櫃密度長期徘徊在 4-6 kW，而 AI 訓練叢集的單機櫃密度已普遍達到 20-40 kW，NVIDIA DGX SuperPOD 等參考架構的單機櫃峰值甚至可達 60 kW 以上（來源：NVIDIA DGX SuperPOD Reference Architecture, 2023），這正迫使供電、散熱、機櫃結構等全鏈條基礎設施體系發生重塑。

3. 技術原理

3.1 IT 負載的功率鏈與測量邊界

精確界定 IT 負載是測量與管理的起點。在物理構成上，IT 負載涵蓋三大類裝置：

• 計算裝置：包括 CPU 伺服器、GPU/AI 加速器、FPGA 等異構計算平台。
• 網路裝置：如櫃頂（ToR）交換器、匯聚/核心交換器、光纖模組等。
• 儲存裝置：包含全快閃記憶體陣列、混合儲存、磁帶庫及分散式儲存節點。

在測量邊界上，業界已形成共識：IT 負載的測量點通常取在機櫃內智慧電源分配單元（PDU）的饋線輸出端，即進入 ICT 裝置電源模組（PSU）之前的位置。 這一定義得到了 Uptime Institute 和 The Green Grid 等組織的認可（來源：The Green Grid, “PUE: A Comprehensive Examination of the Metric”, 2019）。該測量關口不包括 PDU 自身的功耗及照明等負載，但可能包含機櫃內的交換器等網路裝置的功率。在超大規模資料中心（Hyperscale），通過自研電力監控系統（EPMS）對每個機櫃實現秒級或分鐘級讀數彙總是標準做法。

3.2 功率物理模型

進入 ICT 裝置的電能，最終只有兩個物理去向：

1. 有效計算與訊號傳輸：晶片內部邏輯閘翻轉、記憶體重新整理、I/O 資料傳輸所消耗的動態功率。這部分功率直接正比於資料處理量。
2. 廢熱：根據熱力學第一定律，幾乎所有輸入的電能最終都以熱能形式耗散到環境中。這正是製冷系統需要 24/7 不間斷運轉的根本原因。例如，一款熱設計功耗（TDP）為 700 W 的 GPU，在滿載時基本等同於一個 700 W 的固定熱源。

對 IT 負載功率的精確建模，需理解銘牌功率、執行功率與熱設計功耗（TDP）的關係。銘牌功率是裝置電源的最大額定輸出能力，遠高於實際執行值，絕不能直接用於工程設計；而 TDP 是晶片散熱設計的指標，近似為最大可持續功率。IT 負載規劃通常以 TDP 或廠商提供的持續功耗為基準，併疊加記憶體、網絡卡等元件的功耗。

3.3 PUE 與 IT 負載的耦合性

PUE 與 IT 負載之間存在一個常被誤解的數學耦合陷阱。公式 PUE = 總設施功率 / IT 負載功率 表明，若僅升級能效更高的伺服器，IT 負載（分母）會降低，在製冷等基礎設施功耗（分子的一部分）未年增率降低的情況下，PUE 值反而會升高。但這並不表示設施效率退化，而是“同等算力下用了更少的電”。因此，客觀評價能效必須將 PUE、IT 負載功率與總算力產出（如 TFLOPS）三者聯動分析，缺一不可。

4. 關鍵引數

工程與商業決策依賴於對以下關鍵引數的量化追蹤：

• IT 負載總功率（MW）：資料中心規劃設計的首要引數。全球頭部超大規模資料中心（Hyperscale）的 IT 負載容量已普遍達到 50-150 MW 級別（來源：Synergy Research Group, Hyperscale Data Center Tracker, Q1 2024）。
• 機架功率密度（kW/Rack）：決定供電與冷卻架構的黃金指標。目前，多數新建通用型資料中心仍以 5-10 kW/rack 為主力，而專為 AI 叢集建置的資料中心單機櫃設計值可達 30-100+ kW/rack（來源：Vertiv 2023 Technology Outlook）。
• IT 負載佔比（IT Load Ratio）：即 IT 負載設計值與總供電容量之比，用於評估配電系統是否存在過度冗餘設計。
• IT 裝置利用率：指實際執行總功率與所有 IT 裝置銘牌額定功率之和的比值，直接反映硬體資產的過度配置程度。
• 功率波動幅度：指 IT 裝置功耗在不同工作負載（如高負荷訓練與空閒待機）下的瞬時變化範圍，對供電系統的動態響應和電池切換策略構成挑戰。
• 每瓦特算力效率：如 TFLOPS/W 或 Tokens/kWh，這是跨越 IT 裝置與基礎設施的終極能效評價指標，直接關聯運營成本。

5. 技術路線

5.1 核心演進路線圖

IT 負載的發展史，是一部算力密度不斷挑戰物理極限的歷史。

1. 早期分散期（2000 年前）：以通訊機房為主，單機櫃功耗常在 1-2 kW，無專用製冷，IT 負載概念模糊。
2. 標準化及虛擬化期（2005-2015）：伺服器密度提升，刀鋒伺服器湧現。The Green Grid 在 2007 年推廣 PUE，IT 負載作為分母被正式確立為能效管理的中心，業界開始精細計量。
3. 高密度異構計算期（2016-2022）：GPU 驅動的 AI 訓練、雲端運算興起。晶片功耗從單顆 150W 級別飆升至 NVIDIA V100 的 300W 再到 A100 的 400W。單機櫃 10-20 kW 成為大型雲端服務商的部署常態。
4. 極端密度與液冷原生期（2023-至今）：生成式 AI 爆發，NVIDIA H100/H200 晶片 TDP 達到 700W，B200 更至 1000W（來源：NVIDIA 官方規格），單機櫃功耗輕鬆突破 40 kW，甚至達到 100 kW+。此階段的主要特徵是液冷（冷板、浸沒式）從可選項變為必選項，IT 負載的散熱介質由空氣轉向液體。

5.2 技術解決方案對比

維度	傳統風冷 IT 負載（中低密度）	高密度風冷+後門熱交換	液冷原生 IT 負載（冷板/浸沒）
單機櫃 IT 負載範圍	3 - 8 kW	10 - 25 kW	20 - 100+ kW
典型 PUE	1.30 - 1.60	1.15 - 1.25	1.03 - 1.10（行業估算）
冷卻系統耦合度	松耦合	中度耦合	緊耦合（冷卻直接決定可用性）
伺服器設計約束	器件版面配置需適配風道	機櫃需具備液冷模組介面	需冷板元件或全密封浸沒腔體
可維護性與相容性	高	中	較低，尤其浸沒式

6. 上游

IT 負載的物理形態與效能邊界，由上游產業鏈定義：

• 晶片製造商：是 IT 負載功率與能效的源頭定義者。NVIDIA、AMD、Intel 及雲端廠商自研晶片團隊（如 Google TPU、AWS Trainium）的工藝製程和架構設計，直接決定了單顆晶片乃至整機的功耗、效能與每瓦特算力曲線。
• 伺服器 ODM/OEM：如廣達、緯創、Supermicro、Dell、寧暢等，負責將晶片、記憶體、儲存、網路等核心部件整合為伺服器，其電源與散熱設計（如 48V 直供、OCP 浸沒式規範）直接影響 IT 負載的測量、效率與密度上限。
• 網路裝置商：Arista、思科、華為等提供的高階交換器，單機功耗可達數百瓦至千瓦級別，在網路密集型叢集中佔 IT 負載的 10%-15%（定性估算）。
• 電源模組（PSU）廠商：臺達、光寶等提供的伺服器電源，其轉換效率（鈦金級、超越鈦金級）直接決定了 IT 負載在初始端的測量值，並貢獻於整體能效。

7. 下游

IT 負載的形態和規模，由下游應用需求拉動：

• 雲端運算與網際網路巨頭：AWS、Azure、GCP、阿里雲端、字節跳動等，是全球 IT 負載容量的最大部署者。它們的業務負載特徵（如電商峰值、影片流、大規模搜尋）直接決定了 IT 負載的規模、密度和彈性需求。
• AI 模型訓練與推論廠商：OpenAI、Anthropic 及各大企業的 AI 研究院，其萬卡級 GPU 訓練任務是推動單機櫃 IT 負載向 60 kW+ 躍升的核心驅動力。
• 資料中心運營商：如 Equinix、Digital Realty、萬國資料、秦淮資料，它們提供承載 IT 負載的基礎設施空間和電力容量，其技術規範和可支援的功率密度直接約束了 IT 負載的部署形態。
• 企業級使用者：金融、製造、電信等行業，其核心交易系統、資料儲存等穩態 IT 負載仍佔較大比重，但對高密度 AI 負載的需求正在興起。

8. 受益公司

注：本小節僅從產業角色和增長驅動力的角度列舉處於受益邏輯鏈上的代表性公司及其業務關聯，任何公司都存在經營、市場和競爭風險。“受益”指其業務與產業趨勢正相關，不構成任何形式的投資、買賣或業績預測建議。

• 技術賦能層：

  • NVIDIA：其 GPU 定義了當前 AI IT 負載的功率和密度天花板，直接驅動整個電力、冷卻產業鏈的升級投資。
  • Vertiv, Schneider Electric：完整電力與溫控基礎設施方案商的直接受益者。因 IT 負載密度提升，單位面積/功率的配電和冷卻裝置價值量（$ / kW）大幅增加（來源： Schneider Electric, “The AI Disruption: Challenges and Opportunities”, 2024）。
  • CoolIT Systems, Boyd Corp：直接晶片級冷板液冷方案商，其產品幾乎成為 40 kW+ 單機櫃部署的標配元件。

• 基礎設施承載層：

  • 萬國資料、秦淮資料：聚焦於核心城市及資源樞紐的高密度、高電力容量資料中心運營商，在行業供電緊張時掌握稀缺容量資源。
  • Digital Realty, Equinix：全球版面配置的頭部運營商，其廣泛的客戶基礎和高規格設施能靈活適應不同密度的 IT 負載組合。

• 算力應用與使用者層：

  • 微軟、亞馬遜、Google：作為超級使用者，自研晶片與大型模型深度結合，通過最佳化 IT 負載的每瓦算力，在超大規模部署中實現長期 Capex 和 Opex 的競爭優勢。

9. 市場規模

注：由於嚴格的搜尋設定，無法獲取即時市場規模資料，以下分析基於近期權威機構釋出的行業趨勢和邏輯推斷，僅供參考。

• IT 負載的物理資產市場：IT 負載的直接載體是伺服器、儲存和網路硬體。據 IDC 2024 年 6 月報告，僅用於 AI 加速計算的伺服器市場在 2024 年就將佔伺服器總資本支出的近一半，其出貨功率（即 IT 負載的基礎）的複合增長率遠超通用伺服器。
• IT 負載驅動的電力消耗市場：據 Uptime Institute 2023 年全球調查報告，受訪者預計其 IT 負載功率在 2024 年將平均增長 10-20%，而 AI 負載運營商的增長預期更高。馬斯克及多位業內高管在 2024 年公開場合的發言中反覆提及，電力供應而非晶片，正迅速成為限制 IT 負載部署規模的瓶頸。
• 高密度電力與冷卻市場：IT 負載的密度躍升正在重估基礎設施的價值。據公開發布的行業研究報告預測，僅資料中心液冷市場預計將以超過 25% 的複合年增長率增長至 2028 年，這將由單機櫃 IT 負載從 5 kW 向 30 kW+ 的轉變直接推動。

10. 玩家對比

注：本節對比不同商業模式的資料中心運營商在承接 IT 負載時的能力與策略差異。

維度	頭部雲端廠商自建 (Hyperscale Builder)	頭部專業運營商 (Wholesale/Colocation)	傳統託管與服務商 (Enterprise Focus)
典型代表	AWS, Azure, GCP, Meta，阿里雲端	Digital Realty, Equinix, 萬國資料, DLR	地方性電信運營商, Atos, Kyndryl等
IT 負載構成	自研硬體佔比高，負載型別由自身業務定義，高度同構化、高度最佳化	客戶多樣，負載型別混合（從5 kW/rack到40 kW/rack不等）	以中低密度傳統企業IT負載為主，對AI負載的承接能力有限
電力與密度	定義行業極限，自建配電網，設計密度高達50-100 MW+	具備較強電力工程能力，可提供部分高密度解決方案，但受限於既有建築和電網位置	電力配置冗餘度低，大量依賴標準電網，高密度支援能力弱
戰略焦點	全棧垂直整合，向下控制晶片、電力，向上最佳化應用，追求極致每瓦算力成本	平台化、規模化運營，在關鍵節點獲取稀缺電力許可，提供靈活性和合規性	專注於端到端的IT服務管理（運維），而非底層基礎設施的物理極限拓展
競爭力來源	極致規模效應與全棧技術創新	地理分佈、網路互聯生態、合規牌照及資金週轉效率	客戶關係、行業認證、IT管理與諮詢服務能力

11. 風險

• 電力可用性與接入風險：這是限制 IT 負載增長的首要物理約束。在維吉尼亞北部、新加坡、愛爾蘭等核心樞紐，電網容量已滿負荷，新的大規模 IT 負載幾乎無法接入，導致專案延期或轉向偏遠地區。
• 技術代差與資產擱淺風險：大量建於 2015-2020 年的資料中心，其供電容量（通常 <10 kW/rack）和樓板承重（<1.2 噸/機櫃）無法承載 30 kW+ 的現役 AI IT 負載，若無法進行昂貴的改造，將面臨租戶流失和資產價值縮水，形成“擱淺資產”。
• 冷卻系統失效風險：隨著 IT 負載密度急速提升，熱慣性和熱失控的時間視窗急劇縮短。一旦液冷系統的冷量分配單元（CDU）或迴圈泵失效，高密度機櫃可能在幾分鐘內達到過熱停機閾值，導致大規模業務中斷。
• 定義與測量的準確度偏差風險：若 IT 負載的測量口徑不一致（例如，是否計入 ToR 交換器、是否是 GPU 板的瞬時峰值），會導致 PUE 計算失真，進而掩蓋工程問題或產生誤導性的能效報告，影響運營商的企業社會責任報告準確性。
• 投資回報率錯配風險：為高密度 IT 負載（如 60 kW/rack）預留的電力、土地和液冷系統投資巨大，但若未來負載密度因演算法最佳化或晶片能效突破而回落或趨於穩定，前期高昂的基礎設施“過投資”將拉長回報週期。

12. 誤讀糾偏

• 誤讀 1：“IT 負載就是伺服器的功耗。” 糾偏：IT 負載是多類裝置的總和。除了計算伺服器，它嚴格包含儲存和網路裝置功耗。在大型 AI 叢集中，為消除網路瓶頸而部署的數千臺高階交換器，其功耗可能佔到 IT 負載總額的不小比例，是冷卻和供電規劃不可忽視的一部分。

• 誤讀 2：“機櫃平均功率為 8 kW，就按 8 kW 設計供電即可。” 糾偏：這是工業工程中一個常見的“平均值陷阱”。IT 負載是高度動態的，GPU 訓練時的峰值功耗和閒置狀態可能相差巨大。設計必須基於統計學上的峰值測量（如 99.9% 分位功耗），併疊加安全冗餘，而非簡單的算術平均值，否則極易觸發過載保護。

• 誤讀 3：“PUE 等於 1.02 代表用能很完美。” 糾偏：PUE 是一個效率比值，不是絕對值。一個 PUE 低的設施，可能只是因為它裝載了高功耗的低能效舊伺服器，導致分母變大，而並非其基礎設施效率出眾。評價能源效率必須將 PUE 與單位算力的能耗（TFLOPS/W）結合，算力產出才是最終目的。

• 誤讀 4：“把 IT 裝置銘牌功率加起來，就是所需的總功率。” 糾偏：裝置銘牌標註的是其電源的最大理論輸出值，通常遠大於實際執行功率。直接按銘牌功率累加來規劃配電和冷卻，會導致嚴重的過度投資和低裝置利用率。正確的做法是基於實際工作負載的功耗測試資料建模。

13. 最新事件

• GB200 Grace Blackwell 超級晶片釋出：NVIDIA 在 2024 年 GTC 大會上正式釋出了新一代 B200 GPU 和 GB200 超級晶片，其 TDP 和整機櫃（NVL72 機櫃）解決方案將單機櫃的 IT 負載功耗推向了 120 kW+ 的極端水平（來源：NVIDIA 2024 年 GTC 主題演講及技術白皮書），迫使所有合作伙伴加速液冷技術部署。
• 政府介入電力調配：根據公開新聞報道，由於 AI 訓練帶來的高密度 IT 負載集中增長，新加坡、愛爾蘭、荷蘭等國政府已在 2023-2024 年間出臺或收緊資料中心建設禁令與電力效率標準，優先保障民用負荷。
• Meta 重啟核能供電探討：據 Axios 等媒體報道，因預計未來 AI 的 IT 負載將需要驚人的清潔電力，Meta Platforms 於 2024 年公開徵詢小型模組化反應堆（SMR）方案，用於支援其 2030 年代的資料中心能源目標。
• 超大規模運營商 PUE 再創新低：Google、微軟在其最新可持續發展報告中揭露，部分採用先進液冷和氣候適配型冷卻技術的新一代資料中心，其全年平均 PUE 已接近 1.07-1.10 的理論下限，這為高密度 IT 負載的可持續執行提供了實踐樣本。

14. 追蹤指標

為持續追蹤 IT 負載及相關產業動態，應關注以下核心指標，資料通常來源於公司財報、可持續發展報告、行業白皮書及政府機構：

1. 單機櫃設計功耗趨勢（kW/rack）：追蹤主流運營商和硬體廠商（如 NVIDIA DGX 方案）最新發布的新建資料中心參考架構設計值。
2. 晶片 TDP 與能效曲線：關注 NVIDIA (H/B系列)、AMD (MI系列)、Intel (Gaudi系列) 釋出的下一代 AI 晶片及其每瓦效能 (TFLOPS/W) 的提升比率。
3. 上市公司關鍵 KPI：資料中心運營商（如 Equinix, DLR）季度財報中揭露的“已交易電力容量 (Booked power)”、“在役機櫃平均密度”以及其資本支出中用於電力擴容的比例。
4. 液冷滲透率與產業鏈報價：追蹤冷卻方案商（如 Vertiv, CoolIT）財報中液冷業務的訂單積壓額和增長率，以及冷板、CDU 等關鍵元件的公開採購成本變化。
5. 核心區域電價與電力審批：追蹤北美（維吉尼亞、達拉斯）、亞太（新加坡、東京、馬來西亞柔佛州）等關鍵樞紐的工業電價走勢及地方政府的新增電力配額政策。

15. 信源

• The Green Grid. (2019). PUE: A Comprehensive Examination of the Metric.
• Uptime Institute. (2023). Global Data Center Survey 2023.
• ASHRAE TC 9.9. Thermal Guidelines for Data Processing Environments (Fifth Edition).
• NVIDIA Corporation. (2023). DGX SuperPOD Reference Architecture.
• NVIDIA Corporation. (2024). NVIDIA GB200 NVL72 Technical Overview.
• Synergy Research Group. (Q1 2024). Hyperscale Data Center Tracker.
• Vertiv. (2023). 2023 Technology Outlook: Data Centers.
• IDC. (June 2024). Worldwide Quarterly Server Tracker.
• Schneider Electric. (2024). The AI Disruption: Challenges and Opportunities for Data Center Design.
• Barroso, L.A., Hölzle, U., & Ranganathan, P. (2018). The Datacenter as a Computer: Designing Warehouse-Scale Machines. Springer.
• 各公司（Meta, Google, Microsoft, 萬國資料等）歷年釋出的財報、可持續發展報告及公司公告。