峰值功率

3 秒看懂

峰值功率是 AI 晶片與訓練叢集在極短時間內（微秒至毫秒級）達到的最大電力消耗，它決定了供電系統安全裕度、散熱方案選擇以及機架密度上限。大型模型訓練時代，單晶片瞬時功耗可超 TDP 20%~50%[行業估算]，一個萬卡叢集總峰值可達數十兆瓦，峰值功率已從晶片資料手冊上的參考值演變為資料中心總功率瓶頸的核心約束。

3 分鐘產業解釋

在深度學習場景中，峰值功率不是一張 data sheet 上的靜態數字，而是動態的、情境化的“瞬間天花板”。當 GPU 張量核心全部滿載、HBM 高頻寬記憶體連續讀寫、網路高速收發時，一塊加速卡的功耗可在毫秒級內躍升到遠超平均設計值。

產業上常用 TDP（熱設計功耗）指導散熱方案選型，但實際峰值功率可瞬時超出 TDP 20%50%[行業估算]——這要求在電源電路設計、機櫃配電和園區級供電規劃中預留可觀的安全餘量。以 2024 年典型產品為例，NVIDIA H100/H200 SXM 版本 TDP 為 700 W[公開資訊]，其瞬時峰值功耗可觸及 9001050 W[估算]區間；B200/B100 系列 TDP 推高至單封裝 1000 W 級[公開資訊]，瞬時峰值可達 1200 W+[估算]。一個滿配 8-GPU 節點的瞬時功率可超 8 kW，包含數千張加速卡的訓練叢集總峰值功率達數兆瓦至數十兆瓦，相當於一箇中型工業廠區的用電量。

這種量級的波動給供電基礎設施（UPS 瞬態響應、備電切換、柴油發電機啟動）和熱慣性管理（液冷 CDU 響應速度、二次側水溫驟升）帶來嚴峻挑戰。行業因此出現兩條並行路徑：一是晶片側通過精細的功率封頂（power capping）來消峰，以輕微效能損失換取系統穩定性；二是基礎設施側轉向 48 V 直流供電、浸沒液冷、超級電容/電池備份單元（BBU）等能應對高密度瞬態功率的架構。可以說，誰管理好峰值功率，誰就掌握了 AI 算力密度和 TCO 的平衡點。

技術原理

晶片級功耗來源與峰值成因

CMOS 電路動態功耗近似由下式給出：

P_{text(dynamic)} = \alpha \cdot C \cdot V^2 \cdot f

各引數在峰值場景下的含義：

• α（活動因子）：表示單位週期內電晶體開關比例。在矩陣乘法密集 kernel 中，張量核心滿執行緒並行執行 FP8/FP16 的 MMA 指令時，向量單元和暫存器檔案切換率達最高，α 趨近於 1。
• C（等效負載電容）：與工藝節點及設計相關。先進節點（N4/N3）的單位電晶體電容下降，但電晶體數密度上升，總 C 不減反增。
• V（供電電壓）：峰值功率管理常利用動態電壓頻率調整（DVFS），短時提升電壓以支撐高頻，導致功耗以平方關係增長。現代 GPU 核心電壓典型範圍 0.8~1.2 V。
• f（工作頻率）：GPU Boost 允許短時超頻，極限 turbo 模式下頻率可超出基礎值 20% 以上，功耗呈非線性爬升。

另外，靜態漏電功耗 P_{text(leak)} 在 3nm/4nm 製程中佔比顯著，高溫下指數增加，間接抬高峰值功率。高計算負載產生的高結溫通過漏電正反饋進一步推高總峰值——這被稱為“熱失控風險視窗”，是晶片和散熱設計需共同應對的耦合問題。

板級電源架構與瞬態響應

AI 加速卡供電鏈路：12 V / 48 V 輸入 → 多相 Buck VRM → 核心電壓（0.8~1.2 V）。峰值電流可達幾百安培。

輸入電源 (12/48V)
 │
 ├─ 多相 VRM (控制器 + DrMOS)
 │    ├─ GPU 核心電壓 (VDD_CORE)
 │    │    └─ 電流: 穩態 400A → 峰值 600A+ [估算]
 │    └─ HBM/IO 電壓 (VDD_MEM/VDDQ)
 │
 └─ 配電網路 (阻容去耦)

當負載從 idle 驟升至全速，VRM 必須在若干微秒內滿足電流階躍，否則出現電壓跌落觸發復位。板級鉭/陶瓷電容和片上去耦電容構成多級儲能池——片上去耦電容吸收百納秒級尖峰，板級陶瓷電容處理微秒級波動，鉭聚合物電容應對毫秒級浪湧。功率管理的閉環通過每毫秒取樣電流/電壓、調整 VRM 相數或快速降頻（硬體 throttling）實現。

峰值功率的“高危時段”

對 AI 訓練而言，峰值功率集中出現在四個場景：

1. 矩陣乘法密集 kernel：Tensor Core 以 FP8/FP16 滿執行緒並行執行 MMA 指令時，動態功耗尖峰幅度最高。
2. 通訊與計算重疊：梯度 AllReduce 期間，晶片內 NVLink/網絡卡和計算單元同時全速工作，外部 I/O 功耗與核心功耗疊加，形成複合峰值。
3. 突發至高頻模式：GPU Boost 短時超頻視窗，功耗增速遠超頻率增速（非線性的 V²·f 關係）。
4. HBM 重新整理與多通道訪問：HBM 多堆疊全通道併發讀寫，記憶體子系統瞬時電流需求劇烈波動。

叢集功率動態與“拍頻”效應

從系統層面看，大規模叢集內數千卡不完全同步，但訓練迭代的梯度計算和通訊階段具有天然同步性。當大量節點在相近時間視窗進入負載高峰，峰值聚合時會出現“拍頻”效應——叢集總功率在平均值的 70% 至 100% 區間寬幅震盪，導致機架甚至整個資料中心的功率搖擺，影響電能質量（電壓暫降、諧波畸變）。因此，超大規模 AI 資料中心的供電設計不再只看穩態平均功率，而要依據統計峰值功率（如 99.9 百分位），並配置動態有功響應電源（如電池儲能 + 飛輪 UPS），以平滑秒級以上的功率浪湧。

關鍵引數

峰值功率相關的核心工程引數分為晶片層、節點層和叢集層三個維度：

晶片層

• TDP / cTDP（可配置熱設計功耗）：散熱設計的工程基準，非電氣上限。廠商通過 cTDP 允許 OEM 根據實際散熱能力調節功耗牆。
• 最大電氣功耗（Max Electrical Power）：韌體/驅動控制下的極端供電需求，常高於 TDP，是板級電源設計的參考上限。
• 瞬間尖峰幅度與持續時間：如 1 ms 內達到 1.3×TDP 的電流值[估算]，影響板級電容選型和 VRM 瞬態設計。行業一般將持續時間分為三個等級：百納秒級（由片上去耦處理）、微秒級（由板級陶瓷電容吸收）、毫秒級（由鉭電容或 BBU 接管）。
• 功率限制閾值（Power Limit）：軟硬協同的封頂值，可由使用者（nvidia-smi -pl）或叢集排程器設定，實現確定性功耗牆。

節點層

• 供電單元（PSU）標稱功率與保持時間：峰值需求下 PSU 能否穩定輸出且保持 20 ms+（典型 UPS 切換時間）不斷電。
• 功耗狀態切換延遲（Power State Transition Latency）：從低功耗到高效能的斜坡時間，影響效能和峰值管理策略的響應速度。

叢集層

• 機架功率密度（kW/rack）：液冷允許的每機架峰值功率，已從傳統資料中心的 510 kW/rack 演進到 AI 叢集的 2050 kW/rack 甚至更高（2024 年 NVIDIA DGX 參考架構為 80 kW/rack[公開資訊]）。
• PUE 峰值退化：尖峰負載時冷卻系統加力運轉，瞬態 PUE 可從穩態 1.11.2 惡化至 1.31.5。
• 統計峰值功率（如 P99.9）：用於園區級配電規劃，而非算術平均功率。

技術路線

供電架構演進路線

技術路線/場景	典型單晶片峰值功率範圍	散熱方案	供電架構要點	應用案例
輕型推論卡	15~75 W	被動/簡單風扇	傳統 12 V 主機板供電	邊緣 AI、攝像頭、終端推論
通用訓練卡（風冷）	150~300 W	主動風扇+大面積散熱鰭片	12 V + 多相 VRM，EPS 聯結器	單機多卡工作站、舊代雲端 GPU 例項
高階訓練卡（風冷邊界）	300~450 W	高轉速風扇+均熱板	12 V/48 V 多軌，大電流聯結器	8-GPU 風冷伺服器
液冷訓練卡（冷板）	450~700 W	冷板液冷（直接到晶片）	48 V 機架內供電，冗餘 PSU	主流 AI 訓練叢集（H100/H200）
極端液冷/浸沒	700~1200 W+	浸沒式/單相液冷	48 V/54 V 配電，晶片級垂直供電	下一代千卡以上訓練節點（B200/GB200）

[注] 典型數值基於行業主流產品公開引數為區間，具體型號見各廠商規格表。

功率管理技術路線對比

硬體側

1. 多相 VRM + 動態相數控制：輕載時減少工作相數提高效率，過載時全相投入確保瞬態響應。當前高階 GPU 板卡通常採用 12~20 相供電設計[公開資訊]。
2. 超級電容/電池備份單元（BBU）：在機架或伺服器級部署鋰電 BBU（如 NVIDIA GB200 NVL72 機櫃內建 BBU[公開資訊]），替代傳統資料中心級 UPS，提供短時大功率消峰能力。
3. 48 V 直連供電：降低傳輸電流和 I²R 損耗，支援更高功率密度，已成為 OCP Open Rack V3 標準架構。

軟體側

1. 確定性功率封頂（Power Capping）：排程器在毫秒級粒度監控叢集總功率，當接近配電上限時選擇性 limiter 部分節點頻率或推遲非關鍵任務。
2. AI 驅動的預測性功率管理：利用歷史負載資料和訓練任務圖，提前預測峰值到來並預冷或預卸負載，降低基礎設施響應壓力。

上游

峰值功率產業鏈上游包括晶片設計工具、半導體制造、封裝散熱和電源管理等環節：

晶片設計工具

• EDA 廠商（Synopsys、Cadence、Ansys）提供峰值功耗估算與 signoff 工具（PrimePower/Voltus、Voltus、RedHawk），用於最佳化供電網路 IR-drop 和電遷移裕度，直接影響電晶體活動因子和等效電容設計水平。

半導體制造

• 台積電 N4/N3/N2 等先進工藝降低單位電晶體開關電容，但更高密度與頻率使總功率持續攀升。工藝廠商需提供針對高電流密度場景的 PDK 選項（如厚金屬層、低阻抗標準單元）。
• 三星、英特爾也在推進 GAA（全環繞柵極）架構以改善漏電控制，間接降低高溫漏電對峰值功率的貢獻（2024 年後量產）。

封裝與散熱

• 先進封裝：台積電 CoWoS、三星 I-Cube 等將 GPU + HBM 緊耦合，HBM 多堆疊功耗推高總峰值，同時封裝內部的凸點電流密度和金屬層電遷移成為新瓶頸。
• 液冷散熱：冷板（CoolIT Systems、Boyd Corp、曙光數創、AVC）、冷卻液分配單元 CDU（Vertiv、Schneider Electric、Delta）、歧管和泵浦廠商直接決定可支援的峰值功率密度。
• 浸沒冷卻液：3M、Shell、Chemours 等提供單相/兩相浸沒介質，需兼顧熱容、化學穩定性和環保合規（PFAS 法規趨嚴，2024-2025 年為關鍵切換視窗）。

電源管理 IC 與功率半導體

• DrMOS/功率級晶片：英飛凌、MPS、TI、onsemi 提供智慧功率級模組，整合驅動和 MOSFET，決定 VRM 瞬態響應能力和效率。
• 多相控制器：Renesas、Infineon 等提供支援 1220 相的控制晶片，實現 12 kHz 的電壓調整環路頻寬。
• 48 V bus converter：臺達電子、Artesyn（Advanced Energy）、Flex 提供機架級 48 V 至 12 V / 1.2 V 轉換模組。

配電與儲能

• 超級電容模組：Maxwell（特斯拉旗下）、Skeleton Technologies 為毫秒級尖峰消納提供短時大功率儲能。
• 伺服器級鋰電 BBU：三星 SDI、LG Energy Solution、寧德時代等進入資料中心 BBU 市場，替代傳統鉛酸蓄電池和集中式 UPS（2024 年起 GB200 等系統標配 BBU[公開資訊]）。

下游

伺服器 OEM/ODM

• 超微（Super Micro）、廣達/雲端達、緯穎、英業達、富士康工業網際網路等設計主機板、背板和配電節點，解決單節點的峰值電流輸送和散熱整合。超微 2024 年液冷伺服器出貨量年增率增長顯著[公開資訊]。
• OEM 需針對不同晶片平台（NVIDIA、AMD、Intel）定製功率設計，相容 12 V 和 48 V 雙軌方案。

資料中心運營商（超大型）

• Google、微軟、亞馬遜、Meta、甲骨文等基於峰值功率引數規劃機櫃密度和園區總供電容。
• Google TPU v5p 系統設計圍繞既定功率牆最佳化，通過閉環 capping 換取更高密度部署[公開資訊]。
• 微軟 Azure 在 2024 年宣佈擴大液冷部署以應對新一代 AI 晶片功耗需求[公開資訊]。
• 部分新建資料中心選址開始優先考慮當地電網餘量和可再生能源接入能力（如美國俄亥俄州、愛爾蘭、北歐節點），峰值功率已上升為選址決策的核心變數。

AI 模型訓練方

• OpenAI、Anthropic、DeepMind、xAI 以及國內大型模型廠商（智譜、MiniMax、百川等）在訓練千億至萬億引數 MoE 模型時，需與雲端廠商或自建叢集協同管理 peak power 以避免跳閘。
• 推論服務（GPT、Gemini、文心一言等）的突發請求也可能引發瞬時功率峰，影響 SLA 和運營成本。2024 年行業出現“功率感知排程”（Power-Aware Scheduling），在推論任務佇列中插入功率預算約束。

受益公司

以下為峰值功率抬升趨勢下，產業鏈各環節可能受關注的公司（基於其產品與峰值功率管理的直接關聯性；具體財務表現需以公司定期報告和官方揭露為準）：

AI 晶片

• NVIDIA（H100/H200/B200/GB200 系列）：產品峰值功率逐年攀升，推動供電散熱產業升級。2024 財年 Data Center 營收中，與高功率液冷配置配套的 SXM 版本佔比持續提升[公開資訊]。
• AMD（MI300X 系列）：2024 年 MI300X TDP 為 750 W[公開資訊]，峰值功率管理能力對標 NVIDIA。
• Intel（Gaudi 3）：TDP 約 600 W 區間[公開資訊]，聚焦推論和訓練場景。

液冷散熱

• Vertiv：提供冷板液冷整體方案（Liebert 系列 CDU），2024 年 AI 相關訂單增長顯著[公開資訊]。
• CoolIT Systems：冷板液冷龍頭，與多家 OEM 合作。
• Boyd Corp：高階散熱元件（均熱板、冷板），覆蓋多個 AI 晶片平台。
• 曙光數創：中國液冷資料中心方案商，在浸沒和冷板路線上均有版面配置。

電源與功率半導體

• 臺達電子：高功率密度伺服器 PSU 和 48 V bus converter 主要供應商。
• Artesyn（Advanced Energy）：Hyperscale 級電源方案。
• 英飛凌、onsemi、MPS：DrMOS 和智慧功率級晶片核心供應商。

資料中心基礎設施

• 施耐德電氣：從園區配電到機櫃 PDU 的全棧方案，2024 年推出 AI 專用配電產品線[公開資訊]。
• 維諦（Vertiv）：液冷 CDU + 高密度 PDU + 48 V 供電系統。

超級電容/BBU

• 特斯拉（Maxwell）：乾電極超級電容。
• Skeleton Technologies：石墨烯基超級電容，瞄準資料中心短時高功率場景。
• 三星 SDI、寧德時代：鋰電 BBU 電芯供應商，進入 GB200 供應鏈生態[公開資訊]。

市場規模

以下資料基於第三方機構公開報告和行業公開資訊整理，不構成本文對市場未來走勢的判斷：

資料中心電力基礎設施市場

• 據 McKinsey 2024 年報告，全球資料中心電力基礎設施市場規模 2023 年約 230 億美元，預計 2030 年達 550~600 億美元，年複合增長率約 13%~15%[第三方估算，口徑含 UPS、配電、開關裝置、母線]。
• 其中，AI 驅動的高功率需求（單機架 >50 kW 場景）貢獻增量佔比約 30%~40%[第三方估算]。

液冷市場

• 據 Research and Markets 2024 年資料，2023 年全球資料中心液冷市場規模約 31 億美元，預計 2028 年達 120~150 億美元，年複合增長率約 30%~35%[第三方報告口徑，含冷板、浸沒、CDU]。
• 液冷滲透率與晶片峰值功率強相關：當單卡 TDP 超過 400 W，風冷 TCO 因風扇功耗和維護成本升高而失去經濟性。2024 年約 15%~20% 的新建 AI 訓練叢集採用液冷[行業估算]，預計 2027 年滲透率突破 40%[公開資料未見精確基準]。

48 V 供電及 BBU 市場

• Omdia 2024 年報告預計，資料中心 48 V 供電架構市場（含 bus converter、BBU、機架配電）2023 年約 18 億美元，2028 年達 50 億美元+，年複合增長率約 22%~25%[第三方口徑]。
• BBU 市場由 GB200 等標配方案拉動進入快速增長期，2025-2026 年為關鍵放量年份[行業估算]。

玩家對比

以下為峰值功率管理能力視角下主要晶片廠商的定性對比（基於截至 2025 年 7 月的公開資訊和行業分析；具體引數詳見原廠最新 datasheet）：

維度	NVIDIA	AMD	Intel	Google TPU
旗艦訓練晶片	B200/GB200	MI300X/MI325X	Gaudi 3	TPU v5p
典型 TDP（公開資訊）	B200: 1000 W 級；GB200: 2700 W 級（2×GPU+CPU）[公開資訊]	MI300X: 750 W[公開資訊]	Gaudi 3: 600 W 級[公開資訊]	未公開精確數值[行業估算 500-700 W]
峰值功率管理	硬體 power capping + NVML 管理介面；GB200 標配 BBU[公開資訊]	ROCm 生態下功耗管理成熟度不及 CUDA 側	Habana 功耗管理方案相對簡潔	自研閉環 capping，深度繫結叢集排程（Borg）
液冷策略	B200/GB200 預設推薦液冷，風冷選項退出高階	冷板液冷可選，OEM 方案為主	目前風冷為主，液冷準備中	自研液冷系統（TPU v4 起標配）
供電架構	48 V + BBU（GB200 NVL72 機櫃）	OEM 定製，12 V/48 V 雙軌	48 V 路線圖未公開細節	自研定製，未對外公開
叢集功率密度	GB200 NVL72 單機架 80 kW+[公開資訊]	取決於 OEM 設計	暫無千卡液冷叢集公開案例	TPU v5p 單 pod 功率未公開
生態開放度	全棧封閉，OEM 遵循 NVIDIA 參考設計	開放生態，依賴 OEM 實現	開放生態，側重推論場景	完全自用，不對外供貨

風險

技術風險

1. 熱失控與漏電正反饋：隨著 TDP 和峰值功率持續攀升，晶片結溫管理視窗收窄。高溫下漏電指數增長，可能觸發“功耗-溫度”正反饋迴圈，導致不可控的功率尖峰。這要求更精確的結溫感測和更快速的 throttling 響應（微秒級）。
2. 液冷洩漏與可靠性：冷板和 CDU 的管路、快接頭數量隨叢集規模線性增長，發生液體洩漏的機率累積增加。單次洩漏可能導致價值數十萬美元的加速卡損壞。2024 年行業開始推動無洩漏設計（如負壓冷板、防洩漏接頭）和中期液冷可靠性標準。
3. 電能質量惡化：大規模叢集的功率拍頻效應可能引發電壓暫降和諧波畸變，影響同園區其他 IT 裝置甚至上游配電網。傳統 UPS 設計難以應對毫秒級功率震盪，需引入飛輪儲能、超級電容等高速補償裝置。
4. 供電架構轉換成本：從 12 V 遷移至 48 V 涉及機架、母排、聯結器和 PSU 的全面更換，對於存量改造專案難度較大。

市場與供應鏈風險

5. 關鍵物料短缺：高階 DrMOS（智慧功率級）和 48 V bus converter 模組產能集中在英飛凌、MPS 等少數供應商，2024-2025 年高階產品交期可能延長至 26~52 周[行業估算]。
6. PFAS 環保法規對浸沒液冷的影響：浸沒液冷常用氟化液，受 PFAS 法規趨嚴影響（歐盟 2024-2026 年推進限制措施），合規替代介質成本較高且驗證週期長。
7. 電力資源稀缺：部分地區（如美國維吉尼亞州、愛爾蘭、新加坡）電網容量緊張，AI 叢集峰值功率需求可能超出當地供電能力，導致專案建設延期或選址轉移。
8. 架構突破的風險：若未來新興計算架構（如光學計算、存內計算、超導計算）或極低電壓設計大幅降低功耗，當前以峰值功率管理為核心的液冷和供電基礎設施的高投入可能面臨技術路徑折轉風險。

成本與運維風險

9. 液冷運維複雜性：液冷系統需要水化學管理（防腐蝕、防微生物）、定期管路檢查、冷卻液更換等運維投入，人員技能門檻高於傳統風冷。行業尚未形成統一的液冷運維認證標準。
10. 功率封頂對效能的隱性影響：研究表明，即便是輕度的確定性功率封頂（如 5%），在某些訓練負載下可能導致 8%~15% 的訓練吞吐下降[學術文獻資料]，需在 TCO 和效能之間精細平衡。

誤讀糾偏

誤讀 1：“TDP 就是晶片的最大功耗”

糾偏：TDP 是散熱設計的參考值，而非電氣上限。實際晶片允許短時超過 TDP 執行（如 10 ms 內達到 1.2~1.3 倍 TDP），然後通過 throttling 拉回。供電設計必須承受這種瞬態峰值，而非僅按 TDP 配置 PSU 和 VRM 規格。把 TDP 混同於最大功耗，會導致電源系統頻繁觸發過流保護或加速元件老化。

誤讀 2：“峰值功率高是因為散熱不夠好”

糾偏：峰值功率的根本原因在於運算需求導致的電晶體開關功耗（α·C·V²·f），散熱只是被動移走已產生的熱量。即使理想散熱條件能保持結溫恆定，內部的瞬態電流尖峰依然存在，供電鏈路（封裝凸點、PCB 走線、VRM 輸出電容）仍需承載瞬時大電流，否則將造成電壓跌落和可靠性問題。

誤讀 3：“用了液冷，峰值功率就可以無限推高”

糾偏：液冷提升了散熱上限，但峰值功率還受限於晶片內部金屬層電遷移（electromigration）、封裝凸點電流密度上限（典型為 1~2×10⁵ A/cm²[學術資料]）和片上電壓降（IR-drop）等物理極限。功耗無法無限增長，需要製程工藝、封裝設計和熱方案的協同最佳化——這是“功率牆”（power wall）的核心含義。

誤讀 4：“叢集功率封頂沒有效能代價”

糾偏：確定性功率封頂通過在臨近動態閾值時降低頻率或限制並行度來限制功耗，這並非“免費”機制。現有研究表明，在訓練大規模 MoE 模型時，不當的 capping 策略可能導致迭代時間延長 5%~15%[學術文獻資料]。優秀的 capping 設計應結合負載特徵和排程策略，將代價降到最低。

誤讀 5：“48 V 供電只是電壓高了點，其他不變”

糾偏：從 12 V 切換到 48 V 涉及從 PSU 拓撲（需 48 V bus converter）、機架配電母排、聯結器規格到 VRM 設計的全鏈路變更。48 V 系統通常需要兩級轉換（48 V → 12 V → 核心電壓），而非 12 V 系統的一級轉換，這增加了轉換級數和效率損失點。真正的價值在於降低傳輸損耗（I²R）和支援更高功率密度，而非單純“降壓”。

最新事件

以下基於截至 2025 年 7 月的公開資訊整理，反映峰值功率領域的重要動態：

2025 年上半年

• NVIDIA GB200 NVL72 系統開始向客戶交付（2025 年 Q1 起）[公開資訊]，單機架 TDP 達 80 kW，標配內建 BBU 和液冷。行業關注其峰值功率管理和供電架構在超大規模部署中的實際表現。
• 台積電 CoWoS-L 先進封裝產能持續擴張以滿足 B200/GB200 需求[公開資訊]。CoWoS-L 相較前代 CoWoS-S 在凸點密度和電流承載能力上有提升，直接關係峰值功率的封裝瓶頸緩解。
• 多家雲端廠商宣佈新一輪 AI 資料中心建設計劃，單園區電力容量申請超過 500 MW[公開資訊]，峰值功率因素在選址和電力談判中的權重明顯上升。

2024 年下半年

• AMD 釋出 MI325X（2024 年 Q4），TDP 維持 750 W 區間，但 HBM3e 全面列裝導致記憶體子系統功率佔比提升[公開資訊]。
• 超級電容廠商 Skeleton Technologies 宣佈與某超大規模雲端廠商合作，試點資料中心級超級電容消峰方案[公開資訊]。
• PFAS 法規在歐盟持續推進，浸沒液冷行業加速尋找合規替代冷卻液，部分專案轉向單相冷板方案以避免政策不確定性[公開資訊]。

2024 年

• Vertiv 和 Schneider Electric 分別釋出 AI 專用資料中心電力白皮書，將“統計峰值功率管理”列為下一代 AI 資料中心設計的核心要素[公開資訊]。
• Google和微軟在各自的技術大會上公開討論了 AI 訓練叢集的峰值功率挑戰和液冷過渡路線圖[公開資訊]。

2023 年

• NVIDIA H100 SXM 全面鋪貨，700 W TDP 成為行業基準，催生第一波液冷大規模部署[公開資訊]。
• 首批 48 V 供電的 AI 訓練叢集投入商業運營，驗證了 48 V 架構在高密度場景下的可行性[公開資訊]。

追蹤指標

以下為觀測峰值功率行業趨勢的關鍵指標和潛在追蹤口徑：

晶片側

• 各代旗艦晶片 TDP 及公開的 Max Electrical Power 數值（從 NVIDIA/AMD/Intel datasheet 獲取）
• 晶片封裝功耗密度（W/mm²），反映封裝和供電的設計裕度
• GPU Boost 頻率與功耗的非線性斜率（可通過評測平台間接觀察）
• HBM 代際演進與功耗佔比（HBM3 → HBM3e → HBM4 的每 bit 能效）

基礎設施側

• 新建 AI 資料中心液冷滲透率（按機架數或園區數，行業報告資料口徑）
• 48 V / 54 V 供電架構採用比例（OCP 生態追蹤）
• BBU 出貨量與 GB200 NVL72 等標配系統的交付量
• 液冷 CDU 供應商訂單可見度（如 Vertiv、CoolIT 公開的 backlog/guidance）
• 主要 AI 雲端廠商資本支出（CapEx）變化（Google、微軟、亞馬遜、Meta 季度財報口徑）
• 單機架設計功率密度（kW/rack）演進（行業標準與 OEM 設計參考公告）
• 高功率 DrMOS 和 48 V bus converter 交期變化（供應鏈調研資料）

宏觀與政策

• 主要 AI 資料中心選址地區的電網容量和電價走勢
• PFAS 相關法規進展（歐盟 REACH、美國 EPA 動態）
• 資料中心能效標準更新（ASHRAE 熱指南更新版本）
• 液冷運維相關行業標準釋出（如 OCP Advanced Cooling 小組進展）

學術與產業前沿

• ISSCC、Hot Chips 年會中關於 AI 晶片 power management 和先進封裝供電的論文發表情況
• 替代冷卻方案（如晶片級微流體、兩相射流冷卻）的產業化進展
• 功率感知排程演算法的研究進展（MLSys、OSDI 等會議論文）

信源

以下為本文內容的主要資訊來源型別和代表性出處，供讀者進一步核實和延伸閱讀。所有數字和具體表述請以原廠最新公開檔案為準。

晶片規格與白皮書

• NVIDIA H100/H200/B200/GB200 Data Sheet, White Paper（Power and Thermal section）
• AMD MI300X/MI325X Specifications
• Intel Gaudi 3 Architecture Brief
• Google Cloud TPU v5p System Architecture（blog/whitepaper）

技術論文與學術峰會

• “GPU Power Modeling and Prediction for High Performance Computing” (IEEE TPDS)
• ISSCC 歷年 AI chip power management 和 voltage regulator 主題論文
• Hot Chips 歷年 GPU/TPU architecture 公開演講
• MLSys、OSDI 中 power-aware scheduling 相關研究論文

行業報告

• McKinsey: Global Data Center Power Infrastructure Market Report (2024)
• Research and Markets: Data Center Liquid Cooling Market (2024)
• Omdia: Data Center 48 V Power Architecture Market Forecast (2024)
• SemiAnalysis (訂閱制行業分析): AI chip peak power trend, liquid cooling transition

電源與散熱標準/社群

• OCP Open Rack V3, M-CRPS 供電規範
• NVIDIA NVML 文件：Power Management APIs
• ASHRAE TC9.9 熱指南（最新版）
• ServeTheHome 伺服器供電拆解測試文章

公司公開資訊

• Vertiv、Schneider Electric 液冷與資料中心電力白皮書（2024）
• 超微、廣達、緯穎等 OEM 液冷伺服器產品公告
• 台積電封裝技術路線圖（CoWoS 相關更新）
• 英飛凌、MPS、TI DrMOS/功率級產品選型指南

[注] 本文內標有[估算]的資料為基於行業經驗推算的定性範圍，不代表特定廠商精確引數；[公開資訊]指可通過常規產品公開展示獲取的定性描述，未逐一列出具體檔案編號；[行業估算]為基於多源交叉驗證的行業共識區間；[學術文獻資料]指已發表的同行評審論文中的實驗結果，數值可能因實驗條件和負載而異。所有硬規格請以原廠最新 datasheet 為準。