平均功率

3 秒看懂

平均功率（Average Power）是在一定時間視窗內瞬時功率的算數平均值，直接決定電子器件的發熱量、電源系統的容量需求以及長期電能消耗成本。在 AI 半導體與資料中心場景下，平均功率不等同於晶片標稱 TDP 或電源額定功率，它是實際執行負載、電壓頻率調節、漏電工藝特性及散熱策略共同作用後的物理結果，是 TCO（總擁有成本）模型中電能成本與散熱基礎設施投資的核心變數。

3 分鐘產業解釋

對於 AI 晶片、加速卡及整機櫃系統而言，平均功率刻畫了從毫秒級突發計算到底層持續推論的真實能耗輪廓。邏輯上，一顆千億電晶體級別的大算力晶片，其瞬時功耗可在納秒內衝至數百瓦，但長時間推論或訓練的平均值通常遠低於電氣設計峰值，也往往低於熱設計功耗（TDP）指標。產業玩家關注平均功率，本質上是在權衡三個維度：

• 散熱可行性：在風冷或液冷條件下，平均發熱量決定散熱器、冷板規格及冷卻功耗。
• 能源成本：超大規模資料中心裡，數以萬計的 AI 加速器 24×7 執行，平均功率每降低 1 瓦，年電力支出差異可達數千萬元級別。
• 供電架構：系統必須能承受峰值電流而不掉電，但母線、電源模組的長期熱穩定和效率最佳化基線是平均負載。

由此延伸出平均功率管理的技術鏈路：晶片級動態電壓頻率調整（DVFS）、電源門控（Power Gating）、任務排程的負載均衡，以及板級多相供電設計與基於機器學習的負載預測。在先進製程（例如 FinFET 及以後節點）下，靜態漏電功耗佔比顯著升高，這使空閒階段的平均功率成為另一博弈焦點——需要在不犧牲喚醒速度的前提下最大限度降低待機功耗。

15 分鐘專家深入

從設計到運維，平均功率貫穿整個 AI 硬體生命週期。專家需要理解它如何從微觀物理對映到宏觀運營指標，並在如下層面做定量拆解：

1. 物理定義與測量視窗選擇
   平均功率 P_{avg} = \frac{1}{T} \int_{0}^{T} V(t) \cdot I(t) \, dt。關鍵在視窗 T 的選取：

   • 納秒至微秒視窗：反映邏輯閘翻轉引起的電源地噪聲，用於 PDN（電源分配網路）設計。
   • 毫秒視窗：對應計算核的 burst 時長，影響片上 VR 瞬態響應。
   • 秒至分鐘視窗：反映訓練一個 step 或推論一個 batch 的真實熱累積，直接關聯散熱器溫升時間常數。
   • 小時以上視窗：用於資料中心機架功率規劃及 PUE 計算。

   行業實踐常以“最大平均功率”作為熱設計的邊界條件，即從一個滑動時間窗中找到平均功率的最大值（例如 100 ms 滑動視窗內的最大平均值），而非用無限長時間的平均值。

2. AI 晶片功耗構成與平均特性
   總平均功耗 ≈ 動態功耗 + 靜態功耗 + 短時峰值開銷。

   • 動態功耗：P_{dyn} = \alpha \cdot C \cdot V^2 \cdot f（其中活動因子 \alpha 與實際計算密度、資料複用率高度相關）。在 AI 矩陣乘法密集時 \alpha 接近於 1，而稀疏計算或等待資料時 \alpha 很低，因此平均動態功耗由演算法、資料流和編譯器排程共同決定。
   • 靜態功耗：源自亞閾值漏電、柵極漏電等，與工藝節點、閾值電壓、溫度呈指數關係。在高溫下，靜態功耗可佔平均總功耗 20–40%（先進工藝估算值）。對需要長時間保持待機或低頻工作的邊緣推論晶片，漏電功耗對平均功率的影響尤為顯著。
   • 瞬時峰值：時鐘門控喚醒、多核同時啟動等會造成納秒級電流尖峰，其平均值雖小，但除電源完整性外，也通過 IR drop 影響等效電壓，間接抬高平均功耗。

3. 從晶片到系統的平均功率級聯

   • 晶片級：多核、多計算 tile 的功率預算分配，如採用動態負載調整，將非活躍單元門控或降低電壓，以壓低平均功耗。
   • 封裝級：先進封裝（如 2.5D/3D IC）會引入額外的互連功耗，這部分在高速訊號傳輸時具有與頻寬相關的平均功耗，需要通過低擺幅訊號、晶片間介面最佳化來管理。
   • 板級/機櫃級：VR（電壓調節器）效率、銅箔損耗等額外增加 10–20% 的平均功率開銷。在 AI 訓練叢集中，光是供電迴路的損耗就可能帶來數百瓦的總增加，這部分熱量也需要散熱系統帶走。

4. AI 負載下的功率時變特徵與調控
   典型大型模型訓練中的平均功率呈現週期性波峰波谷：前向傳播、反向傳播和權重更新階段對計算與訪存的需求不同，導致區域性平均功率在秒級視窗內交替變化。如果排程系統能將這些波峰錯開，在多節點訓練中可顯著降低機房區域性過熱風險，並允許適當縮減供電基礎設施容量（依靠統計複用效應）。這個是當前一批 AI 能效最佳化初創公司的技術落點之一。

5. 平均功率與能效指標的關係
   行業常用效能/功率（如 TFLOPS/W）來評估晶片能效，但這裡的“功率”確切的取值方式應是工作負載下的長期平均功耗，而非 TDP 或單次 burst 瞬態功耗。工程師在測算時必須交代測試負載和資料採集視窗長度，否則不同廠商的能效資料缺乏可比性。

技術原理

從電子流動到熱耗散，平均功率遵循能量守恆。以下從最底層機制展開。

（1）瞬時功率到平均功率的積分模型
數字 CMOS 電路功耗的瞬時功率 p(t) = V_DD(t) * I_DD(t)。I_DD 包含：

• 負載電容充放電電流 I_{cap} = C_L \cdot dV_{out}/dt
• 短路電流（P/N 管同時導通時的直通電流）
• 靜態漏電電流 I_{leak}
  平均功率即在一個時間窗內對這幾種電流分量功率的積分均值。可通過模擬或實測獲取：

        1  / t0+T
Pavg = ─── |        ( V_DD(τ) * I_DD(τ) ) dτ
        T  / t0

在數字晶片中，由於 V_DD 通常為穩壓直流，平均功耗近似為 V_DD 乘以平均電源電流，使測量簡化。

（2）動態功耗的模型與平均因子
經典 αCV²f 範式是動態平均功耗的零階近似。因子 α 被稱為“活動因子”或“翻轉機率”，反映每個時鐘週期內節點充放電機率。在 AI 加速器中：

• 大量乘法累加器（MAC）並行執行矩陣運算，若資料來源源不斷流入，α 在運算陣列接近 100%，此時平均動態功耗接近 f×C_total×V²。
• 當等待資料或執行非計算操作（如資料搬運、歸約），α 下降，平均功率隨之降低。
• 最佳化的資料流（如輸出固定、權重固定）會影響片上儲存訪問頻次，從而改變等效開關電容 C 和 α 的乘積。這就是為什麼同樣 TFLOPS 的理論峰值，不同資料流對映導致的實測平均功耗可以相差 30% 以上（行業估算）。

（3）靜態功耗的物理機制與溫度正反饋
亞閾值漏電電流與閾值電壓和溫度相關，近似為 I_{sub} \propto e^{(V_{GS}-V_{th})/(nV_T)}。V_T（熱電壓）隨溫度升高增大，但 V_th 下降速度更快，導致漏電流隨溫度指數上升。平均功率中的漏電成分因此有明顯的溫度正反饋：晶片溫度上升 → 漏電增加 → 總平均功耗上升 → 溫度進一步升高。這需要在熱管理策略中特別考慮：當散熱條件惡化，平均功率可能不再是一個常數，而是隨溫度逐步爬升，直至觸發溫度保護降頻。

（4）功率分佈與平均功率的統計複用
在大型 AI 訓練叢集中，上千顆晶片各自的瞬時功率是獨立的隨機過程。若每顆晶片的平均功率為 P_avg，峰值功率為 P_peak，叢集總功率的長時間平均值近似為 N × P_avg，而同時達到峰值的機率極低。因此機櫃級別的電源容量可按照“最惡劣工況下 N×P_avg + 統計餘量”設計，而無需按 N×P_peak 滿配，這就是“統計複用增益”。該增益依賴於功率波動的準確建模和作業排程策略的協同最佳化。

（5）關鍵引數與測量方法

• 取樣速率：至少 Nyquist 頻率覆蓋電流變化的最快關鍵頻率分量（如 VR 開關頻率的數十倍），通常使用 1–10 MS/s 的採集系統。
• 時間視窗：熱時間常數視窗典型值為幾百毫秒到數秒，對應散熱器的 RC 時間常數。
• 測量點：晶片引腳處、VR 輸出端或系統交流輸入端，不同點得到的平均功率經過效率折算後才能對比。

技術演進史

• 早期處理器時代（1990s）：平均功率關注較少，主要通過降低電壓、縮小工藝來抵消頻率提升帶來的功耗。熱設計主要靠簡單的散熱片。
• 多核時代與功耗牆（2005–2015）：隨著 Dennard 縮放放緩，漏電功耗大幅增加，閒置核心的靜態功耗嚴重拖累平均功耗。業界引入電源門控、DVFS，將空閒核心斷電，動態調整電壓/頻率以匹配負載，平均功率管理成為晶片架構的前沿目標。
• AI 加速器崛起（2016–至今）：大算力晶片功耗從數十瓦躍升至數百瓦，傳統風冷難以應對，液冷和浸沒冷卻普及。平均功率不再只是硬體指標，而是與軟體棧、模型結構深度耦合。模型稀疏化、混合精度訓練、分散式並行策略都直接改變晶片的平均功耗輪廓。同時，資料中心開始用“電力使用效率（PUE）”等指標來整體最佳化從晶片到冷塔的平均功率鏈。
• 未來趨勢：Chiplet 架構和異質整合使不同功能裸片的平均功耗特性差異顯著，需要統一管理；在存內計算/近存計算範式下，平均功耗可能由資料傳輸主導，計算本身佔比降低；AI 晶片可能實現更細粒度的即時功率感知與預測，從而將平均功率迴圈級最佳化推向極致。

技術路線對比（量化表）

維度	傳統 CPU 平均功耗管理	現代 AI 加速器平均功耗管理	未來 Chiplet/存內計算
動態範圍	數十瓦，動態電壓調整幅度小	百瓦級至數百瓦，大範圍 DVFS & 多電壓島	功率密度與裸片尺寸各異，從 mW 到 >100 W 混合
靜態功耗控制手段	電源門控、睡眠模式	電源門控 + 動態體偏壓（部分工藝），空閒刀片式斷電	每個小晶片獨立電源域，根據使用率細粒度通斷
負載特性	突發事務型，短時高 α，大部分時間低 α	大規模並行持續計算，α 高且持續，訓練呈現週期性波峰	資料流驅動，α 依賴儲存頻寬與計算比例
功率感知反饋	OS/DVFS 驅動，響應在毫秒級	硬體排程器 + 韌體/軟體協同，μs 級快速電壓斜坡，模型感知降低空閒波	本地功率感測器 + Die-to-Die 通訊感知，ns 級響應
統計複用增益	單伺服器核心間有一定複用，低增益	千卡叢集規模帶來 20–40% 的電源容量節約潛力（行業估算）	Chiplet 間負載均衡可望進一步放大複用增益
能效表徵	SPEC/Watt 等標準化負載平均功耗	MLPerf/Watt 或廠商自定義負載下的平均功耗，口徑不統一	尚無通用標準，期待異構歸一化指標

注：表中量化資料基於行業公開趨勢估算，具體數字因工藝代際和廠商而差異顯著。

上下游

上游（決定平均功率物理基礎）：

• 半導體工藝：電晶體的閾值電壓、尺寸、寄生電容和漏電特性，是動態與靜態功耗的源頭。
• EDA 工具：功耗分析工具（如 PrimePower、Joules）用於設計階段的平均功耗估算與最佳化，直接影響晶片物理實現。
• 電源管理 IC（PMIC）：多相 VR、包絡追蹤電源模組的效能（效率、瞬態響應）決定從晶片引腳看出去的實際電壓質量和效率損耗。
• 封裝與散熱材料：熱介面材料(TIM)、散熱器熱阻、液冷冷板設計通過決定晶片結溫，進而反向影響靜態功耗（溫度反饋）。

中游（直接定義與應用平均功率指標）：

• AI 晶片設計公司：架構設計（MAC 陣列規模、快取層次、資料流）決定理論平均功耗，並實施動態電源管理 IP。
• 系統整合商：將晶片整合到板卡、機櫃，設計配電、散熱方案，根據平均及峰值功率確定 PSU 功率等級。
• 伺服器/雲端廠商：運維中監控平均功率，通過排程策略實現機櫃功率封頂、削峰填谷，減少電力成本。

下游（間接驅動平均功率最佳化需求）：

• 終端使用者（模型開發者）：訓練大型模型時，低碳足跡和訓練時間的權衡，促使他們關注每焦耳算力。
• 資料中心運營商：電力成本約佔總運營成本 30–50%（通用估算），平均功率直接轉化為電費。
• 政策法規：一些地區對資料中心的電能消耗提出 PUE 限制，驅動從晶片到基礎設施的全鏈路能效最佳化。

關鍵指標

• Watt 級平均功耗：指定負載（如 ResNet-50 推論、GPT 類模型訓練的一個迭代）與執行時間窗下的平均耗電瓦數。通常需要宣告測量點（直流、交流側）和溫度條件。
• 效能/平均功率比（TFLOPS/W、TOPS/W）：正確計算必須基於負載下的長期平均值，而非 TDP 或峰值功耗。
• 功率波動係數：(P_{peak} - P_{avg}) / P_{avg}，衡量負載的突發程度，直接影響電源設計裕量。
• 靜態功耗佔比：閒置狀態平均功耗與滿載平均功耗的比值，反映漏電損耗的嚴重性，對邊緣裝置尤其關鍵。
• 溫度增量與功耗乘子：升溫 10°C 導致的平均功耗增量百分比，用於評估散熱設計的穩健性。
• 能效彈性係數：當計算負載加倍時，平均功耗的增幅，反映資源利用效率。

供需與市場資料

（因缺乏精確檢索來源，以下均為基於行業常識的定性描述）

• 超大規模資料中心對 AI 加速器的需求使單個加速器的平均功耗逐年上升，主流訓練晶片的平均功耗已從幾年前的 150–250W 級別普遍進入 400–700W（估算），這推高了電力基礎設施投資，並加速液冷方案普及。
• 電力供給正在成為 AI 算力擴張的瓶頸。推算一個 10 萬卡叢集的長時間平均總功耗可達 40–100MW，需專用變電站。這使得降低單卡平均功耗的技術（如低壓工藝、近閾值計算、稀疏加速）獲得強大的市場溢價。
• 邊緣 AI 晶片對平均功耗的要求更為苛刻（熱限制、電池供電），因此市場對高能效推論晶片（sub-10 W 平均功耗）需求旺盛，拉動特定工藝（如 FD-SOI 或更最佳化的低漏電庫）與架構創新。
• 根據第三方分析機構趨勢，全球資料中心 AI 電力消耗佔比正快速攀升，預計未來幾年內可能達到資料中心總電力的 20% 以上，這使平均功率管理成為晶片及系統級競爭力的核心。

代表公司與資本對映

公司型別與關注點：

• AI 晶片巨頭（NVIDIA、AMD、Intel等）：其產品平均功耗直接牽動客戶 TCO，他們通過架構代際最佳化（如改進資料複用、引入 Transform 引擎）及先進工藝，力求在同等熱包絡下大幅提升效能/平均功率比。
• 雲端服務提供商（AWS、Google Cloud、微軟 Azure）：定製晶片（如 Trainium、TPU）為自家資料中心精確匹配平均功耗包絡，最佳化機櫃密度和 PUE。
• 初創/專精公司：聚焦極低平均功耗推論（如 neuromorphic 晶片、存內計算晶片），或用軟體定義功率管理，通過 runtime 功率預測做負載排程，幫助超大規模使用者節省電力。
• 電源半導體與模組廠商（Infineon, MPS, Renesas 等）：更高效率的垂直供電模組直接減少直流損耗，降低系統平均功耗，是資本支出的受益環節。
• 散熱方案公司：隨著平均功耗攀升，液冷相關供應商（Cold Plate, CDU 等）獲得成長動能。

資本對映邏輯：

• 資本市場將“每瓦效能”作為 AI 晶片公司估值的關鍵因子。產品實測負載平均功耗越低、效能越高，代表技術門檻和客戶黏性越強。
• 能效最佳化相關的 IP、軟體平台（如動態電壓頻率管理軟體、智慧電源排程）被視為增值領域，一旦形成標準，可獲得重複性授權營收。
• 資料中心基礎設施公司（電力模組、散熱）因為 AI 功耗的持續上升，正處於結構性增長通道，平均功率膨脹是它們長期營收增長的核心驅動。

投資邏輯

1. 尋找能效比提升確定性強且可量化的標的：那些能在相同熱設計包絡下通過架構、工藝或排程手段持續改善平均效能/功耗比的公司，具備將功耗優勢轉化為價格溢價或市場份額的能力。
2. 關注電力容量瓶頸的衍生機會：當平均功耗增長倒逼資料中心升級供電和散熱，相應的電源模組、液冷、高壓直流方案供應商訂單可見度提升。投資這類公司相當於投資於 AI 功耗擴充套件的必要配套。
3. 警惕“唯 TDP 論”：晶片宣傳強調支援高 TDP 卻不公佈典型負載平均功耗的公司，可能存在實際能效低於預期、散熱成本虛高的風險。真實的平均功耗資料是衡量產品力的關鍵驗證點。
4. 軟體定義功耗最佳化：隨著演算法與硬體協同設計加深，能在編譯或執行時大幅降低平均功耗的軟體工具鏈具備商業化驗證價值，可有效延長上一代硬體生命週期，創造持續性商業模型。

常見誤讀糾偏

• 誤讀一：TDP 就是平均功耗
  TDP 是散熱方案設計目標，通常基於高負載但非極端病毒的工況，並非裝置實際長時間執行的平均功耗。實際平均功耗常常低於 TDP，但某些定製化密集計算負載可能長時間十分接近 TDP，兩者不能混淆。用 TDP 估算電力成本會導致高估，但又不能直接用基準測試平均功耗來替代極端情況熱設計。兩者各有用途。

• 誤讀二：平均功率越低越好
  一味壓低平均功率可能犧牲效能或增加晶片面積。能效（處理每幀影像、每個 token 所消耗的焦耳）才是正確的最佳化目標。如果降低平均功率導致計算時間成倍延長，總能耗反而可能上升。此外，過於激進的電源門控會帶來喚醒延遲和額外功耗開銷，可能降低整體效率。

• 誤讀三：只考慮晶片心片的平均功耗而忽略系統損耗
  從晶片 VR、板級走線、電源模組、配電單元到機櫃，每一級轉換都會產生額外功耗。系統側實際平均功率可能比晶片側的測量值高出 15–30%（估算），這部分在資料中心 TCO 中佔據顯著比例。

學習路徑

1. 基礎電學：掌握功率、能量基本定義，理解直流與交流功率的區別，學習積分求均值在電子測量中的應用。
2. 數字 CMOS 功耗原理：閱讀 Rabaey《Digital Integrated Circuits》功耗章節，透徹理解動態功耗、短路功耗、漏電功耗的物理機制及簡化模型。
3. AI 晶片微架構：學習典型 AI 加速器的資料流、儲存層次，理解活動因子 α 是怎樣被演算法和排程決定的。
4. 電源管理技術：研究 DVFS、電源門控、體偏壓、時鐘門控等硬體手段的原理與工程實現。
5. 系統級功率分析：閱讀 IEEE 關於資料中心功率管理的論文，包括伺服器功率建模、功率封頂（power capping）、統計複用等。
6. 行業實踐：查閱公開技術文件，如 NVIDIA、Intel 的白皮書關於功耗特性、MLPerf 能效結果，瞭解真實產品的平均功率測量方法與資料。

一句話總結

平均功率是 AI 晶片和系統落地中“電費與熱”的量尺，它將瞬時功耗的工程細節凝聚成一個直接決定運營成本和散熱方案的物理量，貫穿從電晶體到資料中心的能效設計全鏈路。

延伸閱讀與來源

• 教材：Rabaey, J. M., et al. “Digital Integrated Circuits: A Design Perspective.” 功耗章節。
• IEEE 論文：有關資料中心平均功耗建模、動態功耗管理、晶片級功耗分析的期刊和會議論文集（如 ISCA、HPCA、IEEE Micro）。
• 技術白皮書：NVIDIA “Power Management in Data Center GPUs”、Google “TPU Performance Analysis” 等廠商公開文件中有關負載功耗的描述。
• 行業標準：MLCommons MLPerf Power 規範，定義 AI 負載下功率測量的標準方法。
• 行業報告：IDC、IEA（國際能源署）關於資料中心電力消耗的年度報告，提供平均功率趨勢的宏觀資料。
  （因檢索受限，未列出具體連結，建議通過上述關鍵詞檢索全文）