每瓦成本 (Cost per Watt)
1. 3 秒看懂
每瓦成本 = 硬體採購成本 ÷ 額定功耗(或實際功耗)
它衡量的是:你為每一瓦電力承載能力付了多少錢。在 AI 算力軍備競賽中,這個指標直接決定資料中心的資本效率——同樣的電力預算,每瓦成本越低,你在硬體上的總支出越低;而同樣的硬體預算,每瓦成本越低,你能獲得的功率容量越大。但最終部署的算力多少還需結合每瓦效能(Perf/W)綜合判斷。
2. 3 分鐘產業解釋
為什麼突然火了?
AI 訓練和推論的本質是用電力換算力。當模型引數從數十億躍升至數千億乃至萬億級,資料中心的功耗從傳統的 5-10 kW/機架飆升到 40-120+ kW/機架(液冷場景)。電力成本已從”運營費用”上升為戰略約束:
- 供電容量成為瓶頸:新建資料中心審批週期長,電力擴容受限於電網和市政規劃,很多園區拿到的電力配額是固定的。
- 電力成本佔比飆升:在高密度 AI 叢集的總擁有成本(TCO)中,電力相關支出(包括電費、配電基礎設施、散熱系統)的佔比從傳統資料中心的約 20-30% 上升至可能超過 40-50%(行業估算,具體因電價和架構而異)。
核心邏輯
總擁有成本(TCO) = 硬體採購 + 基礎設施 + 電力成本 + 運維人力
↓
電力約束下,硬體採購決策必須考慮:
"每花一塊錢硬體預算,能獲得多少功耗預算下的算力?"
↓
Cost per Watt 成為硬體選型的關鍵經濟性指標
與其他指標的關係
| 指標 | 分子 | 分母 | 衡量角度 |
|---|---|---|---|
| 每瓦成本(Cost/W) | 硬體成本 | 功耗 | 資本效率:為功耗能力付多少錢 |
| 每瓦效能(Perf/W) | 算力效能 | 功耗 | 能效:每瓦電出多少活 |
| 每TFLOPS成本 | 硬體成本 | 算力 | 絕對算力成本 |
| TCO/TCO(綜合) | 總成本 | 有效產出 | 全生命週期經濟性 |
關鍵洞察:Cost/W 和 Perf/W 通常需要聯合考量。低 Cost/W 但 Perf/W 差的方案,總 TCO 可能反而更高。
3. 15 分鐘專家深入
3.1 分子:硬體成本的構成
“硬體成本”並非簡單的晶片採購價,而是一個口徑敏感的概念:
狹義口徑(晶片/加速卡級):
- 加速卡採購價 ÷ 加速卡 TDP(熱設計功耗)
- 例:某高階 AI 加速卡售價約 $30,000-$40,000,TDP 約 700W,則 Cost/W ≈ $43-57/W(行業估算區間,[廠商公開報價估算])
廣義口徑(系統/叢集級):
- 完整伺服器系統成本 ÷ 系統總功耗
- 包含:CPU、記憶體、網絡卡、NVLink/交換器、機箱、電源、液冷系統
- 此時分母包含所有元件功耗,分子包含所有硬體成本
更廣義口徑(含基礎設施):
- 加上配電裝置(UPS、PDU)、冷卻系統(CDU、冷卻塔)、機架成本
- 這是 TCO 分析的起點
3.2 分母:功耗的度量
功耗同樣有多種口徑:
| 功耗型別 | 說明 | 典型用途 |
|---|---|---|
| TDP(熱設計功耗) | 廠商標稱的晶片/卡最大散熱需求 | 規格對比、散熱設計 |
| 典型功耗 | 實際工作負載下的平均功耗 | TCO 估算 |
| 峰值功耗 | 瞬時最大功耗(可能短暫超過 TDP) | 電源設計、配電規劃 |
| 閒置功耗 | 無計算任務時的功耗 | 利用率評估 |
關鍵注意:用 TDP 計算的 Cost/W 代表”理論上限”,用實際工作負載功耗計算更能反映真實經濟性。AI 訓練場景下,GPU/加速卡的實際功耗通常接近但略低於 TDP;推論場景功耗差異較大,取決於 batch size 和模型。
3.3 為什麼這個指標在 AI 時代權重急升
背景:電力正在成為 AI 的硬約束
- 單個 GPU 機架功耗從傳統的 5-10 kW 上升到液冷 AI 機架的 40-120 kW(供應鏈估算)
- 超大規模叢集(萬卡以上)的總功耗可達數十 MW 級別
- 電力審批週期可能長達 1-3 年,遠慢於晶片迭代速度
推論:在電力配額固定的條件下,決策者的最佳化目標是:
在給定電力預算下,最大化算力產出,最小化總硬體投入
這使 Perf/$ = Perf/W ÷ Cost/W(即每美元硬體投入獲得的算力) 成為核心決策變數。
3.4 Cost/W 的典型數量級認知
由於搜尋結果受限,以下為基於行業公開資訊的定性認知架構,具體數字因產品代際和市場動態變化顯著:
| 裝置型別 | Cost/W 量級趨勢 | 說明 |
|---|---|---|
| 高階 AI 訓練加速卡 | 相對高(數十美元/瓦) | 高效能但高單價、高功耗 |
| 中端/推論卡 | 中等 | 功耗和價格均有降低 |
| CPU(通用計算) | 相對低(數美元/瓦量級) | 單價低、功耗適中 |
| 定製 ASIC(如 TPU) | 差異化 | 廠商自用為主,採購價不透明 |
| 網路交換/儲存 | 較低 | 功耗相對小 |
⚠️ 以上為定性架構,[廠商財報未單獨揭露具體 Cost/W 資料],實際數值需根據具體產品型號和採購價動態計算。
4. 技術原理
4.1 數學定義
Cost per Watt = C / P
其中:
C = 硬體總成本(單位:美元/元)
P = 總功耗(單位:瓦特)
擴充套件形式(考慮生命週期):
LCOW (Lifetime Cost per Watt-hour) = C / (P × T × U)
其中:
T = 使用壽命(年)
U = 年均利用率(%)
分母 (P × T × U) 為總能量消耗(瓦時),因此結果為每瓦時成本。
4.2 決策模型
在電力預算 P_budget 約束下,最大化算力產出:
目標:max 總算力 = N × Perf_unit
約束:N × P_unit ≤ P_budget
N × C_unit ≤ Budget_capital
其中:
N = 採購裝置數量
Perf_unit = 單裝置算力(如 TFLOPS)
P_unit = 單裝置功耗
C_unit = 單裝置成本
推導:
N ≤ P_budget / P_unit
總成本 = N × C_unit = (P_budget / P_unit) × C_unit = P_budget × (C_unit / P_unit) = P_budget × Cost/W
∴ 固定電力預算下,總硬體成本與 Cost/W 成正比
4.3 與 Perf/W 的聯合最佳化
單位成本獲得的算力效率 = Perf_unit / C_unit = (Perf_unit / P_unit) × (P_unit / C_unit)
= Perf/W × (1 / Cost/W)
∴ 最優硬體選型 = max (Perf/W ÷ Cost/W) = max (Perf/$)(當電力充足時)
max (Perf/W)(當電力為唯一約束時)
4.4 系統級 Cost/W 的影響因子
┌─────────────────────────────────┐
│ 系統級 Cost per Watt │
└────────────────┬────────────────┘
│
┌────────────┬───────────────┼───────────────┬────────────┐
▼ ▼ ▼ ▼ ▼
加速卡成本 CPU+記憶體成本 網路成本 基礎設施攤銷 冷卻系統成本
佔比最高 次高 InfiniBand 配電/UPS/PDU 風冷 vs 液冷
(通常>60%) /RoCE交換 機架/佈線 CDU/冷卻塔
液冷對 Cost/W 的影響:
- 液冷系統本身增加硬體成本(CDU、冷板、管路),推高分子
- 但液冷可支撐更高功率密度(>100 kW/機架),可能在系統級攤薄 Cost/W
- 且液冷可降低 PUE(電源使用效率),在運營層面節省電力
5. 技術演進史
5.1 指標意識的演變
| 階段 | 時間 | 主要關注指標 | 背景 |
|---|---|---|---|
| 傳統資料中心 | ~2010 前 | 每機架成本、TCO | 功耗約束寬鬆 |
| 雲端運算興起 | ~2010-2017 | 每虛擬機器成本、利用率 | 規模化運營,PUE 成為熱點 |
| AI 起步 | ~2017-2020 | 每 TFLOPS 成本 | GPU 訓練興起,關注算力價格比 |
| 大型模型時代 | ~2020-至今 | Cost/W、Perf/W、TCO | 電力成為硬約束,功耗密度飆升 |
5.2 驅動因素的時間線
- 功耗密度攀升:單卡 TDP 從 250W → 300W → 450W → 700W+ 的演進(行業趨勢,[具體代際歸屬因廠商產品線複雜不逐一列出])
- 叢集規模擴大:從百卡訓練到萬卡叢集
- 電力市場變化:部分地區電價上漲、電力審批趨嚴
- 散熱技術轉型:從純風冷到混合冷卻再到液冷普及
6. 技術路線對比
6.1 不同算力平台的 Cost/W 特徵(定性架構)
| 維度 | 通用 GPU(高階訓練) | 推論最佳化型加速器 | 定製 ASIC | CPU |
|---|---|---|---|---|
| 典型功耗 | 高(數百瓦級) | 中-高 | 因設計而異 | 中(數十瓦至200W+) |
| 單價 | 很高 | 中-高 | 研發成本高,邊際成本因規模而異 | 中-低 |
| Cost/W 量級 | 較高 | 中等 | 差異化 | 較低 |
| Perf/W 量級 | 中-高 | 高(針對特定負載) | 可能最高 | 低-中 |
| 單位成本算力效率(Perf/$) | 高 | 中-高(負載匹配時) | 潛在最高 | 低 |
| 電力約束下的算力密度 | 中 | 高 | 高 | 低 |
| 適用場景 | 訓練、通用 | 推論、邊緣 | 大規模固定負載 | 通用、資料預處理 |
⚠️ 具體數字因產品型號、代際、採購規模差異極大,[行業報告估算區間],上表為定性比較架構。
6.2 散熱方式對 Cost/W 的影響
| 散熱方式 | 硬體成本增量 | 功耗支撐能力 | 對 Cost/W 的淨影響 |
|---|---|---|---|
| 純風冷 | 基準 | 受限(約 30-40 kW/機架) | 基準 |
| 後門熱交換器 | 小幅增加 | 中等提升 | 輕微上升 |
| 直接液冷(冷板) | 顯著增加 | 大幅提升(60-120+ kW/機架) | 因攤銷方式和密度提升而異 |
| 浸沒式液冷 | 更高 | 最高 | 成本較高但密度優勢明顯 |
7. 上下游
7.1 上游(影響 Cost/W 的成本構成)
上游供應商 對 Cost/W 的影響路徑
─────────────────────────────────────────────────
先進製程代工廠(台積電等) ──→ 晶片成本 → 分子↑
HBM 供應商(SK海力士、 ──→ 儲存成本 → 分子↑
三星、美光)
封裝廠商(CoWoS 等先進封裝) ──→ 封裝成本+良率 → 分子↑
電源管理/VRM 廠商 ──→ 系統效率 → 分母(有效功耗)
散熱方案商(液冷系統) ──→ 基礎設施成本 → 分子↑
電力裝置商(UPS、PDU) ──→ 配電成本 → 分子↑
7.2 下游(Cost/W 影響的決策)
下游決策 Cost/W 如何影響
─────────────────────────────────────────────────
雲端運算廠商採購 ──→ 電力配額固定時,Cost/W 直接決定可部署算力
企業 AI 基礎設施 ──→ 影響本地部署 vs 雲端服務的 TCO 對比
AI 模型訓練方 ──→ 影響訓練成本和 GPU 租賃價格
推論服務提供商 ──→ 影響每 token 成本的硬體分攤部分
8. 關鍵指標
8.1 Cost/W 本身
- 定義:硬體成本 / 功耗($/W 或 ¥/W)
- 數值趨勢:隨製程進步、整合度提升,理論上應逐步下降;但高階產品的絕對功耗和價格同步上升,趨勢非線性
- 比較基準:同代際產品橫向比較最有意義
8.2 關聯指標
| 指標 | 公式 | 關係 |
|---|---|---|
| Perf/W | 算力 / 功耗 | Cost/W 的”分母互補”指標 |
| Perf/$ | 算力 / 成本 | Cost/W × Perf/W 的衍生 |
| PUE | 總設施功耗 / IT 裝置功耗 | 影響系統級實際電力成本 |
| TCO per FLOP | 生命週期總成本 / 總算力 | 最綜合的經濟性指標 |
| 每 token 成本 | 推論總成本 / 輸出 token 數 | 下游應用層最終指標 |
8.3 常見的誤用場景
- 僅看 Cost/W 而忽略 Perf/W → 可能選到”便宜但低效”的方案
- 用 TDP 而非實際功耗計算 → 低估推論場景的真實 Cost/W(推論功耗可能遠低於 TDP)
- 忽略系統級成本 → 單卡 Cost/W 好看,但含網路/儲存/冷卻後 Cost/W 惡化
9. 供需與市場資料
9.1 供給側約束
- 電力供給瓶頸:部分地區(如美國維吉尼亞北部、愛爾蘭等傳統資料中心聚集區)已出現電力審批排隊現象
- 先進晶片供給:高階 AI 加速卡供給仍受先進製程產能和 HBM 產能制約
- 液冷滲透率:正快速提升但供應鏈成熟度仍在追趕
9.2 需求側驅動
- 大型模型訓練叢集規模持續擴大(千卡 → 萬卡 → 十萬卡趨勢)
- 推論需求隨 AI 應用落地爆發式增長
- 各國 AI 基礎設施投資熱潮(主權 AI、企業 AI 轉型)
9.3 市場資料說明
由於本次搜尋未獲取到可用的行業報告和財務資料,以下定量資料不做具體列出。建議參考:
- 各大 AI 晶片廠商的季度財報和投資者日材料
- Gartner、IDC、TrendForce 等機構的 AI 基礎設施報告
- 電力行業研究(電價走勢、可再生能源對資料中心選址的影響)
10. 代表公司與資本對映
10.1 AI 加速器廠商(影響 Cost/W 的”分子”端)
| 公司 | 定位 | 與 Cost/W 的關係 |
|---|---|---|
| NVIDIA | GPU 龍頭,AI 訓練/推論主力 | 高階產品高價高功耗,定義行業 Cost/W 參考線 |
| AMD | GPU 挑戰者 | 試圖在 Perf/$ 維度競爭 |
| Intel | 多產品線(GPU、CPU、Gaudi) | 在不同價格段提供差異化選擇 |
| 定製 ASIC 廠商 | Google(TPU)、Amazon(Trainium)、Microsoft(Maia)等 | 大客戶自研可能最佳化 Cost/W |
10.2 系統/基礎設施廠商
| 類別 | 公司 | 影響維度 |
|---|---|---|
| 伺服器 OEM | 超微(Supermicro)、Dell、HPE、浪潮等 | 系統整合成本、液冷方案 |
| 液冷方案 | Vertiv、維諦技術、英維克等 | 冷卻系統對系統級 Cost/W 的影響 |
| 網路 | NVIDIA(InfiniBand)、博通、Arista | 網路成本佔比 |
| 電力/配電 | 施耐德、伊頓、維諦等 | 配電效率影響實際 PUE |
10.3 投資對映邏輯
- 核心邏輯:關注在 Cost/W 維度有結構性優勢的標的
- 關注點:不僅看晶片效能,還要看系統級 Cost/W(含冷卻、網路、配電的全成本)
11. 投資邏輯
11.1 為什麼 Cost/W 是重要投資架構
第一性原理:
- AI 的本質約束正在從”有沒有晶片”轉向”有沒有電”
- 在電力約束下,Cost/W 最優的方案將獲得最大的部署密度和資本效率
- 資料中心運營商的選址決策、採購決策越來越圍繞”單位電力預算下的最大算力”
投資含義:
- 關注電力約束下的贏家:誰的產品在給定功耗下提供最有競爭力的算力
- 關注基礎設施受益者:液冷、高效電源、新型散熱方案
- 關注 PUE 改善技術:降低非計算功耗(冷卻、配電損耗)
- 關注推論市場的 Cost/W 最佳化:推論功耗模式與訓練不同,專門最佳化推論的方案可能在 Cost/W 上有結構性優勢
11.2 潛在風險
- 技術迭代風險:新架構(如更先進的封裝、新型儲存器)可能快速改變 Cost/W 格局
- 定價權風險:供應緊張導致的溢價可能扭曲 Cost/W 的自然趨勢
- 電價波動:區域電價差異影響 Cost/W 的實際經濟性
- 利用率敏感性:閒置功耗(idle power)佔 TDP 比例不同,低利用率場景下 Cost/W 的實際表現可能與理論計算差異較大
12. 常見誤讀糾偏
❌ 誤讀 1:“Cost/W 越低越好”
糾偏:Cost/W 是必要條件,非充分條件。低 Cost/W 但 Perf/W 也很低的方案,總 TCO 可能更高。正確的決策架構是:
在滿足 Perf/W 要求的前提下,選擇 Cost/W 最優的方案。
極端例子:一個成本極低但幾乎沒有算力的裝置,Cost/W 可能很低,但完全無用。需要看 (Perf/W) / Cost/W = Perf/$ 這個綜合指標。
❌ 誤讀 2:“Cost/W 只看晶片就行”
糾偏:系統級 Cost/W 遠大於晶片級。網路(InfiniBand 交換器、光模組)、冷卻系統、配電裝置、冗餘備份等成本在叢集級 TCO 中佔比可達 30-50%(行業估算)。僅看單卡 Cost/W 會嚴重低估真實成本。
❌ 誤讀 3:“Cost/W 用 TDP 算就夠了”
糾偏:TDP 是熱設計功耗上限,實際工作負載功耗通常低於 TDP,且隨負載型別(訓練 vs 推論)、batch size、利用率變化。推論場景下,實際功耗可能僅為 TDP 的 30-70%(定性估計,[具體資料因負載和最佳化程度而異])。用 TDP 計算會高估實際功耗,從而低估真實 Cost/W。
❌ 誤讀 4:“Cost/W 是靜態指標”
糾偏:Cost/W 隨時間動態變化——晶片價格隨產能釋放和競爭變化、電價隨市場和政策波動、利用率隨業務負載變化。決策時應使用全生命週期平均 Cost/W,而非採購時點的快照。
13. 學習路徑
入門(1-2 小時)
- 理解 TCO(總擁有成本)的基本架構
- 學習 PUE(電源使用效率)概念——這是理解資料中心電力成本的基礎
- 瞭解 AI 加速卡的典型功耗範圍和價格區間
進階(3-5 小時)
- 閱讀主要 AI 晶片廠商的投資者日材料,關注功耗和定價趨勢
- 學習資料中心基礎設施架構(配電、冷卻)
- 對比不同散熱方式的經濟性
- 建立 Cost/W + Perf/W 聯合分析模型
專家(持續)
- 追蹤先進製程(GAA/nanosheet)、先進封裝(CoWoS、3D 堆疊)對晶片功耗和成本的影響
- 分析推論最佳化架構(如稀疏推論、量化)對實際 Cost/W 的影響
- 研究區域電力市場和電價模型
- 建立叢集級 TCO 模擬模型,包含利用率、PUE、電價等動態引數
推薦資料型別
- 廠商財報和投資者日演示(一手資料)
- 資料中心基礎設施白皮書(Uptime Institute、Schneider Electric 等)
- 行業分析報告(Gartner、IDC、TrendForce、Counterpoint)
- 電力行業研究(電價趨勢、可再生能源)
14. 一句話總結
每瓦成本(Cost per Watt)是電力約束時代衡量 AI 硬體資本效率的核心經濟性指標——它回答的問題是”在有限的電力預算下,你為每一瓦算力承載能力付出了多少成本”,但必須與每瓦效能(Perf/W)聯合考量,且計算時應採用系統級全成本而非單卡價格。
15. 延伸閱讀與來源
概念關聯
- TCO(總擁有成本):Cost/W 是 TCO 分析中硬體資本分攤的關鍵子指標
- PUE(電源使用效率):影響系統級實際功耗,是 Cost/W 的重要修正因子
- 每瓦效能(Perf/W):Cost/W 的互補指標,兩者共同決定算力投資的經濟性
- 先進封裝(CoWoS 等):影響晶片成本和功耗密度
- 液冷技術:影響系統級 Cost/W 的基礎設施側
- HBM(高頻寬儲存器):影響晶片成本和功耗的重要元件
資料來源建議
| 來源型別 | 具體建議 | 用於獲取 |
|---|---|---|
| 廠商一手資料 | NVIDIA、AMD、Intel 財報及投資者日 | 產品定價趨勢、功耗規格 |
| 行業報告 | Gartner、IDC、TrendForce | 市場規模、出貨量、價格趨勢 |
| 基礎設施白皮書 | Uptime Institute、Schneider Electric | PUE、冷卻效率、電力成本 |
| 電力行業研究 | EIA、各國電網規劃 | 電價走勢、電力供給約束 |
| 學術/工程文獻 | IEEE、ACM 相關會議論文 | 功耗建模、能效最佳化技術 |
資料口徑說明
本文中:
- 所有具體定價和功耗數字均採用定性描述或行業估算區間,未引用具體廠商財報資料(因搜尋受限)
- 如需精確資料,建議直接查閱廠商最新季報和產品規格書
- 標註為 [行業估算] 的內容為基於行業一般認知的推斷,非精確統計
最後更新說明:本文因搜尋服務受限,未能獲取最新的行業報告和廠商財務資料。所有涉及具體數字的內容均採用定性表述或明確標註為估算。建議讀者結合最新的市場資料進行驗證和補充。