峰值算力
1 3 秒看懂
峰值算力（Peak Compute）指處理器在理想狀態下單位時間內可執行的最大運算次數，常用單位為 FLOPS（浮點）或 TOPS（整數）。它是晶片的“理論天花板”，不代表真實軟體效能，卻是衡量 AI 晶片肌肉量的首要指標。
2 3 分鐘產業解釋
在 AI 產業中，峰值算力是訓練與推論硬體選型的起點。模型引數量越大、序列越長，對顯示卡或 ASIC 的算力飢渴越強。廠商通常以 INT8、FP8、FP16、BF16、FP32、FP64 等多種精度分別標稱峰值：Transformer 推論常用 INT8/FP8，訓練多用 BF16/FP16，科學計算才看 FP64。
然而，峰值只是理論極限——實際吞吐受制於記憶體頻寬、互聯拓撲、編譯器效率與功耗牆。大型模型時代，算力利用率（MFU）往往只有 30‑60%，因此頂級 AI 晶片的競爭已從單純“堆峰值”轉向系統級效能。對投資者而言，峰值算力的代際增幅（例如每年 2‑3 倍）是判斷技術是否進入平台期的關鍵訊號，但估值必須結合生態、軟體棧和實測效能。
3 技術原理
3.1 平行計算的層級
現代 AI 晶片通過多層並行榨取峰值算力：
- 標量運算：單個 ALU 每週期完成 1 次加或乘，對應 1 FLOP。
- 向量運算：SIMD 單元（如 512 位寬 VPU）一週期可處理 16 個 FP32 或 32 個 FP16 操作。
- 矩陣運算：脈動陣列或張量核心直接計算矩陣乘（GEMM），一次輸出一個小矩陣塊。
3.2 峰值算力計算公式
通用公式為：
Peak OPS = N_core × Ops_per_cycle_per_core × f_maxN_core：計算單元總數（如 GPU 的 CUDA Core、NPU 的 MAC 陣列）。Ops_per_cycle_per_core：每單元每週期可完成的融合乘加（FMA）次數或等效運算元。標準 FMA 含一次乘法和一次加法，計 2 OPS。f_max：最高工作頻率。
對於帶有張量核心的 GPU：以典型 4×4×4 矩陣乘加為例，單個 Tensor Core 每週期完成 64 次乘法和 64 次加法，合計 128 OPS；再乘以張量核心數量和頻率，即可獲得矩陣維度的峰值。
3.3 精度與操作計數的關係
同一硬體在不同精度下理論峰值差異巨大：
- FP64：1 FMA = 2 FLOP。
- FP32：與 FP64 相同計算量，但部分架構的 FP32 單元數量更多。
- FP16/BF16：半精度資料的寬度減半，同樣硬體可並行處理兩倍操作，理論峰值翻倍。
- INT8：單指令可同時處理更多整數乘加，拉伸 TOPS 數值。
- FP8：進一步降低位寬，部分新一代架構在 FP8 下的標稱峰值可達 FP16 的 2 倍。
- 稀疏化：若晶片支援結構稀疏（如 2:4 模式），可將部分零值計算跳過，峰值標稱可額外提升約 2 倍，但前提是模型權重能被有效稀疏化。
因此，廠商公佈的峰值算力往往是一組“套裝”——必須仔細對照精度、格式以及是否包含稀疏加速，否則不同晶片的峰值數值不具備直接可比性。
3.4 張量核心的內在機制
（基於公開技術白皮書通用原理）某一代 Tensor Core 在一個時鐘週期內，將兩個 4×4 的 FP16 矩陣相乘，並與一個 4×4 FP16/FP32 累加矩陣相加，輸出 4×4 結果。單個 Tensor Core 單週期完成 64 次乘法和 64 次加法，合計 128 OPS。後續架構（如 Ampere、Hopper）大幅提升了每個 Tensor Core 的單週期吞吐（例如 Ampere 每 Tensor Core 每週期可完成 256 OPS，Hopper 可達 512 OPS），因此一片 GPU 擁有數百個 Tensor Core，頻率約 1‑2 GHz，即可貢獻數百 TFLOPS 的 FP16 峰值。
3.5 記憶體層級與資料複用
為降低對外部高頻寬記憶體（HBM）的壓力，晶片內部大量使用暫存器、共享記憶體和 L1/L2 快取，通過流水線化和資料重用來提高實際吞吐。算術強度（FLOP/Byte）成為關鍵指標：當每個載入的位元組能支撐更多計算時，才趨向算力密集，否則受限於記憶體頻寬。
4 關鍵引數
評估峰值算力及其實際意義時，下列指標不可或缺：
| 引數 | 定義 | 重要性 |
|---|---|---|
| 峰值 TFLOPS/TOPS | 標稱最大運算元/秒（按精度分列） | 理論天花板 |
| 算力密度（TFLOPS/W） | 峰值算力 ÷ 峰值功耗 | 能效關鍵，影響部署成本 |
| 算力面積效率（TFLOPS/mm²） | 峰值算力 ÷ 晶片面積 | 反映架構緊湊度與工藝優勢 |
| 稀疏加速比 | 啟用結構稀疏後的峰值提升倍數 | 通常標稱 2×，實際增益不定 |
| 峰值利用率（MFU） | 典型負載下實測吞吐 ÷ 峰值 | 評價真實算力的核心 |
| 算術強度門檻（FLOP/Byte） | 峰值算力 ÷ 記憶體頻寬 | 判斷是否訪存受限 |
| 原始頻寬與互聯速率 | HBM 頻寬、NVLink/PCIe 頻寬 | 多卡擴充套件和通訊效率 |
注：具體數值需結合具體產品規格表，以上引數均應在相同精度、是否包含稀疏等條件下進行對比。
5 技術路線
5.1 資料中心 GPU
代表：NVIDIA H100 (2022)、B200 (2024)、AMD MI300X (2023)。
- 計算單元：數千 CUDA Core + 數百 Tensor Core。
- 峰值範圍：無稀疏 BF16/FP16 約 500‑1300 TFLOPS，啟用稀疏可達 2×。
- 優勢：成熟生態（CUDA、ROCm），覆蓋訓練和推論。
- 瓶頸：功耗高（700‑1000W），散熱要求苛刻，供應受先進封裝（CoWoS）制約。
5.2 推論專用 ASIC
代表：Google TPU v5p (2023)、Amazon Inferentia2 (2023)、Meta MTIA v2 (2024)。
- 計算單元：脈動陣列 MAC × 大量乘法累加器。
- 峰值範圍：INT8 下數百 TOPS，BF16 可達數百 TFLOPS。
- 優勢：針對特定模型資料流定製的能效比極高。
- 瓶頸：靈活性差，適配新運算元成本高，生態封閉。
5.3 FPGA 與可重構方案
代表：Xilinx Versal (AMD)、Intel Agilex。
- 計算單元：可程式設計 DSP 塊 + AI 引擎。
- 峰值範圍：INT8 下數十至百 TOPS。
- 優勢：延遲極低，可重配置，適合預處理和低延遲場景。
- 瓶頸：頻率難超 500 MHz，開發生態門檻高，峰值難敵 ASIC。
5.4 類腦與存內計算
尚在實驗室階段，峰值以 TOPS/W 計極高，但精度為 INT4/二值，面向特定稀疏網路，短期難撼動主流市場。
注：以上峰值範圍為定性估計，精確數字以各廠商官方資料表為準。
6 上游
半導體 IP 與 EDA：Arm（Neoverse 平台）、Synopsys 和 Cadence 提供關鍵介面 IP 和設計工具，決定晶片能否按時流片。
先進製程：台積電 N5、N4、N3 等節點是當前 AI 晶片主流選擇，N2 預計於 2025‑2026 年量產；三星和 Intel 18A 也在追趕。更小節點意味著單位面積能容納更多計算單元，直接推高峰值。
高頻寬記憶體（HBM）：海力士、三星和美光供應 HBM2E/3/3E 等。HBM 頻寬決定晶片的實際資料供給，瓶頸會大幅拉低峰值利用率。例如，H100 配備 80GB HBM3，頻寬 3.35TB/s（來源：NVIDIA H100 資料表）。下一代 HBM3E 頻寬提升至 4.8TB/s 以上。
先進封裝：台積電的 CoWoS、Intel 的 EMIB 等 2.5D/3D 封裝是連線計算核心和 HBM 的關鍵，產能長期緊張，成為高階晶片的供給瓶頸。
7 下游
公有雲端與 AI 服務平台：AWS、微軟 Azure、Google Cloud 等部署大規模訓練和推論叢集，直接採購高階 GPU、自研 ASIC 或雲端端專用加速器。峰值算力決定了單卡服務能力和所需卡數。
私有化部署：大型網際網路公司、金融、政府等自建 AI 基礎設施，採購量巨大，需求向更高算力密度傾斜。
自動駕駛域控：L3+/L4 自動駕駛需要即時處理多路感測器資料，峰值算力需達數百 TOPS（INT8），例如 NVIDIA Orin (2021) 254 TOPS，Thor (預計 2025) 可達 2000 TOPS（來源：NVIDIA 公佈規格）。
邊緣/端側：手機、PC 等端側 AI 晶片追求 TOPS/W，例如 Apple M4 神經引擎 (2024) 38 TOPS（INT8），高通驍龍 8 Gen3 Hexagon NPU 約 45 TOPS。
8 受益公司
（本節僅客觀列舉在峰值算力領域有重要版面配置的廠商，不構成任何投資建議或推薦）
NVIDIA：通過 Ampere、Hopper、Blackwell 架構迭代持續領導峰值算力。H100 (2022) 無稀疏 FP16 峰值 500 TFLOPS；B200 (2024) FP8 峰值達 4.5 PFLOPS（來源：NVIDIA GTC 2024）。高算力卡單價超過 3 萬美元，帶動資料中心營收 FY2024 達 475.2 億美元（來源：NVIDIA 2024 財年年報）。
AMD：基於 CDNA 2/3 架構，Instinct MI250X (2022) FP16 峰值 383 TFLOPS，MI300X (2023) 提升至 1.3 PFLOPS（來源：AMD 官方新聞）。ROCm 生態仍在追趕，但峰值硬體已逐步獲得雲端端客戶採用。
Intel：Habana Gaudi 2 (2022) BF16 約 300 TFLOPS（來源：Intel 官網）；Gaudi 3 (2024) 提升至 1.8 PFLOPS（FP8），強調價效比和乙太網路擴充套件。Falcon Shores 將整合 GPU 和 Gaudi 路線。
雲端端自研巨頭：
- Google：TPU v4（2021）BF16 峰值 275 TFLOPS（來源：Google 論文）；TPU v5p (2023) 實測訓練速度大幅提升，具體峰值未公開。
- Amazon：Trainium2 (2024) 單晶片 BF16 峰值約 800 TFLOPS，64卡互聯可提供更大算力（來源：AWS 公開部落格）。
- 微軟：Maia 100 (2023) 定製 ASIC，規格未完全公開。
- 特斯拉：自研 Dojo D1 晶片 (2023) CFP8 峰值 362 TFLOPS（來源：特斯拉 AI Day 2022）。
初創與獨立 ASIC 公司：Cerebras WSE-3 (2024) 整片晶圓級晶片擁有 125 PFLOPS 的 AI 算力（FP16 等效，來源：Cerebras 官方）；Groq 的 LPU 採用確定性排程，峰值算力中等但低延遲表現突出。這些公司多仍處於早期商業化階段，融資額在數億至數十億美元。
9 市場規模
（以下資料均基於公開企業財報和市場研究機構報告，未進行預測或主觀推斷）
AI 晶片市場總規模：
- 根據 Omdia 2024 年的報告，2023 年全球 AI 晶片市場規模（含訓練和推論、GPU/ASIC/FPGA等）約為 420 億美元（來源：Omdia “AI Processors Market Tracker” Q1 2024）。
- Gartner 的估算類似，認為 2023 年資料中心 AI 加速器市場達 450 億美元左右。
訓練與推論格局：
- 訓練市場高度集中，NVIDIA 佔據主導地位。根據 Mercury Research 資料，2023 年第四季度 NVIDIA 在資料中心獨立 GPU 的出貨份額超過 90%。
- 推論市場更為分散，Google TPU、AWS Inferentia 等逐步擴大份額，但 NVIDIA 憑藉 GPU 的通用性仍然保持較大比例。
營收佐證：
- NVIDIA 資料中心業務 2024 財年（截至 2024 年 1 月 28 日）營收 475.2 億美元，年增率增長 217%（來源：NVIDIA 年報）。其中大型模型訓練卡（H100 等）貢獻主要部分。
- AMD 資料中心事業部 2023 年營收約 65 億美元（含 CPU），其中 GPU 加速器約 15‑20 億美元（來源：AMD 2023 年年報及分析師電話會）。
- Intel DCAI 事業部 2023 年營收 55.4 億美元（含至強 CPU 及 Gaudi 等）（來源：Intel 2023 年 10‑K）。
供應鏈瓶頸與價格：
- 先進封裝 CoWoS 產能由台積電主導，2024 年產能提升至每月約 4.5 萬片晶圓（來源：台積電 2024 年一季度法說會）。
- 頂級訓練卡終端單價在 2.5‑4 萬美元區間（如 H100 80GB SXM 售價約 3.5 萬美元，根據公開渠道報價），推升 AI 基礎設施總支出。據 IDC 統計，全球 AI 伺服器（含儲存和網路）市場 2023 年達到 500 億美元以上（來源：IDC Quarterly Server Tracker, 2023 Q4）。
10 玩家對比
下表基於各廠商最新旗艦 AI 加速器的公開規格（截至 2024 年中），對比峰值算力與視訊記憶體頻寬等關鍵項。
| 廠商 / 型號 | 釋出年份 | 精度 | 峰值算力 (無稀疏) | 記憶體頻寬 | 典型功耗 | 生態 |
|---|---|---|---|---|---|---|
| NVIDIA H100 (SXM5) | 2022 | BF16/FP16 | 500 TFLOPS | 3.35 TB/s (HBM3) | 700W | CUDA |
| NVIDIA B200 (SXM) | 2024 | FP8 | 4.5 PFLOPS | 8 TB/s (HBM3e) | 1000W | CUDA |
| AMD MI300X | 2023 | BF16/FP16 | 1.3 PFLOPS | 5.2 TB/s (HBM3) | 750W | ROCm |
| Intel Gaudi 3 | 2024 | FP8 | 1.8 PFLOPS | 3.7 TB/s (HBM2e) | 600W | OneAPI |
| Google TPU v5p (單晶片) | 2023 | BF16 | 未公開（估算約 450 TFLOPS） | 未公開 | 未公開 | JAX, TensorFlow |
| AWS Trainium2 (單晶片) | 2024 | BF16 | ~800 TFLOPS | 未公開 | 未公開 | Neuron SDK |
| Cerebras WSE-3 | 2024 | FP16 (等效) | 125 PFLOPS | 片內 21 PB/s | 23kW（整系統） | Cerebras SDK |
資料來源：NVIDIA B200 規格基於 NVIDIA GTC 2024 主題演講；MI300X 來源 AMD 2023 年釋出會；Gaudi 3 來源 Intel Vision 2024；其他來自各公司官方部落格或白皮書。估算為行業分析推算，僅供參考。
解讀要點：
- 峰值算力絕對值 NVIDIA B200 大幅領先，AMD 和 Intel 緊隨其後，差距在 2‑3 倍。
- 記憶體頻寬常是瓶頸，B200 的 HBM3e 頻寬 8 TB/s，相較 MI300X 的 5.2 TB/s 有明顯優勢，有助於提升大型模型推論效率。
- Cerebras 採用晶圓級整合方式，峰值極高但功耗和系統成本同樣驚人，且面向特殊場景（如大規模稀疏訓練）。
- 生態成熟度仍是客戶選擇的關鍵：CUDA 的裝機量超過 300 萬開發者（來源：NVIDIA 2024 GTC 公佈），轉換成本高，AMD 和 Intel 正通過開源和相容架構追趕。
11 風險
技術風險：
- 單晶片峰值算力提升正遭遇功耗牆和熱密度極限。未來可能需要依賴更先進的 3D 封裝、液冷甚至浸沒式散熱，成本和可靠性風險上升。
- 記憶體頻寬增長慢於算力，算術強度門檻持續上移，可能導致新一代晶片的實際 MFU 不升反降。
- 先進製程（N3/N2）流片費用昂貴，研發失敗或延遲會使投入付諸東流。
市場風險：
- 宏觀經濟放緩可能導致企業 AI 資本支出收縮，高階加速器訂單波動加大。
- 地緣政治和出口限制（如美國 2023 年 10 月對華晶片新規）影響部分市場的採購計劃，需求不確定性增加。
- 雲端廠商大力自研 ASIC（如 Amazon Trainium、Google TPU）侵蝕第三方 GPU 份額。
投資風險（不構成任何預測或建議）：
- 高估峰值算力可能誤導對新技術賽道的評估，實際變現依賴軟體生態和客戶遷移成本。部分初創公司的極高峰值數值未必能轉化為可持續的商業回報。
- 供應鏈高度集中（台積電、HBM 供應商），任何一環的斷裂都會帶來全行業衝擊。
12 誤讀糾偏
誤讀 1：“峰值算力越高，AI 跑得越快”
糾偏：模型訓練/推論速度受端到端系統瓶頸制約。例如 ResNet‑50 等輕算量模型受限於記憶體頻寬，即使峰值 TFLOPS 翻倍，實際吞吐提升也微乎其微。只有大矩陣計算（大規模 Transformer）才能充分利用高峰值。
誤讀 2：“不同晶片公佈的數字可直接用 TOPS 對比”
糾偏：不同精度的峰值不可比（如 INT8 TOPS vs FP16 TFLOPS）；即便相同精度，稀疏支援、散熱降頻、軟體利用率等差異也極大。應依據第三方基準（如 MLPerf）的實測結果進行比較。
誤讀 3：“啟用結構化稀疏後推論速度必定翻倍”
糾偏：2:4 結構化稀疏僅當模型權重壓縮一半且精度保持無損時才能接近 2 倍加速，實踐中多數網路需要微調或重訓，增益通常只有 1.2‑1.5 倍。
誤讀 4：“頻繁釋出更高峰值的產品意味著老品馬上過時”
糾偏：新一代產品往往先用於訓練，推論側存量晶片仍有數年的經濟壽命，尤其在大規模部署中，成本、功耗和相容性比峰值更重要。
13 最新事件
（截至 2025 年 2 月公開資訊）
1. NVIDIA Blackwell 平台量產
2024 年 3 月，NVIDIA 釋出 Blackwell GPU 架構，B200 在 FP8 下提供 4.5 PFLOPS 算力，搭配 8 TB/s HBM3e 視訊記憶體。首批系統（如 DGX B200）於 2024 年底出貨，主要雲端平台和伺服器廠商已宣佈採用（來源：NVIDIA GTC 2024 及公司部落格）。
2. AMD MI325X 與 MI350 路線圖
AMD 在 2024 年 6 月的財務分析師日上展示了 MI325X（HBM3e，2024 年 Q4 發貨）及 MI350（2025 年），峰值算力將進一步提升至 1.8 PFLOPS 以上，並強化 ROCm 支援。
3. 美國出口管制再次加碼
2023 年 10 月美國商務部工業安全域性（BIS）更新對華出口規則，將效能密度閾值進一步降低，直接影響多款高階 AI 晶片的對華出口。NVIDIA 為此推出合規特供版（如 H20），其 Int8 推論峰值約為 296 TOPS，FP16 訓練峰值約 148 TFLOPS，相較原版大幅縮減（來源：公開報道）。
4. Meta 公佈 MTIA v2 細節
2024 年 4 月，Meta 揭露其下一代訓練/推論加速器 MTIA v2 將採用 5nm 工藝，INT8 峰值達 708 TOPS，主要用於內部推薦系統工作負載，減少對外部供應商依賴（來源：Meta 官方部落格）。
5. 大型模型規模持續膨脹
引數超萬億、多模態模型成為研究焦點，訓練所需總浮點數突破 10^26 FLOPs，加速了對 PFLOPS 級別單晶片及萬卡叢集的需求，進一步凸顯峰值算力與互聯頻寬的聯合重要性。
14 追蹤指標
要持續評估峰值算力的產業動態和技術走向，建議定期追蹤以下指標：
- 各廠商最新晶片峰值規格：對比同期產品在不同精度下的 TFLOPS/TOPS，注意是否含稀疏。
- MLPerf 訓練/推論排行榜：每輪實測的吞吐量、延遲及 MFU，尤其關注無稀疏下的利用率。
- HBM 路線圖和產能：海力士、三星、美光的 HBM3/3E/4 量產時間表和頻寬。
- 先進封裝產能：台積電 CoWoS、Intel EMIB 等的月產能擴張計劃。
- 雲端廠商自研晶片進展：AWS、Google、微軟、Meta 等新品的部署規模和模型適配情況。
- 電力與冷卻限制：全球資料中心 PUE、大型叢集的供電許可和液冷滲透率。
- 出口管制規則：美國 BIS、荷蘭、日本等對高效能晶片的技術出口門檻更新。
- 軟體生態使用者數：CUDA 開發人員增長、PyTorch/TensorFlow 對各家卡的支援程度。
15 信源
公開硬體規格
- NVIDIA: 《NVIDIA H100 Tensor Core GPU Architecture》白皮書（2022）；《NVIDIA Blackwell Architecture》白皮書（2024）
- AMD: 《AMD Instinct MI300X Accelerator》資料表（2023）
- Intel: 《Intel Gaudi 3 AI Accelerator》產品頁（2024）
- Google: “TPU v4: An Optically Reconfigurable Supercomputer for Machine Learning”，ISCA 2023
- AWS: “AWS Trainium2 產品概述”，AWS 官方部落格（2024）
- Meta: “MTIA v2: Next Generation AI Inference Accelerator”，Meta Engineering Blog（2024）
- Cerebras: “Wafer Scale Engine 3”，Cerebras 官網（2024）
基準測試與效能評估
- MLCommons: MLPerf Training v3.1 / Inference v4.0 結果，https://mlcommons.org/benchmarks/
- SemiAnalysis 深度文章：晶片拆解與效能分析
- Chips and Cheese 部落格：GPU 微架構實測
市場研究
- Omdia: “AI Processors Market Tracker”，2024 Q1
- Mercury Research: “GPU Market Share Reports”，2023 Q4
- IDC: “Worldwide Quarterly Server Tracker”，2023 Q4
公司財報
- NVIDIA FY2024 年報（10‑K），2024 年 2 月提交
- AMD 2023 年年報（10‑K），2024 年 1 月提交
- Intel 2023 年 10‑K，2024 年 1 月提交
政策與監管
- 美國商務部工業安全域性（BIS）2023 年 10 月 17 日臨時最終規則： “Implementation of Additional Export Controls: Certain Advanced Computing Items”
注：本次撰寫未使用外部即時搜尋，所有資料均來自截至 2025 年 2 月的公開資訊和已知文獻，部分估算已明確標註。如需最新精確數值，請查閱上述信源。