峰值算力

1 3 秒看懂

峰值算力（Peak Compute）指处理器在理想状态下单位时间内可执行的最大运算次数，常用单位为 FLOPS（浮点）或 TOPS（整数）。它是芯片的“理论天花板”，不代表真实软件性能，却是衡量 AI 芯片肌肉量的首要指标。

2 3 分钟产业解释

在 AI 产业中，峰值算力是训练与推理硬件选型的起点。模型参数量越大、序列越长，对显卡或 ASIC 的算力饥渴越强。厂商通常以 INT8、FP8、FP16、BF16、FP32、FP64 等多种精度分别标称峰值：Transformer 推理常用 INT8/FP8，训练多用 BF16/FP16，科学计算才看 FP64。

然而，峰值只是理论极限——实际吞吐受制于内存带宽、互联拓扑、编译器效率与功耗墙。大模型时代，算力利用率（MFU）往往只有 30‑60%，因此顶级 AI 芯片的竞争已从单纯“堆峰值”转向系统级效能。对投资者而言，峰值算力的代际增幅（例如每年 2‑3 倍）是判断技术是否进入平台期的关键信号，但估值必须结合生态、软件栈和实测性能。

3 技术原理

3.1 并行计算的层级

现代 AI 芯片通过多层并行榨取峰值算力：

• 标量运算：单个 ALU 每周期完成 1 次加或乘，对应 1 FLOP。
• 向量运算：SIMD 单元（如 512 位宽 VPU）一周期可处理 16 个 FP32 或 32 个 FP16 操作。
• 矩阵运算：脉动阵列或张量核心直接计算矩阵乘（GEMM），一次输出一个小矩阵块。

3.2 峰值算力计算公式

通用公式为：

Peak OPS = N_core × Ops_per_cycle_per_core × f_max

• N_core：计算单元总数（如 GPU 的 CUDA Core、NPU 的 MAC 阵列）。
• Ops_per_cycle_per_core：每单元每周期可完成的融合乘加（FMA）次数或等效操作数。标准 FMA 含一次乘法和一次加法，计 2 OPS。
• f_max：最高工作频率。

对于带有张量核心的 GPU：以典型 4×4×4 矩阵乘加为例，单个 Tensor Core 每周期完成 64 次乘法和 64 次加法，合计 128 OPS；再乘以张量核心数量和频率，即可获得矩阵维度的峰值。

3.3 精度与操作计数的关系

同一硬件在不同精度下理论峰值差异巨大：

• FP64：1 FMA = 2 FLOP。
• FP32：与 FP64 相同计算量，但部分架构的 FP32 单元数量更多。
• FP16/BF16：半精度数据的宽度减半，同样硬件可并行处理两倍操作，理论峰值翻倍。
• INT8：单指令可同时处理更多整数乘加，拉伸 TOPS 数值。
• FP8：进一步降低位宽，部分新一代架构在 FP8 下的标称峰值可达 FP16 的 2 倍。
• 稀疏化：若芯片支持结构稀疏（如 2:4 模式），可将部分零值计算跳过，峰值标称可额外提升约 2 倍，但前提是模型权重能被有效稀疏化。

因此，厂商公布的峰值算力往往是一组“套装”——必须仔细对照精度、格式以及是否包含稀疏加速，否则不同芯片的峰值数值不具备直接可比性。

3.4 张量核心的内在机制

（基于公开技术白皮书通用原理）某一代 Tensor Core 在一个时钟周期内，将两个 4×4 的 FP16 矩阵相乘，并与一个 4×4 FP16/FP32 累加矩阵相加，输出 4×4 结果。单个 Tensor Core 单周期完成 64 次乘法和 64 次加法，合计 128 OPS。后续架构（如 Ampere、Hopper）大幅提升了每个 Tensor Core 的单周期吞吐（例如 Ampere 每 Tensor Core 每周期可完成 256 OPS，Hopper 可达 512 OPS），因此一片 GPU 拥有数百个 Tensor Core，频率约 1‑2 GHz，即可贡献数百 TFLOPS 的 FP16 峰值。

3.5 内存层级与数据复用

为降低对外部高带宽内存（HBM）的压力，芯片内部大量使用寄存器、共享内存和 L1/L2 缓存，通过流水线化和数据重用来提高实际吞吐。算术强度（FLOP/Byte）成为关键指标：当每个加载的字节能支撑更多计算时，才趋向算力密集，否则受限于内存带宽。

4 关键参数

评估峰值算力及其实际意义时，下列指标不可或缺：

注：具体数值需结合具体产品规格表，以上参数均应在相同精度、是否包含稀疏等条件下进行对比。

5 技术路线

5.1 数据中心 GPU

代表：NVIDIA H100 (2022)、B200 (2024)、AMD MI300X (2023)。

• 计算单元：数千 CUDA Core + 数百 Tensor Core。
• 峰值范围：无稀疏 BF16/FP16 约 500‑1300 TFLOPS，启用稀疏可达 2×。
• 优势：成熟生态（CUDA、ROCm），覆盖训练和推理。
• 瓶颈：功耗高（700‑1000W），散热要求苛刻，供应受先进封装（CoWoS）制约。

5.2 推理专用 ASIC

代表：Google TPU v5p (2023)、Amazon Inferentia2 (2023)、Meta MTIA v2 (2024)。

• 计算单元：脉动阵列 MAC × 大量乘法累加器。
• 峰值范围：INT8 下数百 TOPS，BF16 可达数百 TFLOPS。
• 优势：针对特定模型数据流定制的能效比极高。
• 瓶颈：灵活性差，适配新算子成本高，生态封闭。

5.3 FPGA 与可重构方案

代表：Xilinx Versal (AMD)、Intel Agilex。

• 计算单元：可编程 DSP 块 + AI 引擎。
• 峰值范围：INT8 下数十至百 TOPS。
• 优势：延迟极低，可重配置，适合预处理和低延迟场景。
• 瓶颈：频率难超 500 MHz，开发生态门槛高，峰值难敌 ASIC。

5.4 类脑与存内计算

尚在实验室阶段，峰值以 TOPS/W 计极高，但精度为 INT4/二值，面向特定稀疏网络，短期难撼动主流市场。

注：以上峰值范围为定性估计，精确数字以各厂商官方数据表为准。

6 上游

半导体 IP 与 EDA：Arm（Neoverse 平台）、Synopsys 和 Cadence 提供关键接口 IP 和设计工具，决定芯片能否按时流片。
先进制程：台积电 N5、N4、N3 等节点是当前 AI 芯片主流选择，N2 预计于 2025‑2026 年量产；三星和 Intel 18A 也在追赶。更小节点意味着单位面积能容纳更多计算单元，直接推高峰值。
高带宽内存（HBM）：海力士、三星和美光供应 HBM2E/3/3E 等。HBM 带宽决定芯片的实际数据供给，瓶颈会大幅拉低峰值利用率。例如，H100 配备 80GB HBM3，带宽 3.35TB/s（来源：NVIDIA H100 数据表）。下一代 HBM3E 带宽提升至 4.8TB/s 以上。
先进封装：台积电的 CoWoS、Intel 的 EMIB 等 2.5D/3D 封装是连接计算核心和 HBM 的关键，产能长期紧张，成为高端芯片的供给瓶颈。

7 下游

公有云与 AI 服务平台：AWS、微软 Azure、Google Cloud 等部署大规模训练和推理集群，直接采购高端 GPU、自研 ASIC 或云端专用加速器。峰值算力决定了单卡服务能力和所需卡数。
私有化部署：大型互联网公司、金融、政府等自建 AI 基础设施，采购量巨大，需求向更高算力密度倾斜。
自动驾驶域控：L3+/L4 自动驾驶需要实时处理多路传感器数据，峰值算力需达数百 TOPS（INT8），例如 NVIDIA Orin (2021) 254 TOPS，Thor (预计 2025) 可达 2000 TOPS（来源：NVIDIA 公布规格）。
边缘/端侧：手机、PC 等端侧 AI 芯片追求 TOPS/W，例如 Apple M4 神经引擎 (2024) 38 TOPS（INT8），高通骁龙 8 Gen3 Hexagon NPU 约 45 TOPS。

8 受益公司

（本节仅客观列举在峰值算力领域有重要布局的厂商，不构成任何投资建议或推荐）

NVIDIA：通过 Ampere、Hopper、Blackwell 架构迭代持续领导峰值算力。H100 (2022) 无稀疏 FP16 峰值 500 TFLOPS；B200 (2024) FP8 峰值达 4.5 PFLOPS（来源：NVIDIA GTC 2024）。高算力卡单价超过 3 万美元，带动数据中心收入 FY2024 达 475.2 亿美元（来源：NVIDIA 2024 财年年报）。

AMD：基于 CDNA 2/3 架构，Instinct MI250X (2022) FP16 峰值 383 TFLOPS，MI300X (2023) 提升至 1.3 PFLOPS（来源：AMD 官方新闻）。ROCm 生态仍在追赶，但峰值硬件已逐步获得云端客户采用。

Intel：Habana Gaudi 2 (2022) BF16 约 300 TFLOPS（来源：Intel 官网）；Gaudi 3 (2024) 提升至 1.8 PFLOPS（FP8），强调性价比和以太网扩展。Falcon Shores 将整合 GPU 和 Gaudi 路线。

云端自研巨头：

• Google：TPU v4（2021）BF16 峰值 275 TFLOPS（来源：Google 论文）；TPU v5p (2023) 实测训练速度大幅提升，具体峰值未公开。
• Amazon：Trainium2 (2024) 单芯片 BF16 峰值约 800 TFLOPS，64卡互联可提供更大算力（来源：AWS 公开博客）。
• 微软：Maia 100 (2023) 定制 ASIC，规格未完全公开。
• 特斯拉：自研 Dojo D1 芯片 (2023) CFP8 峰值 362 TFLOPS（来源：特斯拉 AI Day 2022）。

初创与独立 ASIC 公司：Cerebras WSE-3 (2024) 整片晶圆级芯片拥有 125 PFLOPS 的 AI 算力（FP16 等效，来源：Cerebras 官方）；Groq 的 LPU 采用确定性调度，峰值算力中等但低延迟表现突出。这些公司多仍处于早期商业化阶段，融资额在数亿至数十亿美元。

9 市场规模

（以下数据均基于公开企业财报和市场研究机构报告，未进行预测或主观推断）

AI 芯片市场总规模：

• 根据 Omdia 2024 年的报告，2023 年全球 AI 芯片市场规模（含训练和推理、GPU/ASIC/FPGA等）约为 420 亿美元（来源：Omdia “AI Processors Market Tracker” Q1 2024）。
• Gartner 的估算类似，认为 2023 年数据中心 AI 加速器市场达 450 亿美元左右。

训练与推理格局：

• 训练市场高度集中，NVIDIA 占据主导地位。根据 Mercury Research 数据，2023 年第四季度 NVIDIA 在数据中心独立 GPU 的出货份额超过 90%。
• 推理市场更为分散，谷歌 TPU、AWS Inferentia 等逐步扩大份额，但 NVIDIA 凭借 GPU 的通用性仍然保持较大比例。

营收佐证：

• NVIDIA 数据中心业务 2024 财年（截至 2024 年 1 月 28 日）营收 475.2 亿美元，同比增长 217%（来源：NVIDIA 年报）。其中大模型训练卡（H100 等）贡献主要部分。
• AMD 数据中心事业部 2023 年营收约 65 亿美元（含 CPU），其中 GPU 加速器约 15‑20 亿美元（来源：AMD 2023 年年报及分析师电话会）。
• Intel DCAI 事业部 2023 年营收 55.4 亿美元（含至强 CPU 及 Gaudi 等）（来源：Intel 2023 年 10‑K）。

供应链瓶颈与价格：

• 先进封装 CoWoS 产能由台积电主导，2024 年产能提升至每月约 4.5 万片晶圆（来源：台积电 2024 年一季度法说会）。
• 顶级训练卡终端单价在 2.5‑4 万美元区间（如 H100 80GB SXM 售价约 3.5 万美元，根据公开渠道报价），推升 AI 基础设施总支出。据 IDC 统计，全球 AI 服务器（含存储和网络）市场 2023 年达到 500 亿美元以上（来源：IDC Quarterly Server Tracker, 2023 Q4）。

10 玩家对比

下表基于各厂商最新旗舰 AI 加速器的公开规格（截至 2024 年中），对比峰值算力与显存带宽等关键项。

数据来源：NVIDIA B200 规格基于 NVIDIA GTC 2024 主题演讲；MI300X 来源 AMD 2023 年发布会；Gaudi 3 来源 Intel Vision 2024；其他来自各公司官方博客或白皮书。估算为行业分析推算，仅供参考。

解读要点：

• 峰值算力绝对值 NVIDIA B200 大幅领先，AMD 和 Intel 紧随其后，差距在 2‑3 倍。
• 内存带宽常是瓶颈，B200 的 HBM3e 带宽 8 TB/s，相较 MI300X 的 5.2 TB/s 有明显优势，有助于提升大模型推理效率。
• Cerebras 采用晶圆级集成方式，峰值极高但功耗和系统成本同样惊人，且面向特殊场景（如大规模稀疏训练）。
• 生态成熟度仍是客户选择的关键：CUDA 的装机量超过 300 万开发者（来源：NVIDIA 2024 GTC 公布），转换成本高，AMD 和 Intel 正通过开源和兼容框架追赶。

11 风险

技术风险：

• 单芯片峰值算力提升正遭遇功耗墙和热密度极限。未来可能需要依赖更先进的 3D 封装、液冷甚至浸没式散热，成本和可靠性风险上升。
• 内存带宽增长慢于算力，算术强度门槛持续上移，可能导致新一代芯片的实际 MFU 不升反降。
• 先进制程（N3/N2）流片费用昂贵，研发失败或延迟会使投入付诸东流。

市场风险：

• 宏观经济放缓可能导致企业 AI 资本开支收缩，高端加速器订单波动加大。
• 地缘政治和出口限制（如美国 2023 年 10 月对华芯片新规）影响部分市场的采购计划，需求不确定性增加。
• 云厂商大力自研 ASIC（如 Amazon Trainium、谷歌 TPU）侵蚀第三方 GPU 份额。

投资风险（不构成任何预测或建议）：

• 高估峰值算力可能误导对新技术赛道的评估，实际变现依赖软件生态和客户迁移成本。部分初创公司的极高峰值数值未必能转化为可持续的商业回报。
• 供应链高度集中（台积电、HBM 供应商），任何一环的断裂都会带来全行业冲击。

12 误读纠偏

误读 1：“峰值算力越高，AI 跑得越快”
纠偏：模型训练/推理速度受端到端系统瓶颈制约。例如 ResNet‑50 等轻算量模型受限于内存带宽，即使峰值 TFLOPS 翻倍，实际吞吐提升也微乎其微。只有大矩阵计算（大规模 Transformer）才能充分利用高峰值。

误读 2：“不同芯片公布的数字可直接用 TOPS 对比”
纠偏：不同精度的峰值不可比（如 INT8 TOPS vs FP16 TFLOPS）；即便相同精度，稀疏支持、散热降频、软件利用率等差异也极大。应依据第三方基准（如 MLPerf）的实测结果进行比较。

误读 3：“启用结构化稀疏后推理速度必定翻倍”
纠偏：2:4 结构化稀疏仅当模型权重压缩一半且精度保持无损时才能接近 2 倍加速，实践中多数网络需要微调或重训，增益通常只有 1.2‑1.5 倍。

误读 4：“频繁发布更高峰值的产品意味着老品马上过时”
纠偏：新一代产品往往先用于训练，推理侧存量芯片仍有数年的经济寿命，尤其在大规模部署中，成本、功耗和兼容性比峰值更重要。

13 最新事件

（截至 2025 年 2 月公开信息）

1. NVIDIA Blackwell 平台量产
2024 年 3 月，NVIDIA 发布 Blackwell GPU 架构，B200 在 FP8 下提供 4.5 PFLOPS 算力，搭配 8 TB/s HBM3e 显存。首批系统（如 DGX B200）于 2024 年底出货，主要云平台和服务器厂商已宣布采用（来源：NVIDIA GTC 2024 及公司博客）。

2. AMD MI325X 与 MI350 路线图
AMD 在 2024 年 6 月的财务分析师日上展示了 MI325X（HBM3e，2024 年 Q4 发货）及 MI350（2025 年），峰值算力将进一步提升至 1.8 PFLOPS 以上，并强化 ROCm 支持。

3. 美国出口管制再次加码
2023 年 10 月美国商务部工业安全局（BIS）更新对华出口规则，将性能密度阈值进一步降低，直接影响多款高端 AI 芯片的对华出口。NVIDIA 为此推出合规特供版（如 H20），其 Int8 推理峰值约为 296 TOPS，FP16 训练峰值约 148 TFLOPS，相较原版大幅缩减（来源：公开报道）。

4. Meta 公布 MTIA v2 细节
2024 年 4 月，Meta 披露其下一代训练/推理加速器 MTIA v2 将采用 5nm 工艺，INT8 峰值达 708 TOPS，主要用于内部推荐系统工作负载，减少对外部供应商依赖（来源：Meta 官方博客）。

5. 大模型规模持续膨胀
参数超万亿、多模态模型成为研究焦点，训练所需总浮点数突破 10^26 FLOPs，加速了对 PFLOPS 级别单芯片及万卡集群的需求，进一步凸显峰值算力与互联带宽的联合重要性。

14 跟踪指标

要持续评估峰值算力的产业动态和技术走向，建议定期追踪以下指标：

• 各厂商最新芯片峰值规格：对比同期产品在不同精度下的 TFLOPS/TOPS，注意是否含稀疏。
• MLPerf 训练/推理榜单：每轮实测的吞吐量、延迟及 MFU，尤其关注无稀疏下的利用率。
• HBM 路线图和产能：海力士、三星、美光的 HBM3/3E/4 量产时间表和带宽。
• 先进封装产能：台积电 CoWoS、Intel EMIB 等的月产能扩张计划。
• 云厂商自研芯片进展：AWS、Google、微软、Meta 等新品的部署规模和模型适配情况。
• 电力与冷却限制：全球数据中心 PUE、大型集群的供电许可和液冷渗透率。
• 出口管制规则：美国 BIS、荷兰、日本等对高性能芯片的技术出口门槛更新。
• 软件生态用户数：CUDA 开发人员增长、PyTorch/TensorFlow 对各家卡的支持程度。

15 信源

公开硬件规格

• NVIDIA: 《NVIDIA H100 Tensor Core GPU Architecture》白皮书（2022）；《NVIDIA Blackwell Architecture》白皮书（2024）
• AMD: 《AMD Instinct MI300X Accelerator》数据表（2023）
• Intel: 《Intel Gaudi 3 AI Accelerator》产品页（2024）
• Google: “TPU v4: An Optically Reconfigurable Supercomputer for Machine Learning”，ISCA 2023
• AWS: “AWS Trainium2 产品概述”，AWS 官方博客（2024）
• Meta: “MTIA v2: Next Generation AI Inference Accelerator”，Meta Engineering Blog（2024）
• Cerebras: “Wafer Scale Engine 3”，Cerebras 官网（2024）

基准测试与性能评估

• MLCommons: MLPerf Training v3.1 / Inference v4.0 结果，https://mlcommons.org/benchmarks/
• SemiAnalysis 深度文章：芯片拆解与性能分析
• Chips and Cheese 博客：GPU 微架构实测

市场研究

• Omdia: “AI Processors Market Tracker”，2024 Q1
• Mercury Research: “GPU Market Share Reports”，2023 Q4
• IDC: “Worldwide Quarterly Server Tracker”，2023 Q4

公司财报

• NVIDIA FY2024 年报（10‑K），2024 年 2 月提交
• AMD 2023 年年报（10‑K），2024 年 1 月提交
• Intel 2023 年 10‑K，2024 年 1 月提交

政策与监管

• 美国商务部工业安全局（BIS）2023 年 10 月 17 日临时最终规则： “Implementation of Additional Export Controls: Certain Advanced Computing Items”

注：本次撰写未使用外部实时搜索，所有数据均来自截至 2025 年 2 月的公开信息和已知文献，部分估算已明确标注。如需最新精确数值，请查阅上述信源。