PFLOPS

3秒看懂

PFLOPS (PetaFLOPS) 是浮点运算速度的单位，全称 Peta Floating-point Operations Per Second，即每秒能执行 10¹⁵（一千万亿）次浮点运算。 1 PFLOPS = 1 000 TFLOPS = 1 000 000 GFLOPS。当前顶级的 AI 训练芯片单颗已可提供数 PFLOPS 的算力，大型智算集群的算力则以数百、数千 PFLOPS（即 EFLOPS 级别）计量。如果把 1 PFLOPS 换算成日常设备，大约相当于 20 000~30 000 台主流笔记本电脑的算力加总。在 AI 语境下，PFLOPS 已不只是工程数据，它反映的是训练大模型所需的生产能力、资本密度和技术代差。

3分钟产业解释

在人工智能产业链中，算力是燃料，大模型是引擎，而 PFLOPS 正是计量燃料供应能力的核心标尺。

• 入场券门槛：训练 GPT-4、Gemini Ultra 等十万亿参数级模型，通常需要消耗总计算量达 数千亿 PFLOPS·小时（数十 EFLOPS·天）级别。据 Epoch AI 估算，GPT-4 训练总计算量约为 2.15 × 10²⁵ FLOPs，等效于约 25 000 块 A100 GPU 运行 90~100 天。不具备数百 PFLOPS 有效训练算力的集群，几乎无法参与顶级大模型的竞赛。
• 资本密集的象征：一个由数万张高端 GPU 组成、总算力达数十 EFLOPS 的集群，其 硬件采购成本往往高达数十亿美元，且还需要配套制冷、供电、网络等基础设施。因此，企业披露的 PFLOPS/EFLOPS 建设规模，直接反映其在 AI 领域的资本开支力度与战略决心。
• 硬件迭代的标尺：2022 年发布的 NVIDIA H100 GPU 在 FP8 稀疏模式下可提供约 3.96 PFLOPS 的峰值算力，使单芯片正式迈入 PFLOPS 纪元；2024 年发布的 B200 GPU 则通过 FP4 进一步将单芯片算力拉升至最高约 10 PFLOPS。单芯片 PFLOPS 的提升速度，直接表征着半导体工艺、架构设计和存储带宽的综合突破。

核心认知：谈论 PFLOPS，本质是在谈论 一种战略性生产能力、一个沉重的资本门槛，以及一轮仍在加速的技术迭代。谁拥有能效更优、可弹性扩展的 PFLOPS 集群，谁就在基础模型的竞赛中占据主动。

技术原理

1. 浮点运算与 FLOPS

FLOPS 衡量的是计算机每秒钟执行的浮点乘、加、乘加等运算次数。一次“乘加运算”（MAC）通常被计为两次浮点运算（一次乘法、一次加法）。 对于 AI 负载，张量（矩阵）运算占主导，算力密度极高，因而 FLOPS 成为比一般指令吞吐量（IPS）更直接的性能指标。

2. 芯片理论峰值 PFLOPS 计算

芯片峰值FLOPS ≈ 计算单元数 × 每单元每周期运算次数 × 时钟频率

以典型的 AI 加速器（含 Tensor Core）为例：

• 计算单元数：指 GPU 中的流式多处理器（SM）数量或专用 AI 引擎（NPU/TPU）的矩阵乘法阵列数。
• 每周期运算次数：由硬件架构决定。NVIDIA Tensor Core 在一个时钟周期内可完成 4×4×4 矩阵乘加，相当于 128 次浮点运算；新一代架构通过结构化稀疏可将有效运算量再翻倍。
• 时钟频率：受工艺、功耗限制，通常为 1 GHz~2 GHz 级别。

最终标称的峰值 PFLOPS 是在 最高吞吐精度（如 FP8、INT8 或 FP4）下，启用所有硬件特性（如稀疏）后计算的理论值，短期内极少能在真实负载中达到。

3. 精度与算力倍率

同一芯片在不同浮点/整数精度下的理论峰值差异巨大，以 NVIDIA H100 SXM 为例（来源：NVIDIA H100 白皮书，2022）：

• FP32（单精度）：约 67 TFLOPS
• FP16/BF16：约 989 TFLOPS（约 0.99 PFLOPS）
• FP8（密集）：约 1 979 TFLOPS（约 1.98 PFLOPS）
• FP8（启用稀疏）：约 3 958 TFLOPS（≈ 3.96 PFLOPS）

可见，精度每降低一级（如从 FP16→FP8），理论算力几乎翻倍。2024 年发布的 NVIDIA B200 进一步支持 FP4，将单芯片峰值推至约 10 PFLOPS（来源：NVIDIA 2024 GTC 主题演讲）。

4. 系统级有效算力与 Roofline 模型

集群有效 PFLOPS = Σ（单节点峰值 PFLOPS）× 集群利用率（MFU）

• MFU（Model FLOPs Utilization）：训练或推理实际计算量占硬件理论最大计算量的比例。在大规模语言模型训练中，MFU 通常在 35%~60%（来源：NVIDIA Megatron-LM 论文，2020；MosaicML 技术报告，2023）。
• 限制 MFU 的主要瓶颈包括：内存带宽墙（HBM 吞吐不足导致计算单元空转）、通信墙（节点间 AllReduce/All-to-All 延时）、调度损耗（流水线气泡、负载不均）等。
• Roofline 模型可直观刻画：应用的实际性能受制于计算峰值（水平线）和带宽瓶颈（斜线），最优性能取决于负载的计算密度能否突破拐点。

因此，系统 PFLOPS ≠ 堆砌芯片 PFLOPS，必须结合互联架构、存储层次和软件栈综合评价。

关键参数

• 理论峰值 PFLOPS ：芯片或集群在理想精度、最大时钟、满占计算单元条件下的极限运算吞吐。评估时须严格对标使用精度，不可直接跨精度相加。
• 有效 PFLOPS / MFU ：实际任务中持续输出的计算吞吐。例如，训练一个 175B GPT 模型，若集群峰值 1 000 PFLOPS（FP16）、MFU＝45%，则有效算力仅 450 PFLOPS。
• 能效比（FLOPS/Watt） ：PFLOPS/MW 或 TFLOPS/W。NVIDIA H100 SXM（TDP 700 W）在 FP8 密集模式下峰值能效比约 2.8 TFLOPS/W；B200 通过架构改进将能效比进一步提升，但整体集群还需计入网络、冷却等外围功耗。
• 内存带宽与容量 ：HBM3/HBM3e 的堆栈位宽与速率决定单片 GPU 的可用带宽。例如 H100 提供约 3.35 TB/s（HBM3），AMD MI300X 提供约 5.3 TB/s（HBM3），更高的带宽对视运算密度的训练任务提升 MFU 至关重要。
• 互联带宽与拓扑 ：节点内 NVLink、节点间 InfiniBand/RoCE 的带宽和延迟决定了分布式训练的可扩展性。以 NVIDIA DGX 集群为例，每个 GPU 到网络的带宽需与计算吞吐匹配，以免通信成为瓶颈。
• 每美元算力（TFLOPS/$） ：用于衡量采购与运营的经济效率。受芯片定价、部署规模、电力费用等影响。云服务商常按“每 EFLOPS·月的总成本”来评估自建与租用方案。

技术路线

以下对比基于厂商公开白皮书及行业广泛引用的供应链估算，实际性能因散热、配置、软件优化存在差异。表中精度均已标明，FP8/FP4 等多为当前最具商业竞争力的精度。

注： ¹ NVIDIA H100 白皮书，2022；稀疏为 2:4 结构化稀疏。 ² 工艺信息 NVIDIA 尚未披露完全。 ³ NVIDIA GTC 2024 主题演讲，FP4 数值；FP8/FP16 未完整公开。 ⁴ AMD CDNA 3 架构白皮书，2023。 ⁵ Intel Habana Gaudi 3 发布资料，2024 年 4 月。 ⁶ Google Cloud TPU v5p 发布博客，2023 年 12 月。 ⁷ 供应链调研及公开行业分析，2023‑2024。

当前技术路线呈现三大趋势：精度下探（FP8→FP4，算力倍增）、存储升级（HBM3→HBM3e 带宽大幅提升）、互联封闭化（NVIDIA NVLink/NVSwitch 逐步形成全栈私有高速互联，AMD 和 Intel 分别推出开放标准的 UALink 等方案，但生态仍待完善）。

上游

AI 算力产业链的上游聚焦于 硬件基础设施的零部件与制造，是决定 PFLOPS 供给能力的关键瓶颈环节。

• AI 芯片设计：NVIDIA、AMD、Intel、华为海思、Google（TPU 自研）、亚马逊（Trainium/Inferentia）等。芯片的架构 IP（如英伟达 Tensor Core、ARM 指令集）、EDA 工具（Cadence、Synopsys）亦属上游核心。
• 先进制程与制造：台积电（CoWoS 先进封装、3nm/4nm 制程）、三星（4nm）等。2024 年台积电 CoWoS 月产能已扩至约 35 000 片（来源：台积电 2Q24 法说会指引），但 AI 芯片订单仍使产能持续紧缺。
• HBM 内存：SK 海力士（HBM3/HBM3e 主力供应商）、三星、美光。2024 年 HBM3e 已量产供货 NVIDIA B200 等平台，产能扩张决定高端 GPU 出货上限。
• 网络互联器件：高速交换机（Arista、Cisco、NVIDIA Spectrum/Quantum）、光模块/光引擎（中际旭创、Coherent、Finisar）、DAC/AEC 铜缆连接器、交换机芯片（Broadcom、Marvell）等。一个万卡集群对 400G/800G 光模块的需求可达数十万只。
• 制冷与供电：液冷/浸没式液冷方案（CoolIT、Vertiv）、高密电源模块、UPS 等。芯片 TDP 突破 1 000 W（如 B200 NVL 方案），迫使数据中心采用液冷，带动上游热管理需求。

这些上游环节的产能扩张节奏、技术良率和地缘风险，直接决定全球 PFLOPS 的供给曲线。

下游

下游涵盖 算力集成、应用消费和软件生态，将上游的“裸算力”转化为可使用的 AI 生产力。

• 服务器 OEM/ODM：Dell、HPE、浪潮信息、联想、Supermicro、广达、富士康等，将芯片、内存、网络集成至服务器节点，交付定制化液冷整机柜。
• 云计算厂商：亚马逊 AWS、微软 Azure、谷歌 GCP、阿里云、腾讯云、华为云等，既是算力的最大采购方，也是向下游客户出售 PFLOPS 服务的平台。云厂商内部大量采用自研加速器（AWS Trainium、Google TPU）以降低外部 GPU 依赖。
• 大模型研发与 AI 应用：OpenAI、Anthropic、Meta、字节跳动、百度、商汤等，是 PFLOPS 的最终消费者。其模型规模、训练频次和推理流量，决定了下游算力需求的增速能维持多久。
• AI 框架与编译软件栈：PyTorch、JAX、TensorFlow，以及 NVIDIA CUDA、AMD ROCm、华为昇腾 MindSpore/Ascend 等。软件生态的质量直接影响 MFU 和新硬件的迁移成本。
• 中间件与优化工具：NVIDIA TensorRT-LLM、vLLM、DeepSpeed、Megatron-LM、Ray 等，致力于提高 PFLOPS 利用效率、压缩推理成本。

下游环节的景气度与上游的供给能力形成相互强化关系：下游应用爆发 → 云厂商追加资本开支 → 进一步拉升上游订单 → 产能紧张推高 PFLOPS 的单位成本 → 下游厂商加速自研以控制成本。

受益公司

以下仅基于产业链位置与公开信息披露，不代表任何投资建议，不构成买卖判断。

• 算力芯片与系统：NVIDIA（AI 训练/推理 GPU 市占率超 80%，据 Omdia 2023 年 AI 处理器追踪）、AMD（MI300 系列出货量提升）、Intel（Gaudi 3 及未来 Falcon Shores）、博通（定制 ASIC 与网络芯片）、Marvell（定制 XPU 与交换芯片）；华为昇腾（国产替代核心）。
• 晶圆代工与封装：台积电（手握绝大多数 AI 芯片先进制程及 CoWoS 封装订单）、日月光、安靠等，产能利用率与 ASP 同步上行。
• HBM 供应商：SK 海力士（2024 年 HBM3e 市场主导地位，据集团财报及 TrendForce 报道）、三星、美光，HBM 已成为限制 GPU 出货的关键部件。
• 服务器与液冷：Supermicro、Dell、浪潮信息等 AI 服务器订单快速增长；液冷方案和 CDU 供应商受益于高功耗集群部署。
• 网络设备与光模块：NVIDIA（Spectrum/Quantum 交换机）、Arista、中际旭创（800G 光模块核心供应商，2024 年出货量大幅放量，据公司投资者交流）等。
• 云服务厂商：微软 Azure、亚马逊 AWS、谷歌云等，因 AI 算力租赁收入大幅增加；大规模的资本开支亦加深其与上游绑定。

产业链受益方向随技术代际更迭而动态变化，但整体呈现“芯片→存储→网络→集成→云服务”的轮动特征。

市场规模

• 全球 AI 芯片市场：据 Gartner 2024 年第二季度统计，2023 年全球 AI 处理器（含 GPU、CPU、ASIC、FPGA）销售收入约为 534 亿美元，2024 年预计达到 671 亿美元，同比增长约 25.7%（来源：Gartner Forecast Analysis: AI Semiconductors, Worldwide, 2024）。其中，数据中心 AI 加速器是增长最快的子市场。
• AI 服务器：IDC 2024 年《Worldwide AI Server Tracker》预测，2024 年全球 AI 服务器市场规模将超过 500 亿美元，至 2027 年复合年增长率（CAGR）约 20%~25%，主要由 GPU 服务器和自研 ASIC 服务器推动。
• 云计算算力开支：三大北美云厂商（Amazon、Microsoft、Alphabet）2024 年合计资本开支指引超过 1 700 亿美元（来源：各公司 2024 Q1 财报电话会），其中大部分投向 AI 基础设施，包括 GPU 集群、网络和数据中心，这直接反映在 PFLOPS 级算力采购上。
• HBM 市场：TrendForce 2024 年 3 月数据显示，2024 年 HBM 销售额占整体 DRAM 市场的比重将从 2023 年的约 5% 跃升至 10% 以上，容量与带宽的升级构成 PFLOPS 增长的物理约束。

以上数据均对应全球市场，口径为芯片/系统销售额或云资本开支，年份标明为 2023 或 2024 指导值。中国市场的细分数据因缺乏权威第三方报告公开，此处不予推算，仅能引用趋势判断。

玩家对比

选取目前商业可及的 AI 训练/推理加速平台，从算力、生态、产能、开放性四个维度进行定性对比。

NVIDIA

• 算力：B200 FP4 约 10 PFLOPS，H100 FP8 稀疏约 3.96 PFLOPS；配套 NVLink 5/NVSwitch 提供超 1.8 TB/s 总带宽。
• 生态：CUDA 生态粘性极高，PyTorch 等框架深度优化；TensorRT-LLM 大幅压缩推理成本。
• 产能与供应：受台积电 CoWoS 和 HBM3e 约束，H100/B200 交付周期长，但份额绝对领先（据 Omdia 2023 AI 加速器市场营收份额约 80%）。

AMD

• 算力：MI300X FP8 约 2.6 PFLOPS，HBM3 带宽 5.3 TB/s，容量 192 GB，在推理吞吐上表现优秀。
• 生态：ROCm 持续追赶，对 PyTorch/JAX 支持逐步成熟；但部分优化仍落后于 CUDA，企业级适配成本较高。
• 产能与供应：同样受先进封装限制，但凭借台积电分配的部分产能，2024 年目标上调 AI 芯片营收指引至 35 亿美元（来源：AMD 1Q24 业绩会）。

Intel

• 算力：Gaudi 3 BF16 约 1.8 PFLOPS，集成 24 个 200 GbE 网络端口，针对横向扩展的 HPC/训练场景优化。
• 生态：提供 OneAPI 和 Habana 软件栈，力图构建开放的跨架构生态；但第三方模型适配尚不及 NVIDIA 广泛。
• 产能与供应：自用 Intel 代工或台积电，HBM2e 供应相对充裕，但在云巨头中的采纳率仍待提升。

自研 ASIC 阵营（Google TPU、AWS Trainium、微软 Maia 等）

• 算力：TPU v5p BF16 ~459 TFLOPS（单芯片），但通过 ICI 互联可线性扩展至数万芯片。Trainium2 预计 FP8 约 0.5 PFLOPS。
• 生态：专有框架（JAX/TensorFlow，AWS Neuron SDK），不与第三方直接竞争。
• 产能与供应：自研自用，不对外销售，产能完全服务于自家云需求。其大规模部署正侵蚀部分 GPU 份额。

国产 GPU/NPU（华为昇腾 910B 等）

• 算力：FP16 峰值约 320 TFLOPS，多卡互联性能依赖 HCCS，大集群效率随软件栈优化逐步提升。
• 生态：MindSpore 和 Ascend 软件栈日趋完善，支持 PyTorch 适配；但算子覆盖度和分布式训练稳定性尚不及国际主流方案。
• 产能与供应：基于国内先进制造能力，但在产能规模、良率方面未公开披露。

综合而言，当前 算力巅峰依然由 NVIDIA 定义，但第二梯队（AMD、Intel）和垂直自研力量正在缩小生态差距；国产方案在特定区域内构建自主可控的 PFLOPS 集群，成本与规模数据公开资料有限。

风险

• 地缘政治与出口管制：美国 BIS 对高端 AI 芯片、半导体设备的出口限制持续加码（2022 年 10 月、2023 年 10 月、2024 年 3 月多次修订规则），直接影响 GPU 和先进制程的跨境流动，可能扭曲全球 PFLOPS 供给格局。
• 产能集中风险：先进制程（<5nm）和 CoWoS/LSI 封装高度集中于台积电，HBM 生产集中于 SK 海力士和三星。任何一家工厂的地震、停电或地缘事件均可能导致 AI 芯片交付大幅延迟。
• 需求断档或泡沫风险：若未来大模型训练回报递减，或推理需求增长不及预期，巨额的算力资本开支可能转化为沉没成本，造成 PFLOPS 供给过剩和价格战。
• 能效与电网瓶颈：单个超大规模集群功率可达 100 MW 以上，2024‑2025 年已出现多起因电力供应不足而推迟数据中心部署的案例。若电网扩容速度跟不上，将压低集群可投运的 PFLOPS 上限。
• 技术路径更迭：若未来出现颠覆性的非冯·诺依曼计算范式（如存内计算、光学计算），现有 GPU 堆叠路线构建的 PFLOPS 集群可能面临资产减值风险。
• 软件生态分裂：CUDA 的锁定效应与多种替代框架并存，导致部分硬件即便有高理论 PFLOPS，也因软件适配不足而利用率极低，产生“纸面算力”风险。

误读纠偏

1. 误读：峰值 PFLOPS = 实际可用的有效算力。 纠偏：峰值 PFLOPS 是按最高吞吐精度、满计算单元、零通信损耗计算的实验室上限。大模型训练中，受内存带宽、AllReduce 通信、流水线气泡等影响，有效算力利用率（MFU）往往只有 35%~60%。评估平台必须看实际负载下的“有效 PFLOPS”，而非宣传页上的峰值。

2. 误读：集群 PFLOPS 越大，性能就一定越好。 纠偏：集群性能是系统工程结果。一个由低带宽网络连接、未做拓扑优化的万卡集群，可能因通信拥塞而等效吞吐还不如一个高度优化的千卡集群。扩展效率（实际 PFLOPS / 线性扩展期望值） 比绝对规模更有意义。

3. 误读：不加精度说明，直接比较不同芯片的 PFLOPS。 纠偏：同一芯片 FP32/FP16/FP8/FP4 算力可能相差数倍。例如 H100 FP32 仅 67 TFLOPS，FP8 稀疏却达 3.96 PFLOPS。比较时必须指明精度，否则无异于用“美元”和“日元”直接比价。

4. 误读：人工智能只需要训练算力，推理算力不重要。 纠偏：随着模型部署规模膨胀，推理成本已占 AI 总算力消耗的相当比重。Meta 2024 年直言推理是“大规模算力投资中最具回报的部分”（来源：Meta 1Q24 财报电话会）。推理阶段更看重低延迟、高吞吐与低功耗，单芯片 PFLOPS 数值可能不是最优评判指标。

5. 误读：PetaFLOPs 和 PetaOps 是一个概念。 纠偏：FLOPS 特指浮点运算，OPS 泛指所有类型运算（含整数、逻辑）。在 AI 加速器中，整数单元（用于量化推理）的 OPS 可能远高于浮点 FLOPS，混淆二者会扭曲硬件能力对比。

最新事件

• 2024‑03 NVIDIA Blackwell 平台亮相：发布 B200 GPU，宣称 FP4 算力最高 10 PFLOPS，