计算图

由于检索工具异常，本文未能获取实时第三方数据。以下内容基于计算图领域的公开学术论文、主流开源框架文档及业界公认实践，采用定性描述，对精确数字、厂商归属等硬规格不做无据推断。

3 秒看懂

计算图（Computation Graph）是深度学习框架底层用于描述计算过程的有向无环图（DAG）。节点代表操作（如矩阵乘法、激活函数），边代表数据流向（张量）。它使得自动微分、分布式并行策略和编译器优化成为可能，是现代 AI 软件栈的“中间表示层”。如果将模型代码比作建筑设计图，计算图就是施工方手中的精确执行工序表。

3 分钟产业解释

计算图并非直接面对用户的模型代码，而是框架内部将代数运算组织成可分析、可优化的数据结构。它解决了两个核心问题：自动求导（反向传播）与执行优化。业界主要分为静态图（先定义后运行，利于全局优化和部署）与动态图（定义即运行，便于调试和研究）。当前生态中，PyTorch（动态图优先，辅以编译方案）、TensorFlow（支持静态/动态双模式）、JAX（函数式变换）等通过不同的图构建与执行策略，影响着模型开发效率、训练规模上限以及推理端侧部署成本。计算图的表达能力与编译链深度，已成为 AI 框架竞争的技术护城河。这一层的技术选型，直接决定了上层模型开发者的使用体验和底层硬件的利用效率。

技术原理（最深）

计算图用有向无环图 G = (V, E) 表示。每个节点 v \in V 为一个操作 f_v，其输入为父节点的输出张量，输出为一个或多个张量。边 (u \to v) 表示张量从 u 流向 v。

自动微分机制

反向传播的核心是沿计算图反向遍历，应用链式法则。对于标量损失 L，给定节点 v 输出 y，其所有输入 x 的梯度计算为：

\frac{\partial L}{\partial x} = \sum_{y \in text(outputs)(x)} \frac{\partial L}{\partial y} \cdot \frac{\partial y}{\partial x}

框架通过在每个操作上注册正向函数（forward）与反向函数（adjoint），形成梯度传播规则。例如矩阵乘法 C = A \times B 的反向为 \frac{\partial L}{\partial A} = \frac{\partial L}{\partial C} \times B^\top。

图优化示例

静态图编译常进行代数简化与布局调整。例如：

  原始子图：
  X -> MatMul(W) -> Add(b) -> ReLU -> Y

  融合后（单一 kernel）：
  X -> FusedMatMulAddReLU(W, b) -> Y

更复杂的如内存换计算：将“前向激活丢弃后反向重计算”的点插入图中，转化为显存约束下的最优检查点策略。

动态执行的内存管理

动态图边执行边构建图，张量生命周期通过引用计数管理。这虽然简化了开发，但引入了 Python 解释器开销和碎片化内存。现代方案（如 PyTorch CUDA Caching Allocator）通过缓存机制缓解，但无法根本匹敌静态图整图规划的效率。

关键参数

评估计算图方案质量的核心维度，涵盖从开发态到运行态的全流程表现，具体参数包括：

• 图构建开销：衡量动态图模式下，每次迭代中 Python 解释与 DAG 节点创建所花费的时间，通常以微秒计。该指标直接决定小模型或低延迟场景下，框架运行时 overhead 是否可接受。
• 图捕获成功率：针对混合执行方案（如 PyTorch 2.x torch.compile），框架能无感捕获并优化的计算图占总操作的比例。若此值低于 100% 则会出现“图断裂”，未捕获部分回退到 Eager 模式，损失部分编译器优化收益。该指标是衡量框架“易用性与性能平衡”的关键。
• 编译时间：静态图定义或 JIT 编译所消耗的时间，单位通常为秒。过长的编译时间会严重损害研究人员快速迭代体验，是大模型分布式任务启动前的重要等待成本。公开资料未见主流框架在万卡规模下的精确编译时长横向对比数据。
• 内存复用率：静态内存规划器（Graph Allocator）分配的显存池大小与训练实际峰值显存的比率。高复用率意味着更少的显存碎片和更低的 OOM（显存溢出）风险，是评估静态图优化器质量的核心内部指标。
• 图形表达覆盖度：计算图 IR 所能原生表示的算子、动态控制流以及符号维度的广度。覆盖度不足会导致复杂的动态网络结构（如树结构递归网络、动态路由）在图捕获阶段被迫断裂。
• 跨平台可移植性：一次图定义或图导出后，在 GPU、TPU、NPU 等不同硬件后端上的直接运行能力。这依赖于图 IR 的硬件无关抽象层设计和各厂商的编译器后端适配成熟度。

技术路线

计算图的技术演进并非简单的线性过程，而是形成了静态、动态、混合三条主要路线并存的格局。以下从定义形态和执行策略的角度，绘制当前主流框架的技术路线对比。

在技术路径上，PyTorch 2.0 推出的 torch.compile 标志着行业正式进入“前端 Eager，后端 Compiler”的统一范式。其技术栈由 TorchDynamo（字节码级图捕获）、Torch Inductor（基于 Triton 的代码生成后端）和 FX Graph（图中间表示）三层协同构成。与此同时，MLIR 生态的兴起允许多层 IR 协同，降低不同框架到硬件的移植成本，正在改变计算图编译栈的基础设施格局。

上游

计算图技术栈的上游，决定了图表现力的天花板和可优化的理论极限。其产业链包括以下几类关键供给方：

• AI 框架核心引擎：PyTorch Core（主要由 Meta 维护）、TensorFlow Core（Google）、JAX Tracer（Google）等。这些引擎定义了最基础的计算图语义、自动微分规则以及用户编程接口。它们的设计哲学直接塑造了下游生态。
• IR 编译基础设施：MLIR（由 LLVM 社区维护的多级中间表示框架）、XLA（Google 的领域特定线性代数编译器）、Apache TVM（开源的端到端深度学习编译器）等。它们是连接高层计算图到具体硬件指令的桥梁，其优化 Pass 管线（如代数化简、内存规划）是计算图价值的核心实现者。
• 算子库与代码生成：NVIDIA cuDNN、Intel oneDNN、OpenAI 发起的 Triton 语言等。这些库提供了经极致优化的单算子实现或代码生成能力。图编译器的最终输出，往往是针对特定设备调用这些库的二进制内核。

上游的任何重大变革（如 Python 版本的 API 变更、MLIR 新 Dialect 的引入、Triton 这样的 DSL 语言普及）都会沿产业链向下传导，改变计算图编译栈的设计模式。

下游

计算图作为中间层基础设施，其下游应用场景横跨训练、推理和硬件适配三大领域：

• 模型训练：
  • 分布式并行策略编排：大模型训练中，张量并行、流水线并行、专家并行等先进策略深度依赖计算图的划分能力。编译器通过分析图中张量的依赖关系，自动推导跨设备通信的 AllReduce / AllGather 原语（即 SPMD 的自动化），是千卡乃至万卡集群高效运行的基础。
  • 显存优化：通过图级别的自动重计算（Checkpointing）和内存交换（Swap）策略的插入，可在给定显存预算下训练更大的模型。
• 推理部署：
  • 推理引擎核心：TensorRT（NVIDIA）、OpenVINO（Intel）、ONNX Runtime（微软）等推理引擎的本质，就是接收一个计算图，执行图简化、量化、算子融合等优化 Pass，生成对目标硬件极致友好的部署产物。
  • 端侧轻量化：TensorFlow Lite、PyTorch 新推出的 ExecuTorch，均采用高度简化的静态图运行时，将浮点图量化并转换为适合移动端或微控制器的格式。
• 硬件适配：
  • 软硬件接口：对于 GPU、TPU、NPU 等 AI 加速器厂商而言，计算图是其软件栈的“入口语言”。厂商需为其硬件编写图编译器后端，将标准计算图算子映射到专有指令集上。计算图是软硬件的边界接口，也是芯片生态的基石。
• AI 应用开发者：尽管绝大多数算法工程师不直接操作计算图 API，但理解其原理有助于解释并定位训练中的显存溢出（OOM）、速度瓶颈以及动态图到部署的精度掉点等问题。

受益公司

计算图技术作为基础软件层，其主导者与紧密关联方，在产业格局中占据不同生态位。

• Meta（PyTorch 主要维护方）：通过 PyTorch 生态巩固 AI 研究标准。其近期大力投入 TorchDynamo 和 Triton 编译后端，意图构建从研究到部署的统一框架，巩固其在 AI 基础设施中的话语权。公开资料中未披露 PyTorch 为 Meta 带来的直接商业化收入数据。
• Google（TensorFlow / JAX 维护方）：拥有 TensorFlow 的工业存量用户和 XLA 编译器积累，同时通过 JAX 的纯函数式理念吸引科学计算和 DeepMind 等前沿研究机构。其自研 TPU 芯片与 XLA 编译器深度绑定，形成“芯片—编译器—框架”垂直整合体系。
• 华为（MindSpore 维护方）：采用端-边-云全场景架构，通过“图算融合”原生实现动态图与静态图的统一表示，与自研昇腾 AI 芯片深度结合。MindSpore 的计算图层是国内软硬协同路线的重要代表，其关键在于减少对 NVIDIA 编译栈的依赖。
• 英伟达（NVIDIA）：虽不直接主导前端框架，但其 CUDA 生态、TensorRT 推理引擎以及 Triton 推理服务器的市场地位，使其成为计算图后端优化的事实标准制定者之一。任何计算图的最终优化，大部分都会运行在 NVIDIA GPU 上。
• 微软（ONNX Runtime 主导方）：通过 ONNX 开放式图交换格式和 ONNX Runtime 推理引擎，试图建立跨框架的图表示与运行标准，生态位聚焦在模型互通与推理市场。
• AI 芯片初创公司：国内外的各类 AI 加速器厂商，其软件栈的商业价值很大程度上取决于其计算图编译器的质量与对主流框架的兼容能力。能够提供“PyTorch 无缝迁移”体验的编译器团队，是芯片公司最稀缺的软件资产。

市场规模

由于检索受限，未能获取计算图层面的精确市场调研数字。计算图本身是一个使能技术层，并不直接构成独立交易市场，其商业价值隐含在下游产业的规模中。根据业界公开趋势，可从三个维度进行定性评估：

1. 深度学习框架市场：计算图是框架的核心。据 MarketsAndMarkets （公开报告摘要，2023年口径）推估，全球深度学习市场将从2023年的数百亿美元量级，以约30%的年复合增长率扩张。该市场的规模直接拉动计算图编译技术投入。
2. AI 编译器与优化服务：随着大模型训练成本从数百万美元上升至单次训练近亿美元，能够节省15%–25%训练成本（NVIDIA 公开技术博客，2023 年）的图编译器价值陡增。提供图编译优化产品和服务的商业实体，其可服务市场正在形成，但公开可靠规模统计未见。
3. 推理部署引擎市场：据 Fortune Business Insights 等咨询机构（2023年口径），全球边缘 AI 推理市场预计在未来数年内保持高速增长。这一市场的基础软件层（TensorRT、ONNX Runtime、ExecuTorch 等）均构建在图优化技术之上。轻量级计算图运行时在端侧的授权与服务模式，是潜在的需求指标。

总体而言，计算图技术的市场空间与上层模型的训练推理总花费成正比，大模型时代的到来使其“省算力、省显存”的杠杆效应被成倍放大。

玩家对比

当前计算图技术的主要玩家可分为三大流派，其战略重心和技术路径差异显著。

• 以易用性为主导的动态图派（Meta / PyTorch）：战略意图是最大化开发者覆盖。在快速捕获研究心智后，通过 torch.compile 补足生产性能，形成从论文到部署的一条龙生态。
• 以函数式变换为核心的科学计算派（Google / JAX）：通过 jit、grad、vmap 等高阶函数组合图变换，追求极致的数学表达力和并行可扩展性。在无状态的确定性场景下优势极大，但在引入有状态层（如 BatchNorm）时需要特殊处理。
• 以全场景和软硬一体为目标的底图层（华为 / MindSpore；Google TPU 生态）：前者通过“图算融合”减少框架层到芯片指令的损耗，后者以 XLA 为唯一编译入口，确保 TPU 上极致性能。这种深度绑定模式性能壁垒高，但生态的开放性与兼容性是其长期挑战。

综合来看，纯粹静态图的独立产品已逐步被市场边缘化，当前竞争焦点是谁能在保持 Eager 模式开发体验的前提下，提供最高效、最无感的端到端图编译优化。

风险

评估计算图技术和相关生态时，以下风险维度值得密切追踪。

• 技术碎片化风险：框架和编译器的持续分化（PyTorch、JAX、Triton、MLIR 各自演进）导致硬件厂商适配成本高企，可能导致某些新兴硬件（如国产 NPU）在主流框架上的计算图支持长期滞后。
• 功能安全与可解释性风险：编译器的激进优化（如代数重写、异步执行调度）可能引入数值误差或不确定性。在自动驾驶、医疗诊断等强安全领域，计算图优化后的行为是否完全符合作者意图，是需要通过形式化验证等手段持续研究的课题。
• 锁定与迁移成本：一旦模型研发深度绑定在某一框架的图导出格式或特定编译器后端（如完全依赖 TensorRT 的优化 Pass），向其他硬件平台或其他框架迁移的工程成本将很高。这是企业级基础架构选型的主要非技术风险。
• 开源治理风险：核心计算图编译器（如 MLIR、Triton）依赖于活跃的开源社区和多公司联合贡献。若主导公司改变开源策略或社区分裂，将直接影响下游所有依赖方。

误读纠偏

• 误读 1：“计算图就是神经网络结构图” 纠偏：神经网络结构图（如 ResNet 的残差块连接）是宏观逻辑，计算图是操作级别的执行计划。同一网络结构可以有不同的计算图表示（例如，使用不同的算子融合策略或并行切分方式）。计算图更接近编译器里的 IR，而非算法示意图。
• 误读 2：“动态图框架没法做静态图级优化” 纠偏：PyTorch 2.x 的 torch.compile 和 TensorFlow 的 @tf.function 均证明动态图可以通过 trace、JIT 或字节码分析获得计算图并执行算子融合、内存规划等优化。现代趋势是前端 Eager、后端编译器图化，打破了两者绝对对立。
• 误读 3：“有了计算图编译器，AI 芯片就能跑起来” 纠偏：将标准计算图算子映射到 AI 芯片专有指令集，只是使芯片“能跑”。要让芯片跑得效率和利用率俱佳，需要调度算法、内存层级管理、高性能算子库等软硬件协同设计。计算图是名片，背后的全栈软件体系才是芯片竞争力的核心。

最新事件

公开资料显示，2023 年至 2024 年初，计算图领域在框架与编译器栈上出现关键进展：

• PyTorch 2.0 及后续版本持续推进：torch.compile 进入稳定迭代，TorchInductor 后端对 Triton 语言的依赖加深，同时增加了对 C++ 部署场景的 AOT 编译支持。该技术方向旨在将研究态代码零修改地转化为生产部署产物，是计算图混合执行路线的标志性事件。
• MLIR 生态商用加速：以 MLIR 为基础的编译器项目（如 LLVM 社区的持续投入，以及部分国产芯片厂商公开的技术路线）逐步披露其 Dialect 设计。MLIR 正从学术项目向产业通用基础设施过渡，成为连接 TensorFlow、PyTorch 和自研芯片的通用中间层。
• JAX 用户群从科研外溢：由于 JAX 在纯函数计算图上的并行变换优势，部分大模型训练创业公司公开提及在其内部框架中扩展了 JAX 的 SPMD 策略，用于探索超出标准 3D 并行的混合并行方案。
• ONNX 与 PyTorch 部署线进一步整合：微软与 PyTorch 团队在 ONNX Runtime 的训练功能上合作加深，旨在将云上分布式训练的图优化直接与 ONNX 生态打通。此为计算图跨框架标准化流动的阶段性进展。

跟踪指标

若希望持续观察计算图技术与产业动态，建议跟踪以下可观测指标：

1. 开源框架版本发布注记：PyTorch Releases、TensorFlow Releases 中关于 torch.compile 特性、图优化性能提升百分比的表述；JAX 的 Changelog 中关于 shard_map 等函数变换的更新。
2. 主要 AI 硬件厂商的框架支持声明：当 NVIDIA、华为、AMD 等在新硬件发布时，所宣称的“支持 PyTorch / TensorFlow 开箱可用的计算图优化”程度，是量度其软件栈成熟度的直接信号。
3. 学术会议趋势：MLSys、OSDI、ASPLOS 等系统会议中，关于计算图 IR 设计、自动并行算法、深度编译器优化论文的数量与来源。高影响力的论文往往预示着下一代产品技术方向。
4. 独立基准测试：MLPerf 训练与推理基准测试中，各提交方对于框架、编译器和图优化策略的公开说明。这可以间接反映不同计算图方案在标准化场景下的性能表现。
5. GitHub 仓库活跃度：核心编译器项目（如 MLIR、Triton、OpenXLA）的 Commits 频率、Issue 讨论热度和贡献者多样性。这是评估开源项目真实生态健康度的有效先行指标，所有数据均为公开信息。

信源

本报告所参考的公开信息源包括：

• 学术论文：Baydin, A. G., et al. “Automatic differentiation in machine learning: a survey.” JMLR, 2018; Paszke, A., et al. “PyTorch: An Imperative Style, High-Performance Deep Learning Library.” NeurIPS, 2019; Lattner, C., & Pienaar, J. “MLIR: A Compiler Infrastructure for the End of Moore’s Law.” arXiv, 2020.
• 官方文档与博客：Google XLA 优化编译器文档; PyTorch 团队 “PyTorch 2.0” 系列工程博客 (2023); NVIDIA TensorRT 开发者指南及技术博客; Apache TVM 社区文档.
• 行业报告与新闻：MarketsAndMarkets 深度学习市场报告摘要（引用2023年口径）；Fortune Business Insights 边缘 AI 推理市场报告摘要（引用2023年口径）；相关公司的公开技术路线分享与官方新闻稿。
• 声明：由于检索状态，未能获取特定公司的财务数字、具体市场份额百分比。所有涉及市场规模的表述均基于公开第三方报告摘要，且已注明为公开信息中的推估数据。任何未经注明的商业数据均视为“公开资料未见”。