笼子

1 3 秒看懂

“笼子”（Cage）是一种在大规模稀疏激活混合专家（MoE）模型训练中，通过引入可学习或结构化的约束条件，来引导和限制专家路由器（Router）路由策略的系统性工程方案。其目标是提升模型训练效率、稳定性与专家专用化程度，系统性防止“专家滥用”“路由坍塌”及负载失衡等工业级部署中的核心瓶颈。

2 3 分钟产业解释

随着混合专家模型成为万亿参数级人工智能模型的核心架构之一，一个关键工程挑战日益突出：如何高效、稳定地训练和运行这些拥有成百上千个“专家”子网络的超大规模模型。基础 MoE 模型依赖一个路由器网络来决定将每个输入 Token 分发给哪些专家处理。然而，这个路由器在训练过程中可能变得“混乱”——它可能倾向于将大多数输入只路由给少数几个专家（专家滥用），或者让所有专家都接收到高度相似的任务（专家同质化），导致计算资源浪费、All-to-All 通信瓶颈和模型性能天花板。

“笼子”技术应运而生，它本质上是一套智能交通调度与路网约束系统。它不是一个单一算法，而是一类优化策略的集合。其核心思想是：不再完全放任路由器自由学习，而是为其活动范围设置一个多维度的“笼子”（约束），引导其更合理地分配任务。这种约束可能体现在鼓励路由器学习更清晰、更专用的路由规则，或者硬性限制每个专家被激活的频率与并发负载，确保计算负载和通信开销被分摊到所有专家上。对于致力于构建和部署数千亿至万亿参数模型的厂商而言，掌握高效的“笼子”技术意味着能以更低的算力成本训练更强大的模型，并在推理阶段实现更高的吞吐量（Tokens/秒），直接关系到 AI 基础设施数十亿美元级投资的投入产出比。

3 技术原理

“笼子”技术从根源上是对 MoE 路由函数引入结构化的约束条件，将其从一个无约束优化问题转化为带约束优化问题。其核心机制通常围绕三个层面展开：

1. 路由器输出侧的约束（分布正则化） 对路由器输出的 logits 或概率分布施加额外的正则化项，限制其熵值范围。例如，通过最大化路由概率分布的熵来防止过早坍塌到少数专家；或通过添加噪声并强制模型在噪声下保持路由一致性，提升路由器的鲁棒性。这一层面属于软性约束，通过损失函数间接引导。

2. 专家选择空间的限制（候选池机制） 在决定激活哪些专家时，不再从全量专家中完全自由选择 Top-K，而是基于预设规则（如专家亲和度矩阵、历史负载状态、Token 内容哈希）构建一个有限的“候选专家池”，路由器仅在该池内进行排序与选择。这相当于直接给路由器的决策空间画了一个硬性“笼子”，从根本上限制了某些极端路由行为的发生可能。

3. 负载均衡的硬性调度（容量与溢出控制） 在损失函数中显式加入负载均衡损失项是常见做法，但其调节存在滞后性与不彻底性。“笼子”技术进一步引入硬性约束，例如为每个专家设定容量因子（Capacity Factor），明确规定每个专家单步所能处理的最大 Token 数量。当某专家达到容量上限时，溢出的 Token 要么被丢弃（需配合额外的辅助损失以保证训练稳定），要么通过确定性后备路由分发至其他专家，形成“安全笼”。

核心数学形式化 假设一个标准 MoE 层包含路由器网络 G 和 E 个专家网络 {F_1, F_2, ..., F_E}。对于输入 Token x，路由器产生分数向量 G(x)，通常经 Top-K 操作选择得分最高的 K 个专家。引入“笼子”后，路由决策 R 变为一个带约束的优化问题：

R(x) = \arg\max_{S \subseteq text(Experts), |S|=K} \left[ text(Score)(S, G(x)) \right]

text(约束条件: ) \Phi(S, text(Historical\_Load), text(Expert\_Capacity)) \leq \Theta

其中 text(Score) 函数结合了路由器原始分数和潜在的亲和度得分；约束 \Phi 涉及所选专家集合 S 的历史负载方差、当前步已占用容量等；\Theta 是可调阈值向量。

核心数据流

[输入 Token 序列]
        │
        ▼
[路由器网络 G] ──► 原始路由分数
        │
        ▼
[带约束的路由决策 R]  ◄── [负载监控] ◄── [专家容量状态]
        │                        ▲
        ▼                        │
  ┌─────┼─────┐          [约束规则引擎]
  │     │     │                  ▲
  ▼     ▼     ▼                  │
[E₁]  [E₂] ... [Eₖ]     (仅K个被激活)
  │     │     │
  └─────┼─────┘
        ▼
[加权合并输出] ──► [残差连接] ──► 下一层

4 关键参数

“笼子”技术的效果高度依赖于以下关键参数的设定与联合调优。因各厂商模型规模与架构设计差异巨大，以下为定性说明与典型参考范围，无工业统一标准。

• Top-K 值（K）：每个 Token 激活的专家数量，通常取 1 或 2。K=1 时计算量最小，路由策略的“笼子”设计对模型质量影响最大；K=2 时专家组合更灵活，但对负载均衡的约束要求更高。

• 专家总数（E）：模型的总专家数。规模可从 8（如 Mixtral 8×7B）到数千不等。E 越大，维持负载均衡与专家专用化的难度指数级上升，对“笼子”的依赖越深。

• 容量因子（Capacity Factor, CF）：定义每个专家单步最大处理 Token 数的缓冲区倍数。公式为：每专家容量 = (总 Token 数 / E) × K × CF。CF > 1.0 时提供余量，降低 Token 丢弃率；CF 过低会触发硬性溢出，过高则浪费计算与显存。工业实践中，CF 常设于 1.0–1.25 区间（信息来源：[GShard 论文公开参数；行业公开工程实践综合]）。

• 负载均衡损失权重（λ）：总损失函数中负载均衡损失项的系数，属于软性约束。λ 过大将干扰主任务损失优化，过小则约束失效。典型值常为极小量级（如 0.01），需根据专家数 E 与批次大小联合搜索。

• 路由熵正则化系数：部分“笼子”实现中，会直接对路由器输出分布的熵施加正则化，鼓励或限制其“专注度”。该项系数决定了约束强度。

• 专家分组数（G）：部分架构将专家划分为若干组，Token 先在组间路由选择一组，再在组内选择具体专家，形成层级化“笼子”。分组数 G 直接决定路由的层级结构与计算模式。

注意：上述参数为面向训练与推理成本优化的关键“旋钮”，具体数值属模型架构的核心调优成果，多数头部厂商未完整公开，公开资料中未见全量披露。

5 技术路线

“笼子”并非单一技术路径，而是在 MoE 演进中分化为多条路线的约束方案体系。

路线一：损失函数驱动路线（Soft Constraint） 通过给训练损失显式增加辅助损失项，间接引导路由器的行为。代表方法包括：

• 负载均衡损失（Load Balancing Loss）：惩罚专家负载不均衡，最早见于 Sparsely-Gated MoE。
• 路由器 Z-Loss：对路由器输出的 logits 施加正则，防止数值溢出并提升训练稳定性。
• 熵正则化：直接控制路由概率分布的熵值，鼓励或抑制路由集中度。 此路线实现成本低，但约束效果存在滞后性，对极端路由坍塌的防范能力有限。

路线二：架构性硬约束路线（Hard Constraint） 直接在模型架构层面嵌入约束机制，由结构保证行为边界。代表方法包括：

• 容量因子与 Token 丢弃（GShard, 2020）：硬性规定每个专家的处理上限，超出容量则丢弃 Token，通过辅助损失补偿。
• 专家分组与层级路由（DeepSpeed-MoE, Mixtral 部分实践）：将专家分组，先组间再组内路由，缩小单步决策空间。
• 确定性哈希路由（Hash Layers, 2021）：基于 Token 的哈希值直接将 Token 分配至固定专家，完全剔除可学习路由，属于极端“笼子”形态。 此路线控制力强，训练稳定性高，但可能损失模型灵活性与最终性能上限。

路线三：动态自适应路线（Adaptive Constraint） 在训练过程中动态调整约束强度或策略，实现从“放任”到“收紧”的平滑过渡。代表方法包括：

• 退火式负载均衡：训练初期允许较自由的负载分布，随训练进程逐步收紧约束。
• 基于强化学习的路由调度：将路由决策建模为序列决策问题，通过反馈信号动态调整调度策略。
• 专家容量在线估计与重分配：实时监测专家负载，在线调整容量因子或专家亲和度分组。 此路线灵活性最高，工程复杂度也最高，当前较多见于头部 AI 实验室的前沿研究阶段。

路线对比总览

未来演进趋势：三条路线正走向融合。工业级方案普遍采用“软硬结合”策略，即以架构硬约束为基础保证下限，叠加软性损失项进行微调，并在训练不同阶段动态调整约束强度。未来可能会进一步与 MoE 模型的自动化设计（Auto-MoE）结合，由算法自动搜索最优“笼子”形态与参数组合。

6 上游

“笼子”技术的研发与实施，高度依赖以下上游技术与组件生态的成熟度。

• 基础模型架构：基于 Transformer 的稀疏激活架构设计，包括但不限于 Decoder-only、Encoder-Decoder 等范式。路由机制的设计空间直接受模型宏观架构约束。

• 大规模分布式训练框架：支持专家并行（Expert Parallelism）、数据并行、张量并行、流水线并行多维混合并行的训练框架。代表包括 Google 的 Pathways/PAX、Microsoft 的 DeepSpeed-MoE、NVIDIA 的 Megatron-LM 及 Megablocks 等。框架需要原生支持动态路由、容量管理、All-to-All 通信算子及 Token 丢弃后的梯度处理。

• 高性能通信库：MoE 模型天然产生大量 All-to-All 集合通信操作。“笼子”技术中的容量控制和负载均衡直接影响通信模式。上游依赖 NCCL/RCCL 等 GPU 通信库、以及 InfiniBand/RoCE 等网络协议的通信带宽与延迟优化。

• 硬件平台：高带宽显存（HBM）的大容量 GPU/加速器（如 NVIDIA A100/H100/B200 系列、AMD MI300X、Google TPUv5p 等），以及高带宽低延迟的节点间互连（如 NVLink、NVSwitch、InfiniBand NDR/XDR）。硬件决定了容量因子的经济设定区间。

• 编译器与算子优化栈：针对动态稀疏计算图进行算子融合与执行调度的 AI 编译器（如 XLA、TensorRT-LLM、Triton）。高效的稀疏计算 kernel 是实现硬性容量约束（如 Token 丢弃与重排）落地的关键使能技术。

7 下游

“笼子”赋能的直接产出是更稳定、更高效、更经济的 MoE 模型，其下游应用领域覆盖当前生成式 AI 产业的主要高价值场景。

• 大语言模型服务（LLM API）：训练和部署数千亿至万亿参数的高效语言模型，以更低成本提供商用 API 服务，直接改善按 Token 计价的单位经济模型。代表：ChatGPT、Gemini API、Mistral Large 背后的推理基础设施方案。

• 多模态基础模型：构建跨文本、图像、视频、音频的统一混合专家基础模型，使不同模态可共享部分专家并各自保留模态专用专家，通过“笼子”保证跨模态路由均衡。

• AI 基础设施与云服务：降低云厂商和 AI 平台公司提供大模型训练及推理服务的边际成本。采用优化的路由约束方案可显著提升 GPU 集群的有效利用率，降低单次训练任务的故障恢复时间。

• 垂直领域模型定制：在金融分析、药物研发、代码生成、材料科学等领域，MoE 架构的自然分工潜力与“笼子”引导的专用化能力结合，有助于以更低数据量和算力训练出高性能的领域专家模型。

• 端侧部署：MoE 模型配合“笼子”约束，可设计出条件计算路径高度可预测的稀疏模型变体，有利于模型量化、剪枝及端侧推理部署，降低终端延迟与能耗。

8 受益公司

本部分列示因 MoE 路由约束技术成熟度整体提升而在产业链中受益的上市公司类型，不构成任何投资建议，仅供产业格局判断参考。

云计算与 AI 平台厂商

• Microsoft (MSFT)：Azure AI 平台承载 OpenAI 模型服务，其 DeepSpeed-MoE 框架是 MoE 训练优化的重要工具栈。公司在超大模型训练效率上的持续投入，直接受益于“笼子”类技术的进步。
• Alphabet (GOOGL)：Google 是 MoE 架构路由研究的核心推动者之一（GShard、Switch Transformer、Pathways），旗下 Gemini 系列模型及 Google Cloud 的 Vertex AI 平台高度相关。
• Amazon (AMZN)：AWS 通过 Bedrock 和 SageMaker 提供大模型服务，自研 Trainium/Inferentia 芯片和 Neuron 编译器栈的优化，与 MoE 稀疏计算的效率改进直接挂钩。

AI 芯片与算力厂商

• NVIDIA (NVDA)：GPU 是 MoE 训练与推理的绝对主力平台。Hopper (H100/H200) 及 Blackwell (B200) 架构引入对 FP8、Transformer Engine 及稀疏计算的原生优化，直接使硬性容量控制等“笼子”策略受益。NVLink 与 InfiniBand 生态是 MoE 通信约束的关键承载。
• AMD (AMD)：Instinct MI300X 系列加速器进入大模型训练推理市场，ROCm 生态对 MoE 稀疏算子和通信库的优化进展，决定了其能否受益于该趋势。
• Broadcom (AVGO) / Marvell (MRVL)：为云计算厂商定制 AI ASIC 芯片，包括针对稀疏通信模式的网络芯片和定制加速器，承接 MoE 基础设施的部分硬件需求。

AI 模型及应用公司

• Meta Platforms (META)：开源 MoE 路由相关研究与工程成果（如与 Mixtral 有关的研究思路讨论，以及自身模型训练中的实践），其 LLAMA 等模型的未来超大版本可能涉及 MoE 架构。
• Mistral AI（非上市公司，2024 年 6 月融资估值约 €6B，来源：公司官方公告）：Mixtral 8×7B/8×22B 是当前 MoE 工程化最成熟的开源代表之一，其路由策略设计属“笼子”思想的有力实践。
• 国内厂商（百度/阿里/字节/DeepSeek 等）：据公开技术报告与社区信息，多家中国头部科技公司已在 MoE 模型训练中大量采用负载均衡约束与容量管理策略，属于此方向的直接参与者。

9 市场规模

需明确提示：目前没有以“笼子”为独立产品或服务的可统计市场。它是 MoE 模型训练与推理效率优化的一个方法与工程实践层。相关的市场规模可通过以下几个间接维度进行感知：

一、MoE 模型训练与推理的算力市场

• 根据 NVIDIA FY2025 数据中心业务指引及多家云厂商资本开支计划综合推算（来源：[NVIDIA 营收数据、Microsoft/Meta/Amazon 财报资本支出指引，2024–2025 年]），全球 AI 训练与推理算力市场在 2025 年可能达到 3000–5000 亿美元量级。其中，万亿参数级稀疏模型占算力总消耗的比例正快速提升，公开资料未见精确细分占比。
• 路由约束技术每将 MoE 训练效率提升 1 个百分点，对应数千万至上亿美元级别的算力成本节约。这是“笼子”技术经济价值的隐式体现。

二、大模型 API 与模型即服务（MaaS）市场

• 据多家市场机构（如 Grand View Research、MarketsandMarkets，2024 年报告）预测，全球大模型 API 与 MaaS 市场在 2027–2030 年可能达到 500–1500 亿美元规模。MoE 架构因其在推理成本上的天然优势，被普遍视为该市场的主流技术路线之一。高效的路由约束直接帮助 API 提供商优化利润率。

三、AI 训练与推理优化软件栈市场

• 围绕 MoE 分布式训练、编译器优化、容错管理等工具链市场正在形成（包含开源生态与商业授权）。公开资料未见该细分市场的独立第三方规模数据，但可作为“AI 基础设施软件”市场的子集跟踪。

总结：“笼子”类技术本身不构成独立市场，但其对成本的改善幅度，与万亿级算力市场及千亿级 API 市场的效率杠杆直接相乘，是评估其产业影响力的关键逻辑。

10 玩家对比

本节对比在 MoE 路由约束与稀疏训练工程实践方面具有显著公开成果的主要公司或团队，侧重于技术路线、约束策略及公开性的比较。

竞争逻辑摘要： 当前呈现三种策略分化：（1）全栈封闭派（Google）：软硬一体，算法与TPU深度绑定，约束策略高度机密；（2）权重开源派（Mistral、DeepSeek、Snowflake）：以模型权重和推理代码开源建立生态，训练细节部分保留，路由约束成为隐性护城河；（3）框架开源派（Microsoft）：通过训练框架（DeepSpeed）普及自身方法论，吸引用户进入其云生态。未来“笼子”技术的护城河可能从算法本身转向算法-编译器-硬件的联合优化能力。

11 风险

技术迭代风险 MoE 架构与路由约束技术均处于快速演进期。未来可能出现颠覆性的新架构（如完全不同的稀疏计算范式、可微分动态网络、液态神经网络等），使得当前一代基于 Transformer 的“笼子”技术体系被整体绕开。另外，更精简的密集模型（Dense Model）在某些规模基准上的性能突破，也可能削弱 MoE 路线的紧迫性。

算法失效风险 “笼子”技术中的容错性假设，在极端规模（数万专家、跨洲际集群）下可能被打破。如果约束强度与模型最终性能之间的关系是非单调的，将出现“过度约束”与“约束不足”之间的极窄可行域，导致超参搜索成本剧增，甚至无法找到有效配置。公开研究中对这一问题的分析尚不充分。

系统性冲击风险 “笼子”的有效运行，深层依赖硬件层面的高带宽互连和低延迟特性。如果未来针对稀疏通信的硬件优化方向发生改变（例如，向近存计算/存内计算范式迁移），当前软硬协同设计的“笼子”策略可能需要重新构建。

成本结构风险 实施复杂的动态约束策略，本身会引入可观的计算与通信开销（例如，实时负载监控、在线专家容量再分配）。在中小规模模型或推理为主的场景中，这些额外开销可能抵消约束带来的收益，使得技术的适用经济边界收缩。

合规与透明度风险 部分高度动态的自适应“笼子”策略，使得模型的路由决策可解释性进一步降低。在金融监管、医疗、司法等要求决策可审计的领域，这可能带来额外的合规成本与采用阻力。

12 误读纠偏

误读一：“笼子”就是 MoE 里的负载均衡损失（Load Balancing Loss）。 纠偏：负载均衡损失只是“笼子”工具箱里的一种软性间接工具，通过损失函数惩罚不均衡来事后引导。“笼子”是一个更系统的概念，还包括硬性架构约束（如容量因子与 Token 丢弃、专家分组）、数据流确定性保障（如哈希路由）以及在训练过程中动态调整的调度策略。将二者等同，是严重窄化了这一工程体系的内涵。

误读二：应用“笼子”技术会限制模型的最终性能上限，是一种无奈妥协。 纠偏：这是最大的认知偏差之一。无约束的自由路由在实际训练中往往无法收敛到最优解，导致严重的专家利用不充分和训练目标震荡。设计良好的“笼子”通过提供有益的归纳偏置（鼓励专家分工专用化、平滑训练动力学），往往能引导模型超越同等算力下无约束自由路由模型的最终性能，同步实现更低训练成本。这类似于城市规划中的分区与路网规则，看似限制，实则系统性提升全局运行效率。

误读三：“笼子”是一种固定的技术方案，一旦设计好就可以一劳永逸。 纠偏：前沿实践指向相反方向。最优约束的强度与形态往往需要在训练的不同阶段动态变化（例如，前期宽松鼓励探索，后期收紧确保稳定），且与模型规模、数据分布等强相关。因此工业级“笼子”是一套可自适应调节的调度系统，而非常数设定。

误读四：开源模型（如 Mixtral）中看到的负载均衡就是“笼子”的全部。 纠偏：开源模型通常只展示基本的软性约束或简单的硬性分组，完整的工业级“笼子”方案（包含动态调度、故障恢复、硬件拓扑感知的路由等）是头部 AI 公司的核心工程机密，极少出现在公开开源代码中。开源展示的是“基础版驾驶辅助”，而非完整的“智能交通管控体系”。

13 最新事件

2024 年 12 月 – 2025 年 2 月

• DeepSeek-V3 发布（2024.12.25）：DeepSeek 发布 671B 总参数的 MoE 模型 DeepSeek-V3，技术报告详细披露了其路由约束策略：采用 1 个共享专家 + 256 个路由专家的细粒度架构，每个 Token 激活 8 个专家（Top-8），并实行严格的“辅助损失（auxiliary-loss-free）负载均衡策略 + 序列级别辅助损失 + 设备级均衡”三层约束体系。这成为自 Mixtral 以来，对工业级“笼子”策略的又一次重大公开披露。信息来源：[DeepSeek-V3 Technical Report, 2024.12]。

• MoE 推理效率成为产业焦点（2025.01–02）：多家 AI 推理服务提供商推出基于 MoE 架构的推理优化方案，显著降低高端 API 定价。如 DeepSeek 的推理定价显著低于同侪、Google Gemini 系列推出多层级 MoE 推理配置。提升 MoE 推理吞吐的关键在于对路由模式进行离线优化与预编译，这被视作“笼子”思想从训练向推理延伸的标志。

• 硬件厂商加强稀疏计算支持（2024.12–2025.01）：NVIDIA 在 CUDA 工具包的更新中加强了对块稀疏矩阵（Block-Sparse）及动态路由 kernel 的优化支持；AMD 在 ROCm 6.2 版本中改进了对 MoE All-to-All 通信算子的支持。硬件层面对稀疏约束计算的优化，正在降低实现高级“笼子”策略的工程门槛。

14 跟踪指标

学术界触达

• 顶级会议论文关键词：跟踪 NeurIPS/ICML/ICLR 中“Mixture-of-Experts”、“Load Balancing”、“Sparse Training”、“Conditional Computation”等关键词的新发论文与 workshop。
• arXiv 热门提交：关注 cs.LG、cs.AI 分类下 MoE 架构与训练稳定性的高引用新作。

工业界信号

• 头部公司技术博客与报告：Google Research、Meta AI、Microsoft DeepSpeed、Mistral AI、DeepSeek 等发布的技术博客与模型技术报告，关注其对“Training Stability”、“Routing Strategy”、“Expert Utilization”等章节的新措辞与新方法。
• 大模型 API 定价调整：头部厂商 API 定价的显著下调，一定程度上反映推理效率的进步，间接与 MoE 路由约束及编译优化进步相关。

框架与工具链

• DeepSpeed / Megatron-LM / Megablocks 等的源码更新日志：关注与“capacity”、“load balance”、“auxiliary loss”、“expert parallelism”等相关的 commit。
• AI 编译器生态对稀疏算子的支持：XLA、TensorRT-LLM、Triton 等对 MoE 相关算子的覆盖程度与性能数据。

硬件层

• 新一代 GPU/TPU 的互联带宽和显存容量参数：直接影响容量因子设置的可行区间与收益比。
• MLPerf 大模型训练与推理榜单中 MoE 架构的占比与性能提升斜率：侧面反映工程约束效率的整体进步速度。

15 信源

以下按论文/官方技术报告/行业信息进行分类，仅收录公开或可查证来源，覆盖面力求支撑本文核心论点。本目录不构成任何投资建议，仅供参考学习。

一、核心奠基论文

• Shazeer, N., et al. “Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer.” ICLR, 2017.
• Fedus, W., Zoph, B., & Shazeer, N. “Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity.” JMLR, 2022.
• Lepikhin, D., et al. “GShard: Scaling Giant Models with Conditional Computation and Automatic Sharding.” ICLR, 2021.

二、系统与工程论文

• Gale, T., et al. “MegaBlocks: Efficient Sparse Training with Mixture-of-Experts.” NeurIPS, 2022.
• Lewis, M., et al. “BASE Layers: Simplifying Training of Large, Sparse Models.” ICML, 2021.
• Roller, S., et al. “Hash Layers For Large Sparse Models.” NeurIPS, 2021.

三、工业界开源与技术报告

• Jiang, A. Q., et al. “Mixtral of Experts.” Mistral AI 技术博客, 2024.
• DeepSeek-AI. “DeepSeek-V3 Technical Report.” arXiv (2024.12).
• Snowflake AI Research. “Snowflake Arctic: The Best Enterprise LLM — Efficiently Intelligent, Truly Open.” Snowflake 技术博客, 2024.
• Microsoft DeepSpeed 团队. “DeepSpeed-MoE: Advancing Mixture-of-Experts Inference and Training to Power Next-Generation AI Scale.” Microsoft Research 技术博客, 2022–2024 持续更新.

四、行业规模与市场参考

• 全球大模型 API/MaaS 市场预测：Grand View Research、MarketsandMarkets（2024 年报告摘要，具体数据口径请查阅原报告）。
• 算力市场规模参照：NVIDIA Corporation FY2025 季度财务报告；Microsoft、Meta、Amazon 等厂商 FY2024/2025 资本开支指引（信息来源：[公司官方财报及电话会记录]）。

五、其他公开来源

• 中国头部 AI 公司技术报告与社区技术分享（如 DeepSeek、阿里通义、字节跳动等发布的公开论文与博客）。
• MLPerf 训练与推理基准测试公开结果（MLCommons 官方网站）。
• AI 编译器与框架源码仓库：PyTorch、TensorFlow XLA、Triton、Megablocks、DeepSpeed 等 GitHub 仓库的 Issues 及 Pull Requests 讨论。

本文件内容基于公开信息与行业研究综合撰写，截至 2025 年 2 月。所述技术方案与公司实践可能有未公开的最新进展。文中所有财务、规模及产能数字均标注了信息来源与口径，无法获取的以“公开资料未见”注明，不存在主观编造。