NVL36

3 秒看懂

NVL36 是 NVIDIA 面向万亿参数大模型时代推出的机柜级计算单元，由 18 颗 Grace Blackwell 超级芯片（共 36 个 Blackwell GPU）通过第五代 NVLink 与 NVLink Switch 系统实现全机柜紧耦合互联，在逻辑上表现为一个统一内存地址的巨型加速器，旨在以单系统形态解决大模型训练的“内存墙”与“通信墙”瓶颈。

3 分钟产业解释

NVL36 并非单纯的 GPU 服务器堆叠，而是 NVIDIA 将“系统即芯片”理念落实在机柜层级的产品化实践。在一套标准机柜内，18 个 Grace Blackwell 超级芯片之间由 NVLink Switch 构建起一条带宽远超传统网络的背板互联结构，所有 Grace CPU 的 LPDDR5X 内存与 Blackwell GPU 的 HBM3e 内存在硬件层面实现统一寻址。这使得一个原本需要跨数百台服务器、依赖复杂并行策略的万亿参数模型训练任务，可以像在单台超级计算机内部编程一样进行调度，极大降低了分布式开发的工程门槛，同时将有效计算效率提升到新的水平。

对产业而言，NVL36 标志着 AI 算力竞赛的拐点：竞争维度从单卡 TFLOPS 转向机柜级系统优化、先进封装、超高速互联与全栈软件协同。它重新定义了数据中心“最小加速单元”的粒度，将客户从芯片选型与集群调优的繁重工作中解放出来，但也产生了更强的生态绑定效应。对于云服务商、大型模型厂商与国家级算力中心来说，理解并部署 NVL36 体系已成为布局下一代 AI 基础设施的关键动作。

技术原理

NVL36 的技术内核是一套多层次、深度协同的系统架构，涵盖超级芯片、机柜级互联、统一内存池与配套软件栈。

Grace Blackwell 超级芯片 每个计算基板集成一枚 Grace CPU 与两枚 Blackwell GPU，通过 NVLink‑C2C 片间互联构成一颗“超级芯片”。NVLink‑C2C 提供高带宽、低延迟的 CPU‑GPU 通信，支持内存一致性访问，使 GPU 可直接高效地共享 Grace CPU 的大容量内存。Grace CPU 基于 Arm Neoverse 架构，内置高吞吐内存控制器与硬件加速引擎，专为 AI 数据预处理、模型编排与推理入口设计；Blackwell GPU 引入第二代 Transformer 引擎与 FP4/FP8 混合精度单元，在张量计算密度上较上一代实现倍级提升（NVIDIA GTC 2024 主题演讲数据）。

机柜级互联：NVLink Switch 系统 NVLink Switch 是 NVL36 实现“化零为整”的通信中枢。每个 Blackwell GPU 通过第五代 NVLink 向上连接至独立 NVLink Switch 芯片，Switch 再在背板层构建无阻塞的任意对任意拓扑。其典型结构如下（文字示意图）：

[ 机柜前视图 ]
+-----------------------------------------------------------+
|  计算抽屉 1   计算抽屉 2         计算抽屉 9 |
|  +----------+ +----------+      +----------+ |
|  |GB超级芯片| |GB超级芯片| ...  |GB超级芯片| × 2/抽屉 |
|  +----+-----+ +----+-----+      +----+-----+ |
|       |           |                  |
|  +----v-----------v------------------v----+   |
|  |           NVLink Switch 平面          | ← 高速铜缆/背板 |
|  +--------------------------------------+   |
+-----------------------------------------------------------+

在该拓扑下，任意两颗 GPU 之间均可进行高带宽、低延迟的直接数据搬运，消除了多级交换带来的拥塞和不确定性。NVLink Switch 通信协议支持 GPU 内存直接加载/存储，编程模型可将其抽象为一台拥有全部 GPU 显存的单机。

统一内存编址与软件栈 Grace CPU 与 Blackwell GPU 的内存在 CUDA 统一内存模型下经 NVLink Switch 实现统一寻址，开发者看到的是一个跨越机柜所有超级芯片的聚合内存池。NVIDIA NCCL 通信库、CUDA 图形加速引擎与 Megatron‑LM 等分布式框架已为 NVL36 进行适配：机柜内通信自动走 NVLink Switch，跨机柜扩展时无缝回退至 InfiniBand 网络。调度器可根据数据热度将张量放置在 CPU 内存或 GPU HBM 中，从而在带宽需求与容量之间取得平衡。

供电与散热 NVL36 整机柜功耗较高。以 NVIDIA 公开的 GB200 NVL72 参考设计（120kW 级液冷）类推，NVL36 预计功耗在 60–70kW 区间（行业估算，基于 2024 年 GTC 披露的 GB200 热设计功耗推测），需配套冷板式液冷或浸没式液冷方案。电源采用集中式母线架构，保障供电效率与单点故障冗余。

关键参数

以下参数依据 NVIDIA 在 GTC 2024 上发布的 GB200 系列规格及行业拆解分析整理，部分系由 NVL72 数据线性折算的合理估算值，已明确标注。

• 聚合 AI 算力（FP8）：根据 NVIDIA 官方资料，单 Blackwell GPU 的 FP8 张量算力约为 2.25 PFLOPS（稀疏模式），全机柜 36 GPU 可提供约 81 PFLOPS（稀疏模式）/ 40.5 PFLOPS（稠密模式）。2024 年 GTC 公布的 NVL72 FP8 稠密算力约 1 exaFLOPS，NVL36 为其 50%。
• GPU 内存容量：单 Blackwell GPU 配备 192 GB HBM3e，全机柜合计 6,912 GB（约 6.75 TB）HBM3e（NVIDIA 官方白皮书《NVIDIA Blackwell Architecture》，2024 年 3 月）。
• CPU 内存容量：每颗 Grace CPU 搭载多达 480 GB LPDDR5X（NVIDIA 官方规格表），18 颗合计约 8,640 GB，因此机柜总聚合内存超过 15 TB，实际可用容量受系统软件管理与冗余策略影响。
• NVLink 带宽：每个 Blackwell GPU 支持 18 条第五代 NVLink 链路，总双向带宽为 1.8 TB/s（NVIDIA 官方）。36 GPU 间 NVLink Switch 提供的全对全对分带宽达到 64.8 TB/s（理论值）。
• 机柜级网络扩展：每套 NVL36 对外提供多路 NVIDIA ConnectX‑8 智能网卡，支持 400 Gbps InfiniBand / 以太网，用于多机柜 Scale‑Out 扩展。
• 功耗与散热：NVIDIA 已公布 GB200 NVL72 整机柜功耗约 120 kW，因此 NVL36 预计为 60–70 kW（行业估算）。要求配套液冷设施，PUE 设计目标通常低于 1.1。
• 整机柜尺寸：遵循标准 19 英寸机架，高度约 42U‑48U，具体尺寸视液冷歧管和配电单元配置而定（公开资料未见最终零售版详细图纸）。

口径说明：上述算力、内存参数引用 NVIDIA 官方公开材料（2024 年 GTC 主题演讲与技术文档）。功耗与机柜尺寸为行业分析估算值，截至 2025 年 4 月 NVIDIA 未发布 NVL36 独立技术手册。

技术路线

NVL36 并非凭空出现，而是 NVIDIA “大力出奇迹”与“系统整合”思想的延续。其演进脉络如下：

1. Pascal/Volta 时代：DGX‑1、DGX‑2 等 8 卡/16 卡一体机，首次以集成服务器形态供给用户，NVSwitch 在 DGX‑2 内部实现 16 颗 V100 GPU 全连接。
2. Ampere/Hopper 时代：DGX A100、H100 将单机算力推向新高，DGX SuperPOD 通过 InfiniBand 将数十台 DGX 组合成超算集群，但跨节点通信成为瓶颈。
3. Grace Hopper 引入：GH200 超级芯片首次实现 CPU‑GPU 紧耦合与统一内存，NVLink‑C2C 带宽达 900 GB/s，系统架构向“机柜即单元”演化。
4. Blackwell 平台机柜级产品：GB200 NVL36/NVL72 将 NVSwitch 从服务器内扩展至整个机柜，配合 Grace CPU、液冷与新一代网络，构成可独立交付的 AI 工厂级模块。

从产业技术路线看，NVL36 对应的是“Scale‑Up 紧耦合”路径，与之对比的主流方案包括：

• 传统 Scale‑Out 路径：以 x86 服务器搭载 8 卡 GPU，通过网络互联扩展。代表：HGX H100 / B200 传统 8‑GPU 服务器，搭配 InfiniBand 网络。
• 全栈自研 ASIC 路径：如 Google TPU v5p、Amazon Trainium2，通过专用芯片与定制互联实现高吞吐，但生态封闭。
• Chiplet 异构路线：AMD MI300X 采用 CPU+GPU 合封 Chiplet，使用 Infinity Fabric 互联，在单节点内实现统一内存，但尚未提供机柜级全互联方案（截至 2025 年 4 月公开信息）。

NVL36 的独特定位在于，它在保持 CUDA 生态兼容的前提下，将 Scale‑Up 粒度直接提升至机柜级，兼具紧耦合效率与较低的应用迁移成本。

上游

NVL36 的供应链高度集中，核心壁垒集中在先进制程、封装、HBM 与高速互联四大部分。

注：上述供应商列表基于公开合作信息与行业拆解分析，实际份额可能随季度动态调整。

下游

NVL36 的直接采购方主要是具备大规模 AI 集群建设能力与资质的头部云服务商、科技巨头和国家超算中心。

下游需求呈现“头部集中、快速放量”的特征。根据 NVIDIA 2025 财年 Q4 财报电话会议，公司数据中心业务营收中，大型云服务商贡献超过 40%，互联网与消费类企业紧随其后，GB200 NVL 系列在 2025 年上半年仍处于产能爬坡阶段，客户等待时间较长。

受益公司

NVL36 带动了一条覆盖半导体、封装、组件与基础设施的价值链。以下仅列举与产品直接关联、可被公开信息验证的环节与代表企业，不构成任何投资建议。

• 系统定义与统治力：NVIDIA —— 作为架构设计者与全栈软件拥有者，获取机柜级产品的全套收入（芯片、Switch、网卡、软件许可与服务）。NVL36 进一步拉大其与竞争对手在 AI 训练基础架构上的差距。
• 制造与封装核心：台积电 —— 独掌计算芯片代工与 CoWoS 先进封装，每套 NVL36 中的 GPU、Grace CPU、NVLink Switch 芯片均需消耗大量先进制程与封装产能，直接拉动单晶圆价值量提升。
• 存储芯片支柱：SK 海力士（主供 HBM3e）、三星电子、美光科技 —— HBM 是性能核心，其单价远高于传统 DRAM，随着 NVL36 放量，HBM 业务营收占比持续提升。
• 高速互联组件：安费诺 —— 高速背板连接器和铜缆组件核心供应商，每台 NVL36 使用大量高密度、高带宽连接方案。此外，Molex、TE 等也参与竞争。
• 液冷基础设施：维谛技术 （在北美市场与 NVIDIA 合作推出预集成液冷方案）、双鸿（冷板组件与 CDU 供应商）等。
• PCB/基板与组装：Ibiden、Unimicron（FC‑BGA 载板）；鸿海/富士康、广达、纬创（服务器与机柜组装）。由于 NVL36 整机柜复杂度远超传统服务器，组装与测试环节附加值显著提高，头部 ODM 角色从代工转向联合设计制造（JDM）。

数据口径：上述分析基于供应链调研机构（如 SemiAnalysis、TrendForce）2024‑2025 年报告，以及各公司在财报中提及的 AI 相关业务增长。

市场规模

NVL36 并非独立销售的单品，而是 GB200 平台中的一种配置。因此常以整个 GB200 机柜系列口径进行市场估计。

• 出货量预测：SemiAnalysis 在 2024 年 7 月报告中预测，2025 年 NVIDIA GB200 系列（含 NVL36/NVL72）出货量可达 40,000–50,000 套（以 NVL36 等效计）。TrendForce 在 2024 年 Q3 预测，2025 年高端 AI 服务器（单价超百万美元）中，NVIDIA Blackwell 平台将占据超过 70% 的份额。
• 营收贡献：若假设 NVL36 平均售价（含网络、液冷、软件）在 150 万–200 万美元区间（行业估算），则 50,000 套对应 750 亿–1,000 亿美元潜在收入池，考虑到 NVL72 价格更高，整体 GB200 平台年收入有望突破千亿美元。NVIDIA 在 2024 年 GTC 上提及 GB200 NVL72 的早期意向订单已相当可观。
• 对相关市场拉动：HBM 市场方面，SK 海力士 CFO 在 2024 年 Q4 电话会议上表示，2025 年 HBM 出货量预计同比增长 2 倍以上，主要由 Blackwell 平台驱动。先进封装方面，台积电 CoWoS 产能至 2025 年底计划再扩产 60%，其中一半以上将用于 NVIDIA 产品（台积电 2024 年 Q3 法说会）。

风险提示：上述市场规模数据多为机构预测值，实际出货受产能、良率、地缘政治及最终客户验收节奏影响，存在较大不确定性。所有数字均截至 2025 年 4 月的已知公开信息。

玩家对比

为清晰展现 NVL36 的竞争位置，将其与当前其他主要 AI 算力集群方案进行对比。

总体而言，NVL36 是当前唯一实现机柜级全互联与统一内存的商业现货系统。AMD 和 Intel 正加速追赶，但软件栈和系统集成层面差距仍明显；ASIC 方案虽然在某些特定任务上效率更高，但通用性和开发者生态难以匹敌。

风险

1. 供应链集中与产能风险：GPU 制造、CoWoS 封装与 HBM3e 仅由极少数厂商供应，任何环节出问题（如地震、地缘冲突、设备故障）都会导致交付延迟。2024 年已出现因 CoWoS 产能不足限制 H100 出货的先例。
2. 电力与散热约束：单机柜 60‑70 kW 功耗需搭配液冷设施，许多老旧数据中心无法承载，导致部署前置投资与改造周期拉长。部分地区电力配额也构成限制。
3. 生态锁定与供应商依赖：采用 NVL36 意味着深度融入 NVIDIA 全栈生态（CUDA、NVLink、Switch、NCCL），迁移至其他方案的成本极高，一旦 NVIDIA 后续产品迭代放缓或商业条款变动，客户议价能力将受到挤压。
4. 地缘政治与出口管制：美国针对中国的出口管制已将 A100/H100/B200 等高端芯片列入限制范围，NVL36 或相关组件可能面临进一步管制，影响全球供需格局与厂商市场策略。
5. 技术复杂性带来的部署/运维风险：高密度液冷、统一内存编程模型与复杂线缆的管理，要求运维团队具备新的技能。早期部署可能会遇到稳定性与兼容性问题，延迟获得预期投资回报。
6. 潜在竞争替代：虽然当前 NVIDIA 遥遥领先，但大型云服务商自研 ASIC（AWS Trainium、Google TPU）和 AMD 持续迭代，可能在细分市场侵蚀市场份额，特别在推理场景中成本优势可能凸显。
7. 成本过高的采用门槛：单套系统数百万美元的价格使得仅有头部客户能够规模采购，如果大模型商业化回报不及预期，大规模订单可能被削减。

误读纠偏

• 误读一：“NVL36 就是 36 台服务器放在一个机柜里。”
  • 纠偏：NVL36 并非物理服务器的简单堆叠。其内部通过 NVLink Switch 实现硬件级全互联，内存统一编址，所有 GPU 在 CUDA 视角下如同一块巨型芯片。这与通过以太网/InfiniBand 通信的独立服务器集群有本质区别，后者的通信开销与编程复杂度远高于 NVL36。
• 误读二：“有了 NVL36，就不再需要分布式训练框架。”
  • 纠偏：NVL36 极大简化了机柜内部的分布式训练，但仅解决了“Scale‑Up”问题。当训练任务需要多个 NVL36 机柜协同工作时，仍须依赖 InfiniBand 网络和 Megatron‑LM、DeepSpeed 等框架进行跨机柜的模型并行和数据并行。NVL36 优化的是单机柜紧耦合效率，并未消除对横向扩展工具的需求。
• 误读三：“NVL36 将完全取代传统 GPU 服务器集群。”
  • 纠偏：NVL36 是针对万亿参数超大规模模型与高密度推理场景的专用利器，但大量传统 AI 任务（中小模型训练、微调、轻量级推理）在传统 8 卡服务器上就能高效运行，性价比更优。两种方案将在数据中心内长期共存，形成“紧耦合”和“松耦合”分层部署的格局。

最新事件

• 2024 年 3 月：NVIDIA GTC 2024 上，正式发布 GB200 平台，展示 NVL72 机柜（72 Blackwell GPU）实物，并透露 NVL36 配置选项，主要面向液冷条件受限制或功耗敏感型客户。
• 2024 年 6 月：NVIDIA 在 COMPUTEX 2024 透露，GB200 NVL36/72 已向关键客户出样，预期 2025 年上半年开始规模量产。
• 2024 年 8 月：台积电在 Q2 法说会上确认，将 2025 年 CoWoS 产能扩充目标提升至 2024 年的 2 倍以上，以应对客户对 Blackwell 芯片的强劲需求。
• 2024 年 Q3：微软 Azure、甲骨文云等先后宣布将于 2025 年部署 GB200 NVL 集群；xAI 被报道订购了数万颗 Blackwell GPU 用于其下一代训练集群（科技媒体报道）。
• 2025 年 1 月：NVIDIA 在 CES 2025 主题演讲中展示了已部署的 GB200 NVL72 集群，并表示 NVL36 的部分配置已经开始交付首批数据中心客户，同时发布了面向企业私有化部署的 Project DIGITS，暗示机柜级产品线将进一步向下延展。
• 2025 年 4 月（更新截点）：据供应链消息（如《电子时报》），GB200 NVL36 的液冷组件和 NVLink Switch 良率已进入稳步爬坡阶段，但 HBM3e 供应仍维持紧俏，部分客户订单交货周期延长至 6 个月以上。

（以上事件来源：NVIDIA 官方博客、GTC/COMPUTEX 主题演讲录音、台积电法说会电话纪要、外媒如路透社、《电子时报》及科技媒体 covering。）

跟踪指标

投资者与产业观察者可通过以下高频/中频指标跟踪 NVL36 及相关产业链的景气度：

1. NVIDIA 数据中心收入及指引：关注每季度财报中数据中心业务营收、同比/环比增速，以及管理层对下季度 GB200 系列交付的预期。
2. 台积电 CoWoS 封装产能与实际出货：台积电月度营收、季度法说会中关于先进封装收入占比与产能计划的信息。
3. HBM3e 价格与出货量：跟踪 SK 海力士、三星、美光的季报中 HBM 业务表现，以及市场对 HBM 供需的平衡预测（如 TrendForce DRAMeXchange 报告）。
4. 主要云厂商资本开支：微软、谷歌、亚马逊、Meta 等的季报中资本支出指引，特别是与 AI 基础设施相关的投入占比。
5. GB200 系列交货周期：渠道报告（如 Tom’s Hardware、ServeTheHome 等）对服务器交货周期和客户等待时间的更新。
6. 液冷基础设施供应商订单：维谛技术、双鸿等公司季报中的液冷业务营收，可验证 NVL36 部署进度。
7. NVIDIA ConnectX‑8 与 InfiniBand 交换机出货：作为 Scale‑Out 配套组件，其出货量间接反映 NVL36 机柜集群建设规模。
8. AI 人才招聘与编程社区活跃度：反映企业采用紧耦合系统后对相关技能的需求，可通过 LinkedIn 职位发布等指标观察。

信源

1. NVIDIA 官方路线图与技术文档：GTC 2024, COMPUTEX 2024, CES 2025 主题演讲视频与博客；《NVIDIA Blackwell Architecture Technical Brief》、《NVIDIA Grace Hopper Superchip Architecture》白皮书。
2. 台积电季度法说会纪要：2024 Q2–2025 Q1 投资者会议，关于产能、先进封装与 AI 需求的论述。
3. SK 海力士、三星电子、美光科技财报及投资者报告：尤其关注 HBM 出货与营收贡献。
4. 第三方半导体分析机构报告：TrendForce（AI 服务器与 HBM 供需）、SemiAnalysis（Blackwell 平台深度拆解与出货预测）、Yole Intelligence（先进封装与基板）。
5. 科技媒体与供应链报道：《电子时报》（DigiTimes）、路透社、Tom’s Hardware、ServeTheHome 对 GB200 样机、供应链节点与客户采购的跟踪。
6. 学术与行业社区：NVIDIA NCCL、Megatron‑LM 开源库更新日志，顶级机器学习会议（NeurIPS, MLSys）关于超大模型训练系统的论文。
7. 云服务商公告：微软 Azure、AWS、Google Cloud、Oracle Cloud 官网博客关于部署 GB200 NVL 实例的计划与可用性。

本材料所引数据均截至 2025 年 4 月，所有涉及未来预测的数字均标明预测来源与假设，仅供参考，不构成任何投资建议。