SXM 模组
3 秒看懂
SXM 模组(SXM Module)是 NVIDIA 面向 AI 训练与高性能计算推出的一种非 PCIe 物理封装的 GPU 交付形态。它将 GPU 裸片与高带宽内存(HBM)集成于一块 mezzanine 式板卡上,通过超高密度的板对板连接器直连系统主板,从而获得数倍于 PCIe 形态的 NVLink 互联带宽、更高的供电上限和更紧凑的散热布局。SXM 是 HGX 服务器基板上的“细胞”,它让八个 GPU 直连 NVSwitch 形成无阻塞的全互联域,是大模型并行训练的核心物理载体。
3 分钟产业解释
在搭建千卡甚至万卡级 AI 训练集群时,纯 CPU 服务器无法满足运算密度,GPU 需要更彻底的带宽与功耗解放。PCIe 插卡形式受限于标准金手指的引脚数、走线长度和供电能力,单卡双向带宽限于数十 GB/s,且多卡互联常需外置桥接器,拓扑僵化。
SXM 模组解开了这些束缚:首先,用一块定制 PCB 承载 GPU 芯片与 HBM 堆栈,通过一片专门设计的高密度连接器(引脚数远高于 PCIe,据公开资料估测在数千以上)直接贴合到 HGX 基板。这使供电不再受标准插槽金手指约束,典型单模块可支持 400 W 以上的持续热设计功耗(TDP),新近代际甚至接近或超过 700 W(估算值,具体视型号而定);同时,模组上的 NVLink 信号以最短路径经主板走线接到 NVSwitch 芯片,让同一个 HGX 底板内的 8 个 GPU 能以数百 GB/s 的单 GPU 总带宽彼此互通,这是目前大型 MoE 模型张量并行和数据并行通信的物理基础。
产业侧,SXM 模组的推出实质上把高性能 GPU 的集成从“插卡组装”推到了“系统级设计”,使得 ODM/OEM 厂商能够围绕标准化的 HGX 基板构建整机,但也让客户无法像 PCIe 卡那样随意插拔更换 GPU,粘性更强。从部署实践看,SXM 形态几乎成为万卡级以上训练集群的唯一选择,而 PCIe 形态则更多保留在中小规模训练、推理以及需要灵活混插的企业场景。
技术原理
SXM 模组的技术栈可以从物理层、互联层和系统层拆解。
物理层
模组主体是一块高多层 PCB,上方焊接 GPU 大型 BGA 封装(内括计算 die 与 6 颗或更多 HBM 堆栈,通过硅中介层或 CoWoS 互联),下方则是专有的 mezzanine 连接器。连接器引脚密度远高于 PCIe x16 金手指,引脚总数据外围估算可达数千,其中大量引脚用于供电和接地,以支撑几百安培的电流。与主板间的信号走线长度被严格控制,以保证 NVLink 的 50 GT/s 乃至 100 GT/s 以上的 PAM4 信号完整性。高引脚数还直接决定 GPU 可引出的 NVLink 端口数,使得 SXM 能提供远超 PCIe 形态的 NVLink 通道数量——例如 A100 SXM4 支持 12 路 NVLink 3.0,而对应 PCIe 版本仅能通过桥接器实现有限互联。
互联层
模组内部,GPU die 与 HBM 通过 1024 位宽以上的接口相连,带宽超过 TB/s(具体数值依 HBM 代际浮动);模组对外,每个 GPU 引出若干 NVLink 端口。以公开资料为例,SXM4 世代可带 12 个 NVLink 通道,每通道双向约 50 GB/s,聚合双向带宽约 600 GB/s;SXM5 通过把 NVLink 通道数从 12 增至 18,每通道双向仍约 50 GB/s,总带宽约 900 GB/s(均为 NVIDIA 官方发布会公开数字,因检索受限未逐字核查)。这些端口经由母板直连 NVSwitch,再由 NVSwitch 实现 GPU 间全互联。典型 HGX 板内 8 卡拓扑如下 ASCII 示意:
[GPU0] [GPU1] [GPU2] [GPU3]
| | | |
+--NVSwitch0--+---NVSwitch3--+ (简化示意)
| | | | |
... ... ... ... ...
[GPU4] [GPU5] [GPU6] [GPU7]
NVSwitch 实质是高速 SerDes 交换芯片,将流入的 NVLink 数据包基于目标 GPU 快速转发,使得任意两 GPU 之间对带宽仅受端口数限制,而非拓扑瓶颈。该二层交换结构消除了传统树形 PCIe 交换的根节点拥塞,大幅缩短 AllReduce、All-to-All 等集合通信的步数。
系统层
与 NVSwitch 匹配的还有 GPU 间共享的端到端地址翻译和直接内存访问,使 GPU 可以通过 NVLink 直接存取远端 HBM,在编程模型上呈现为统一地址空间。这大幅简化了 NCCL 等通信库的实现,一个 AllReduce 可以分解为 ReduceScatter 加 AllGather,分别利用 NVSwitch 的无阻塞特性完成。此外,SXM 模组的热设计高度工程化:直接贴合冷板的大面积与高 TDP 设计,使得液冷或高效均温板成为强制选项,但多数 HGX 整机仍使用强风冷配合均温板实现 400–500 W 散热,更高功耗则转向液冷。
在部署万卡集群时,通信延迟与带宽的微小差异会被梯度同步的 AllReduce 循环几何级放大,SXM 模组的意义就在于它把 GPU 互联这个最卡脖子的环节作了硬件级优化。与 PCIe 或 OAM 等其他形态相比,SXM 最核心的差异在于它附着了一套“基板级全互联”思路:不是把多张卡凑到一个服务器里再设法联接,而是在底板上直接设计了一个高速交换网络。对于 MoE 模型那种通信/计算比极端的场景,硬件拓扑的优势会被直接转化为算力利用率(MFU)的提升。
关键参数
评估 SXM 模组的核心指标如下。因即时检索受限,部分代际数值标注出处或注明“据公开资料”。
- GPU 间聚合双向带宽:决定 AllReduce/All-to-All 通信下限。SXM4(A100)约 600 GB/s,SXM5(H100)约 900 GB/s(均来自 NVIDIA 官方发布)。Blackwell 代际(SXM6)据 GTC 2024 主题演讲宣称每 GPU 提供 1.8 TB/s 双向 NVLink 吞吐,具体规格以最终白皮书为准。
- TDP 与散热包络:限制持续时钟与算力释放。SXM4 为 400 W,SXM5 为 700 W(典型值),B200 SXM 预计达到 1000 W(据 2024 年 GTC 公开信息)。液冷方案在 700 W 以上已成标配。
- NVLink 通道数与 NVSwitch 端口数:SXM4 每 GPU 12 路 NVLink 3.0,SXM5 18 路 NVLink 4.0。NVSwitch 芯片代际同步升级,决定交换容量与跳数。NVIDIA 于 2024 年推出 NVLink Switch 新品,单机架 72 GPU 全互联,推动 256 GPU 超级 Pod 至更大规模(官方发布)。
- HBM 容量与带宽:SXM4 集成 40/80 GB HBM2e,带宽约 1.6/2.0 TB/s;SXM5 配备 80 GB HBM3,带宽约 3.35 TB/s;B200 SXM 预装 192 GB HBM3e,带宽可达 8 TB/s(GTC 2024 披露,待量产确认)。大模型参数和批次大小上限直接受制于这两个值。
- 引脚/连接器可靠性:数千安培级电流与高速信号对接触电阻、串扰、寿命提出严苛要求。NVIDIA 与连接器供应商定制设计,未公开具体 MTBF 指标。
- 单位功耗算力效率(TOPS/W):H100 SXM5 在 INT8 下可超 2000 TOPS,700 W 对应约 2.9 TOPS/W 级别(推算值)。B200 基于新架构和 4nm 制程有望大幅提升该指标,具体仍待厂商公布。
技术路线
SXM 形态伴随 NVIDIA 计算卡的架构迭代逐步进化,其主要代际可归纳如下:
- SXM2(Pascal P100 时代,约 2016 年):引入 NVLink 1.0,单 GPU 4 条链路,双向总带宽约 160 GB/s(官方数字),奠定了非 PCIe 高带宽模组的雏形。
- SXM3(Volta V100,2017 年):NVLink 2.0,单链路带宽提升,总带宽约 300 GB/s,首次在模组上搭载 HBM2,内存带宽推进到 900 GB/s 量级。
- SXM4(Ampere A100,2020 年):NVLink 3.0,聚合双向带宽约 600 GB/s,TDP 提升至 400 W 级(公开规格),开始支持 MIG 多实例切割,模组物理尺寸随散热需求加大。
- SXM5(Hopper H100,2022 年):NVLink 4.0,总带宽约 900 GB/s,支持 FP8 Transformer Engine,TDP 达到 700 W 级别(据公开资料,某些型号),首次从物理层全面拥抱第三代 NVSwitch,促进 256 卡超级 Pod 的构建。
- SXM6(Blackwell B200/B100,2024 年):进一步升级的 NVLink 与 HBM3e,双向带宽破 1 TB/s(GTC 2024 宣布每 GPU 1.8 TB/s 双向),引入双 dies 拼接的高速互联,模组的热设计向液冷倾斜,并首次支持机架级液冷参考架构。
每一代 SXM 的演进不仅提升物理带宽,还缩短了 NVSwitch 与 SXM 之间的走线延迟,并增强了板级供电架构的冗余,为未来数千瓦级的 rack-scale 预留了空间。
与其他形态对比
下表基于可获取的公开信息与定性估算,对比 SXM 与其他 GPU 封装形态的关键差异。
| 维度 | SXM 模组 (以 SXM4/5 为例) | PCIe 插卡 (如 A100 PCIe) | OAM (开放加速器模块, 如 AMD MI300) |
|---|---|---|---|
| 物理形态 | mezzanine 封装,专有连接器 | 标准 PCIe 金手指,插卡式 | 开放标准模块,板对板连接器 |
| 最大 TDP 支持 | 约 400 W~700 W+(据代际)[公开资料] | 通常 ≤300 W(受 PCIe 插槽供电) | 可支持 500 W+ [未充分披露] |
| GPU 间互联带宽 | 每 GPU 约 600~900 GB/s 双向 [NVIDIA官方] | 需通过 PCIe + NVLink 桥,带宽折损 | 取决于厂商 Infinity Fabric 或类似,部分方案全互联带宽相当 |
| 拓扑 | 底板直连 NVSwitch,8GPU 全互联 | 树状或非对称,拓扑受限 | 通常 4~8 路全互联 (Infinity Fabric) |
| 可替换性 | 模组 + 底板绑定,客户无法单替换 | 支持热插拔、单卡替换 | 模块化,部分支持替换 [待证实] |
| 适用场景 | 大规模训练集群(千卡~万卡) | 企业级推理/小规模训练 | 大型训练及HPC,AMD生态 |
此表仅为示意,具体速率、功耗以厂商最终规格书为准。值得关注的是,2024 年成立的 UALink 联盟(AMD、Intel、博通、思科等)试图定义开放的芯片间互联标准,未来可能对 SXM 的封闭体系构成对比选项。
上游
SXM 模组的核心供应链高度集中于少数厂商,具体为:
- 芯片制造与先进封装:台积电先进制程(N7、N5、N4 等)及 CoWoS-S/L/R 封装,将 GPU die 与 HBM 堆栈封装为一体。CoWoS 产能自 2023 年起持续紧张,据台积电公开说明,其先进封装产能扩产计划将延续至 2025 年,直接影响 SXM 模组的产出节奏(来源:台积电季度法说会,2024 年多次提及)。
- HBM 供应商:SK 海力士、三星、美光提供 HBM2e/HBM3/HBM3e 堆栈。SK 海力士在 HBM3 市场份额领先(据 TrendForce 2024 年报告),并于 2024 年初宣布 HBM3e 量产;美光在 2024 年切入 HBM3e 供应。
- 连接器与基板:专有高密度 mezzanine 连接器由安费诺、莫仕等提供;HGX 底板 PCB 通常由景硕、欣兴等生产。高多层板及大尺寸基板工艺能力限制扩充速度。
- NVSwitch 芯片:NVIDIA 自研,与 SXM 深度绑定,代工同样依赖台积电先进制程。
下游
SXM 模组通过与 HGX 基板捆绑,以系统形式流向以下环节:
- 系统集成商(OEM/ODM):富士康、广达、英业达、超微、戴尔、HPE 等获 NVIDIA 授权生产 HGX 整机,嵌入 SXM 模组。2023‑2024 年间,这些厂商 AI 服务器产线持续满载,例如广达于 2024 年 Q2 法说会表示 AI 服务器营收逐季强劲增长(来源:公司公开简报)。
- 云服务商与大型企业:AWS、微软 Azure、Google Cloud、Meta、xAI、Oracle 等直接采购整机或定制 rack。其中,Meta 于 2024 年初宣布采购 35 万块 H100 GPU(公开博客),主要形式即为 SXM 模组的 HGX 整机;xAI 的 Colossus 集群宣称采用 10 万 H100,亦以 HGX 为单元构建。
- 数据中心基建:液冷/风冷散热方案商,如 CoolIT、Asetek、Vertiv、Chilldyne(未上市)等。随着 SXM TDP 突破 700 W,液冷渗透率快速上升,带动 CDU、冷板、快接头等部件需求。
- 软件栈:NVIDIA 的 CUDA、NCCL、Megatron‑LM 等深度学习框架针对 SXM+NVSwitch 拓扑做通信优化,形成软硬一体生态。
受益公司
SXM 生态内的价值分配高度集中于 NVIDIA 自身,但数个环节亦存在清晰映射:
- NVIDIA:SXM 生态的唯一定义者,从芯片、模组到 NVSwitch 到 HGX 底板参考设计全部自研,拥有绝对定价权。其数据中心业务收入(2025 财年 Q2 达 263 亿美元,同比增长 154%,来源:NVIDIA 财报)绝大部分来自 SXM 形态关联的 HGX 系统。
- HBM 供应商:SK 海力士、三星、美光受益于 SXM 对 HBM 容量的持续推高。HBM 营收在 SK 海力士 2024 年二季度达历史新高,占总 DRAM 营收逾 30%(来源:SK 海力士 2024 年 Q2 财报)。
- 先进封装:台积电 CoWoS 产能直接绑定 SXM 模组出货。台积电 2024 年宣布今年 CoWoS 产能较 2023 年翻倍,仍供不应求,是短期供给瓶颈。
- ODM/散热链:富士康、广达、英业达等 ODM 企业,以及 CoolIT、双鸿、高力等散热供应链,因 HGX 整机价值提升与液冷渗透而获得增量营收,但利润率受竞争格局影响。
- ASIC 替代者:Google TPU、AWS Trainium/Inferentia 等采用自有形态,不依赖 SXM。AMD MI300 系列以 OAM 形态对标,已获微软、Meta 等采用,构成 SXM 的市场分割力量。
注:以上均为产业分析,不构成对任何公司的买卖建议。
市场规模
由于 SXM 模组不单独零售,其市场规模须透过 HGX 系统及 NVIDIA 数据中心收入推估。关键数据点如下:
- NVIDIA 数据中心收入:2024 财年(截止 2024 年 1 月)数据中心收入为 475 亿美元,2025 财年上半年(2024 年 2‑7 月)即达 489 亿美元(来源:NVIDIA 年报及季报)。营收中绝大部分与 SXM 形态的 HGX 系统相关,具体比例未单独拆分,第三方机构如 Omdia、IDC 的估算可作参考。
- AI 服务器出货:据 TrendForce 2024 年 7 月报告,2024 年全球 AI 服务器出货量预计达 167 万台,年增约 39%,其中训练型 AI 服务器仍以 HGX(SXM)为绝对主力,推理型服务器中 PCIe 形态占比较高。该报告未拆分 SXM 模组颗粒,但指出 NVIDIA 在 AI 服务器 GPU 市占率逾 90%。
- HBM 出货折射 SXM 需求:据 TrendForce 统计,2024 年 HBM 位元需求年增近 200%,HBM3 占整体出货比重逾 60%,大量被 SXM5 及后续 SXM6 模组消耗。HBM 的供不应求状态可作为 SXM 出货量的侧面印证。
- 公开资料未见 SXM 模组单独的出货量或金额预测。投资者和研究机构通常以 NVIDIA HGX 平台对应 SKU 出货量(如 A100/H100/B100 系统)结合 NVSwitch 出货量进行交叉验证。未来 Blackwell 代际 SXM6 的渗透速度,以及从 8 卡 HGX 向 72 GPU 机架(NVL72)的升级路径,是影响 2025‑2026 年市场规模的关键变量。
玩家对比
在机架级高带宽 GPU 互联领域,主要玩家与方案对比如下:
- NVIDIA SXM + NVSwitch:封闭生态,成熟度最高。硬件方面拥有 SXM5 900 GB/s、SXM6 1.8 TB/s 双向 NVLink 带宽,结合 NVSwitch 实现 8 GPU 全互联、256 GPU 超级 Pod 乃至 72 GPU 单机架全液冷系统。软件方面有 CUDA、NCCL 深度适配,是当前万卡集群事实标准。
- AMD MI300 系列 + OAM:采用 OC 联盟的开放加速器模块标准,Infinity Fabric 互联。MI300X 单 GPU 互联带宽可达 896 GB/s(双向,据 AMD 2023 年发布会),8 GPU 全互联平台已用于微软、Meta 等客户。优势在于开放性与成本灵活性,但软件生态(ROCm)及大规模部署成熟度仍处追赶阶段。
- Intel Gaudi 系列:Gaudi3 采用 PCIe 形态或自研板载模块,搭载 24 个 200GbE RoCE 端口用于对外互联,倾向于 RDMA‑focal 而非板内高带宽互联,主攻训练与推理的一种差异化路径。公开资料未见其与 SXM 直接对位的 NVSwitch 式拓扑。
- 定制 ASIC 及内部互联:Google TPU v5p 采用自研板卡及 ICI 光学互联,单 Pod 可达 8960 芯片,通信不依赖 SXM 范式;AWS Trainium2 亦以自有形态和 NeuronLink 互联部署。这类方案专属封闭,不与 SXM 直接竞争,但侵蚀通用 GPU 训练市场。
- UALink 联盟:2024 年 5 月成立,成员包括 AMD、Intel、博通、思科、微软、Meta 等,目标制定开放的芯片间互联标准,第一版规范预计 2025 年发布。若成功推广,可能对 NVLink 的封闭性形成长期挑战。
综合而言,SXM 在当下大模型训练领域占主导,但其封闭性和交付模式正在催生阵营分化和开放替代力量。
风险
- 供给集中与产能瓶颈:SXM 模组所需的 CoWoS 封装、HBM 堆栈及高密连接器产能高度集中,任何环节受限均会直接影响出货。历史上 2023 H100 交期延长即与 CoWoS 产能不足密切相关。
- 生态锁定与升级强制性:SXM mezzanine 封装使得新一代 GPU 必须搭配新一代 HGX 基板,客户无法混插,升级即需成套汰换。若开源或标准化互联方案(如 UALink)成熟,用户可能转向更灵活的多供应商方案,削弱 NVIDIA 的定价权和重复采购粘性。
- 功耗与散热挑战:SXM TDP 从 400 W 攀升至 1000 W,强制数据中心转向液冷,带来基建复杂度、成本及可靠性风险。液冷方案的单点失效可能导致整个机架宕机,运维门槛升高。
- 推理市场替代:推理工作负载通常对 GPU 间互联带宽要求较低,SXM 高带宽优势未必能完全转化为竞争力。定制 ASIC(如 Google TPU、AWS Inferentia)及低成本 PCIe GPU 在推理侧可能逐步替代部分 SXM 需求,限制该形态在推理市场的渗透。
- 地缘政治与合规风险:高端 GPU 出口管制(如美国 2023 年 10 月与 2024 年 4 月规则趋严)直接限制 SXM 模组对特定地区的出货,对中国等市场的供给形成政策不确定性,可能催化国产替代或绕过式方案。
误读纠偏
-
“SXM 就是 NVLink 物理接口”
SXM 是一种包含了供电、机械、散热和信号完整性的完整模组规格,NVLink 只是其上承载的一种高速互联协议。在 PCIe 形态的 GPU 上同样可以通过 NVLink Bridge 提供部分 NVLink 功能,但 SXM 通过板载直连提供更优的信号质量与更高端口密度,才是 SXM 真正的价值差异。 -
“SXM 模组必须上液冷,否则烧毁”
前几代 SXM4 和 SXM5 的 400 W 级 TDP 在许多部署中仍使用高效风冷(均温板+强力轴流风扇)来散热。液冷的强制需求主要出现在 700 W 以上或高密度上架场景。不同 TDP 档位对应不同散热方案,并非一刀切。 -
“SXM 模块和 OAM 是一回事”
OAM 是由 OC 联盟推动的开放加速器模块标准,AMD、Intel 等均有采用;SXM 是 NVIDIA 的封闭规格。两者都是板载式高带宽方案,但互相不兼容,管理接口、供电和互联协议均有差异。 -
“SXM 模组仅是物理连接替代,对训练效率影响有限”
硬件拓扑直接决定了通信步数与梯度同步延迟,尤其在大规模分布式训练中,通信效率的细微差异会被成倍放大。SXM 的 NVSwitch 全互联可避免多跳转发,提升算力利用率,这是单纯升级 PCIe 带宽无法复现的系统级增益。
最新事件
- 2024 年 3 月,NVIDIA GTC 发布 Blackwell 架构及 SXM6 形态:推出 B200 SXM 与 GB200 NVL72 机架方案。B200 SXM 采用双芯粒设计,宣称每 GPU 18TB/s 双向 NVLink 吞吐(需以正式规格书为准),TDP 达 1000 W,全面推荐液冷。NVL72 通过 NVLink Switch 将 72 个 GPU 全互联,实现单一机架内 30 TB 级 HBM 统一内存,该架构计划于 2024 年下半年开始样品出货(来源:GTC 主题演讲)。
- 2024 年 5 月,超大规模集群部署动态:xAI 宣布 Colossus 10 万 H100 集群投入训练(来源:公开报道),Meta 扩编至 35 万 H100(来源:Meta AI 博客)。这些大规模集群绝大多数采用 HGX + SXM 模组。液冷方案在新建集群中占比显著上升。
- 2024 年 5 月,UALink 联盟成立:AMD、Intel 等联合成立 UALink,目标制定开放芯片间互联标准,直面 NVLink 与 SXM 的封闭体系。预计第一版规范 2025 年发布,产业长期格局可能因此重塑。
- 2024 年 Q2,NVIDIA 财报拆分:NVIDIA 2025 财年 Q2 数据中心收入 263 亿美元,同比增长 154%,其中计算 GPU 收入达到 226 亿美元(来源:财报),H200 与 Spectrum‑X 等相关系统开始贡献增量。Blackwell 产品预计 Q3 进行首次生产出货,Q4 起有望规模收入(来源:公司指引)。
- 2024 年下半年,出口管制调整:美国商务部更新对华高端芯片出口管制细则,将某些互联密度及总带宽纳入管制范围,直接触及 SXM 级互联规格,影响对特定地区的供给。国内部分云厂商转向合规版本或国产替代方案。
跟踪指标
跟踪 SXM 模组及生态发展,可定期关注以下指标与信源:
- NVIDIA 数据中心收入与分项指引(每季度财报及电话会):关注计算 GPU 收入增速、H200/B200 的 ramp‑up 进展以及 HGX 与液冷系统出货占比变化。
- CoWoS 与 HBM 产能及价格:台积电每季度法说会披露先进封装产能扩张进度;SK 海力士、三星、美光财报中 HBM ASP 与位元出货趋势;TrendForce、Omdia 的季度供应链追踪报告。
- NVSwitch 与 NVLink 迭代节点:NVIDIA GTC 及热芯片会议上的互联带宽升级路线图,以及 UALink 等开放标准推进进展。
- 液冷渗透率与相关公司营收:系统集成商(如超微、广达)及散热方案商(如 CoolIT、Vertiv 等)的季报中液冷产品线营收占比变化;数据中心 PUE 指标改善数据。
- 万卡集群建设与 GPU 采购公布:主要 CSP 与企业(微软、Meta、xAI、Oracle 等)的资本开支指引及公开 GPU 采购数量,可通过财报、博客、供应商新闻追踪。
- HBM 总搭载容量与 SKU:每代 SXM 配备的 HBM 容量与带宽跃升速度(如 B200 192 GB HBM3e),直接影响大模型训练容量上限,可在 NVIDIA 白皮书和 GTC 演讲中获取。
- 出口管制条约与限制性清单:关注美国商务部 BIS 出口管制规则更新,特别是带宽密度、互联总量等门槛,以及中国企业替代方案(如昇腾)的进展。
信源
- NVIDIA HGX Platform 官方技术架构文档(nvidia.com)
- NVIDIA A100 Tensor Core GPU 白皮书,SXM4 技术规格
- NVIDIA H100 Tensor Core GPU 白皮书,SXM5 与 NVLink 4.0
- “NVIDIA Blackwell GPU 架构” GTC 2024 主题演讲及官方新闻稿
- “Megatron‑LM:Training Multi‑Billion Parameter Language Models Using Model Parallelism”,论文中对并行通信的分析
- Open Compute Project (OCP) – NVIDIA HGX Baseboard Specification(如有公开版本)
- 台积电季度法说会(2024 年 Q1‑Q3)先进封装产能相关发言
- TrendForce、Omdia、IDC 等关于 AI 服务器、HBM 市场季度追踪报告(因检索受限,本文引用概览性数据,具体报告期注明来源)
- 主要云计算厂商(微软、Meta、xAI)公开的 GPU 部署数量与资本开支披露
- UALink 联盟成立公告(2024 年 5 月官方新闻稿)
- NVIDIA 季度财报及业绩指引(2025 财年各季度)
- AMD MI300 系列发布资料及 Infinity Fabric 技术文档
(本文因即时检索服务受限,部分传递的具体带宽、功耗数字基于 NVIDIA 既往公开资料及 GTC 2024 发布的内容整理,并非实时核查结果,最新精确规格建议以 NVIDIA 官方发布为准。文内不包含任何投资建议或买卖主张。)