DPU(Data Processing Unit)
3 秒看懂
DPU 是数据中心的”第三颗主力芯片”——它插在 CPU 和网络之间,用专用硬件加速器 + Arm 核心,把虚拟化网络(OVS)、RDMA 存储、加解密、安全策略等”基础设施税”从 CPU 肩上卸下来。一颗 DPU 的价值 = 省下 2~8 个 CPU 核心去做更赚钱的事。
3 分钟产业解释
为什么需要 DPU?
现代云数据中心的 CPU 有越来越多的算力被”基础设施软件”吃掉:虚拟交换(OVS)、VXLAN/Geneve 封装解封装、TLS/IPsec 加密、NVMe-oF 存储转发、可观测性采集……据 NVIDIA 等厂商的公开演讲口径,这部分”基础设施开销”在某些虚拟化密度较高的场景下可占到 CPU 算力的 20%~30% [厂商口径估算]。
DPU 的核心思路:把这些固定功能的基础设施操作从通用 CPU 剥离,交给一个专门的、插在 PCIe 槽上的独立处理单元。这个单元通常包含:
- 高性能网络接口(100G~400G 级别)
- 硬件加速引擎(加解密、压缩、正则匹配、OVS 流表卸载等)
- 一组 Arm 核心(可独立运行 Linux,管理基础设施软件栈)
- PCIe 接口(与 host CPU 通信)
名词辨析
| 术语 | 提出者 | 侧重点 |
|---|---|---|
| SmartNIC | 业界通称(较早) | 强调网卡具备可编程/加速能力,范围较宽 |
| DPU | NVIDIA(2020 年 GTC 推广) | 强调”第三颗芯片”定位,全栈基础设施卸载 |
| IPU(Infrastructure Processing Unit) | Intel | 功能类似 DPU,Intel 自己的命名体系 |
三者在硬件架构上高度重叠,核心差异更多是营销定位。产业讨论中 DPU 已成为事实上的通称。
15 分钟专家深入
核心价值主张
DPU 的经济账非常直观:
一台 2U 双路服务器(典型配置 64~128 核 CPU)
├── 跑业务负载(AI训练、数据库、Web服务)→ 赚钱
├── 跑基础设施(OVS、安全、存储)→ 成本
└── 每省出 1 个 CPU 核心 ≈ 减少 1 张 license / 降低 1 份功耗
DPU 帮你把"成本侧"的活接走 → CPU 100% 干"赚钱侧"的活
在云厂商(AWS、Azure、Google Cloud、阿里云)的大规模部署中,这个价值叠加数百万台服务器后极为显著。
关键架构特征
1) 硬件加速器(数据面)
- 网络加速:OVS 流表匹配/转发、VXLAN/Geneve 封装/解封装、流量整形(QoS)
- 存储加速:NVMe over Fabrics (NVMe-oF) 的 target 端处理、纠删码(Erasure Coding)
- 安全加速:TLS 1.3 / IPsec / MACsec 硬件加解密、正则表达式匹配(用于 DDoS 防火墙)
- 压缩/解压缩:硬件 gzip/zstd 加速
这些操作在纯软件实现时极其消耗 CPU 周期,但在专用硬件上可以达到线速处理(即不成为网络带宽的瓶颈)。
2) 可编程控制面(Arm 核心)
现代 DPU 内嵌 8~16+ 个 Arm 核心,可独立运行一个精简 Linux 发行版(如 NVIDIA 的 DOCA SDK 运行环境),负责:
- 控制面协议处理(BGP、路由、策略下发)
- 基础设施管理(监控、日志、遥测)
- 与 host 端的编排系统交互
3) 高速网络接口
- 支持 100GbE / 200GbE / 400GbE 级别(取决于代际和具体型号)
- 支持 RDMA(RoCE v2 / InfiniBand)协议硬件卸载
- 硬件级流量镜像和采样(用于可观测性)
4) PCIe 接口
- 通过 PCIe Gen4 x16 或 Gen5 x16 与 host CPU 连接
- 对 host 系统呈现为一张标准网卡(或虚拟网卡集合)
典型部署模式
DPU 在服务器中的物理位置是网卡槽位(通常是最靠近网线的那一张 PCIe 卡),在逻辑上位于 CPU 和网络之间:
┌──────────────┐
│ Top-of-Rack │
│ Switch │
└──────┬───────┘
│ 100G/200G/400G
┌──────┴───────┐
│ DPU │ ← 独立运行 Linux + 基础设施栈
│ Arm cores │ 硬件加速器(加密/OVS/存储)
│ + 加速器 │ 网络接口 + RDMA engine
└──────┬───────┘
│ PCIe Gen4/5 x16
┌──────┴───────┐
│ Host CPU │ ← 只跑业务负载
│ (业务VM/ │ 看到的是"虚拟网卡"
│ 容器) │
└──────────────┘
技术原理
内部微架构(通用模式)
虽然各厂商 DPU 的具体设计不同,但逻辑架构可抽象为以下几层:
┌─────────────────────────────────────────────────────┐
│ DPU SoC │
│ │
│ ┌─────────┐ ┌──────────┐ ┌───────────────────┐ │
│ │ Arm │ │ Hardware │ │ Network Interface │ │
│ │ Cores │ │ Accel. │ │ (MAC/PHY + SerDes)│ │
│ │ (8~16+) │ │ Engines │ │ 100G/200G/400G │ │
│ │ │ │ │ │ │ │
│ │ - Linux │ │ - Crypto │ │ - RDMA engine │ │
│ │ - OVS │ │ - OVS TC │ │ - RoCE/IB │ │
│ │ CP │ │ offload│ │ - Traffic mgr │ │
│ │ - Mgmt │ │ - Compr. │ │ - SR-IOV │ │
│ │ - BGP │ │ - Regex │ │ │ │
│ └────┬────┘ └────┬─────┘ └────────┬──────────┘ │
│ │ │ │ │
│ ┌────┴────────────┴─────────────────┴──────────┐ │
│ │ 内部总线 / NoC │ │
│ └──────────────────┬───────────────────────────┘ │
│ │ │
│ ┌──────────────────┴───────────────────────────┐ │
│ │ PCIe Endpoint │ │
│ │ (Gen4 x16 / Gen5 x16) │ │
│ └──────────────────────────────────────────────┘ │
└─────────────────────────────────────────────────────┘
数据面处理流水线(以网络卸载为例)
当一个数据包从网线进入 DPU 时,处理路径大致为:
[线缆] → [SerDes/PMA] → [MAC] → [Parser] → [Flow Table Lookup (TCAM/SRAM)]
│
┌─────────┴──────────┐
│ │
[Cache HIT] [Cache MISS]
│ │
[Action Pipeline] [Send to Arm core]
(encap/decap, (slow path:
modify, drop, upcall to OVS
mirror, fwd) control plane)
│
[Enqueue/Tx] → [MAC] → [SerDes] → [线缆]
关键性能参数(定性描述):
- 快速路径(硬件加速器处理):可达线速(如 400Gbps),延迟在 微秒级
- 慢速路径(Arm 核心处理):吞吐低数个数量级,延迟在毫秒级,但处理复杂策略
- 流表容量:取决于具体实现,从数十万条到数百万条不等 [因型号而异]
加密卸载原理
DPU 内部的加密引擎通常支持:
- 对称加密:AES-128/256(GCM/CTR/CBC 模式)硬件加速
- 哈希:SHA-256/SHA-384/SHA-512 硬件加速
- TLS 会话管理:完整的 TLS 1.3 handshake 可由 Arm 核心 + 加密引擎协同完成
- IPsec offload:ESP 封装/解封装 + 加解密全链路硬件化
关键收益:在不卸载 TLS 的情况下,一个 100Gbps 的 TLS 流量可能消耗数十个 CPU 核心;DPU 加密引擎可以做到对 CPU 零占用且维持线速 [厂商公开演示数据]。
存储卸载
DPU 可以充当 NVMe-oF initiator 加速器:
- 在 DPU 上实现 NVMe/TCP 或 NVMe/RDMA 的 initiator 协议栈卸载
- 将主机的本地 NVMe 命令封装为网络协议帧,解封装远端响应
- 硬件级 CRC 校验、数据搬移优化
这使得主机端的存储协议处理完全卸载到 DPU,CPU 零占用;真正的 target 协议栈运行在远程存储节点上,实现计算与存储解耦。
技术演进史
| 时间线 | 事件 | 意义 |
|---|---|---|
| 2015 年前 | 基于网络处理器/专用可编程引擎的 SmartNIC 出现(如 Netronome NFP、Mellanox ConnectX),FPGA-based 的代表随后出现(如 Xilinx Alveo) | 网卡可编程化萌芽 |
| 2016~2018 | Amazon(Nitro 系统)、Mellanox BlueField-1 代内部孵化 | 超大规模云厂商率先意识到”基础设施卸载”的必要性 |
| 2019 | NVIDIA 收购 Mellanox(约 $6.9B 交易) | NVIDIA 获得 BlueField 产品线 + 高速网络技术,为 DPU 战略奠基 |
| 2020 Q2 | Jensen Huang 在 GTC 2020 上正式提出 DPU 概念,发布 BlueField-2 DPU | ”CPU + GPU + DPU”三芯片战略成型,DPU 从 SmartNIC 升格为独立品类 |
| 2021 | Intel 发布 IPU 战略(Mount Evans 芯片,与 Google Cloud 合作);AMD 收购 Pensando | 三大芯片巨头全部入局 DPU/IPU 赛道 |
| 2022 | NVIDIA 发布 BlueField-3(400G DPU,据公开信息含 16 个 Arm 核心,基于 ConnectX-7 网络引擎);Broadcom Stingray PS 系列继续迭代 | 代际升级:带宽翻倍,Arm 核心翻倍,加速器更丰富 |
| 2023 | Microsoft 收购 Fungible(DPU 初创公司);NVIDIA 发布 BlueField-4 预告 | 超大规模厂商继续通过收购/自研强化 DPU 能力 |
| 2024 | NVIDIA BlueField-3 在超算/云环境中规模部署;BlueField-4 产品线继续推进 | DPU 从概念验证进入规模落地阶段 |
关键趋势:DPU 的定义正在从”智能网卡”向”基础设施处理器”扩展,未来可能整合更多功能(如 AI 推理加速、安全策略引擎)。
技术路线对比
| 维度 | NVIDIA BlueField-3 | AMD Pensando DPU / DSC | Broadcom Stingray PS | Intel IPU (Mount Evans 后继) | FPGA 方案(如 Xilinx/AMD Alveo) |
|---|---|---|---|---|---|
| 核心架构 | Arm Cortex 系列(16 核,据公开信息为 v8.2+ 架构) | Arm 核心 + P4 可编程流水线 | Arm 核心 + 可编程处理引擎 | Arm 核心 + 可编程数据路径 | FPGA 可编程逻辑 |
| 网络接口速率 | 400GbE [NVIDIA 官方规格] | 200GbE 级别 [公开报道] | 100G~200G 级别 [公开产品] | 200G 级别(代际不同有差异)[供应链信息] | 取决于 FPGA 型号和网络 IP |
| 加速器 | OVS offload, AES/SHA, RegEx, NVMe-oF, VirtIO-blk/net | P4 可编程流水线, 加密, 压缩 | 包处理引擎, 加密 | OVS offload, 加密 | 灵活但需自行开发 |
| 可编程性 | DOCA SDK(基于 Arm + 加速器) | P4 + Arm | 专用 SDK | 可编程数据路径 + Arm | 最高(RTL/C/HLS)但开发门槛也最高 |
| 生态优势 | 与 CUDA/GPU 生态协同,DOCA 开放 | AMD CPU+GPU 全栈协同潜力 | 交换芯片生态协同 | Intel CPU 生态(CXL/oneAPI 方向) | 极端灵活性 |
| 成熟度 | ⭐⭐⭐⭐⭐ 规模部署 | ⭐⭐⭐ Azure 大规模部署验证 | ⭐⭐⭐ 超算/特定场景 | ⭐⭐ 产品线仍在调整中 | ⭐⭐⭐⭐ 成熟但工程化门槛高 |
| 核心场景 | AI/HPC 数据中心、超大规模云 | 超大规模云(如 Azure Boost) | 超算、网络设备 | Intel 生态云 | 定制化、研究、高性能特定场景 |
注:上表中部分规格来自厂商公开发布和供应链公开报道,具体参数以各厂商最新 datasheet 为准。Intel IPU 产品线在 2023~2024 年间经历了战略调整,部分产品线据公开报道有所收缩 [供应链信息,未经官方确认]。
上下游
上游(DPU 的供应链)
DPU 芯片设计
├── IP 授权
│ ├── Arm(CPU 核心 IP 授权,如 Cortex-A72/A78/Neoverse 等)
│ ├── Synopsys / Cadence(SerDes IP、PCIe PHY IP)
│ └── 各自研加速器 IP
├── EDA 工具
│ ├── Synopsys(Design Compiler, VCS...)
│ ├── Cadence(Innovus, Xcelium...)
│ └── Siemens EDA
├── 制造(晶圆代工)
│ ├── TSMC(主流 DPU 的制造方,具体节点因产品而异,多在 7nm/5nm 级别 [供应链信息])
│ └── Samsung Foundry(部分产品)
└── 封装
└── 传统封装为主(FC-BGA 等),部分产品可能涉及 2.5D 封装(集成 HBM 或其他 die)
中游(DPU 产品)
- NVIDIA(BlueField 系列)— 最大市场份额 [行业估算]
- AMD / Pensando
- Broadcom(Stingray 系列)
- Intel(IPU)
- Marvell(OCTEON 系列,更偏基础设施处理)
- 国产厂商(中科驭数 YUSUR、云脉芯联 Yunsilicon、星云智联 Nebula Matrix、大禹智芯等,处于早期产品化阶段 [公开信息])
下游(DPU 的买家和使用者)
- 超大规模云厂商(Hyperscalers):AWS (Nitro)、Microsoft Azure (Azure Boost)、Google Cloud、阿里云、字节跳动等 → 最大采购方
- 运营商 / 电信:5G 核心网 UPF 卸载
- 企业数据中心:VMware vSphere + DPU 加速(Project Monterey 等)
- HPC / AI 数据中心:大规模集群中的网络基础设施管理
关键指标
| 指标 | 说明 | 典型量级(以 BlueField-3 公开信息为参考) |
|---|---|---|
| 网络接口速率 | DPU 能处理的最大网络吞吐 | 400GbE [NVIDIA 官方] |
| PCIe 带宽 | 与 host CPU 的互连带宽 | PCIe Gen5 x16 ≈ 64 GB/s [PCI-SIG 标准] |
| Arm 核心数 | 可独立运行基础设施软件栈 | 16 核 [NVIDIA 公开规格] |
| 加密吞吐 | AES-256-GCM 硬件加速吞吐 | 与网络线速匹配(具体数字因型号而异)[未充分披露] |
| OVS 流表容量 | 硬件能缓存的流表条目数 | 数十万~数百万条 [因型号和场景而异] |
| 功耗 | DPU 板卡典型功耗 | ~30W~75W 级别 [因型号和负载而异] |
| 延迟增量 | DPU 引入的额外网络延迟 | 微秒级(快速路径)[厂商公开数据] |
| SR-IOV VF 数 | 可向 host 呈现的虚拟网卡数 | 可达数百 [因型号和配置而异] |
供需与市场数据
市场规模
DPU/IPU 市场目前仍处于快速增长早期,各研究机构的估算口径差异较大:
- 全球 DPU 市场规模 2023 年估算约 $3B~$5B [多家第三方研究机构估算,口径不一]
- 多家第三方机构认为 2027~2028 年市场规模可能显著高于 2023 年水平,但不同报告是否纳入 SmartNIC、IP 授权和服务收入并不一致,本页不写入未锁定来源的预测硬数字。
- 以上数字来自多家行业研究机构的公开报告摘要,具体定义口径(是否含 SmartNIC)会显著影响估值
需求驱动力
- AI 数据中心爆发:每个 AI 服务器节点需要高带宽、低延迟网络,DPU 负责 RDMA 网络管理
- 零信任安全:每台服务器都需要端到端加密,DPU 硬件加密卸载是刚需
- 云原生化:容器密度极高时,OVS/网络策略开销成倍放大,DPU 卸载价值更明显
- 存储计算分离:NVMe-oF 普及,DPU 作为主机端 initiator 加速器,卸载存储协议处理
供给格局
- NVIDIA 凭借 BlueField + CUDA 生态占据主导地位 [行业普遍认知]
- 超大规模厂商(AWS、Azure)趋向自研 / 定制(如 AWS Nitro、Azure Boost 基于收购的 Pensando/Fungible 技术)
- 国产替代需求明确但产品成熟度差距大:国内云厂商(阿里、腾讯、字节)有 DPU 定制需求,国产 DPU 初创公司处于产品研发和小批量验证阶段
代表公司与资本映射
| 公司 | DPU 产品/战略 | 资本市场关联 | 竞争位势 |
|---|---|---|---|
| NVIDIA (NVDA) | BlueField-3/4, DOCA 生态 | 纳斯达克上市 | 🏆 全球 DPU 市场份额最大,GPU+DPU 协同生态壁垒极高 |
| AMD (AMD) | Pensando(2022 年收购), Pensando DPU / DSC | 纳斯达克上市 | Azure 大规模验证背书,CPU+GPU+DPU 全栈潜力 |
| Broadcom (AVGO) | Stingray PS 系列 | 纳斯达克上市 | 网络/交换芯片生态协同,超算场景优势 |
| Intel (INTC) | IPU 战略(Mount Evans 后续产品线) | 纳斯达克上市 | 产品线近年经历战略调整,执行力待观察 |
| Marvell (MRVL) | OCTEON 系列 DPU/基础设施处理器 | 纳斯达克上市 | 电信基础设施场景有积累 |
| 中科驭数 (YUSUR) | KPU 架构 DPU | 一级市场(多轮融资) | 国产 DPU 头部企业之一,产品处于早期推广阶段 |
| 云脉芯联 (Yunsilicon) | YSC 系列 DPU | 一级市场 | 国产 DPU 初创 |
| 星云智联 (Nebula Matrix) | NM 系列 DPU | 一级市场 | 国产 DPU 初创 |
| 大禹智芯 (Dayu Semi) | DPU 芯片 | 一级市场 | 国产 DPU 初创 |
注意:国产 DPU 公司的产品成熟度、流片状态、客户验证进展等信息更新较快,建议以各公司最新官方披露和行业调研为准。
产业链观察框架
核心论点
1) AI 超算集群是 DPU 最确定的增量需求
- 每个 AI 训练服务器节点需要 200G/400G RDMA 网络 → DPU 负责管理 RDMA 流量、拓扑、QoS
- 大型 AI 集群(万卡以上)对基础设施自动化管理的要求极高,DPU 是必需组件
- AI 数据中心的 TCO 优化压力(每张 GPU 都很贵,CPU 应全力服务 GPU)进一步强化 DPU 价值
2) NVIDIA “CPU + GPU + DPU” 三芯片战略提升平台粘性
- BlueField 与 CUDA/Mellanox InfiniBand/RoCE 形成闭环
- DOCA SDK 软件生态提高迁移成本
- 这不仅是硬件销售,更是平台锁定
3) 超大规模厂商自研趋势 = 确认 DPU 的价值,同时重塑供给格局
- AWS Nitro、Azure Boost 等自研方案证明了 DPU 的不可替代性
- 但自研同时压缩了第三方 DPU 厂商在 hyperscaler 中的 TAM
4) 国产替代是中长期逻辑
- 数据中心基础设施芯片的安全自主可控诉求明确
- 但国产 DPU 产品与国际龙头的差距较大(2~3 代以上),短期以跟踪为主
风险
- 超大规模厂商自研 → 第三方 DPU 的市场空间可能被挤压
- DPU 功能集成到 CPU/NIC → 长期存在”功能被上/下游吃掉”的风险(如 Intel 将部分 IPU 功能集成到 CPU 中)
- 技术路线不确定性 → DPU vs IPU vs SmartNIC 的定义边界仍在模糊化
- 国产 DPU 初创 → 技术壁垒高、客户导入周期长、竞争激烈
常见误读纠偏
❌ 误读 1:“DPU 就是 SmartNIC,只是换个名字”
纠偏:SmartNIC 是一个更宽泛的概念,泛指具备可编程能力的网卡(可能只有一个 FPGA 或小型处理器)。DPU 的定位更重——它有独立的多核 Arm 处理器可运行完整操作系统,有丰富的硬件加速器集群,强调的是全栈基础设施卸载。可以理解为:所有 DPU 都是 SmartNIC,但不是所有 SmartNIC 都是 DPU。DPU 是 SmartNIC 的”重量级”子集。
❌ 误读 2:“DPU 会取代 CPU”
纠偏:DPU 取代的是 CPU 上运行的基础设施软件所消耗的 CPU 资源,而不是 CPU 本身。CPU 仍然是业务应用(数据库、Web 服务、AI 框架主机端代码)的核心运行平台。DPU 的价值是释放 CPU,而不是替代 CPU。
❌ 误读 3:“DPU 市场被 NVIDIA 垄断,其他厂商没机会”
纠偏:NVIDIA 在 DPU 市场确实占据领先地位,但超大规模云厂商(AWS、Azure、Google)出于供应链安全和定制化需求,都在走自研路线。这意味着 DPU 市场的格局更可能是”NVIDIA 主导企业/HPC 市场 + 超大规模厂商自研为主”的二元结构,而非单一厂商垄断。此外,Broadcom、AMD 在特定细分场景也有竞争力。
❌ 误读 4:“DPU 是个独立的大芯片,和网卡没关系”
纠偏:DPU 物理上就是一张PCIe 扩展卡,外形与传统网卡(NIC)相同,安装在服务器的 PCIe 插槽上。它是从网卡/SmartNIC 演化而来的,而不是一个全新的板卡品类。理解这一点对供应链分析很重要——DPU 的上游供应链与高速网卡高度重叠。
学习路径
入门(2~4 小时)
- NVIDIA DPU 官方介绍页面 → 理解 DPU 是什么、为什么需要、BlueField 产品线概览
- Jensen Huang GTC 2020 Keynote(搜索 “GTC 2020 DPU Jensen”)→ 理解 DPU 概念的首次系统性提出
- “What is a DPU” 类综述文章 → 对比 SmartNIC、DPU、IPU 的区别
进阶(1~2 天)
- NVIDIA DOCA SDK 文档 → 理解 DPU 的软件编程模型
- BlueField-3 Datasheet / Product Brief → 掌握具体硬件规格
- OVS offload 原理(搜索 “OVS hardware offload DPU”)→ 理解最核心的卸载用例
- NVMe-oF over DPU 相关白皮书 → 理解存储卸载
专家级(持续跟踪)
- OCP (Open Compute Project) DPU/IPU 子项目文档 → 行业标准化进展
- 各云厂商技术博客:AWS Nitro、Azure Boost 系列文章
- Hot Chips、NetDev、Linux Plumbers Conference 等会议论文/presentation
- 国产 DPU 厂商的公开技术白皮书和发布会(关注产品迭代进展)
一句话总结
DPU 是数据中心从”以 CPU 为中心”走向”以加速为中心”的关键基础设施芯片,它用专用硬件 + Arm 核心接管了虚拟化网络、存储、安全等”基础设施税”,让 CPU 和 GPU 专注于真正创造业务价值的计算——这一逻辑在 AI 时代被进一步放大。
延伸阅读与来源
| 来源 | 内容 | 类型 |
|---|---|---|
| NVIDIA BlueField 产品页面 | DPU 官方定义、规格、架构图 | 厂商官方 |
| NVIDIA DOCA SDK 文档 | DPU 软件编程模型、API | 厂商官方(技术) |
| AWS Nitro System 白皮书 | 超大规模自研 DPU 的架构参考 | 云厂商技术文档 |
| Microsoft Azure Boost 公开博客 | Azure DPU 架构与 Pensando 集成 | 云厂商技术文档 |
| Open Compute Project (OCP) | DPU/IPU 标准化、互操作性规范 | 行业标准组织 |
| Hot Chips Conference Proceedings | DPU 芯片架构深度技术演讲 | 学术/行业会议 |
| 各研究机构 DPU 市场报告 | 市场规模、增长预测、份额 | 第三方研究(注意口径差异) |
| AMD / Pensando 收购公告 | Pensando 技术能力和产品定位 | 上市公司公告 |
| 各国产 DPU 厂商官网 | 产品状态、融资进展 | 初创公司公开信息 |
免责声明:本页中涉及的市场数据、公司竞争位势、产品规格等信息来自公开渠道和行业普遍认知,部分量化数据标注了来源口径。具体投资决策请以最新官方披露和专业研究报告为准。文中涉及的个股分析仅为概念学习目的,不构成投资建议。
更新说明:本页基于截至编写时间的公开信息整理。DPU 是一个快速演进的品类,产品代际、市场格局、技术路线均可能在 6~12 个月内发生显著变化,建议定期更新认知。