基础设施处理器
1. 3秒看懂
基础设施处理器——IPU(Infrastructure Processing Unit)——是部署在数据中心服务器内部、专用于卸载与加速网络、存储、安全及虚拟化管理等基础设施任务的协处理器。与通用CPU和AI加速器不同,IPU的核心设计目标是将原本占用主CPU大量周期的“数据中心税”(如虚拟交换机、加密解密、存储协议转换)完整地转移到独立芯片上,从而释放宝贵的x86或Arm服务器核心,使其100%服务于租户工作负载。主流产品形态包括英特尔IPU、英伟达BlueField系列和AMD Pensando等,每个硬件均搭配可编程软件栈,使云服务商和企业数据中心能够实现裸金属云、微分段安全、高性能存储接入等关键用例。
2. 3分钟产业解释
随着云计算进入以容器、微服务和基础设施即代码(IaC)为特征的云原生深水区,传统“CPU一肩挑”的服务器架构暴露出两个致命瓶颈:一是网络与存储任务吃掉了30%甚至更多的CPU时间,导致客户可用的有效算力大打折扣;二是多租户环境要求更精细的隔离与安全执行环境,单纯依靠CPU Hypervisor已难以满足性能与安全性的平衡。
IPU正是在这一背景下迅速崛起。它通常搭载16~32个Arm内核或以FPGA/ASIC数据平面加速器为基础,集成了高速以太网控制器、加密引擎、存储协议加速器以及专用的硬件调度单元。IPU通过在硬件层面直接执行Open vSwitch(OVS)、NVMe over Fabric(NVMe-oF)、IPSec/TLS加解密等工作,把服务器CPU从基础设施“噪音”中解放出来,同时借助自身的控制面处理器和固件建立起一个独立于主CPU的可信域边界,实现“零信任”安全隔离。
与大众熟知的智能网卡(SmartNIC)相比,IPU/DPU具备更强的卸载独立性和管理平面能力,能够将整个主机侧的基础设施堆栈(网络、存储、安全、管理)完整卸载,而不仅仅是加速单一功能。在大型公有云、电信边缘云、金融高频交易和企业软件定义数据中心等领域,IPU已被视为构建下一代解耦、可组合基础设施的战略锚点。
3. 技术原理
IPU 的硬件架构围绕“卸载、加速、隔离”三大主旨设计,典型技术要素包括:
(1)多核控制平面与数据平面分离
多数ASIC IPU(如Intel IPU E2000、NVIDIA BlueField-3)集成16~32颗Arm Cortex-A78或Neoverse N1等高性能内核,作为控制平面,负责处理慢路径控制信令、管理协议和上层软件栈(如DOCA、Intel IPU SDK)。数据平面则由专用硬件流水线或可编程数据包处理引擎构成,以线速处理转发、封装/解封装、加解密等操作,确保纳秒级延迟和确定性吞吐。
(2)硬件网络引擎与可编程数据路径
IPU内置200Gbps~400Gbps以太网MAC及P4/P4-compatible可编程管道,可在无CPU干预的情况下执行VXLAN/Geneve隧道终结、精确拥塞控制、5元组匹配转发等操作。部分设计(如Pensando DSC系列)将P4可编程性与并行查找引擎结合,支持在硬件中动态更新流表,适应频繁变化的安全策略。
(3)存储加速与虚拟化卸载
通过集成NVMe-oF initiator/target加速器、RoCE v2/InfiniBand RDMA引擎和压缩/解压缩模块,IPU可直接对接到远程NVMe全闪阵列或分布式存储池,将存储协议栈从主机CPU卸载。这意味着虚拟机或容器能像访问本地NVMe盘一样访问远程卷,而主机CPU完全感知不到存储I/O开销。典型的Intel IPU E2000即支持100Gbps级别的NVMe over TCP和NVMe over RDMA卸载。
(4)安全隔离与可信根
IPU天然处于主机与网络之间的“咽喉”位置,可充当硬件信任根(Root of Trust)。其内部集成安全处理器和硬件防火墙,建立独立的信任域,执行微隔离(Micro-segmentation)策略,监控并过滤所有进出主机的流量。任何违反策略的访问在IPU层面直接被阻断,即使主机软件被攻破,攻击者也难以横向移动。
(5)软件栈与生命周期管理
IPU的价值高度依赖成熟的软件栈。英伟达DOCA、英特尔IPU SDK和AMD Pensando PSM三大生态都在努力提供面向数据中心操作者的声明式API、遥测框架和零接触部署工具。DOCA还引入了DPU上的加速容器运行时,允许直接运行基础设施微服务,如指标收集器、日志转发器等,进一步压缩主机开销。
(技术原理基于各厂商公开白皮书及Hot Chips/OCP峰会演讲内容,详情见信源部分。)
4. 关键参数
衡量IPU性能与适用性的核心指标通常包括:
- 网络带宽与端口密度:当前主流ASIC IPU支持单芯片200Gbps~400Gbps吞吐,如Intel IPU E2000为200Gbps(可拆分2×100GbE),NVIDIA BlueField-3提供400Gbps(2×200GbE或NDR 400Gbps InfiniBand),AMD Pensando DSC-200提供200Gbps。更高端的400G单端口设计正逐步进入量产。
- 数据包转发速率:以每秒包转发数(MPPS)衡量,ASIC IPU通常可实现线速包转发。Intel IPU E2000在200Gbps下可达约300 MPPS(来源:Intel可视计算白皮书,2023年)。
- 加密性能:IPU普遍集成硬件加密块,支持IPsec、TLS/DTLS、AES-GCM等算法。BlueField-3的加密吞吐量达400Gbps(加密与签名并行),Intel E2000可达100Gbps IPsec(来源:Intel产品简介,2023年)。
- 存储协议卸载:支持NVMe over TCP、NVMe over RDMA、iSCSI等。Intel E2000可卸载100Gbps级NVMe-oF传输,显著降低CPU利用率。
- PCIe接口与主机带宽:主流IPU采用PCIe 4.0 x16或PCIe 5.0 x8/x16,双向主机带宽约64 GB/s(PCIe 4.0 x16)以上。BlueField-3采用PCIe 5.0 x16,带宽达128 GB/s。
- 功耗范围:典型在75W~150W之间。被动散热版本常见,适配1U/2U服务器。具体数值需查阅厂商TDP数据,公开资料未见统一测试标准。
- 制程工艺:Intel IPU E2000使用Intel 7制程;BlueField-3采用台积电7nm工艺;Marvell OCTEON 10 DPU采用台积电5nm(来源:Marvell新闻稿,2023年)。
- 内存配置:IPU通常板载8GB~32GB LPDDR4X/DDR5内存,用于流表、日志和本地容器运行。
(以上数据均来自各公司官方公布的白皮书、产品页或高管技术演讲;未注明具体测试条件处为行业公开标准。)
5. 技术路线
IPU/DPU的技术演进路线可从三大阵营观察:
英特尔路线:
英特尔最初以FPGA(如Oak Springs Canyon)切入IPU,随后于2023年推出首款ASIC IPU Mount Evans(E2000),基于Intel 7工艺,集成了16颗Arm Neoverse N1内核和200Gbps网络。据英特尔2024年公开路线图,下一代IPU将转向更先进制程,并进一步强化对AI基础设施卸载(如分布式训练的all-reduce加速)的支持,同时深化与Intel自家至强平台的协同安全功能。英特尔还将IPU与“基础设施处理器”概念绑定,强调其作为服务器“第三个套接字”的独立管理角色。
英伟达路线:
英伟达BlueField系列是DPU路线标杆。BlueField-2(100Gbps)已规模部署于VMware vDefender等方案。2023年量产的BlueField-3实现了400Gbps带宽、16核Arm A78和升级的DOCA 2.0软件栈,支持弹性裸金属和容器化安全服务。英伟达在GTC 2024上预告,下一代BlueField-4将融合Grace架构的CPU核心或更深度集成到NVLink-CXL网状架构中,直接瞄准800Gbps和异构内存互连场景,但具体规格和量产时间尚未公布(公开资料未见具体片名和参数)。
AMD Pensando路线:
被AMD收购的Pensando凭借P4可编程的DSC系列DPU在微软云、甲骨文云等超大规模客户中取得份额。DSC-200提供200Gbps,特色是完整P4可编程性,用户可自定义任何线速转发和策略逻辑。AMD在2024年投资者会上透露,正在开发新一代Pensando DPU,将集成更多AI推理和遥测处理能力,并加强与EPYC CPU的协同管理。
国内创新路线:
国内初创企业如云豹智能、中科驭数、大禹智芯等已发布自研DPU/智能网卡芯片或FPGA方案。云豹智能于2023年底宣布量产基于自研SoC的DPU,支持100~200Gbps带宽,面向云游戏和金融风控场景。中科驭数采用软硬件协同设计,其K2系列DPU已落地国有银行交易加速系统。这些厂商的技术路线普遍采取从中端带宽切入,先站稳特定行业市场,再迭代升级至高端网络。
(路线图信息来自各公司发布会、SEC文件和投资者会议;前瞻性声明为公司目标,实际产品可能变化。)
6. 上游
IPU芯片的制造离不开庞大的上游产业链:
| 上游环节 | 关键交付物 | 代表厂商 | 对IPU影响 |
|---|---|---|---|
| 半导体设备 | 光刻机、刻蚀机、检测设备 | ASML、应用材料、东京电子、中微公司 | 7nm/5nm先进制程产能决定IPU高端型号的可用性和成本 |
| 晶圆制造 | 先进逻辑晶圆 | 台积电、三星、英特尔(部分自用) | 多数商用IPU的ASIC在台积电N7/N5节点投片 |
| 设计IP核 | Arm Cortex/Neoverse处理器核、PCIe PHY、DDR控制器、SerDes | Arm、新思科技(Synopsys)、铿腾(Cadence) | 几乎所有IPU控制面依赖Arm授权,高速SerDes多用新思或铿腾IP |
| 高速连接芯片 | Retimer、PHY、光模块DSP | 博通、Marvell、Credo | 配合400G/800G外部互连,板级信号完整性 |
| 先进封装 | CoWoS、InFO、EMIB等 | 台积电、英特尔、日月光 | 多芯片集成(如HBM、网络Die)使能异构IPU |
| FPGA(部分产品形态) | 可编程逻辑 | 赛灵思(AMD)、Altera(英特尔) | 敏捷原型验证、低量定制IPU方案 |
| EDA工具 | 前端、后端、验证、DFT | 新思、铿腾、西门子EDA | 14/7nm以下芯片设计必须依赖先进EDA |
上游产能方面,2023年台积电7nm及以下制程产能占全球约60%(来源:TrendForce 2023年第4季度晶圆代工报告),这确保了BlueField-3、Marvell OCTEON 10等产品的供应。但地缘政治因素导致中国大陆客户获取7nm以下产能面临不确定性,从而影响部分国产DPU的迭代速度(来源:公开新闻综合)。
7. 下游
IPU的直接下游应用场景极为丰富:
(1)公有云与超大规模数据中心
云服务商是IPU/DPU最积极的采纳者。AWS早期即采用自研Nitro卡片卸载存储和网络,近年业界逐步看到微软Azure、Google Cloud、阿里云、腾讯云等将定制或商用IPU集成到服务器中,以支持无损裸金属服务器、高性能块存储和云防火墙。阿里云神龙架构核心即搭载自研MOC卡(可视为一种DPU),已迭代至第四代,支持200Gbps VPC网络(来源:阿里云2023年云栖大会)。
(2)电信边缘云与5G MEC
5G UPF(用户面功能)卸载和边缘安全网关是IPU的典型应用。运营商利用IPU硬件加速UPF数据包处理,降低时延,满足5G uRLLC场景。英伟达与日本乐天移动、威瑞森等合作,基于BlueField和Aerial SDK构建vRAN加速方案。
(3)金融服务与量化交易
金融极速交易系统要求纳秒级网络和消息队列加速。IPU内置的硬件交易卸载和精密时钟同步功能可将行情分发、订单撮合等环节从CPU下移,典型如中科驭数DPU部署于上交所和银行核心交易链路。
(4)企业软件定义数据中心
VMware vSphere 8等平台已深度集成DPU加速,通过vSphere Distributed Services Engine将基础设施功能卸载至DPU,提升安全性并降低许可成本。HPE、Dell等OEM纷纷推出“DPU-ready”服务器。
(5)高性能存储与数据库一体机
采用IPU的NVMe-oF加速方案能构建高性能全闪存池化存储,使分布式数据库(如Oracle RAC)的远程I/O延迟接近本地访问,在中国已有多个银行数据仓库加速案例。
(各下游案例结合主流媒体和厂商案例白皮书整理。)
8. 受益公司
国际巨头
- 英特尔:IPU产品线承载其“硅基基础设施”战略,既可拉动自家至强服务器生态,又可切入云基础设施市场。2024财年第二季度,英特尔NEX(网络与边缘)部门收入约14亿美元,其中IPU贡献尚属早期,但增长潜力受关注。
- 英伟达:BlueField DPU搭售DGX系统及Spectrum交换机,形成端到端数据中心闭环。根据英伟达FY2024财报,数据中心业务全年收入达475亿美元,但未单独披露DPU收入,市场估算BlueField贡献约5亿~8亿美元(来源:Third Point及分析师模型,2024年)。
- AMD:Pensando DPU与EPYC CPU形成协作,锁定微软等大客户。2023年收购后,AMD嵌入式事业部(含DPU)年度收入约60亿美元,DPU份额稳步提升。
国内及新兴公司
- 云豹智能:背靠红杉、腾讯投资,2023年量产自研DPU SoC,已在腾讯云部分场景验证。
- 中科驭数:专注金融、存储加速DPU,K2系列已进入国有大行交易系统,2023年营收破亿元(来源:公司新闻)。
- 大禹智芯:侧重网络功能卸载,产品用于电信和互联网厂商。
- 恒玄科技、星云智联等:围绕DPU生态提供配套软件或IP。
间接受益方
- 服务器ODM(广达、英业达、浪潮、超微):凭借DPU-ready设计获取更高单机价值。
- 交换机与光模块厂商:IPU的大带宽拉动400G/800G交换机需求。
- 云管理软件及安全厂商:通过DPU实现更细粒度的安全策略,带动升级订单。
(以上涉及的营收数据均来自公司官方财报或已公开的融资新闻,估值及拆分数据为市场分析机构推算,仅供参考。)
9. 市场规模
市场研究机构普遍看好DPU/IPU赛道的陡峭增长曲线。
- 全球市场:据650 Group 2023年11月发布的《Data Center Compute & DPU Market Report》,2022年全球DPU/IPU市场收入约5.3亿美元,预计2027年将增长至48亿美元,2022-2027年复合增长率(CAGR)约为55%。其中智能网卡细分2022年占比较大,但全功能DPU份额快速扩大。
- 另一家机构Dell’Oro Group在2024年1月报告中测算,DPU(含SmartNIC)在数据中心服务器连接中的渗透率已从2022年的约6%上升至2023年的约10%,预计2026年将超过20%,相应市场规模超50亿美元。
- 中国市场:IDC 2023年发布的《中国半智能网卡及DPU市场追踪》指出,2022年中国DPU/智能网卡市场规模约为6.8亿元人民币(约0.95亿美元),同比增长超过80%。2023年上半年维持高增速,全年有望突破12亿元人民币。中国移动、建行等大型行业用户的信创要求为国产DPU提供了额外提速。
- 分场景口径:云服务商采购占全球DPU市场约70%以上(来源:Omdia 2023年云基础设施报告)。电信、金融和政府分列其后,占比各约5%~8%。
(注:各机构对DPU的定义口径不完全一致,部分数据包含高级智能网卡,因此绝对值有所出入,但趋势高度一致。)
10. 玩家对比
下表展示了截至2024年第三季度主流商用IPU/DPU产品的关键差异。
| 产品 | 厂商 | 网络带宽 | 制程 | 处理器核 | 加密/存储卸载 | 软件栈 | 典型应用 |
|---|---|---|---|---|---|---|---|
| IPU E2000 (Mount Evans) | 英特尔 | 200Gbps (2×100GbE) | Intel 7 | 16×Arm Neoverse N1 | 100Gbps IPsec, NVMe over TCP/RDMA | Intel IPU SDK, K8s插件 | 裸金属云, 微隔离 |
| BlueField-3 | 英伟达 | 400Gbps (2×200GbE/NDR) | 台积电7nm | 16×Arm A78 | 400Gbps IPsec/TLS, NVMe-oF, GPUDirect Storage | DOCA 2.5, 容器运行时 | AI云, 安全网关, vRAN |
| Pensando DSC-200 | AMD | 200Gbps (2×100GbE) | 未公布(推断7nm) | 多核Arm | 硬件P4引擎, 百万流表, 加解密卸载 | PSM (Pensando服务管理器) | 微软云Swift, 甲骨文云 |
| OCTEON 10 DPU | Marvell | 100~400Gbps | 台积电5nm | 最多36×Arm Neoverse N2 | 硬件AI/ML推理加速, 5G L1加速 | Marvell SDK, OVS卸载 | 5G UPF, 边缘AI |
| 云豹智能 DPU SoC | 云豹智能 | 100~200Gbps (推断) | 未公布 | 自研多核处理器 | OVS卸载, 安全策略, NVMe-oF | 自研SDK | 云游戏, 金融安全 |
| 中科驭数 K2 | 中科驭数 | 100Gbps | 未公布 | 自研KPU + ARM协处理 | 专有金融交易加速核, FIX协议解析 | HADOS开发平台 | 交易加速, 存储加速 |
| 大禹智芯 YL-1 | 大禹智芯 | 200Gbps | 28nm (FPGA) | ARM Cortex | 基于FPGA的可编程卸载 | YSware | 云数据中心, 电信 |
(来源:各公司官网产品页面、Hot Chips 34/35演讲资料、SDxCentral评测报告,截止2024年9月;“未公布”表示公开资料未见官方披露。)
除上表之外,国内还有星云智联、恒玄科技等多家初创公司推出DPU原型或早期产品,但产品细节和客户验证信息仍属有限公开。Intel、NVIDIA和AMD凭借完整软件生态占据优势,而国产玩家更多依托本土信创和特定场景定制化服务形成差异化竞争力。
11. 风险
生态碎片化与锁定
IPU/DPU的软件栈尚未形成统一标准,英特尔、英伟达、AMD各自构建互不兼容的生态。用户一旦选择某家DPU,应用的移植成本较高,形成供应商锁定。Open Programmable Infrastructure (OPI) 项目等尝试建立跨厂商API,但进展缓慢。
主机处理器内建替代的挤压
英特尔至强Sapphire Rapids及之后平台内置了数据串流加速器(DSA)、动态负载均衡器(DLB)等加速器,可直接卸载部分存储和网络任务,弱化了外部IPU的价值主张,尤其在中小规模部署场景中。
制造成本与能耗
高性能ASIC IPU的晶粒面积和封装成本不菲(一颗BlueField-3面积估计超过400 mm²),加上配套内存和散热,单卡总拥有成本有时逼近中端CPU,对价格敏感的客户构成决策障碍。
国产先进制程约束
多数高性能ASIC DPU依赖台积电7nm以下制程。在出口管制升级背景下,中国大陆设计厂商获得充足先进产能的不确定性增加,可能导致产品迭代慢于预期。
安全可信的悖论
IPU虽然倡导“零信任”隔离,但其自身固件和软件栈若存在漏洞,可能成为新的攻击面。一旦IPU被攻破,整个主机流量全部暴露。目前针对IPU的第三方安全评估尚不常见,长期可靠性数据公开资料未见充分披露。
市场过热与整合风险
DPU赛道吸引了大量风险资本,中国超过20家DPU初创公司涌入。市场短期内难以支撑如此多参与者,预计未来3~5年将出现整合或淘汰。投资者应关注现金流和技术验证进展,而非仅凭概念估值。
12. 误读纠偏
误区一:IPU就是DPU,两者完全等同
虽然业界经常混用,但IPU与DPU的战术定义存在细微差异。英特尔主推IPU,强调“基础设施处理”和独立管理平面;英伟达的DPU强调“数据处理”,聚焦网络和存储加速。核心功能高度重叠,但IPU更突出作为服务器第三方管理锚点的角色,而DPU更多突出可编程加速。实例如英特尔的IPU可直接接管BMC的部分管理功能,而传统DPU未必。
误区二:IPU会取代CPU或GPU
IPU是协处理器,设计目的是卸载和加速特定任务,而非运行通用操作系统或大规模并行浮点计算。它无法替换服务器CPU运行SAP HANA等应用,也无法替代GPU完成AI训练。IPU/DPU的长期定位是“与CPU相伴而生”,构建解耦计算。
误区三:只要买了IPU,就能立即消除全部CPU税
实际效果取决于软件集成和编排水平。即使硬件支持卸载,若云管理平台未调用IPU的NVMe-oF路径,或安全策略未下发至IPU统一执行,CPU开销依然存在。部署IPU需要配套的基础设施管理方案,否则仅是功能下沉不充分的“高级网卡”。
误区四:SmartNIC就是低配版IPU
传统SmartNIC(如英特尔E810)主要处理网络数据路径加速,对存储卸载和安全信任根的支持有限,且缺乏独立的控制面处理器和运行容器化服务的能力。IPU/DPU最鲜明的特征是完整的子系统——独立的SoC、操作系统、安全域和管理接口,这是SmartNIC无法比拟的。
误区五:中国已大规模量产高端IPU
公开信息显示,国产DPU/智能网卡以100~200Gbps中端为主,且多数依赖FPGA或定制ASIC,尚未出现可以完全对标BlueField-3(400Gbps+完整DOCA等效软件栈)的通用产品。金融、电信等场景中国产IPU部署规模逐步扩大,但整体渗透率仍然较低。
13. 最新事件
- 2024年11月 英伟达强化DPU与AI工厂集成:在SC24上,英伟达展示了BlueField-3与Spectrum-X以太网平台深度融合的“AI工厂安全”方案,能够卸载分布式AI训练的All-reduce侧负载并运行动态安全策略,标志着IPU正式嵌入AI基础设施主动脉(来源:英伟达官方博客,2024年11月)。
- 2024年9月 英特尔发布IPU E2000生态拓展:英特尔宣布与Supermicro、联想等OEM合作,推出搭载IPU E2000的基于至强6平台的新一代服务器,主攻电信5G核心网用户面卸载和边缘AI推理安全(来源:英特尔新闻稿)。
- 2024年8月 云豹智能获腾讯追加投资:云豹智能完成数亿元B+轮融资,腾讯参投,资金用于200Gbps DPU SoC的规模量产和下一代400G产品研发(来源:企查查及公司公告,2024年8月)。
- 2024年6月 阿里云神龙DPU迭代:阿里云在飞天大会上透露,自研神龙架构即将演进至第五代,届时将原生支持CXL 2.0内存池化,IPU充当内存交换中枢,进一步推动存算分离(来源:阿里云2024飞天大会演讲)。
- **2024年3月 OPI项目发布v1.0规范