网络层 开放阅读

In-network Computing

In-network Computing

概念 ID
in-network-computing
更新时间
2026-05-29
来源数量
待补

In-network Computing

1. 3 秒看懂

In-network Computing(网络内计算)的核心定义是:将应用程序的计算任务从服务器 CPU 卸载到网络数据路径中的设备上执行,让数据在传输过程中“边流动、边计算”。

  • 本质:一种变革性的数据中心架构范式,网络不仅承担“管道”角色,更成为分布式的“主动计算节点”。
  • 核心矛盾:CPU 性能增长已显著滞后于网络带宽从 100G 向 400G/800G 甚至 1.6T 的跃升速度。CPU 处理网络数据包的开销(如协议栈、数据拷贝、加密)吞噬了大部分算力,成为系统瓶颈。
  • 关键动作:利用可编程交换机、智能网卡(SmartNIC)、数据处理单元(DPU)或基础设施处理单元(IPU),在网络路径上直接执行数据聚合、压缩、加密、负载均衡甚至部分应用逻辑。
  • 可见结果
    • 延迟敏感型应用提速:分布式 AI 训练中的梯度同步时间可缩短 30%–50%(来源:NVIDIA Mellanox SHARP 技术白皮书,2022 年)。
    • CPU 资源释放:可将 20%–30% 的主机 CPU 核心从基础设施任务中解放出来,用于创收型业务负载(来源:Intel IPU 解决方案简报,2023 年)。
    • 能效提升:专用硬件执行特定网络功能,其能效比是通用 CPU 的 10 倍以上(来源:Hot Chips 2022 会议,Broadcom 工程师演讲)。

一句话记忆:In-network Computing 把“路”变成了“移动的分布式计算机”,解决了网比机快、机拖网速的剪刀差难题。

2. 3 分钟产业解释

In-network Computing 并非单一产品,而是由硬件、软件、协议和应用共同定义的一整套技术体系。它诞生的根源是“内存墙”和“I/O 墙”问题在分布式系统时代的集中爆发:当数百甚至数万个计算节点通过高速网络互联时,数据搬移本身消耗的能量和时间,已远超实际计算。

产业角色如何理解它?

  • 对于云厂商(如 AWS、阿里云),它是实现虚拟化开销归零的终极手段。通过 Nitro 卡、DPU 等卸载卡,将网络、存储虚拟化及安全管理从宿主机物理剥离,实现服务器资源的“裸金属”化售卖,同时保持弹性。
  • 对于AI 与 HPC 集群,它是维持线性扩展性的关键粘合剂。传统的集合通信(如 AllReduce)会产生“拥塞爆炸”和多轮通信开销,而支持网内计算的交换机可在中间节点直接对梯度进行求和(网内聚合),让通信时间不随节点数增加而线性增长。
  • 对于企业级存储与数据库,它让数据访问路径变得更短。网络设备可以识别并缓存热点键值(Key-Value Cache),或直接在路径上执行共识协议(如 Raft/Paxos),避免数据反复穿越软件栈。
  • 对于网络安全,它将被动防御变为主动免疫。分布式拒绝服务(DDoS)攻击流量可在进入服务器前的第一跳交换机上就被识别和清洗,防火墙策略可以以线速在数据平面强制执行。

从产业链视角看,它处于一个承上启下的枢纽地带:

  • 向上:拥抱云原生与 AI 应用生态,需要无缝对接 Kubernetes、PyTorch Distributed、Spark 等框架的通信原语。
  • 向下:深度依赖于可编程芯片(ASIC)和 FPGA 的进步,要求交换机芯片厂商和网卡厂商提供足够灵活、高效的编程接口。
  • 横向:正与存算一体(Computational Storage)等技术融合,共同构建“数据在哪,计算就在哪”的全局数据路径加速闭环。

其商业化的核心挑战在于:如何将高度紧耦合的封闭系统(如 InfiniBand 生态下的 SHARP)的经验,下沉到更通用、更开放的以太网生态中,并解决编程模型碎片化、多租户隔离、运维可观测性等一系列工程难题。

3. 技术原理

In-network Computing 的技术实现,是沿着网络数据的处理流水线,在不同位置、不同抽象层次上注入计算能力。其核心原理可以从流水线模型、计算模型和执行位置三个维度拆解。

3.1 可编程数据平面:计算注入的“手术刀”

传统固定功能的交换机芯片,其报文处理流水线是硬编码的(解析、查表、转发、调度)。In-network Computing 的基础是让这条流水线变得可编程。

  • P4 语言与协议无关的转发:P4(Programming Protocol-independent Packet Processors)允许开发者自定义报文的解析图(Parser)和匹配-动作流水线(Match-Action Pipeline)。不必再等待 IEEE/IETF 定义新协议,即可在交换机上实现自定义的网内遥测(INT)或共识协议加速。
  • 有状态的处理:早期的可编程交换机仅能做无状态的数据包处理。实现网内计算的关键一步是引入带状态的内存(Stateful Memory),通常以寄存器(Register)的形式存在,允许流水线的不同阶段在纳秒级延迟内读写共享状态。例如,为一个数据流的所有数据包维护一个累加器,这便是网内聚合的电路级基础。
  • 流水线架构的约束:计算必须在一个极其严苛的约束模型下完成:每个流水线阶段只能执行有限次数的操作,且必须在一个极短的时间预算内(通常 < 1 纳秒)完成,以保证线速转发。这要求算法必须被极度简化并拆分成多个流水线阶段。

3.2 计算卸载的三个核心模型

依据计算耦合的紧密程度和资源形态,可分为三种模型:

  1. 交换机卸载模型(Switch-Offloading Model) 这是最经典的网内计算。计算逻辑与交换 ASIC 内部的转发流水线深度融合。

    • 网内聚合(In-network Aggregation):典型代表是 NVIDIA Mellanox 的 SHARP 技术。在 InfiniBand/RoCEv2 网络中,交换机的算术逻辑单元(ALU)可以直接从多路数据流中提取梯度向量,执行累加求和,然后将结果单播或多播回计算节点。它将 N 对多的通信模式转变为 N 对一,再从一对 N,理论上可将通信总数据量减少几个数量级。
    • 共识协议卸载:例如,将 Raft 协议的领导者选举心跳或日志复制的 Append 操作,直接实现在交换机流水线中。交换机作为中心化的序列器,可以以线速对并发的写入请求定序并广播,将共识延迟从毫秒级降至微秒级。
  2. 端侧卸载模型(End-point Offloading Model) 计算发生在服务器端的网络接口卡(NIC)上,而非网络中间的交换机。其核心载体是 SmartNIC 和 DPU/IPU。

    • 架构范式:DPU 通常集成了多核 ARM CPU、专用加速引擎(加密、压缩、正则表达式匹配)和高性能网络接口。它本质上是一台紧耦合于网络的微型计算机。
    • “NPU-on-NIC”:DPU 运行自己的操作系统和软件栈,将 Host CPU 的整个网络、存储、安全控制面完整地接管过来。当虚拟机要发送一个数据包时,DPU 负责完成所有封装、加密和策略检查,Host CPU 完全感知不到这个过程。
    • 关键硬件:NVIDIA BlueField-3, Intel IPU E2000/E2100, AMD Pensando DSC-200 系列,以及基于 FPGA 的自研方案(如微软 Catapult 项目)。
  3. 协同计算模型(Coordinated Model) 这是最复杂但也是最有前景的模型。它组合使用了可编程交换机和端侧 DPU,对计算任务进行层次化分解。

    • 任务划分:一个大型的分布式Reduce操作,可以在叶子交换机(Leaf Switch)上完成局部聚合,在骨干交换机(Spine Switch)上完成全局聚合。DPU 则负责在数据注入网络前对数据进行预整形和加密。
    • 协同案例:在分布式推荐模型的推理场景中,第一个交换机完成稀疏特征的查找(Embedding Lookup),数据流经第二个交换机时完成特征交叉计算,DPU 在客户端完成最终的轻量级打分和结果的硬件级加密传输。数据自始至终未触及服务器 CPU。

4. 关键参数

衡量 In-network Computing 技术优劣与成熟度的参数,与传统网络设备指标有显著不同,更强调计算有效性和开发效率。

指标类别关键参数衡量内容典型值/行业状态 (截至 2024 年)
转发面性能有状态操作线速在执行计算操作(读-改-写)时,不丢失带宽的吞吐量上限。单芯片 12.8Tbps – 25.6Tbps,400G*64 端口全双工线速。来源:Broadcom Trident 5 / Jericho 3-AI (2024年产品规格书)。
计算延迟增量相比纯二层/三层转发,引入计算后增加的每跳延迟。< 300纳秒 – 1.5微秒,取决于操作的复杂度(如单次累加 vs. 向量矩阵乘)。来源:Hot Chips 2023 学术成果展示。
寄存器/有状态内存容量用于存储聚合中间结果、流状态的内存大小。片上通常几十至几百MB,这决定了同时进行聚合的数据流的数量和每个流的键值空间。来源:Intel Tofino 3架构披露。
端侧卸载能力加密/压缩吞吐量DPU/SmartNIC 的内联硬件加速引擎的处理速度。200Gbps 线速 AES-GCM-256 加密 + 压缩/解压,不影响主机CPU使用率。来源:NVIDIA BlueField-3 DPU 规格书 (2023)。
主机CPU释放率典型场景下,能为主机腾出的CPU核心数/算力比例。20%-30% (网络密集型工作负载),甚至更高。来源:Intel IPU E2100 性能测试白皮书 (2024)。
编程框架性能“写一次,多硬件”可移植性用P4或框架编写的高级目标,能否不经大改即在不同ASIC上运行。挑战巨大。编译后资源利用率和性能差异可达50%以上,需深度手工优化。来源:ACM SIGCOMM 2022 多篇关于P4可移植性的论文。
计算绑定时间从定义一个新的网内聚合算法到在真实设备上部署验证的所需时间。从数周(仅软件)到数月(需硬件制造商深度介入),与软件敏捷性存在巨大鸿沟。来源:公开资料未见统一标准,为行业普遍痛点。
多租户隔离性<300>计算资源隔离粒度能否为不同租户共享的聚合计算资源(寄存器ALU)提供带宽、容量隔离。当前非常弱,多数方案依赖静态划分,难以实现动态的、细粒度的SLA保障。来源:NSDI 2023关于SwitchVirt的学术论文。

5. 技术路线

当前 In-network Computing 的技术路线之争,核心是“高度特化、封闭整合”与“开放通用、生态共建”之间的路线选择,同时伴随着算力物理形态的演进。

路线一:垂直整合的“全栈封闭”式(以 NVIDIA InfiniBand 为代表) 这是目前性能最强、商业化最成功的路线,其核心是从应用框架直接到硬件加速的垂直打通

  • 代表方案:NVIDIA Quantum InfiniBand 交换机 + ConnectX 网卡 + BlueField DPU + CUDA 生态。其网内聚合技术 SHARP 直接内置于 MPI(消息传递接口)库(如 OpenMPI、NVIDIA HPC-X)和 AI 框架的 NCCL 集合通信库中。
  • 优势:开箱即用,性能最优。应用开发者甚至无需知道 SHARP 的存在,MPI_Allreduce 调用即可自动触发硬件加速,延迟和带宽利用达到理论极限。
  • 劣势:锁定效应强,成本高昂,且技术演进完全依赖于 NVIDIA 一家公司的节奏,形成了一个封闭的技术王国。

路线二:标准以太网上的“开放平台”式(以超大规模云厂商主导) 此路线追求的是与现有云原生生态的兼容性和技术自主性,通过解耦硬件和软件来实现。

  • 代表方案
    • 可编程交换机 + P4:采用 Intel Tofino 系列或 Broadcom 支持 NPL(Network Programming Language)的芯片,使用开放的 P4 语言编写网络计算逻辑。典型案例如康奈尔大学等提出的 SwitchML、ATP 等分布式训练加速方案。
    • DPU/IPU + 云原生操作系统:AWS Nitro、阿里云 CIPU(云基础设施处理单元)、Intel IPU 等。将整个虚拟化软件栈(Virtio, NVMe-oF, OVS)卸载到 DPU 上,向上提供标准化的云服务接口,而物理服务器的算力被“无装修”地全额出租。
  • 优势:避免供应商锁定,软硬件可独立迭代,成本可控,能更好融入已有的VPC、ELB等云网络体系。
  • 劣势:性能优化上限不及封闭系统,尤其在网内聚合等深度配合场景,需要付出巨大的工程努力才能达到接近 InfiniBand 的效果,中间件和上层应用的适配工作量大。

路线三:以数据路径为中心的“异构融合”式 这是一条面向未来的路线,不再分体和终端算力,而是将计算构建在统一的高速数据路径上。

  • 代表方案
    • CXL(Compute Express Link)使能的分解式架构:CXL 2.0/3.0 协议允许 CPU、GPU、DPU、内存、加速器通过 CXL 交换机共享一个高速、缓存一致性的内存池。In-network Computing 的范畴从处理网络包,扩展到处理内存访问。一个 CXL 交换机可以看作一个近内存的计算节点,直接在数据所在的池上执行过滤、聚合等操作。
    • SmartNIC 与 GPU 的融合:如 NVIDIA 的 BlueField DPU 通过 PCIe 与 GPU 直连(GPUDirect RDMA),未来将 DPU 的 Arm 核、GPU 的 CUDA 核和网卡 ASIC 融合成一个统一的、由数据驱动调度的计算阵列。数据到达网卡后,在触发 CPU 中断前,就可能已被 DPU 处理并由 GPU 计算完毕。
  • 优势:打破了服务器“盒子”的边界,实现了真正的以数据为中心的架构,资源效率最高。
  • 劣势:高度依赖 CXL、UEC(超以太网联盟)等新生态协议的成熟,标准仍在激烈博弈中,大规模商用尚需时日。

6. 上游

In-network Computing 的上游是高壁垒的半导体和精密制造行业,其供给状况直接决定了产业的创新速度和成本结构。

  • 可编程交换机 ASIC:这是网内计算的“大脑”:
    • Broadcom(博通):绝对王者。其 Trident 和 Tomahawk 系列主宰了云数据中心市场,XGS 系列贡献了绝大部分份额。其推出的 Jericho3-AI 芯片专为 AI/ML 集群设计,主打低延迟和网内遥测。其编程语言 NPL 是事实标准之一。截至 2024 财年 Q2,其网络芯片业务营收增长强劲,是 AI 资本开支的直接受益者。
    • Intel(英特尔):通过收购 Barefoot Networks 获得 Tofino 系列 P4 可编程芯片。Tofino 在学术界和需要高度自定义协议的运营商、科研网络中有大量部署,但相较于 Broadcom,其市场份额和更新迭代速度(至 2024 年 Tofino 系列路线图公开信息滞后)处于挑战者地位。
    • Marvell(美满电子):通过收购 Innovium,获得了与 Broadcom 直接竞争的 Teralynx 交换机芯片,主打大规模云数据中心,强调低功耗和可编程性,已赢得部分头部云客户。
    • NVIDIA(英伟达):其 Quantum InfiniBand 和 Spectrum 以太网交换机 ASIC 均为自研,是封闭体系的内循环供应。
  • DPU/IPU 核心芯片
    • 架构授权与制造:DPU 内部集成的 ARM 处理器核、高速 SerDes(串行器/解串器)、PCIE/CXL 控制器、加密/压缩加速 IP 核,均需要从 Arm(安谋)、Synopsys(新思科技)、Cadence(楷登电子)等公司获取授权。芯片本身的制造高度依赖台积电(TSMC) 7nm、5nm 等先进制程。
    • FPGA 方案:赛灵思(现 AMD)和 Altera(现 Intel)的 FPGA 是自研 DPU 的关键部件,尤其适合应用仍在快速演进的场景,可提供硬件级的灵活性和可重配置性。
  • 高密度光/电互联
    • 800G 甚至 1.6T 端口的实现依赖于 112Gbps/224Gbps SerDes 的成熟,以及高阶调制的光模块。上游供应商如 Coherent、Lumentum、旭创科技等光模块公司,以及 Keysight(是德科技)等提供信号完整性测试方案的厂商,是确保高速网络计算能“跑起来”的物质基础。

7. 下游

下游指直接使用 In-network Computing 产品的最终客户和集成商,其采购决策和使用方式定义了市场需求。

  • 超大规模云服务商(Hyperscalers):AWS、Microsoft Azure、Google Cloud、阿里云、腾讯云。
    • 需求特征:技术驱动、定制化需求极强。他们既是用户,也越来越多地成为自研方案的设计者。AWS Nitro 和阿里云 CIPU 的实践,证明了云厂商是推动这一技术从实验室走向规模化商用的终极推手。他们向上游购买芯片 IP 授权和制造产能,向下交付弹性的、安全的云服务。他们的自研方案已部署在百万级服务器的巨大规模上(AWS re:Invent 2023 披露,Nitro 作为其所有 EC2 实例的底座,出货量累计已突破千万)。
  • AI 与 HPC 集群的最终拥有者
    • 科技巨头:Google、Meta、字节跳动、快手等。他们利用 InfiniBand 或高带宽以太网搭建的大型GPU训练集群,是 NVIDIA SHARP 等高端网内计算功能最核心的采购方。其对通信延迟的极度敏感,使得他们是最愿意为“微秒级”性能提升支付高昂溢价的群体。
    • 国家/超算中心:采购用于建设国家级超算(E级超算)和新型的智算中心。如HPC Top500榜单中排名前列的系统。
  • 企业级市场的集成商与最终用户
    • 服务器 OEM 厂商:戴尔、HPE、联想、浪潮信息等。他们将 DPU 作为可选配置集成到标准服务器中,向企业客户销售。他们的采纳速度,决定了 In-network Computing 能否走出超大规模市场,进入主流。
    • 金融、电信等垂直行业用户:金融追求极致的低延迟交易,电信追求 5G 核心网(UPF)的高效数据面卸载。他们是 DPU 在虚拟化卸载、网络安全加速等场景的早期尝鲜者,但采购规模远小于前两者。

8. 受益公司

本分析基于产业逻辑,识别出在技术替代和产业增长中可能获得商业利益的代表性公司,不构成任何投资建议。

  • 核心受益者 - 定义市场规则者

    • NVIDIA(英伟达):最大受益者。其 BlueField-3 DPU + Quantum/Spectrum 交换机 + CUDA 构建的算力网络飞轮,是目前唯一经过大规模 AI 集群验证的端到端网内计算方案。其在 InfiniBand 市场接近垄断(公开资料未见权威市占率,产业共识是>80%),并正将技术壁垒延伸至以太网生态。
    • Broadcom(博通):确定性受益者。无论谁家的 DPU 或服务器,只要数据中心使用以太网,大概率就会用到博通的交换机芯片,尤其是在叶脊架构中。网内计算带来的交换机芯片价值量提升(从普通管道到智能节点)是其长期增长的重要叙事。根据公司 2024 财年 Q1 财报,AI 相关的网络芯片营收同比增长超过 30%。
  • 关键挑战者 - 试图重构生态者

    • Intel(英特尔):拥有 IPU + Tofino + Gaudi AI 加速器 + 至强 CPU 的完整拼图,但其面临的挑战在于如何将这些技术组件深度融合,形成与 NVIDIA 匹敌的统一生态,并扭转市场预期。其 IPU 在云厂商侧(如 Google Cloud 的 Mount Evans IPU 合作)是关键突破口。
    • AMD(超威半导体):收购了 Pensando 获得了成熟的 DPU 技术和微软、IBM 等关键客户;收购赛灵思获得了 FPGA 能力。其在硬件层面已有足够实力,但软件生态的融合与 NVIDIA 的 CUDA/NCCL 相比仍有巨大差距。
    • Arista Networks(阿里斯塔网络):作为云原生交换机市场的领导者,虽然不制造芯片(主要依赖 Broadcom),但其 EOS(可扩展操作系统)具备极强的可编程性,被视为在软件层面释放硬件网内计算能力的关键入口,天然受益于标准以太网路线的扩张。
  • 潜在受益者 - 价值重估者

    • 云服务商:AWS(亚马逊)、阿里巴巴。他们的自研芯片和系统(如 Nitro, CIPU)是其实现成本结构革命性优化的内生引擎,是其长期保持盈利能力的关键,难以被外力直接复制。此优势深植于其公司内部能力,外部分析难以量化。

9. 市场规模

由于 In-network Computing 并非一个独立的、可分割的市场,而是一种横跨交换机、网卡和服务器负载的能力,其市场规模只能通过它所依附的硬件载体和节省的 TCO 进行交叉估算。任何精确的市场规模数字都具有高度推测性,此处提供结构化的估算路径和观察。

  • 载体的市场(TAM - 总可寻址市场)

    • 数据中心以太网交换机芯片市场:这是交换机侧网内计算的物理基础。根据研究机构 650 Group 在 2024 年 1 月发布的报告,该市场在 2023 年约 120亿美元,并预测到 2028 年将增长至接近 250亿美元,主要驱动力正是AI/ML集群对高吞吐、低延迟可编程交换机的强劲需求。其中,适用网内计算的“高级”可编程芯片的占比在快速提升,远超通用交换芯片(来源:650 Group,《Data Center Switch ASIC Market Forecast 2024》)。
    • DPU/IPU 市场:这是一个高增长、高预期的战场。根据 Dell’Oro Group 2024 年初的报告数据,全球 DPU 市场(含 SmartNIC)在 2023 年达到约 15亿美元,并预计在 2024 年超过 20亿美元。预计未来五年复合年增长率(CAGR)将保持在 25%-30%的水平,到 2028 年市场规模有望冲击 50 亿美元(来源:Dell’Oro Group,《Ethernet Adapter and Smart NIC Report》,2024年Q1预测)。其渗透率从“网卡即插即用”转向“DPU全方位卸载”的过程将是市场增长的关键。
  • 由价值估算的“衍生市场”

    • 这是产业的真正引擎:客户不是为“网内计算”这个名词付费,而是为其节省的主机 CPU 成本付费。一个粗粒度估算:如果 1 台价值 1万美元的服务器,其 25% 的算力被网络/存储任务占用,则浪费成本为 2500 美元。若一块售价 1500 美元的 DPU 能彻底解放这些算力,其拥有立竿见影的 TCO(总体拥有成本)经济性。在一个百万级服务器的云数据中心,这种逻辑就意味着数十亿美元的净效益。这也是为什么大型云厂商愿意在 DPU 自研上投入数十亿级研发费用的根本原因。
  • 区域市场观察

    • 北美:绝对的主导市场,集中了所有头部云厂商和芯片设计商。
    • 中国:市场潜力巨大但面临特殊性。受制于先进制程芯片的获取,市场在向“架构创新换制程空间”的方向发展,CXL 等新兴技术被寄予厚望。阿里云(CIPU)、移动云(自研 DPU)的本土实践走在行业前列,但大规模扩张受到芯片供应链的刚性约束。

10. 玩家对比

此榜单聚焦于提供完整产品或核心平台的玩家,而非部件供应商。

维度NVIDIA (英伟达)Intel (英特尔)AMD (超威半导体)AWS (亚马逊云科技)Broadcom (博通)
核心产品/平台BlueField DPU + DOCA 框架 + Quantum/Spectrum 交换机IPU (E2000系列) + Tofino 交换机 + oneAPI/IAG 框架Pensando DSC DPU + Alveo SmartNIC (FPGA) + Ryzen/EPYC 生态Nitro 卡 + Nitro 系统 / Graviton CPUTrident/XGS/Jericho 系列 以太网交换机ASIC + NPL 编程语言
技术路线全栈封闭,垂直最优。硬件与 CUDA/NCCL 深度绑定,强调开箱即用的性能。开放生态,全面拼图。试图用 open API 统一IPU、交换机、GPU的编程,但整合进度慢。异构开放,服务重点客户。收购 Pensando 带来成熟DPU软件栈,微软是核心合作样板。高度自用,定义新标准。定制硬件与自研软件完美结合,为优化内部负载而生,不对外销售。基石供应商,赋能生态。提供最强大的核心引擎(交换机芯片)和编程工具(NPL),让下游(如Arista、Cisco)构建方案。
网内聚合能力最强 (SHARP),已在运营商级别大规模部署,支持浮点运算。基于Tofino,学术研究驱动。SwitchML、ATP 等创新方案多基于此,但商业化集成度不高。公开方案/产品中未见成熟的网内聚合功能,聚焦于端侧卸载。Nitro 系统核心在于卸载,网内聚合未见公开大规模部署。在芯片(如 Jericho3-AI)和 SDK 层面提供网内遥测和基础聚合原语,由下游方案商实现。
软件生态与易用性DOCA 生态。最成熟,类似 CUDA 的成功路径,拥有海量开发者、库和文档,学习曲线相对平缓。oneAPI / IPDK。愿景宏大,但组件分散,生态影响力远不及 CUDA,落地案例不如 NVIDIA 丰富。相对聚焦,软件栈围绕一套成熟的 API 构建,主要响应大型客户定制需求,社区广度不足。内部极致高效,外部不相关NPL (Network Programming Language)。类似硬件驱动的 SDK,主要服务设备商(OEM/ODM)的研发工程师,而非应用开发者。
主要客户场景高价值AI/HPC集群,如大型科技巨头的千卡万卡训练场。云厂商的虚拟化卸载、通信运营商边缘/核心网 UPF 卸载。微软 Azure 云、Oracle 云、IBM 云等大型二线云厂商;金融、企业数据中心。AWS 全球数百万客户,但都是通过 EC2 实例间接使用,是标准服务的底层不可见组件。所有使用商用交换机的厂商,如 Arista、Cisco、Juniper、Dell、HPE 及大型云厂商的自研交换机。

小结:当前竞争格局是 一个全能冠军(NVIDIA)与一个万能的引擎供应商(Broadcom),加上几个追赶的整机方案提供商(Intel/AMD)和自成一体的巨无霸用户(AWS) 之间的复杂博弈。技术路线胜出的关键,正从纯粹的硬件性能比拼,转向软件生态的粘性、开发者亲和力和大规模运维便捷性之争。

11. 风险

  • 技术锁定风险:以 NVIDIA InfiniBand/SHARP 为代表的封闭方案提供了最佳性能,但导致用户被深度锁定。一旦采纳,未来转换到以太网方案的迁移成本和风险极高,技术栈和运维团队技能都将被固化。这导致客户议价权丧失。
  • 开放生态的碎片化风险:开放的 P4+以太网路线试图打破锁定,但自身面临碎片化问题。一个为 Intel Tofino 编写的 P4 网内聚合程序,很难直接高效运行在 Broadcom 的芯片上,需要对两种芯片的微架构进行深度手工优化,这与“软件定义”的初心理想相悖。
  • 可运维性和可观测性“黑盒”风险:将应用计算逻辑沉入到网络交换机和网卡后,整个分布式系统调用链的调试和追踪变得极其困难。传统的 tcpdump, strace, 分布式追踪(如 Jaeger)工具全部失效。当一次 AI 训练任务变慢,工程师几乎无法判断是 GPU 问题、代码问题还是交换机上的聚合逻辑死锁。这构成了大规模上线的主要心理与工程障碍。
  • 多租户安全与隔离风险:在公有云环境中,允许多租户的应用逻辑共享同一台交换机的计算资源(寄存器、ALU),可能导致严重的侧信道攻击和隐私泄露风险。一个租户的恶意或异常负载,可能通过消耗计算资源或观察执行时间延迟,推断其他租户的聚合数据。目前尚无成熟的、经过形式化验证的硬隔离方案。
  • 供应链风险:整个产业集中于先进制程。核心组件如 DPU/交换机 ASIC 高度依赖台积电 5nm/7nm 工艺和 CoWoS 等先进封装,单点故障风险巨大。尤其对中国用户而言,获取高性能 In-network Computing 核心硬件的路径充满了政策和出口管制的不确定性。

12. 误读纠偏

  • 误读 1:“普通交换机升级个系统就能实现网内计算。”

    • 事实:绝对错误。实现网内计算,尤其是在交换机线速下做聚合,必须依靠芯片硬件层面的支持,即 ASIC 内设计了专门的有状态 ALU 和寄存器。普通的、哪怕功能再强大的可编程管道,如果没有这些物理硬件单元,就无法高效实现网内计算,只能做无状态的数据包改写和转发。这是物理鸿沟,绝非纯软件补丁。
  • 误读 2:“In-network Computing 就是 SmartNIC/DPU。”

    • 事实:DPU 是端侧卸载(End-point Offloading)的核心,但不是网内计算的唯一或全部。严格意义上的“网内计算”,其独特优势在于利用网络拓扑的中间节点(如交换机)去优化整个通信模式(如流量风暴变成涓涓细流)。端侧的 DPU 和中间的交换机,两者协同工作才能构成完整的 In-network Computing 解决方案。此概念常被厂商有意或无意地混用,以扩大其产品外延。
  • 误读 3:“这是一个纯硬件问题。”

    • 事实:从芯片到应用之间的软件栈(编译器、驱动、中间件、库),其复杂性和重要性是硬件的十倍。如何让一个 PyTorch 的数据科学家在 Python 代码里无感地享受到交换机的聚合加速(这正是 NVIDIA DOCA+NCCL 在做的事情),是整个技术能否普及的“哥德巴赫猜想”。In-network Computing 的成败,最终是软件生态的竞争。
  • 误读 4:“它会取代通用 CPU,终结摩尔定律。”

    • 事实:它是一种异构计算的补充,而非替代。它将CPU不擅长的、高度重复和确定性的数据搬运及处理任务卸载出去,让CPU集中精力做其擅长的复杂逻辑和控制任务。这种“术业有专攻”的分工,恰恰是延缓而非终结摩尔定律效力的一种手段。

13. 最新事件

  • 2024 年 5 月 | 超以太网联盟(UEC)发布 1.0 版规范:由 AMD, Cisco, Broadcom, Intel, Meta 和 Microsoft 等发起的 UEC 联盟,公布了其 1.0 规范。目标直指 NVIDIA 的 InfiniBand,旨在改造以太网协议栈,使其能更好地支持 AI 和 HPC 的高性能网络需求,其中“网内计算”是未来规范的核心考量之一。这标志着开放的以太网路线对封闭路线的反击进入了新阶段。
  • 2024 年 4 月 | 博通发布 Jericho3-AI 交换机芯片:博通发布了专门为 AI/ML 集群优化的 Jericho3-AI 芯片,单芯片支持 26 Tbps 吞吐。尤为重要的是,其架构特别强调通过 Fabric 互联实现多芯片协同、极低延迟下的拥塞控制和网内遥测(INT),为以太网实现类似 SHARP 的聚合功能提供了更强大的硬件底座。(来源:Broadcom 官方新闻稿,2024年4月)。
  • 2024 年 3 月 | NVIDIA GTC 2024 发布 Spectrum-X 以太网平台进展:NVIDIA 宣布其专为 AI 优化的 Spectrum-X 以太网网络平台(包含 Spectrum-4 交换机、BlueField-3 DPU 和加速软件)已被多家头部云厂商和企业采用。此举被广泛解读为 NVIDIA 在巩固 InfiniBand 王座的同时,也开始用 DPU + 自研交换机的组合,发起对通用以太网市场的“收割”战,意图用一个软硬件一体化的优化方案重新定义 AI 以太网。(来源:NVIDIA GTC 2024 主题演讲)。
  • 2023 年 12 月 | 美国升级对华先进制程芯片出口管制:美国商务部工业与安全局(BIS)更新的出口管制规则,进一步限制用于数据中心和 AI 的高性能芯片对华出口,这使得中国本土云厂商和科技公司在获取高端 DPU 和可编程交换机芯片路径上,面临更大不确定性和现实阻碍,或将加速本土化替代和 CXL 等“弯道超车”技术的研发投入。

14. 跟踪指标

  • 技术渗透率指标

    • DPU 搭载率:跟踪主流服务器出货量中,配备 DPU/SmartNIC 的比例,尤其是除超大规模云厂商以外的企业级服务器市场。这是衡量产业从“小众”走向“主流”的最关键指标。数据可从 IDC 或 Gartner 的季度服务器跟踪报告中获取,并交叉验证 Dell’Oro Group 的网卡报告。
    • SHARP/ 网内聚合部署规模:这是衡量高端网内计算采用的“金丝雀”。关注 NVIDIA 财报电话会议中,管理层提及 SHARP 被部署的节点数或对 HPC/AI 业务拉动作用的定性描述。没有直接的数字,但措辞的变化是重要信号。
  • 生态与标准化指标

    • 超以太网联盟(UEC)规范的采纳进度:关注各厂商宣称支持 UEC 规范的交换机和网卡产品的时间表。第一批量产产品的上市将标志着以太网开放路线从纸面走向现实。
    • Linux 内核/IPDK 社区活跃度:In-network Computing 相关驱动、API(如 netdev 邮件列表中的相关讨论,IPDK 仓库的 PR 提交量和贡献者多样性)是衡量开放软件栈成熟度的先行指标。
  • 公司微观财务指标

    • NVIDIA 数据中心网络业务收入增速:密切关注 NVIDIA 财报中“数据中心”业务下,网络设备(交换机/DPU/网卡)的收入占比和增速。这是观察最先进行场景气度的硬指标。每个季度检视一次。
    • 博通交换芯片业务中“AI 集群”贡献增速:博通业绩会上,管理层常会单独拆分出面向超大规模客户的定制 ASIC 和 AI/ML 集群芯片的收入前景。这个数字直接关联到标准以太网路线的投入热度。
  • 竞争格局信号

    • 云自研 DPU 的更新换代节奏:如 AWS 发布新一代 Nitro、阿里云发布新的 CIPU 实例、Google 更新其 IPU 路线图。这些更新通常预示着新一轮数十亿美元级别的资本开支周期开启。

15. 信源

本部分提供用于长期跟踪和研究 In-network Computing 的高质量信息源,力求平衡权威性、时效性与前瞻性。

  • 官方厂商技术文档与产品页面

    • NVIDIA Networking(Mellanox) 技术博客与 BlueField DPU 产品规格书:获取 SHARP、DOCA 和 DPU 的第一手性能数据与架构白皮书。
    • Intel Developer Zone:IPU 与 Tofino 系列的编程指南、SDK 及 oneAPI 规范。
    • Broadcom 产品资料:可编程交换机芯片系列的规格与功能列表。
    • AMD / Pensando 技术资源:Pensando DSC 软件栈和 Alveo 加速卡相关文档。
  • 顶级学术会议与开源社区

    • ACM SIGCOMM, USENIX NSDI, USENIX OSDI:这是 In-network Computing 最前沿创新思想的策源地。几乎所有关于网内聚合、共识、缓存的突破性原型(如 SwitchML, ATP, NetCache, NetChain)均首发于此。关注官网发布的年度最佳论文和会议议程。
    • P4 Language Consortium (P4.org):获取 P4 语言规范、开源编译器、应用案例和白皮书的核心平台,是了解开放式可编程数据面的入口。
    • IPDK (Infrastructure Programmer Development Kit):一个由 Intel 发起、试图统一 DPU/IPU 编程的开源社区,其代码仓库的活跃度是观察开放生态进展的窗口。
  • 专业分析机构与独立分析师

    • 650 Group:专注于数据中心网络芯片和系统的精品研究机构,其交换机 ASIC 市场报告是行业标杆,尤其擅长量化 NPI(新产品导入)周期。
    • Dell’Oro Group:其《以太网适配器和 Smart NIC 报告》是跟踪 DPU 市场规模和市场份额最常被引用的来源。
    • The Next Platform:长期深度覆盖 HPC、AI 和大规模 IT 基础设施的独立技术媒体,其对 NVIDIA, Broadcom, Intel 等公司技术路线图的分析极具深度和批判性。
    • SemiAnalysis:偏重从半导体工艺、封装、互连(如 CXL, UEC)等上游视角分析云计算和数据中心架构的下游影响,尤其擅长供应链交叉验证,视角独特但需要其付费订阅获取深度报告。
  • 财务信源与数据库

    • 公司官方季度/年度财报(10-Q/10-K)及电话会议纪要:从 NVIDIA, Broadcom, Intel, AMD, Cisco, Arista 等的财务陈述中,提取关于网络计算相关产品线的收入、增长率和未来指引。
    • Seeking Alpha, Bloomberg, FactSet:这些平台整理和转录的财务电话会议纪要,是分析管理层措辞和预判产业趋势的便捷工具。
source: 公开披露与公开资料整理 本页仅用于产业链学习、信息检索和研究辅助;不构成投资建议,不预测涨跌,不提供买卖、仓位或目标价建议。
完整概念页 复盘 13 节结构 公司投研页 沿产业链找到受益公司 投资课 把概念转成可跟踪模型