SmartNIC（Smart Network Interface Card）

3 秒看懂

SmartNIC = 帶”大腦”的網絡卡。 它在傳統網絡卡（NIC）的硬體上集成了可程式設計處理器（通常為 ARM 核心陣列 + 可程式設計資料通路），將原本由伺服器 CPU 執行的網路、儲存、安全解除安裝任務轉移至網絡卡側完成。其核心價值是：把”啞網絡卡”變成”智慧資料面處理器”，釋放主機算力給業務。

3 分鐘產業解釋

為什麼資料中心需要 SmartNIC？

傳統資料中心架構中，伺服器 CPU 不僅要跑業務應用，還要承擔大量基礎設施”稅”：

網路虛擬化：Open vSwitch (OVS) 流表匹配、VXLAN/Geneve 封裝解封裝
儲存虛擬化：NVMe-oF 協議處理、分散式儲存客戶端
安全：IPsec/TLS 加解密、DDoS 防護、微分段防火牆
可觀測性：流量映象、遙測取樣（INT/IOAM）

當單臺伺服器的網路頻寬從 10GbE 演進到 25G→100G→200G→400G，這些”基礎設施稅”對 CPU 的侵蝕越來越嚴重——在某些雲端場景下，基礎設施開銷可佔到 CPU 總算力的 20%–30%[雲端廠商公開演講口徑, 定性估算]。

SmartNIC 的解法是：把這些任務在資料包進入主機記憶體之前就在網絡卡硬體上完成，讓 CPU “只看到”它需要處理的業務資料。

產業定位演進

SmartNIC 概念正在被更寬泛的術語吸收：

階段	術語	側重
早期	SmartNIC	網路功能解除安裝（OVS、RDMA）
中期	DPU (Data Processing Unit)	網路 + 儲存 + 安全全解除安裝（NVIDIA BlueField 命名推動）
近期	IPU (Infrastructure Processing Unit)	Intel 提出，強調對基礎設施層的完全管控

本質上是同一類硬體在不同廠商話語體系下的營銷命名差異。本文以 SmartNIC 作為統稱，涵蓋 DPU/IPU 等變體。

15 分鐘專家深入

核心技術架構

SmartNIC 通常基於三種架構之一或其組合：

1. SoC-based（片上系統型） — 主流方向

以 ARM 核心陣列為控制面，配合專用硬體加速引擎（加密、壓縮、正則匹配）和可程式設計資料通路（P4 pipeline 或 eBPF 硬體化）。代表：NVIDIA BlueField 系列、AMD/Pensando Elba、Broadcom Stingray、Marvell Octeon。

2. FPGA-based（FPGA 型）

在標準 NIC + FPGA（片上或擴充套件卡）上實現可程式設計資料面。靈活度最高，但開發門檻高、功耗較大。代表：Intel（原 Altera FPGA）+自家 NIC 組合方案、Xilinx/AMD Alveo 系列。

3. ASIC-based（純硬體 ASIC 型）

功能固定但效能/功耗最優。代表：部分 Broadcom 定製方案。

當前產業共識是 SoC-based 架構成為主流，因為它在可程式設計性、效能、功耗、成本之間取得了較好平衡。

典型硬體組成（以 SoC-based 為例）

┌─────────────────────────────────────────────────────┐
│                    SmartNIC SoC                      │
│                                                     │
│  ┌──────────┐  ┌──────────────┐  ┌───────────────┐  │
│  │ ARM Core │  │  Programmable │  │   Hardware    │  │
│  │  Array   │  │  Data Path    │  │  Accelerators │  │
│  │ (控制面) │  │  (資料面)     │  │  (加密/壓縮/  │  │
│  │          │  │  P4/eBPF      │  │   正則/RegEx) │  │
│  └────┬─────┘  └──────┬───────┘  └───────┬───────┘  │
│       │               │                  │          │
│  ┌────┴───────────────┴──────────────────┴────────┐  │
│  │          片上互連匯流排 (On-chip Interconnect)    │  │
│  └────┬───────────────┬──────────────────┬────────┘  │
│       │               │                  │          │
│  ┌────┴────┐  ┌───────┴──────┐  ┌───────┴───────┐  │
│  │ PCIe    │  │  Network     │  │  Memory       │  │
│  │ Endpoint│  │  SerDes/MAC  │  │  Controller   │  │
│  │ Gen4/5  │  │  100G-400G   │  │  (DDR/LPDDR)  │  │
│  └─────────┘  └──────────────┘  └───────────────┘  │
│                                                     │
│  ┌─────────────────────────────────────────────┐    │
│  │           DMA Engine / RDMA Engine          │    │
│  └─────────────────────────────────────────────┘    │
└─────────────────────────────────────────────────────┘

關鍵子模組說明：

ARM Core Array：執行韌體/OS（通常是 Linux），負責控制面管理、策略下發、異常處理。高階型號（如 NVIDIA BlueField-3）集成了16個ARM核心，算力相當於一顆中等規模 CPU。
Programmable Data Path：P4 可程式設計交換流水線或 eBPF 處理引擎，實現對每個資料包的靈活匹配-動作操作，用於 OVS offload、路由、負載均衡等。
Hardware Accelerators：專用硬體引擎，加速 AES-GCM/SHA（IPsec/TLS）、LZ4/Zlib（儲存壓縮）、正則匹配（安全檢測）、CRC/XOR（糾刪碼）等。
RDMA Engine：支援 RoCEv2 或 InfiniBand，實現遠端直接記憶體訪問，是高效能運算/AI 訓練叢集通訊的底層基礎。
DMA Engine：負責主機記憶體與 SmartNIC 之間的資料搬運，其效率直接影響整體解除安裝效能。

軟體生態

SmartNIC 的價值不僅在硬體，更在於其軟體可程式設計性：

P4 語言：用於定義資料包處理流水線（match-action tables），是資料面程式設計的事實標準之一。
eBPF：Linux 核心可程式設計架構，在 SmartNIC 上可實現高速路徑的資料面可程式設計（如 Cilium 用 eBPF 替代 iptables）。
DOCA SDK：NVIDIA 為 BlueField 提供的軟體開發架構，封裝了網路、儲存、安全解除安裝的 API。
OPI (Open Programmable Infrastructure)：行業聯盟推動的開放架構，試圖標準化 SmartNIC/DPU 的軟體介面。

技術原理

解除安裝機制深度解析

1. OVS Offload（Open vSwitch 解除安裝）

傳統路徑：虛擬機器/容器發出資料包 → vSwitch（軟體交換，執行在 CPU 上）→ 物理 NIC → 網路

解除安裝路徑：資料包到達 NIC 硬體 → NIC 上的可程式設計流水線直接匹配 OVS 流表並執行動作（轉發/丟棄/修改報文頭）→ 完全繞過主機 CPU

傳統路徑:
  VM/App → [CPU: OVS datapath] → NIC → Wire
                  ↑ 佔用大量CPU週期

解除安裝路徑:
  VM/App → NIC內部: [P4/HW pipeline 匹配OVS流表] → Wire
                    ↑ CPU零參與

流表規則由控制面（ARM 核心上執行的 OVS 控制器）下發到資料面硬體表項中（TCAM/SRAM）。當首包匹配 miss 時，通過慢路徑（slow path）交給 ARM 核心處理，後續同流包走硬體快速路徑。

2. RDMA / RoCEv2

SmartNIC 內建 RDMA 引擎，支援：

Send/Receive：傳統的訊息傳遞語義
RDMA Read/Write：遠端主機記憶體直接讀寫，零複製、零 CPU 參與（核心旁路）
原子操作：Compare-and-Swap、Fetch-and-Add

這對 AI 訓練叢集中的 AllReduce 通訊（如 NCCL over RoCE）至關重要。SmartNIC 在此場景下扮演 HCA（Host Channel Adapter） 角色。

關鍵效能要素：

Message Rate（訊息速率）：小包場景下每秒可處理的訊息數
Latency（延遲）：通常在 1–2 μs 級別（單跳 RDMA Write）[行業共識量級, 具體值因型號/拓撲而異]
Zero-copy DMA：資料直接在應用記憶體與網路之間傳輸，無需經過核心緩衝區

3. 安全解除安裝

IPsec：使用硬體加密引擎（AES-GCM 等演算法）實現線速 IPsec 封裝/解封裝，替代主機上執行的 strongSwan 等軟體實現
TLS Offload：部分型號支援 TLS 1.3 解除安裝，可解除安裝記錄層加解密，但握手協議通常仍在主機 CPU 或 ARM 控制面執行
DDoS Mitigation：在硬體資料面進行流量速率限制和異常流量識別

4. 儲存解除安裝

NVMe-oF Target/Initiator：SmartNIC 可作為 NVMe over Fabrics 的協議處理器，直接將 NVMe 命令通過 RDMA/TCP 傳輸，減少主機 CPU 在儲存 I/O 路徑上的開銷
Erasure Coding：糾刪碼編解碼的硬體加速（XOR/CRC 引擎）
Compression/Decompression：LZ4/Zlib 資料壓縮的硬體加速

程式設計模型

┌─────────────────────────────────────┐
│          應用層 / 控制器            │
│   (Kubernetes, OpenStack, SDN Ctrl) │
└──────────────┬──────────────────────┘
               │ REST API / gRPC / Netlink
┌──────────────┴──────────────────────┐
│       主機側驅動/Agent             │
│   (DOCA Runtime, OVS offload agent)│
└──────────────┬──────────────────────┘
               │ PCIe (BAR空間/MMIO/DMA)
┌──────────────┴──────────────────────┐
│       SmartNIC 控制面 (ARM/Linux)   │
│   (流表管理, 健康監控, 韌體升級)    │
└──────────────┬──────────────────────┘
               │ 片上API
┌──────────────┴──────────────────────┐
│     SmartNIC 資料面 (HW Pipeline)   │
│   (P4 match-action, eBPF VM,       │
│    加密引擎, DMA引擎)              │
└─────────────────────────────────────┘

技術演進史

時期	里程碑	意義
~2010s 前期	傳統 NIC（乙太網路卡）	純硬體轉發，無可程式設計能力
~2013–2015	SR-IOV / DPDK	開始從硬體側提升網路效能，但仍在 CPU 上執行
~2015–2017	第一代 SmartNIC 出現	Netronome NFP、Cavium（後併入 Marvell）LiquidIO 等；FPGA-based 方案出現
~2018–2019	Cloud 廠商大規模部署	AWS Nitro（定製 ASIC）、Azure SmartNIC（FPGA）內部化部署，驗證了 SmartNIC 在超大規模雲端的可行性
~2019	NVIDIA 收購 Mellanox	獲得 ConnectX NIC 和 InfiniBand/RDMA 技術
~2020	NVIDIA BlueField-2 DPU 釋出	首次將”DPU”概念推向市場，8 個 ARM 核心 + ConnectX-6 Dx 網路能力 [廠商釋出口徑]
~2020	Intel 提出 IPU 概念	釋出 Mount Evans IPU（與 Google 合作）[廠商公告]
~2021	AMD 收購 Pensando	獲得 Elba DSC 晶片，切入 DPU/SmartNIC 市場
~2022–2023	NVIDIA BlueField-3	16 個 ARM 核心（A78 系列），支援 400Gb/s 網路，整合加密/壓縮加速器 [廠商釋出口徑]
~2023–2024	BlueField-4 / SuperNIC 路線圖	NVIDIA 將 SmartNIC/DPU 定位為 AI 網路基礎設施的關鍵元件
2024+	CXL 互聯、AI 叢集核心旁路	SmartNIC 與 CXL 生態融合；面向萬卡叢集的超低延遲需求

關鍵分水嶺：AWS Nitro 的成功（約 2017 年起大規模部署）是 SmartNIC 從技術概念走向產業標配的轉折點。Nitro 將網路、儲存、安全、虛擬化管理全部解除安裝到定製硬體，使得 EC2 例項可以將 100% 的物理 CPU 資源交付給租戶。

技術路線對比

維度	SoC-based	FPGA-based	ASIC-based
可程式設計性	高（ARM + P4/eBPF）	最高（完全可重配邏輯）	低（功能固化）
效能	高	中–高（取決於設計）	最高
功耗	20–75W [典型量級估算]	30–100W+	10–30W
開發週期	中等（SDK 生態）	長（RTL 開發）	最長（流片週期）
靈活性/可更新性	高（韌體升級）	最高（重配位元流）	低
典型代表	NVIDIA BlueField, AMD/Pensando, Marvell Octeon	Intel/AMD FPGA + NIC 組合	AWS Nitro
適用場景	通用雲端/企業資料中心	定製化需求、實驗性工作負載	超大規模單一部署
生態成熟度	★★★★	★★★	★★（私有SDK）

上下游

上游（SmartNIC 製造依賴）

環節	關鍵供應商	說明
ARM IP 核	ARM (Arm Holdings)	Cortex-A 系列核心架構授權
先進製程晶圓	台積電 (TSMC)、三星	BlueField-3 等高階型號採用7nm工藝製造 [廠商公開資料]
SerDes PHY IP	Synopsys (DesignWare)、Cadence、Marvell	高速乙太網路 SerDes（56G/112G PAM4）
封裝	日月光(ASE)、Amkor 等	標準封裝為主（FC-BGA），非 CoWoS 級
PCB/板卡	各類 ODM/OEM	智慧網絡卡最終形態（PCIe 卡/OCP 3.0 mezzanine）
記憶體	SK hynix、Samsung、Micron	LPDDR4/5（板載快取），通常不使用 HBM
乙太網路 PHY/MAC	Broadcom、Marvell	部分方案外接 PHY

下游（SmartNIC 的去向）

客戶型別	典型買家	採購動機
超大規模雲端廠商	AWS、Microsoft Azure、Google Cloud、阿里雲端、字節跳動	基礎設施解除安裝、安全隔離、裸金屬服務
電信運營商	5G 核心網 UPF 節點	使用者面功能加速
AI/HPC 叢集	NVIDIA DGX 叢集部署方	RDMA 網路、GPUDirect Storage
企業資料中心	銀行、證券、大型企業	網路安全隔離、合規審計

關鍵指標

指標	含義	典型值域
網路頻寬	埠線速能力	25G / 100G / 200G / 400G
PPS (Packets Per Second)	小包處理能力	64B 小包場景下數十至數百 Mpps
RDMA 延遲	單跳 RDMA Write 延遲	~1–2 μs（量級, 取決於對端配置）
OVS 流表容量	硬體可承載的流表條目數	數千–數十萬條（TCAM/SRAM 限制）
ARM 核心數	控制面計算能力	4–16+ 核（高階型號）
功耗 (TDP)	典型功耗	15–75W（SoC-based 典型範圍）
PCIe 介面	主機互連代際	PCIe Gen4 x16 / Gen5 x16
加密吞吐	IPsec AES-GCM 線速能力	線速對應頻寬（如 100Gbps IPsec）
DMA 頻寬	主機記憶體訪問速率	受 PCIe 代際限制

供需與市場資料

⚠️ 以下資料均為行業報告與分析師估算的公開彙總, 非精確定數。SmartNIC/DPU 市場尚無統一口徑定義, 不同機構統計範圍差異較大。

市場規模：SmartNIC/DPU 市場在 2023 年估計約 30–50 億美元 [行業報告綜合估算], 預計到 2027–2028 年可達 100 億美元以上（CAGR 約 20%–25%）[分析師共識區間]。
滲透率：目前在超大規模雲端廠商中滲透率較高（AWS Nitro 覆蓋幾乎所有 EC2 例項），但在企業級市場滲透率仍處於早期階段（估算 < 20%）。
主要增量驅動：
- AI 叢集擴張（RDMA 網路是剛需）
- 400G/800G 網路升級週期
- 零信任安全架構推動內嵌式安全解除安裝
- 裸金屬/容器化基礎設施轉型

供給側格局：

NVIDIA BlueField 系列佔據高階/ AI 叢集細分市場的主導地位
AMD/Pensando 在雲端廠商中獲得多個設計匯入（design win）
華為鯤鵬/昇騰生態內的自研 SmartNIC 在中國市場份額上升 [未充分揭露]
Marvell Octeon 在電信和儲存場景有穩固份額

代表公司與資本對映

公司	SmartNIC/DPU 產品線	資本載體	產業地位
NVIDIA	BlueField-2/3 DPU, ConnectX NIC 系列	NVDA (納斯達克)	龍頭, 從 NIC 到 DPU 全棧覆蓋, 與 GPU 網路深度繫結
AMD	Pensando Elba DSC, Alveo FPGA	AMD (納斯達克)	通過收購 Pensando 切入, 同時持有 FPGA(原Xilinx)能力
Intel	IPU (Mt. Evans/Monte Creek), FPGA (原 Altera)	INTC (納斯達克)	起步較晚, 與 Google Cloud 合作推動 IPU
Broadcom	Stingray PS 系列	AVGO (納斯達克)	ASIC + SoC 路線, 在儲存解除安裝領域有優勢
Marvell	Octeon 系列 (CN10K)	MRVL (納斯達克)	電信/儲存傳統強項, SmartNIC 方向發力
華為	智慧網絡卡 (鯤鵬生態)	非上市	中國市場自主可控需求下的重要玩家
雲端途騰/芯啟源/中科馭數等	國產 SmartNIC 方案	部分一級市場融資	中國初創力量, 技術成熟度參差

投資邏輯

核心看點

AI 叢集是 SmartNIC 最確定的增長極：萬卡級 AI 訓練叢集對 RDMA 網路的依賴使得 SmartNIC/DPU 從”可選升級”變成”必選基礎設施”。每臺 AI 伺服器（如 DGX H100/H200）通常需要 8 張高速網絡卡/SmartNIC。
“每臺伺服器都需要一張 SmartNIC” 是最終滲透目標——對標傳統 NIC 的存量替換邏輯，市場天花板由伺服器出貨量決定。
軟體定義的護城河：SmartNIC 的真正壁壘不僅在晶片，更在軟體生態（P4 工具鏈、SDK、與雲端平台的整合深度）。NVIDIA DOCA 生態的粘性類似於 CUDA 對 GPU 開發者的鎖定效應。
國產替代邏輯：中國市場存在自主可控要求，國產 SmartNIC 廠商有望在政企和運營商場景獲得政策性匯入機會。

風險與不確定性

雲端廠商自研趨勢：AWS Nitro、Google 的定製方案暗示超大規模客戶可能繞過商業 SmartNIC 供應商，自行設計定製晶片。
競爭格局分散：除 NVIDIA 外，各家份額尚不穩固，價格戰可能侵蝕獲利。
滲透節奏：企業級市場對 SmartNIC 的認知和採購意願仍在培育期，滲透不及預期的風險存在。
技術路線不確定性：CXL 互聯的發展可能改變儲存/記憶體解除安裝的技術路徑。

常見誤讀糾偏

誤讀 1：“SmartNIC 就是加了 ARM 核心的普通網絡卡”

糾偏：SmartNIC 與普通網絡卡的本質區別不僅是”多了幾個 ARM 核”，更在於其可程式設計資料通路（P4 流水線或 eBPF 引擎）和硬體加速引擎。ARM 核心負責控制面（策略管理），但真正的資料面解除安裝發生在硬體流水線中——如果沒有硬體化的 match-action 能力，僅靠 ARM 核心處理每個資料包，效能將遠低於線速要求。

誤讀 2：“DPU 和 SmartNIC 是完全不同的東西”

糾偏：DPU（Data Processing Unit）主要是 NVIDIA 的營銷命名，強調”資料處理”的定位。從硬體本質看，DPU 是 SmartNIC 的一個功能增強子集/演化版本。兩者在架構上高度重疊，核心差異在於整合度和功能範圍（DPU 更強調網路+儲存+安全的全方位解除安裝）。市場上許多分析將兩者混用或互為同義詞。

誤讀 3：“SmartNIC 可以完全替代 CPU 做網路處理”

糾偏：SmartNIC 擅長的是確定性、高吞吐的資料面處理（流表匹配、加解密、協議封裝），但複雜的、非確定性的控制面邏輯（如路由協議收斂、複雜策略決策、異常流量的深度分析）仍然需要主機 CPU 或獨立控制器參與。SmartNIC 是”解除安裝”而非”替代”。

誤讀 4：“FPGA SmartNIC 比 SoC SmartNIC 更好”

糾偏：FPGA 在可程式設計性上限更高，但開發效率低、功耗大、成本高。對於大多數雲端網路場景（OVS offload、RDMA、加密解除安裝），SoC-based 方案已足夠且價效比更優。FPGA 路線更適合需要極端定製化或快速迭代實驗性協議的場景。

學習路徑

入門（建立直覺）

NVIDIA DPU 概述頁：理解 BlueField DPU 的產品定位和應用場景
AWS Nitro System 白皮書：看超大規模雲端如何用 SmartNIC 架構重塑基礎設施
“What is a SmartNIC?” 類綜述文章（各分析師/媒體均有）

進階（理解機制）

P4 語言入門（p4.org 教程）：理解資料面可程式設計的基本概念
OVS-DPDK 與 OVS offload 文件：理解傳統路徑 vs 解除安裝路徑的差異
RDMA 與 RoCEv2 協議基礎：理解為什麼 AI 叢集離不開它
NVIDIA DOCA SDK 文件：檢視實際的 API 和程式設計模型

深入（產業洞察）

Hot Chips 大會 SmartNIC/DPU 相關 Session：晶片級別的技術細節
各雲端廠商技術部落格（AWS、Azure、Google Cloud Networking Blog）：看生產環境中的實際部署經驗
OPI (Open Programmable Infrastructure) 專案：瞭解行業標準化進展
SIGCOMM / NSDI 相關論文：SmartNIC 在學術界的前沿應用

一句話總結

SmartNIC 是資料中心從”CPU 承擔一切”向”專用硬體分層解除安裝”架構轉型的關鍵樞紐元件，其在 AI 叢集時代的價值正從”最佳化項”升級為”必需品”。

延伸閱讀與來源

NVIDIA BlueField DPU 官方文件 — nvidia.com/networking
AWS Nitro System — aws.amazon.com/ec2/nitro
P4 Language Specification — p4.org
OPI Project (Open Programmable Infrastructure) — openinfra.dev/opi
“Data Processing Units (DPU): The New Third Pillar of Computing” — NVIDIA 白皮書
Hot Chips Symposium — hotchips.org（歷年 SmartNIC/DPU Session 錄影）
SIGCOMM 會議論文 — 搜尋 “SmartNIC offload” 相關主題
各大投行/行業分析師報告：關於 DPU/SmartNIC TAM 的市場預測（建議交叉比對多家, 統計口徑差異大）
Marvell Octeon 技術文件 — marvell.com（理解 SoC-based SmartNIC 架構）
AMD Pensando 技術概述 — amd.com/pensando

本文硬規格資料均標註來源口徑；未標註者為行業共識性定性表述。市場資料為公開報告綜合估算, 不構成投資建議。