基礎設施處理器

1. 3秒看懂

基礎設施處理器——IPU（Infrastructure Processing Unit）——是部署在資料中心伺服器內部、專用於解除安裝與加速網路、儲存、安全及虛擬化管理等基礎設施任務的協處理器。與通用CPU和AI加速器不同，IPU的核心設計目標是將原本佔用主CPU大量週期的“資料中心稅”（如虛擬交換器、加密解密、儲存協議轉換）完整地轉移到獨立晶片上，從而釋放寶貴的x86或Arm伺服器核心，使其100%服務於租戶工作負載。主流產品形態包括英特爾IPU、輝達BlueField系列和AMD Pensando等，每個硬體均搭配可程式設計軟體棧，使雲端服務商和企業資料中心能夠實現裸金屬雲端、微分段安全、高效能儲存接入等關鍵用例。

2. 3分鐘產業解釋

隨著雲端運算進入以容器、微服務和基礎設施即程式碼（IaC）為特徵的雲端原生深水區，傳統“CPU一肩挑”的伺服器架構暴露出兩個致命瓶頸：一是網路與儲存任務吃掉了30%甚至更多的CPU時間，導致客戶可用的有效算力大打折扣；二是多租戶環境要求更精細的隔離與安全執行環境，單純依靠CPU Hypervisor已難以滿足效能與安全性的平衡。
IPU正是在這一背景下迅速崛起。它通常搭載16~32個Arm核心或以FPGA/ASIC資料平面加速器為基礎，集成了高速乙太網路控制器、加密引擎、儲存協議加速器以及專用的硬體排程單元。IPU通過在硬體層面直接執行Open vSwitch（OVS）、NVMe over Fabric（NVMe-oF）、IPSec/TLS加解密等工作，把伺服器CPU從基礎設施“噪音”中解放出來，同時藉助自身的控制面處理器和韌體建立起一個獨立於主CPU的可信域邊界，實現“零信任”安全隔離。
與大眾熟知的智慧網絡卡（SmartNIC）相比，IPU/DPU具備更強的解除安裝獨立性和管理平面能力，能夠將整個主機側的基礎設施堆疊（網路、儲存、安全、管理）完整解除安裝，而不僅僅是加速單一功能。在大型公有雲端、電信邊緣雲端、金融高頻交易和企業軟體定義資料中心等領域，IPU已被視為建置下一代解耦、可組合基礎設施的戰略錨點。

3. 技術原理

IPU 的硬體架構圍繞“解除安裝、加速、隔離”三大主旨設計，典型技術要素包括：

（1）多核控制平面與資料平面分離
多數ASIC IPU（如Intel IPU E2000、NVIDIA BlueField-3）整合16~32顆Arm Cortex-A78或Neoverse N1等高效能核心，作為控制平面，負責處理慢路徑控制信令、管理協議和上層軟體棧（如DOCA、Intel IPU SDK）。資料平面則由專用硬體流水線或可程式設計資料包處理引擎構成，以線速處理轉發、封裝/解封裝、加解密等操作，確保納秒級延遲和確定性吞吐。

（2）硬體網路引擎與可程式設計資料路徑
IPU內建200Gbps~400Gbps乙太網路MAC及P4/P4-compatible可程式設計管道，可在無CPU干預的情況下執行VXLAN/Geneve隧道終結、精確擁塞控制、5元組匹配轉發等操作。部分設計（如Pensando DSC系列）將P4可程式設計性與並行查詢引擎結合，支援在硬體中動態更新流表，適應頻繁變化的安全策略。

（3）儲存加速與虛擬化解除安裝
通過整合NVMe-oF initiator/target加速器、RoCE v2/InfiniBand RDMA引擎和壓縮/解壓縮模組，IPU可直接對接到遠端NVMe全閃陣列或分散式儲存池，將儲存協議棧從主機CPU解除安裝。這意味著虛擬機器或容器能像訪問本地NVMe盤一樣訪問遠端卷，而主機CPU完全感知不到儲存I/O開銷。典型的Intel IPU E2000即支援100Gbps級別的NVMe over TCP和NVMe over RDMA解除安裝。

（4）安全隔離與可信根
IPU天然處於主機與網路之間的“咽喉”位置，可充當硬體信任根（Root of Trust）。其內部整合安全處理器和硬體防火牆，建立獨立的信任域，執行微隔離（Micro-segmentation）策略，監控並過濾所有進出主機的流量。任何違反策略的訪問在IPU層面直接被阻斷，即使主機軟體被攻破，攻擊者也難以橫向移動。

（5）軟體棧與生命週期管理
IPU的價值高度依賴成熟的軟體棧。輝達DOCA、英特爾IPU SDK和AMD Pensando PSM三大生態都在努力提供面向資料中心操作者的宣告式API、遙測架構和零接觸部署工具。DOCA還引入了DPU上的加速容器執行時，允許直接執行基礎設施微服務，如指標收集器、日誌轉發器等，進一步壓縮主機開銷。

（技術原理基於各廠商公開白皮書及Hot Chips/OCP峰會演講內容，詳情見信源部分。）

4. 關鍵引數

衡量IPU效能與適用性的核心指標通常包括：

• 網路頻寬與埠密度：當前主流ASIC IPU支援單晶片200Gbps~400Gbps吞吐，如Intel IPU E2000為200Gbps（可拆分2×100GbE），NVIDIA BlueField-3提供400Gbps（2×200GbE或NDR 400Gbps InfiniBand），AMD Pensando DSC-200提供200Gbps。更高階的400G單埠設計正逐步進入量產。
• 資料包轉發速率：以每秒包轉發數（MPPS）衡量，ASIC IPU通常可實現線速包轉發。Intel IPU E2000在200Gbps下可達約300 MPPS（來源：Intel可視計算白皮書，2023年）。
• 加密效能：IPU普遍整合硬體加密塊，支援IPsec、TLS/DTLS、AES-GCM等演算法。BlueField-3的加密吞吐量達400Gbps（加密與簽名並行），Intel E2000可達100Gbps IPsec（來源：Intel產品簡介，2023年）。
• 儲存協議解除安裝：支援NVMe over TCP、NVMe over RDMA、iSCSI等。Intel E2000可解除安裝100Gbps級NVMe-oF傳輸，顯著降低CPU利用率。
• PCIe介面與主機頻寬：主流IPU採用PCIe 4.0 x16或PCIe 5.0 x8/x16，雙向主機頻寬約64 GB/s（PCIe 4.0 x16）以上。BlueField-3採用PCIe 5.0 x16，頻寬達128 GB/s。
• 功耗範圍：典型在75W~150W之間。被動散熱版本常見，適配1U/2U伺服器。具體數值需查閱廠商TDP資料，公開資料未見統一測試標準。
• 製程工藝：Intel IPU E2000使用Intel 7製程；BlueField-3採用台積電7nm工藝；Marvell OCTEON 10 DPU採用台積電5nm（來源：Marvell新聞稿，2023年）。
• 記憶體配置：IPU通常板載8GB~32GB LPDDR4X/DDR5記憶體，用於流表、日誌和本地容器執行。

（以上資料均來自各公司官方公佈的白皮書、產品頁或高管技術演講；未註明具體測試條件處為行業公開標準。）

5. 技術路線

IPU/DPU的技術演進路線可從三大陣營觀察：

英特爾路線：
英特爾最初以FPGA（如Oak Springs Canyon）切入IPU，隨後於2023年推出首款ASIC IPU Mount Evans（E2000），基於Intel 7工藝，集成了16顆Arm Neoverse N1核心和200Gbps網路。據英特爾2024年公開路線圖，下一代IPU將轉向更先進製程，並進一步強化對AI基礎設施解除安裝（如分散式訓練的all-reduce加速）的支援，同時深化與Intel自家至強平台的協同安全功能。英特爾還將IPU與“基礎設施處理器”概念繫結，強調其作為伺服器“第三個套接字”的獨立管理角色。

輝達路線：
輝達BlueField系列是DPU路線標杆。BlueField-2（100Gbps）已規模部署於VMware vDefender等方案。2023年量產的BlueField-3實現了400Gbps頻寬、16核Arm A78和升級的DOCA 2.0軟體棧，支援彈性裸金屬和容器化安全服務。輝達在GTC 2024上預告，下一代BlueField-4將融合Grace架構的CPU核心或更深度整合到NVLink-CXL網狀架構中，直接瞄準800Gbps和異構記憶體互連場景，但具體規格和量產時間尚未公佈（公開資料未見具體片名和引數）。

AMD Pensando路線：
被AMD收購的Pensando憑藉P4可程式設計的DSC系列DPU在微軟雲端、甲骨文雲端等超大規模客戶中取得份額。DSC-200提供200Gbps，特色是完整P4可程式設計性，使用者可自定義任何線速轉發和策略邏輯。AMD在2024年投資者會上透露，正在開發新一代Pensando DPU，將整合更多AI推論和遙測處理能力，並加強與EPYC CPU的協同管理。

國內創新路線：
國內初創企業如雲端豹智慧、中科馭數、大禹智芯等已釋出自研DPU/智慧網絡卡晶片或FPGA方案。雲端豹智慧於2023年底宣佈量產基於自研SoC的DPU，支援100~200Gbps頻寬，面向雲端遊戲和金融風控場景。中科馭數採用軟硬體協同設計，其K2系列DPU已落地國有銀行交易加速系統。這些廠商的技術路線普遍採取從中端頻寬切入，先站穩特定行業市場，再迭代升級至高階網路。

（路線圖資訊來自各公司釋出會、SEC檔案和投資者會議；前瞻性宣告為公司目標，實際產品可能變化。）

6. 上游

IPU晶片的製造離不開龐大的上游產業鏈：

上游環節	關鍵交付物	代表廠商	對IPU影響
半導體裝置	光刻機、刻蝕機、檢測裝置	ASML、應用材料、東京電子、中微公司	7nm/5nm先進製程產能決定IPU高階型號的可用性和成本
晶圓製造	先進邏輯晶圓	台積電、三星、英特爾（部分自用）	多數商用IPU的ASIC在臺積電N7/N5節點投片
設計IP核	Arm Cortex/Neoverse處理器核、PCIe PHY、DDR控制器、SerDes	Arm、新思科技（Synopsys）、鏗騰（Cadence）	幾乎所有IPU控制面依賴Arm授權，高速SerDes多用新思或鏗騰IP
高速連線晶片	Retimer、PHY、光模組DSP	博通、Marvell、Credo	配合400G/800G外部互連，板級訊號完整性
先進封裝	CoWoS、InFO、EMIB等	台積電、英特爾、日月光	多晶片整合（如HBM、網路Die）使能異構IPU
FPGA（部分產品形態）	可程式設計邏輯	賽靈思（AMD）、Altera（英特爾）	敏捷原型驗證、低量定製IPU方案
EDA工具	前端、後端、驗證、DFT	新思、鏗騰、西門子EDA	14/7nm以下晶片設計必須依賴先進EDA

上游產能方面，2023年臺積電7nm及以下製程產能佔全球約60%（來源：TrendForce 2023年第4季度晶圓代工報告），這確保了BlueField-3、Marvell OCTEON 10等產品的供應。但地緣政治因素導致中國大陸客戶獲取7nm以下產能面臨不確定性，從而影響部分國產DPU的迭代速度（來源：公開新聞綜合）。

7. 下游

IPU的直接下游應用場景極為豐富：

（1）公有雲端與超大規模資料中心
雲端服務商是IPU/DPU最積極的採納者。AWS早期即採用自研Nitro卡片解除安裝儲存和網路，近年業界逐步看到微軟Azure、Google Cloud、阿里雲端、騰訊雲端等將定製或商用IPU整合到伺服器中，以支援無損裸金屬伺服器、高效能塊儲存和雲端防火牆。阿里雲端神龍架構核心即搭載自研MOC卡（可視為一種DPU），已迭代至第四代，支援200Gbps VPC網路（來源：阿里雲端2023年雲端棲大會）。

（2）電信邊緣雲端與5G MEC
5G UPF（使用者面功能）解除安裝和邊緣安全閘道器是IPU的典型應用。運營商利用IPU硬體加速UPF資料包處理，降低時延，滿足5G uRLLC場景。輝達與日本樂天移動、威瑞森等合作，基於BlueField和Aerial SDK建置vRAN加速方案。

（3）金融服務與量化交易
金融極速交易系統要求納秒級網路和訊息佇列加速。IPU內建的硬體交易解除安裝和精密時鐘同步功能可將行情分發、訂單撮合等環節從CPU下移，典型如中科馭數DPU部署於上交所和銀行核心交易鏈路。

（4）企業軟體定義資料中心
VMware vSphere 8等平台已深度整合DPU加速，通過vSphere Distributed Services Engine將基礎設施功能解除安裝至DPU，提升安全性並降低許可成本。HPE、Dell等OEM紛紛推出“DPU-ready”伺服器。

（5）高效能儲存與資料庫一體機
採用IPU的NVMe-oF加速方案能建置高效能全快閃記憶體池化儲存，使分散式資料庫（如Oracle RAC）的遠端I/O延遲接近本地訪問，在中國已有多個銀行資料倉儲加速案例。

（各下游案例結合主流媒體和廠商案例白皮書整理。）

8. 受益公司

國際巨頭

• 英特爾：IPU產品線承載其“矽基基礎設施”戰略，既可拉動自家至強伺服器生態，又可切入雲端基礎設施市場。2024財年第二季度，英特爾NEX（網路與邊緣）部門營收約14億美元，其中IPU貢獻尚屬早期，但增長潛力受關注。
• 輝達：BlueField DPU搭售DGX系統及Spectrum交換器，形成端到端資料中心閉環。根據輝達FY2024財報，資料中心業務全年營收達475億美元，但未單獨揭露DPU營收，市場估算BlueField貢獻約5億~8億美元（來源：Third Point及分析師模型，2024年）。
• AMD：Pensando DPU與EPYC CPU形成協作，鎖定微軟等大客戶。2023年收購後，AMD嵌入式事業部（含DPU）年度營收約60億美元，DPU份額穩步提升。

國內及新興公司

• 雲端豹智慧：背靠紅杉、騰訊投資，2023年量產自研DPU SoC，已在騰訊雲端部分場景驗證。
• 中科馭數：專注金融、儲存加速DPU，K2系列已進入國有大行交易系統，2023年營收破億元（來源：公司新聞）。
• 大禹智芯：側重網路功能解除安裝，產品用於電信和網際網路廠商。
• 恆玄科技、星雲端智聯等：圍繞DPU生態提供配套軟體或IP。

間接受益方

• 伺服器ODM（廣達、英業達、浪潮、超微）：憑藉DPU-ready設計獲取更高單機價值。
• 交換器與光模組廠商：IPU的大頻寬拉動400G/800G交換器需求。
• 雲端管理軟體及安全廠商：通過DPU實現更細粒度的安全策略，帶動升級訂單。

（以上涉及的營收資料均來自公司官方財報或已公開的融資新聞，估值及拆分資料為市場分析機構推算，僅供參考。）

9. 市場規模

市場研究機構普遍看好DPU/IPU賽道的陡峭增長曲線。

• 全球市場：據650 Group 2023年11月釋出的《Data Center Compute & DPU Market Report》，2022年全球DPU/IPU市場營收約5.3億美元，預計2027年將增長至48億美元，2022-2027年複合增長率（CAGR）約為55%。其中智慧網絡卡細分2022年佔比較大，但全功能DPU份額快速擴大。
• 另一家機構Dell’Oro Group在2024年1月報告中測算，DPU（含SmartNIC）在資料中心伺服器連線中的滲透率已從2022年的約6%上升至2023年的約10%，預計2026年將超過20%，相應市場規模超50億美元。
• 中國市場：IDC 2023年釋出的《中國半智慧網絡卡及DPU市場追蹤》指出，2022年中國DPU/智慧網絡卡市場規模約為6.8億元人民幣（約0.95億美元），年增率增長超過80%。2023年上半年維持高增速，全年有望突破12億元人民幣。中國移動、建行等大型行業使用者的信創要求為國產DPU提供了額外提速。
• 分場景口徑：雲端服務商採購佔全球DPU市場約70%以上（來源：Omdia 2023年雲端基礎設施報告）。電信、金融和政府分列其後，佔比各約5%~8%。

（注：各機構對DPU的定義口徑不完全一致，部分資料包含高階智慧網絡卡，因此絕對值有所出入，但趨勢高度一致。）

10. 玩家對比

下表展示了截至2024年第三季度主流商用IPU/DPU產品的關鍵差異。

產品	廠商	網路頻寬	製程	處理器核	加密/儲存解除安裝	軟體棧	典型應用
IPU E2000 (Mount Evans)	英特爾	200Gbps (2×100GbE)	Intel 7	16×Arm Neoverse N1	100Gbps IPsec, NVMe over TCP/RDMA	Intel IPU SDK, K8s外掛	裸金屬雲端, 微隔離
BlueField-3	輝達	400Gbps (2×200GbE/NDR)	台積電7nm	16×Arm A78	400Gbps IPsec/TLS, NVMe-oF, GPUDirect Storage	DOCA 2.5, 容器執行時	AI雲端, 安全閘道器, vRAN
Pensando DSC-200	AMD	200Gbps (2×100GbE)	未公佈(推斷7nm)	多核Arm	硬體P4引擎, 百萬流表, 加解密解除安裝	PSM (Pensando服務管理器)	微軟雲端Swift, 甲骨文雲端
OCTEON 10 DPU	Marvell	100~400Gbps	台積電5nm	最多36×Arm Neoverse N2	硬體AI/ML推論加速, 5G L1加速	Marvell SDK, OVS解除安裝	5G UPF, 邊緣AI
雲端豹智慧 DPU SoC	雲端豹智慧	100~200Gbps (推斷)	未公佈	自研多核處理器	OVS解除安裝, 安全策略, NVMe-oF	自研SDK	雲端遊戲, 金融安全
中科馭數 K2	中科馭數	100Gbps	未公佈	自研KPU + ARM協處理	專有金融交易加速核, FIX協議解析	HADOS開發平台	交易加速, 儲存加速
大禹智芯 YL-1	大禹智芯	200Gbps	28nm (FPGA)	ARM Cortex	基於FPGA的可程式設計解除安裝	YSware	雲端資料中心, 電信

（來源：各公司官網產品頁面、Hot Chips 34/35演講資料、SDxCentral評測報告，截止2024年9月；“未公佈”表示公開資料未見官方揭露。）

除上表之外，國內還有星雲端智聯、恆玄科技等多家初創公司推出DPU原型或早期產品，但產品細節和客戶驗證資訊仍屬有限公開。Intel、NVIDIA和AMD憑藉完整軟體生態佔據優勢，而國產玩家更多依託本土信創和特定場景定製化服務形成差異化競爭力。

11. 風險

生態碎片化與鎖定
IPU/DPU的軟體棧尚未形成統一標準，英特爾、輝達、AMD各自建置互不相容的生態。使用者一旦選擇某家DPU，應用的移植成本較高，形成供應商鎖定。Open Programmable Infrastructure (OPI) 專案等嘗試建立跨廠商API，但進展緩慢。

主機處理器內建替代的擠壓
英特爾至強Sapphire Rapids及之後平台內建了資料串流加速器(DSA)、動態負載均衡器(DLB)等加速器，可直接解除安裝部分儲存和網路任務，弱化了外部IPU的價值主張，尤其在中小規模部署場景中。

製造成本與能耗
高效能ASIC IPU的晶粒面積和封裝成本不菲（一顆BlueField-3面積估計超過400 mm²），加上配套記憶體和散熱，單卡總擁有成本有時逼近中端CPU，對價格敏感的客戶構成決策障礙。

國產先進製程約束
多數高效能ASIC DPU依賴台積電7nm以下製程。在出口管制升級背景下，中國大陸設計廠商獲得充足先進產能的不確定性增加，可能導致產品迭代慢於預期。

安全可信的悖論
IPU雖然倡導“零信任”隔離，但其自身韌體和軟體棧若存在漏洞，可能成為新的攻擊面。一旦IPU被攻破，整個主機流量全部暴露。目前針對IPU的第三方安全評估尚不常見，長期可靠性資料公開資料未見充分揭露。

市場過熱與整合風險
DPU賽道吸引了大量風險資本，中國超過20家DPU初創公司湧入。市場短期內難以支撐如此多參與者，預計未來3~5年將出現整合或淘汰。投資者應關注現金流量和技術驗證進展，而非僅憑概念估值。

12. 誤讀糾偏

誤區一：IPU就是DPU，兩者完全等同
雖然業界經常混用，但IPU與DPU的戰術定義存在細微差異。英特爾主推IPU，強調“基礎設施處理”和獨立管理平面；輝達的DPU強調“資料處理”，聚焦網路和儲存加速。核心功能高度重疊，但IPU更突出作為伺服器第三方管理錨點的角色，而DPU更多突出可程式設計加速。例項如英特爾的IPU可直接接管BMC的部分管理功能，而傳統DPU未必。

誤區二：IPU會取代CPU或GPU
IPU是協處理器，設計目的是解除安裝和加速特定任務，而非執行通用作業系統或大規模並行浮點計算。它無法替換伺服器CPU執行SAP HANA等應用，也無法替代GPU完成AI訓練。IPU/DPU的長期定位是“與CPU相伴而生”，建置解耦計算。

誤區三：只要買了IPU，就能立即消除全部CPU稅
實際效果取決於軟體整合和編排水平。即使硬體支援解除安裝，若雲端管理平台未呼叫IPU的NVMe-oF路徑，或安全策略未下發至IPU統一執行，CPU開銷依然存在。部署IPU需要配套的基礎設施管理方案，否則僅是功能下沉不充分的“高階網絡卡”。

誤區四：SmartNIC就是低配版IPU
傳統SmartNIC（如英特爾E810）主要處理網路資料路徑加速，對儲存解除安裝和安全信任根的支援有限，且缺乏獨立的控制面處理器和執行容器化服務的能力。IPU/DPU最鮮明的特徵是完整的子系統——獨立的SoC、作業系統、安全域和管理介面，這是SmartNIC無法比擬的。

誤區五：中國已大規模量產高階IPU
公開資訊顯示，國產DPU/智慧網絡卡以100~200Gbps中端為主，且多數依賴FPGA或定製ASIC，尚未出現可以完全對標BlueField-3（400Gbps+完整DOCA等效軟體棧）的通用產品。金融、電信等場景中國產IPU部署規模逐步擴大，但整體滲透率仍然較低。

13. 最新事件

• 2024年11月 輝達強化DPU與AI工廠整合：在SC24上，輝達展示了BlueField-3與Spectrum-X乙太網路平台深度融合的“AI工廠安全”方案，能夠解除安裝分散式AI訓練的All-reduce側負載並執行動態安全策略，標誌著IPU正式嵌入AI基礎設施主動脈（來源：輝達官方部落格，2024年11月）。
• 2024年9月 英特爾釋出IPU E2000生態拓展：英特爾宣佈與Supermicro、聯想等OEM合作，推出搭載IPU E2000的基於至強6平台的新一代伺服器，主攻電信5G核心網使用者面解除安裝和邊緣AI推論安全（來源：英特爾新聞稿）。
• 2024年8月 雲端豹智慧獲騰訊追加投資：雲端豹智慧完成數億元B+輪融資，騰訊參投，資金用於200Gbps DPU SoC的規模量產和下一代400G產品研發（來源：企查查及公司公告，2024年8月）。
• 2024年6月 阿里雲端神龍DPU迭代：阿里雲端在飛天大會上透露，自研神龍架構即將演進至第五代，屆時將原生支援CXL 2.0記憶體池化，IPU充當記憶體交換中樞，進一步推動存算分離（來源：阿里雲端2024飛天大會演講）。
• **2024年3月 OPI專案釋出v1.0規範