PCIe 加速卡

3秒看懂

PCIe加速卡是插在伺服器或工作站主機板上的一塊硬體擴充套件卡，通過PCI Express（外圍元件互連高速）匯流排與CPU直連，專門解除安裝並加速AI模型訓練、大型模型推論、科學計算、影片轉碼等特定重計算任務。它把CPU不擅長的大規模平行計算“接管”過來，以更高能效完成矩陣乘法、卷積、資料搬運等操作，讓AI跑得更快、更省電。最常見的產品形態是GPU加速卡，也有基於FPGA可程式設計邏輯或AI專用ASIC的實現。你可以在各種雲端運算例項、AI訓練叢集和邊緣推論裝置裡看到它的身影。

3分鐘產業解釋

在深度學習時代，模型的計算量增速遠超通用CPU吞吐能力的提升速度。一塊PCIe加速卡的價值就在於，它把AI工作負載中最耗時的部分——通常是百億到萬億次浮點運算級別的矩陣乘法和卷積——解除安裝到專用的高平行計算引擎上完成。

一塊典型的AI加速卡上，通常集成了數千個計算核心、高頻寬記憶體（HBM或GDDR）以及高速介面控制器。CPU只負責邏輯控制、資料預處理和任務排程，通過PCIe匯流排把“髒活累活”提交給加速卡，任務完成後再取回結果。這種“CPU+加速器”的異構計算模型，已經成為現代資料中心和AI超級計算機的標準範式。

從產業視角看，PCIe加速卡不僅是技術元件，更是規模化部署的“標準件”。當前主流的AI加速卡包括GPU形態（輝達A100/H100/B200、AMD Instinct MI300X系列）、GoogleTPU（部分以加速卡模組形式對外提供）、英特爾的Gaudi系列以及各頭部雲端廠商自研的ASIC加速卡（如亞馬遜Trainium、微軟Maia、華為昇騰等）。介面標準從PCIe 3.0持續演進到4.0、5.0，單卡頻寬已突破百GB/s。但即便如此，PCIe 5.0 x16提供的約64 GB/s（單向有效頻寬約51 GB/s）在大型模型張量並行場景下，仍可能成為CPU與GPU之間資料交換的瓶頸。這催生了NVLink、Infinity Fabric等加速卡間點對點直連技術，使GPU之間可以繞過PCIe Switch直接通訊。不過，PCIe插槽憑藉標準化、即插即用、生態相容性和每代頻寬翻倍的節奏，依然是絕大多數伺服器擴充套件AI算力的首選物理形態。

技術原理

PCIe加速卡的設計圍繞著“如何把資料高效餵給計算單元、如何塞進更多算力、如何讓開發者用起來”三個核心問題。

硬體架構模組

一塊典型的PCIe加速卡在印刷電路板（PCB）上集成了以下功能塊：

• PCIe Endpoint（端點）：實現完整的PCIe協議棧（物理層、資料鏈路層、事務層），讓加速卡作為標準PCIe裝置掛載在CPU的地址空間中。支援直接記憶體訪問（DMA），允許CPU和加速卡記憶體之間以極低的CPU佔用率進行雙向大塊資料傳輸。

• 片內/卡上高頻寬記憶體：這是加速卡的“燃料箱”。高階AI訓練卡通常採用HBM（高頻寬記憶體）技術，通過先進封裝（如台積電CoWoS-S）將多層DRAM堆疊和計算晶片封裝在同一個基板上，從而獲得遠超普通系統記憶體的海量頻寬（例如，NVIDIA H100 SXM5的HBM3記憶體頻寬可達3.35 TB/s，來源：輝達官方技術白皮書，2023）。中端或推論側產品則可能採用GDDR6/GDDR6X等傳統分立式視訊記憶體方案。

• 計算元件（Compute Complex）：這是加速卡的心臟。在GPU中，它包括數千個CUDA核心和專門為矩陣乘加操作最佳化的張量核心（Tensor Core）。FPGA則依賴查詢表、DSP單元和可配置邏輯塊。AI ASIC通常設計為大規模的脈動陣列，專門執行卷積或矩陣乘法等特定運算。

• 板級互連與供電：包括PCIe金手指、額外的輔助供電介面（如8-pin、12V-2×6 EPS）、板間直連橋接介面（如NVLink Bridge），以及為各模組供電的複雜電源管理晶片和散熱方案。

資料搬運流水線

一個典型的AI訓練資料搬運流程如下：

1. 命令下發：CPU通過記憶體對映I/O（MMIO）向加速卡的控制暫存器寫入任務配置。
2. 資料傳輸：CPU發起DMA引擎，將訓練的一批資料（如32張圖片）從系統主存直接複製到加速卡的本地記憶體中。高端系統可使用GPUDirect RDMA技術，允許網路介面卡或NVMe固態硬碟直接將資料寫入加速卡記憶體，徹底繞開系統記憶體這個“中轉站”。
3. 計算觸發：資料就緒後，CPU寫入門鈴暫存器，通知加速卡開始執行計算核心。
4. 同步與取回：加速卡完成計算後，通過中斷或寫入特定記憶體標誌位通知CPU。CPU再將梯度或推論結果讀回系統記憶體。

在整個過程中，PCIe介面的速度和延遲直接影響著資料“裝卸”的效率。如果資料搬運的時間超過了實際計算時間，昂貴的計算核心就會空轉，形成所謂的“PCIe牆”。現代AI架構通過預取、計算與傳輸重疊（CUDA Stream）、梯度累積等策略，在軟體層面來儘量隱藏這一開銷。

關鍵引數

理解一張PCIe加速卡的能力，通常要從以下幾個核心指標切入，它們直接決定了加速卡適用的工作負載和部署環境。

• PCIe介面規格與有效頻寬：介面決定了卡與CPU的通訊管道粗細。

  • PCIe 3.0 x16：單向理論頻寬約16 GB/s。
  • PCIe 4.0 x16：單向理論頻寬約32 GB/s。
  • PCIe 5.0 x16：單向理論頻寬約64 GB/s（NVIDIA B200等最新一代產品已全面支援，來源：輝達B200資料手冊，2024）。在評估時，需注意協議編碼開銷（128b/130b），實際有效資料吞吐率約為理論值的80%–85%。

• 計算精度與算力（TFLOPS/TOPS）：必須關注算力所對應的資料精度。

  • 對AI訓練，FP16/FP8/BF16等半精度浮點算力是核心指標，通常以每秒萬億次浮點運算（TFLOPS）衡量。
  • 對AI推論，INT8/INT4整數算力（TOPS）更為關鍵。廠商公佈的資料須區分稠密算力和稀疏算力（如輝達的2倍稀疏結構的結構性稀疏算力）。

• 記憶體容量與頻寬：容量決定了可常駐在單卡上的最大型模型分片大小（例如執行Llama 2 70B模型所需的總視訊記憶體），頻寬則直接決定了每個Token的生成速度或每步訓練迭代的時間。對於超大型模型，多卡間的互聯頻寬和拓撲結構也同等關鍵。

• 熱設計功耗（TDP）：決定了單卡的功耗上限、所需的冷卻方案（風冷或液冷）以及資料中心單機架可部署的密度。主流資料中心加速卡TDP已普遍從300W–400W（如A100）攀升至700W–1000W（如輝達B200，SXM形態TDP達1000W，來源：輝達2024年GTC大會公佈），這加速了液冷方案的普及。

• 軟體棧相容性：是否被主流AI架構（PyTorch、TensorFlow）原生支援，是否相容NCCL或RCCL通訊庫，是否支援TensorRT等推論最佳化引擎，直接決定了其在現有研發流程中的上手門檻和實際可用性。

技術路線

當前市場上的PCIe加速卡主要沿著三條技術路線演進，它們在靈活性、能效、生態上各有取捨。

維度	GPU通用加速卡（AI主力）	FPGA可程式設計加速卡	AI專用ASIC加速卡
核心架構	數千個CUDA核心+張量核心（Tensor Core）	查詢表、DSP單元、可配置邏輯塊	專用乘加陣列（如脈動陣列）或資料流架構
程式設計生態	CUDA生態極成熟，是事實標準	OpenCL/Verilog/Vitis HLS，開發門檻高	自研或定製編譯棧，生態封閉但針對性強
能效比	中-高（按每瓦TOPS計，部分場景被ASIC超越）	中等（靈活性以功耗為代價）	最高（固定功能電路極致最佳化）
AI效能特點	通用性最強，訓練和複雜推論佔優	低延遲、高靈活性，適合金融交易、特殊訊號處理	針對特定模型結構和精度的吞吐量/能效極致
主要廠商	輝達（主導）、AMD、英特爾	賽靈思(AMD)、英特爾(原Altera)	雲端廠自研（AWS Trainium）、創企（Groq）
注：上表為架構級定性對比，具體產品的代際、記憶體配置和軟體棧成熟度會顯著影響實際表現。

• GPU路線：輝達憑藉CUDA的龐大開發者生態和持續迭代的硬體架構（引入張量核心、Transformer引擎等），使其PCIe加速卡成為AI領域的“硬通貨”。AMD正通過開源ROCm軟體棧積極追趕，在特定HPC和部分AI負載上展現出價效比優勢。

• FPGA路線：其主要價值在於硬體可重構帶來的極低延遲和靈活性，適合推論場景中對延遲要求苛刻的金融交易、高頻網路處理等應用。但在AI訓練的大規模並行算力上不佔優勢。

• ASIC路線：大型雲端廠商為降低TCO、尋求供應鏈獨立性，正在大量部署自研AI加速卡。這類晶片完全針對其內部特定的大型模型推薦、搜尋或訓練任務深度定製，能效比極高，但對第三方使用者的通用性差。

上游

PCIe加速卡產業鏈的上游環節，掌控著核心技術和關鍵原料。

• 晶片架構與IP授權：GPU架構（輝達、AMD）、FPGA邏輯單元設計（AMD/賽靈思、英特爾/Altera）、AI ASIC的IP核（包括介面IP、記憶體控制器IP等，主要來自Synopsys、Cadence等）。

• 高頻寬記憶體：這是高階AI加速卡不可或缺的上游環節，市場高度集中於SK海力士、三星電子和美光科技三家。其中SK海力士是目前HBM3/3E市場的主要供應商。據TrendForce（集邦諮詢）2024年研究報告資料顯示，HBM產能擴張計劃已覆蓋至2025年，但先進封裝產能仍是主要瓶頸。

• 先進製造與封裝：

  • 晶圓代工：台積電、三星是AI大晶片的主要代工廠，工藝節點已推進至4nm/3nm。
  • 先進封裝：台積電的CoWoS（片上基板晶圓封裝）和英特爾的EMIB是整合HBM和計算核心的關鍵技術，其產能長期處於結構性緊缺狀態，直接影響高階加速卡的出貨量。

• 板級元件：包括高階多層PCB、電源管理晶片、散熱模組（均熱板和液冷板）、高速聯結器等。這些元件雖不如核心晶片引人注目，但任何一個環節的短缺都會造成“木桶效應”，影響加速卡的整體產量。

下游

加速卡的下游應用場景和使用者群極為廣泛，直接驅動著最終市場的需求。

• 雲端服務商：亞馬遜雲端科技(AWS)、微軟Azure、Google雲端、阿里雲端等是全球資料中心加速卡的最大買家。它們不僅採購第三方商用加速卡以提供GPU雲端例項，也在大規模部署自研加速卡。

• 伺服器原始裝置製造商(OEM)：戴爾、惠普企業(HPE)、超微、聯想等是加速卡走向企業市場的關鍵渠道。它們將加速卡整合到認證的伺服器平台中，提供預裝和運維服務。

• 大型網際網路與AI公司：像Meta、字節跳動、OpenAI、Anthropic等公司，擁有龐大的自有資料中心，是萬卡級、十萬卡級AI訓練叢集的直接部署者和消耗者。

• 邊緣計算與企業級使用者：在金融、醫療影像、工業質檢、自動駕駛等領域，對低功耗、小尺寸的PCIe/M.2加速卡的需求也在增長。例如自動駕駛公司（如特斯拉、Waymo）及汽車零部件供應商（如博世、大陸）對車規級或伺服器端推論加速卡有巨大需求。

受益公司

本段落僅客觀梳理產業鏈中處於關鍵位置的公眾公司，及其與PCIe加速卡業務的關聯性，不作任何價值判斷。

• 輝達：憑藉資料中心GPU加速卡（A100/H100/B200等），成為當前AI基礎設施建設的核心供應商。其資料中心業務在2024財年營收達到了創紀錄的475億美元（來源：輝達2024財年10-K年報），其中加速卡是絕對主力。

• AMD：Instinct系列（MI250X/MI300X）是輝達在AI加速卡領域最主要的挑戰者。其MI300X的HBM3記憶體容量高達192 GB，在記憶體容量上具備特定優勢（來源：AMD官方資料，2023年12月釋出）。在雲端廠商尋求多元化供應鏈的趨勢下，其戰略地位凸顯。

• 博通/邁威爾：它們是晶片定製化服務（ASIC）和資料中心互連方案的核心受益者。據公開資訊，博通正為多家頭部雲端廠商（如GoogleTPU、字節跳動等，來源：The Information, 2023）提供AI ASIC的晶片設計或IP。

• SK海力士：作為HBM市場領導者，其財務狀況與高階AI加速卡的需求高度相關。公司2023年財報顯示，HBM產品線在儲存晶片下行週期中逆勢增長（來源：SK海力士2023財年審計報告）。

• 台積電：幾乎壟斷了全球高階AI加速晶片和CoWoS先進封裝的製造訂單。其先進工藝和封裝產能的擴張計劃直接影響著整個行業的供應節奏。（來源：台積電2023年年報及法人說明會）。

市場規模

關於AI加速器的市場規模，多家第三方研究機構給出了統計和預測，但口徑和數值存在差異。

• 據IDC 2024年報告，2023年全球AI伺服器市場（其核心部件為加速卡）規模約為248億美元，預計2027年將超過560億美元。該口徑涵蓋了GPU、FPGA和AI ASIC加速卡在內的硬體支出。
• 據Omdia 2024年分析，僅用於資料中心的AI處理器（含GPU和ASIC）市場規模在2023年已超過400億美元，並預計在2027年突破1100億美元。輝達在此市場中佔據絕對主導地位，但ASIC（如GoogleTPU、AWS Trainium等）的份額正在逐年提升。
• 供給端，公開資料普遍顯示，CoWoS先進封裝產能在2023–2024年是限制出貨的硬約束。台積電在法人說明會上揭露，其CoWoS產能至2024年底將較2023年實現倍增，以滿足輝達等客戶的強勁訂單需求（來源：台積電2024年第一季法人說明會）。

玩家對比

在商業化AI加速卡市場，不同玩家的競爭優勢差異顯著，可概括如下：

• 生態粘性（輝達 vs. 所有人）：CUDA經過十幾年積累，擁有超過400萬開發者，其庫（cuDNN, cuBLAS）、編譯器、除錯工具已形成極高遷移成本。AMD的ROCm生態在完善中，但要達到同等成熟度，仍需數年時間和巨大的生態建設投入。

• 硬體價效比（商業晶片 vs. 雲端廠自研）：雲端廠商自研的ASIC（如AWS Trainium2）在特定工作負載上的價效比（每美元TOPS）可能遠超通用GPU。但它們的優勢被限制在自家雲端平台內，無法作為獨立的PCIe加速卡對外銷售，這構成了一個封閉的“花園圍牆”。

• 供應鏈安全（多元供應 vs. 單點依賴）：過度依賴單一供應商是當前市場最大的痛點。這驅動大型客戶積極採用AMD、英特爾的產品，或走上自研ASIC之路，以建置多元化、有韌性的供應鏈。這為挑戰者提供了結構性增長機遇。

風險

PCIe加速卡行業和相關產業鏈面臨的客觀風險包括：

• 產能與供應鏈中斷風險：先進封裝（CoWoS）和HBM的產能擴張存在週期長、技術壁壘高的特點。若地緣政治衝突或突發事件導致生產中斷，將直接影響所有高階加速卡的出貨。

• 技術路線更迭風險：CXL等基於PCIe物理層的新協議，以及光學互連（Optical I/O）等潛在顛覆性技術，可能在未來改變板間和片間的連線方式，使得傳統的“插卡式”形態發生根本性改變。NVLink向NVSwitch機架級系統（如GB200 NVL72）演進，降低了伺服器內部PCIe通訊的權重，使系統向更緊密耦合的架構演進（來源：輝達2024年GTC技術分享）。

• 生態替代風險：如果PyTorch 2.0等架構能夠在編譯器層面實現對不同硬體後端的透明支援，那麼CUDA的軟體護城河可能被削弱，從而對輝達的溢價能力構成壓力。

• 政策管制風險：美國、歐盟等地的出口管制政策，可能在產品效能、頻寬、互聯速率上設定閾值，嚴重擾亂全球供應鏈和區域市場格局。

誤讀糾偏

以下是行業外常有的幾個認知偏差及更正：

1. “PCIe插槽是目前加速卡效能的瓶頸” 糾偏：不完全準確。PCIe頻寬確實是限制因素，但僅針對特定的“CPU-加速卡”頻繁互動場景。在現代AI叢集中，大規模訓練的關鍵瓶頸在於成百上千張加速卡之間的橫向通訊（AllReduce），而這通常已通過NVLink、Infinity Fabric或專用InfiniBand網路解決，繞過了PCIe。此時，瓶頸轉移到了卡間互聯頻寬和網路交換器的吞吐能力上。

2. “FPGA/ASIC能效高，很快會取代GPU在推論市場的位置” 糾偏：這是一個過於簡化的判斷。在實際部署中，軟體生態的成熟度、開發的便捷性、硬體的通用性和殘值，其權重往往高於純粹的能效比指標。GPU推論藉助INT8/FP8量化和不斷更新的TensorRT等最佳化工具，其能效和吞吐量每年都在顯著提升。目前，GPU在雲端推論市場中依然佔據著絕對的領導地位。ASIC往往在自己的“主場”表現優異，但市場格局不會在短期內發生顛覆。

最新事件

• 輝達釋出Blackwell平台（2024年3月）：推出基於新架構的GB200超級晶片和B200 GPU。其中GB200通過機架級的NVLink Switch互聯，在形態上將兩張B200 GPU組成一塊超級加速計算板，標誌著系統級方案正從“PCIe插卡”向“模組化、高密度、液冷”的整機架解決方案深度演進。（來源：輝達GTC 2024主題演講）

• AMD MI300X開始批次交付（2024年初）：這款擁有192 GB HBM3視訊記憶體的加速卡，已確認獲得微軟、甲骨文和Meta等頭部客戶的採用，用於其內部AI工作負載，是AMD在資料中心GPU市場挑戰輝達地位的關鍵一步。（來源：AMD 2023年第四季度財報及新聞稿）

• 出口管制新規持續影響供應鏈（2023–2024年）：美國商務部工業與安全域性（BIS）針對先進計算晶片和半導體裝置的多輪出口管制規則更新，直接重塑了中國市場的AI加速卡供應格局。這一系列事件促使中國本土加速卡廠商（如華為昇騰）及合規降級版商業晶片的需求激增。（來源：美國聯邦公報及BIS官網）

追蹤指標

為持續理解PCIe加速卡行業的動態，建議系統性地追蹤以下可量化指標：

• 供應鏈端：追蹤台積電每月營收中高效能運算（HPC）平台的營收佔比（公司官網月報）；追蹤SK海力士和美光季度財報中HBM產品的營收貢獻和產能利用率變化，這是判斷高階加速卡出貨彈性的先行指標。

• 廠商端：逐季度比較輝達、AMD資料中心業務的營收和年增率增速（財報及電話會）；關注主要雲端廠商（AWS、微軟、Google、阿里）資本支出展望中對伺服器和AI基礎設施的投入比重，這代表了未來2-3個季度的採購需求。

• 技術與生態端：關注PyTorch官方倉庫對不同硬體後端的支援力度和程式碼合併頻率；追蹤CXL聯盟的新標準釋出和產品的相容性認證進展。

• 市場滲透端：在主要雲端平台上定期檢視可租用的最新GPU/加速卡例項型別的可用區和價格變動。新例項的快速上線代表備貨充足，而長期的“缺貨”或高昂的競價價格則暗示著供給瓶頸。

信源

• PCI-SIG, “PCI Express Base Specification Revisions”.
• NVIDIA, “NVIDIA H100 Tensor Core GPU Architecture” (2022); “NVIDIA B200 and GB200 Technical Briefs” (2024).
• AMD, “AMD Instinct MI300X Accelerator Data Sheet” (2023).
• Broadcom, “Enabling the AI Infrastructure” Investor Presentation (2024).
• SK hynix, “Fiscal Year 2023 Performance Report”.
• TSMC, “2023 Annual Report and Q1 2024 Earnings Call”.
• TrendForce, “HBM Market Analysis Report” (2024).
• IDC, “Worldwide AI Server Market Forecast, 2024–2027”.
• Omdia, “AI Processors for Data Centers Market Tracker” (2024).
• U.S. Bureau of Industry and Security (BIS), “Export Administration Regulations (EAR) for Advanced Computing Items” (2023).