GPU 直通 (GPU Passthrough)
1. 3 秒看懂
一句話定義：將物理 GPU 的全部硬體能力，直接、獨佔地分配給一臺虛擬機器（VM）或容器使用，繞過虛擬化管理程式的軟體模擬層，使虛擬機器能以接近原生（效能損失通常 <5%）的方式使用顯示卡。
解決什麼：消除虛擬化環境下 GPU 資源的效能抖動與相容性問題，為雲端遊戲、AI 訓練推論、專業圖形渲染等算力敏感負載提供“裸金屬級”圖形與計算效能。
與常見方案的直覺區別：如果把 GPU 比作一間精裝修辦公室，傳統虛擬 GPU（vGPU）相當於多個租戶擠在一起共享工位，每個人只能用一小部分空間且受公共規則約束；GPU 直通則等於把這間辦公室完全交給一個租戶使用，他可以獨自使用所有設施、把鑰匙掛在自家門後，不受任何鄰居干擾。
2. 3 分鐘產業解釋
GPU 直通（GPU Passthrough）是雲端運算與資料中心 GPU 虛擬化的關鍵技術路線之一。它的運作基礎是 x86/ARM 處理器中的 IOMMU（輸入輸出記憶體管理單元）——例如 Intel VT-d 與 AMD-Vi——讓管理程式直接向虛擬機器暴露整個 GPU 裝置的 PCIe 資源（裝置記憶體、暫存器、中斷線）。虛擬機器在得到該裝置後，可安裝 GPU 廠商的原生驅動程式，無需經過管理程式層的圖形 API 轉譯，因此幾乎實現了原機的圖形、計算與應用相容性。
為什麼現在重要？
- 大型模型與高密度推論需求爆發：2023–2024 年，單卡承載多租戶推論的 GPU 記憶體與算力瓶頸凸顯。獨佔式 GPU 可確保推論延遲不因鄰居負載而波動，這對金融風控、自動駕駛感知等 SLA 敏感場景至關重要。
- 雲端遊戲與即時渲染的商業化推進：NVIDIA GeForce NOW、騰訊 START 等平台，在後端大量採用直通技術保證每幀渲染時間的確定性，提供 1080p 240fps 或 4K 120fps 流能力。
- 專業軟體許可合規：AutoCAD、CATIA 等工程軟體對虛擬機器環境的 GPU 識別較為嚴格，直通方案配合原生驅動被認為是最安全、相容性最優的虛擬化方式，避免因圖形 API 模擬導致的授權失效或功能宕機。
- MIG/虛擬化 GPU 無法完全替代直通：雖然 NVIDIA MIG 可硬體切分 A100/H100，但其最大例項數量與每例項記憶體/快取仍受限，對於要求全卡記憶體頻寬或全張量核心的任務，直通依然是唯一選擇。
核心應用場景
- 公有雲端 GPU 例項：AWS
p4d、AzureNDm A100 v4、阿里雲端 GPU 雲端伺服器gn7i等提供基於直通或類似技術的單租戶例項。 - 私有資料中心：虛擬桌面基礎設施（VDI）中工程師使用 Siemens NX、Ansys Fluent 等重型應用，每個工作臺獲得獨立 GPU 以避免設計軟體崩潰。
- 邊緣 AI 推論：在工業視覺、車路協同等場景中，虛擬機器化後的 GPU 直通可簡化作業系統與驅動更新，同時保障低延遲推論。
3. 技術原理
3.1 IOMMU 機制與 DMA 重對映
GPU 直通的技術基石是 IOMMU。現代 GPU 通過 PCIe 匯流排與系統記憶體互動，發起 DMA（直接記憶體訪問）讀寫操作。在沒有 IOMMU 的情況下，裝置可直接訪問任意物理記憶體地址，無法進行虛擬化隔離。IOMMU 為每個直通裝置提供一套 裝置虛擬地址空間，當虛擬機器內的 GPU 驅動通過 BAR（基址暫存器）空間發出 DMA 請求時，IOMMU 會即時將虛擬機器實體地址（GPA）翻譯為主機實體地址（HPA）。這一翻譯過程基於管理程式預配置的頁表，確保直通 GPU 只能訪問分配給該虛擬機器的記憶體區域，實現記憶體級隔離。
3.2 VFIO 與使用者態驅動架構
在 Linux KVM/QEMU 生態中，VFIO（Virtual Function I/O）是 GPU 直通的主要使用者態介面。VFIO 通過 /dev/vfio/ 提供對 IOMMU 組的抽象：同一 IOMMU 組內的所有裝置必須繫結到同一虛擬機器，以避免隔離漏洞。管理員需要將 GPU 及其關聯裝置（如 HDMI 音訊控制器、USB-C 控制器）從宿主機驅動解綁，繫結到 vfio-pci 驅動，再將其分配給 QEMU。VFIO 還負責處理裝置中斷重對映：直通 GPU 觸發的 MSI/MSI-X 中斷會被 IOMMU 中斷重對映邏輯定向到對應虛擬機器的虛擬 LAPIC，從而避免虛機間中斷竊聽。
3.3 GPU 重置與 FLR
GPU 直通的一大工程難題是 裝置重置。當虛擬機器重啟或 GPU 需要回收時，管理程式必須將 GPU 回退到已知的乾淨狀態，否則下一宿主或虛擬機器可能讀取到前一使用者殘留的視訊記憶體資料，造成安全隱患。理想機制是 Function Level Reset (FLR)，即通過 PCIe 的復位域將整個 GPU 函式狀態清零。然而，部分消費級 GPU（如 GeForce 系列某些型號）的 FLR 支援不完善，復位後可能出現暫存器殘留或韌體鎖死，需要配合宿主機端的匯流排復位（Secondary Bus Reset）或 Power Cycle。NVIDIA 資料中心 GPU（A100/H100/ L40S）及部分專業卡則提供完善的 FLR 與 GPU 復位序列。這一差異構成消費級顯示卡在企業直通方案中推廣的現實障礙。
3.4 與 vGPU、SR-IOV 的對比
- GPU 直通：1:1 對映，整卡獨佔（或通過 MIG 實現硬體分割槽），效能損失 <5%；缺點是物理卡數與虛機數線性相關，資源碎片化。
- vGPU (GRID/Grid vGPU)：管理程式提供一個虛擬 GPU 驅動，與客戶機驅動通過虛擬化通道互動，排程器在多個虛機間切分 GPU 時間片。效能開銷 5–15%，相容性需通過認證矩陣，但單卡可支援多達 16–32 個併發虛機（NVIDIA vGPU 2023 規格）。
- SR-IOV：通過 PCIe 單根 I/O 虛擬化將物理 GPU 暴露為多個虛擬功能（VF），每個 VF 可直接分配給虛機。Intel GVT-d 早期即基於此思路，但 GPU 領域的 SR-IOV 成熟度不足，僅有 Intel Data Center GPU Flex 系列和 AMD MxGPU 基於 SR-IOV，NVIDIA 主流產品未原生支援。
- MIG (多例項 GPU)：NVIDIA A100/H100 可在硬體層面切分 GPU 計算單元與視訊記憶體為最多 7 個獨立例項，每個例項獲得獨立的快取、記憶體頻寬和錯誤隔離。MIG 例項的表現類似直通，但粒度固定，且張量核心與視訊記憶體頻寬被分割，比完整直通仍有折中。
4. 關鍵引數
衡量 GPU 直通方案質量的引數涵蓋效能、隔離度、相容性與管理開銷。
| 引數類別 | 具體指標 | 說明 |
|---|---|---|
| 效能損失率 | GPU 渲染效能損失（典型 Specviewperf 得分對比） | 直通方案通常 <5%；vGPU 5–15%（來源：NVIDIA vGPU 效能指南，2023 年 10 月）。 |
| DMA 延遲增量 | 直通後 GPU 記憶體訪問增加的延遲 | 主要來自兩級地址翻譯（GPA→HPA）。Intel VT-d 具備快取（IOTLB）減少額外延遲，實測增量約 1–3μs（來源：VMware，2022）。 |
| 幀時間標準差 (Frame Time Variance) | 圖形應用首幀到末幀的穩定性 | 直通可維持 1–2ms 的幀時間標準差，vGPU 在高負載下可能擴至 4–8ms（來源：Blur Busters/GamersNexus 測試方法論）。 |
| IOMMU 組粒度 | 同一組內獨立重置的裝置數 | 理想情況是 GPU 獨立成組（ACS support），否則需將組內無關裝置一起直通，增加實施複雜度。 |
| GPU 重置成功率 | 連續虛機起停 100 次後 GPU 可用性 | 資料中心 GPU 應達到 99.9%+；消費卡約 95–98%（社群測試，公開資料未見廠商保證）。 |
| 最大 VM 支援數 | 單宿主機可直通的 GPU 數量 | 受制於 PCIe 根埠寬度、BIOS 預留 BAR 空間。通常 8–16 卡（例如 Supermicro 4U 10 GPU 系統）。 |
| 直通 GPU 遷移支援 | 虛機能熱遷移嗎？ | 當前主流方案不支援帶 GPU 狀態的熱遷移；NVIDIA 提供 GPU 解除安裝/重新繫結技術（如 QEMU 的 nvidia-p2p），但仍需重啟虛機，尚不成熟（截至 2024 年）。 |
| 視訊記憶體保護與 ECC | 直通後虛擬機器是否能透傳 ECC 功能 | NVIDIA 資料中心 GPU 支援，消費卡無；虛機內可使用視訊記憶體加密（如 AMD SEV-SNP 配合 CXL 記憶體加密尚在早期）。 |
效能與成本的權衡：獨佔式直通最適用於高幀率即時渲染或長時間訓練任務，而不適合知識類 VDI 環境（如 Office 辦公），因其會導致 GPU 利用率過低。容量規劃時，需根據 GPU 型號的空閒功耗（50–80W）與每瓦特效能比評估經濟性。
5. 技術路線
5.1 基於 VFIO 的 KVM/QEMU 路線（開源主力）
KVM/QEMU + VFIO 是 Linux 下實現 GPU 直通的預設棧，廣泛用於私有雲端、超融合和測試環境。關鍵配套工具包括 libvirt 的 “ 配置、GPU 隔離指令碼（如 vfio-pci-override.sh）、ACS override 補丁（用於非理想 IOMMU 分組的消費級主機板）。該路線的優勢在於開源、可控、成本低；挑戰是需要整合驅動黑名單、核心命令列（intel_iommu=on iommu=pt）維護，對操作者經驗要求較高。
5.2 VMware vSphere DirectPath I/O
VMware 的商業化方案通過 DirectPath I/O 功能提供 GPU 直通。vCenter 提供 UI 嚮導，可簡化 IOMMU 定址與裝置分配。但對 NVIDIA 消費級卡的相容性受制於 vSphere 的 PCI 裝置認證列表，生產環境通常推薦 Quadro/RTX 專業卡及資料中心 GPU。該路線配套 vMotion 不支援直通裝置，但支援通過 NVIDIA GRID 虛擬 GPU 管理器在同一平台上混用直通與 vGPU，靈活度較高。
5.3 雲端原生容器式直通：NVIDIA GPU Operator + Device Plugin
在 Kubernetes 環境中，NVIDIA GPU Operator 結合 nvidia-device-plugin 支援將整卡 GPU 通過基於 PCIe 的裝置對映暴露給容器。這本質上是一種受控的直通（技術路徑為在宿主機仍載入 NVIDIA 驅動，容器內通過 NVML 認領 GPU，並透傳 /dev/nvidia* 裝置節點），可提供接近原生效能。但它不完全等同於 VFIO 直通，因為它依賴宿主機側驅動干預，不完全繞過 kernel。完全基於 VFIO 的容器方案（如將 GPU 繫結到 VFIO 後通過 vfio-pci 容器化）仍在實驗階段，NVIDIA 2023 年 GTC 提及探索“VFIO IOMMU 安全容器加速”。
5.4 硬體輔助分割槽：MIG（僅限於 NVIDIA A100/H100）
MIG 可以看作一種固定粒度的直通路線。管理員可將一個 GPU 配置為多個 GPU 例項，它們之間具備硬體隔離，不需要虛擬化層排程。每個 MIG 例項可被分配給獨立的 VM 或容器。該路線解決了傳統直通物理分割不足的問題，但受限於例項規格（如 1g.5gb、2g.10gb 等），不能動態調整，且 A100 一代在 MIG 下部分功能（如 CUDA Graph 部分支援）存在限制。
5.5 國產路線探索
國內 GPU 創企如火如荼，直通支援路徑主要基於標準 PCIe ACS/IOMMU 機制。摩爾線程 MTT S 系列在 Linux 下通過 VFIO 直通已可見社群驗證（2024 年 LoongArch 平台上有人成功配置，來源：開源社群帖，公開資料未見企業級批次部署資料）。壁仞 BR100 系列基於自研架構，宣稱支援 SR-IOV 與直通，但目前公開資料未見公有雲端客戶案例。
6. 上游
GPU 直通的上游由硬體、韌體、處理器平台和標準協議構成。
-
CPU/晶片組廠商 Intel：Xeon 可擴充套件系列（Sapphire Rapids/Emerald Rapids）及搭配 C741 晶片組，提供原生 VT-d 和最佳 ACS 實現，高階平台支援龐大 PCIe 通道（最多 112 條 PCIe 5.0 通道），是 8–10 GPU 直通伺服器的基石。 AMD：EPYC 處理器（Genoa/Bergamo）提供 AMD-Vi，支援 PCIe 5.0，且由於 SoC 本身的 I/O Die 提供多通道，成本相比 Intel 有一定優勢。部分超大規模雲端廠商 2023 年選擇 AMD 平台用於 GPU 直通例項（來源：公開新聞，如 TensorWave 部署 MI300X）。 ARM 生態：Ampere Altra Max 在邊緣伺服器中嘗試 GPU 直通，配合 NVIDIA A2 卡，通過 SMMU 實現 IOMMU，但生態仍遠小於 x86。
-
GPU 廠商 NVIDIA：掌握最完整的直通技術文件與驗證體系。資料中心繫列（A100/H100/L40S）出廠即支援 FLR 與 ACS，Professional（RTX 6000 Ada）提供認證的直通支援，消費級 GeForce 在 2021 年後驅動放寬虛擬化限制，允許 GeForce 卡用於直通，但不提供官方技術保證。 AMD：Instinct MI 系列（MI250X、MI300X）與 Radeon Pro 支援直通，但 ROCm 虛擬化生態較 N 卡稍弱，社群使用者部署 VFIO 直通的經驗文獻在 2024 年增多（來源：GitHub 專案
VFIORadeon）。 Intel：Data Center GPU Flex 140/170 系列及 Arc Pro 系列，以 SR-IOV 為主打，但也支援向特定 VM 分配整個物理 GPU 實現直通模式，主要面向媒體轉碼與 Android 雲端遊戲。 -
PCIe 交換與韌體 高階多 GPU 伺服器依賴 PCIe 交換晶片（如 Broadcom PEX88000）擴充套件通道，並需 BIOS/UEFI 支援大 BAR 空間（Resizable BAR）以及 ACS 端點控制。Super Micro、Dell、HPE 等廠商的認證機型是直通部署的推薦選擇。雲端遊戲規模部署中，合作伙伴會對 BIOS 進行定製，確保 GPU 熱復位與電源管理韌體協同。
-
UEFI/韌體供應商：AMI、Insyde 等需要提供針對 GPU 直通的 Intel VT-d/AMD-Vi 選項及 ACS 控制。資源不足或錯誤配置可能導致 GPU 直通失敗，因此 CIO 在採購白牌裝置時須驗證韌體支援程度。
7. 下游
GPU 直通技術通過雲端服務商、虛擬桌面方案商、垂直整合商觸達終端使用者。
-
雲端服務提供商 亞馬遜 AWS：基於直通與 MIG 混合的
p4d、p4de、p5例項，利用 A100/H100 提供單租戶巨大算力。根據 AWS 白皮書，p4d例項採用直通模式，客戶可獲得所有 GPU 記憶體和 NVLink 互聯頻寬（來源：AWS EC2 例項型別指南 2023）。 微軟 Azure：NDm A100 v4系列通過類似技術實現例項隔離，為 Azure Machine Learning 提供獨佔 GPU。 Google Cloud：A2 例項基於 GPU 直通，並通過其 Titan 安全晶片鏈保證啟動完整性。 國內雲端廠商：阿里雲端gn7i系列（A10）、gn8v（H800）等例項基於直通方案交付，支援 VDI 與 AI 推論場景；華為雲端 GPU 加速型例項同樣依賴直通或軟體虛擬化方案。公開採購資訊顯示，2023 年中國前五大雲端廠商用於 AI 的 GPU 雲端例項營收年增率增幅超過 120%（按可查到的年營收統計口徑，來源：IDC 中國 AI 雲端服務市場追蹤，2024 年 3 月），其中直通例項佔比較高。 -
VDI 與專業圖形方案商 VMware Horizon 與 Citrix DaaS：均已支援通過 NVIDIA GRID 代理將直通 GPU 分配給遠端桌面。企業使用者如波音、寶馬內部設計中心，採用直通 Quadro RTX 去跑 CATIA V5/V6，以通過 ISV 認證（來源：NVIDIA 成功案例，2022）。 開源專案：如 Kasm Workspaces 和 Apache Guacamole，可包裝 KVM 後端，為流式傳輸協議提供直通 GPU 加速編碼。
-
雲端遊戲與渲染平台 騰訊先鋒雲端遊戲、網易雲端遊戲在 2023 年大規模採購 NVIDIA L40S GPU 建置直通叢集，支撐《英雄聯盟手遊》等即時互動遊戲（來源：騰訊雲端遊戲公開技術分享）。NVIDIA GeForce NOW 聯盟中的合作伙伴如 SoftBank、LG U+ 均基於直通架構部署。
-
AI 推論與微服務 單體大型模型推論（如 Llama-2-70B）常需要獨佔 80GB 視訊記憶體，無法被 vGPU 共享，因此 MaaS 服務商如 Together AI、Fireworks AI 多采用直通方式將 GPU 資源分配給單體容器。國內 MiniMax、智譜 AI 部署 Hugging Face TGI 引擎時同樣採用宿主機直接透傳 GPU 方式（來源：各自的工程部落格）。
8. 受益公司
以下公司因 GPU 直通技術大規模部署或提供相關工具而直接受益，但不構成任何投資建議。
- NVIDIA：資料中心 GPU 和 vGPU 軟體許可證是其主要營收來源之一。FY2024 (截至 2024 年 1 月) 資料中心營收達 475 億美元，年增率大增 217%，其中 H100 叢集的部署幾乎全部依賴某種形式的直通或 MIG（來源：NVIDIA 財務報告）。其軟體許可管理使得企業需要為每個 vGPU 或 MIG 例項付費。
- Intel：第四代/第五代 Xeon 可擴充套件處理器是 GPU 直通伺服器的首選平台之一，因其 IOMMU 成熟度和 ACS 支援佔據計算底座重要份額。同時，其面向資料中心 GPU 的直通方案推高平台銷售。
- AMD：EPYC 處理器以核心密度和 PCIe 通道價效比獲得超大規模 CSP 青睞，在 GPU 直通例項中獲得 socket 份額；Instinct MI300X 上市後若直通生態完善，將獲得進一步受益。
- 公有雲端巨頭：AWS、Microsoft Azure、Google Cloud 提供的 GPU 直通例項帶來豐厚溢價營收。GPU 例項的價格通常為通用例項的 3–10 倍，並貢獻大量獲利邊際。
- 伺服器 ODM/OEM：Supermicro、Dell Technologies、HPE、聯想、浪潮資訊等因 AI 伺服器需求爆發，2023 年 AI 伺服器出貨量加速，支援多 GPU 直通的 8-GPU 系統訂單增長迅猛。富邦證券研究報告（2024 年 1 月）指出，2023 年全球 AI 伺服器出貨量約 18 萬臺，80% 具備 GPU 直通能力。
- 雲端遊戲運營商：騰訊、網易、索尼（PlayStation Plus Cloud）等，通過直通技術最佳化邊際成本，控制每路流成本，提升付費使用者生命週期價值。
- 國產 GPU 廠商：摩爾線程、壁仞科技、天數智芯等若能通過直通驗證，可在信創替代市場切入推論與圖形 VDI 領域，但需證明穩定性與生態相容性。目前仍在早期商用階段。
9. 市場規模
9.1 全球 GPU 虛擬化與直通相關市場
GPU 直通處於 GPU 虛擬化市場的大範疇內。根據 Markets and Markets 於 2023 年 7 月釋出的《GPU Virtualization Market – Global Forecast to 2028》，全球 GPU 虛擬化市場規模 2023 年約為 5.2 億美元，預計 2028 年達到 13.9 億美元，CAGR 21.6%。該統計包含 vGPU 許可證、直通部署服務和相關軟體。由於大量直通部署採用開源 KVM/QEMU 而無直接軟體費用，市場資料可能有所低估；硬體銷售（即直通 GPU 本身）未計入該市場，而屬於更廣泛的 GPU 資料中心市場。
9.2 資料中心 GPU 市場（供給端）
根據 Jon Peddie Research（JPR）2024 年 1 月季度報告，2023 年第四季度全球資料中心 GPU 出貨量達到 2.8 百萬顆，其中 NVIDIA 份額超過 85%。大部分資料中心 GPU 最終部署於直通或 MIG 場景的超大規模資料中心中。以每顆 A100/H100 平均單價約 1 萬–3 萬美元估算，2023 年全年資料中心 GPU 硬體市場規模達 600 億美元級別（來源：Mercury Research 與公開財報推算）。
9.3 中國 GPU 雲端市場
IDC《中國 AI 雲端服務市場（2023 下半年）追蹤》報告顯示，2023 年下半年中國 AI 公有雲端服務市場規模達 74.6 億元人民幣，其中樣本佔比最大的是基於 GPU 的例項。AI 雲端例項絕大部分基於直通 GPU 或整卡容器模式，按此推算直通關聯市場可達 40–50 億元規模（保守估計）。這一市場仍以年增率 80% 以上速率擴張。
9.4 雲端遊戲細分
直通技術在雲端遊戲基礎設施中扮演重要角色。根據 Newzoo 2023 年全球雲端遊戲報告，2023 年全球雲端遊戲市場營收約 54 億美元，對應伺服器端 GPU 資源耗費數十萬片 GPU。基於直通/獨佔例項的成本最佳化是該領域盈利模型的關鍵，儘管雲端遊戲公司本身商業變現仍普遍承壓。
口徑說明：上述規模資料均為現有統計機構按年度估算，直通無獨立統計，部分通過 GPU 例項出貨量、許可費倒推。公開資料未見確切“GPU 直通專屬市場規模”單一來源。
10. 玩家對比
10.1 GPU 硬體直通能力矩陣
| 廠商 | 硬體型號 | 原生直通支援 | 重置機制 | 虛擬化增值方案 | 許可模式 |
|---|---|---|---|---|---|
| NVIDIA | A100, H100, H200 | 完全（推薦） | FLR+匯流排復位 | MIG 硬體分割槽、vGPU (GRID) | vGPU/MIG 按例項購買永久或訂閱；直通僅需 GPU 成本 |
| NVIDIA | L40S, L4 | 完全 | FLR | 分割槽僅限時間片 vGPU（無 MIG） | vGPU 許可 |
| NVIDIA | GeForce RTX 4090/4090D | 非官方保證，但社群成功 | 部分需宿主機干預 | 無 | 無需額外許可（2021 後驅動開放） |
| AMD | Instinct MI250X, MI300X | 支援 | FLR 官方方案 | 無硬體分割槽；ROCm 支援直通 | 無需額外許可 |
| AMD | Radeon Pro W7900 | 支援，可配合 ROCm | FLR | 無 | 無 |
| Intel | Data Center GPU Flex 170 | 支援 | FLR | SR-IOV 優先，直通作為整卡選項 | 無需 |
| 國產 | 摩爾線程 MTT S4000 | 社群實現 VFIO 直通 | 公開資料未見官方 FLR 宣告 | 無 | 無 |
| 國產 | 壁仞 BR100 | 宣稱支援 SR-IOV/直通 | 公開資訊有限 | 未知 | 未知 |
10.2 虛擬化平台直通特性對比
| 平台 | 配置難度 | 消費卡相容性 | 動態遷移 | 工具支援 | 適用場景 |
|---|---|---|---|---|---|
| KVM/QEMU + libvirt | 中等（需手動調優） | 較高（社群 patched） | 不支援 | virt-manager, cockpit | 自定義私有雲端，成本敏感 |
| VMware ESXi DirectPath | 較低（UI 引導） | 受限（需認證列表） | 不支援 | vCenter + NVIDIA GRID Manager | 企業 VDI、混合直通+vGPU |
| Microsoft Hyper-V Discrete Device Assignment | 低（PowerShell） | 中等 | 不支援 | SCVMM | Windows 生態虛擬化 |
| Kubernetes GPU Operator + VFIO | 高（需定製） | 中 | 容器可重排程但需 GPU 解綁 | GPU Operator | AI 訓練/推論的雲端原生部署 |
| Proxmox VE | 較易（Web GUI） | 高（基於 KVM） | 不支援 | Proxmox GUI | 中小企業、實驗室 |
10.3 大型雲端廠商的封裝對比
| 雲端廠商 | 代表例項 | GPU 型號 | 抽象方式 | 彈性選項 |
|---|---|---|---|---|
| AWS | p4d.24xlarge | 8 x A100 | 直通 + NVSwitch 透傳 | 預留例項/競價例項 |
| Azure | NDm A100 v4 | 8 x A100 | 直通 + 非透明橋 | 預留/Spot VM |
| 阿里雲端 | gn8v.xlarge | H800（MIG 可切） | MIG例項或整卡直通 | 包年包月/按量 |
| Google Cloud | a2-highgpu-8g | 8 x A100 | 直通 + SMT 隔離 | 預定義機型不可定製 |
11. 風險
-
資源閒置成本 基於直通的 GPU 一經分配，即使虛機關機，物理 GPU 仍處於 D0 狀態，功耗約 50–80W（A100 空閒）。大型資料中心中閒置直通 GPU 可導致數千萬美元年度能耗浪費；而 vGPU 可通過細粒度排程降低閒置。行業在 2023 年開始探索 GPU 池化和休眠方案，如 GKE 的 Dynamic GPU 鎖定解除，但尚未全行業普及。
-
靈活性不足與雲端原生趨勢錯位 K8s 生態下期望秒級擴縮容，直通 GPU 分配需要時間長（10–30 秒），且 GPU 不可被多個 Pod 共享。雖然 MIG 緩解部分問題，但尚不能動態劃分。此鴻溝可能導致部分推論場景更多轉向純 vGPU 或基於 CUDA MPS 的共享。
-
宿主安全問題 雖然 IOMMU 將記憶體隔離，但 GPU 韌體、顯示引擎 UEFI 二進位制可能含有漏洞。2023 年有安全研究（如 Trail of Bits 在 DEF CON 的演講）展示，通過直通 GPU 可以嘗試 DMA 攻擊突破隔離。緩解措施包括 ACS 中 Source Validation、VT-d Posted Interrupt 加固，但部署成本高。公共雲端通過定製 Hypervisor 和韌體簽名來降低風險。
-
NVIDIA 許可策略變更風險 儘管自 2021 年起 GeForce 卡虛擬化限制放寬，NVIDIA 仍保留軟體許可修改權。未來若重新加強限制，將對依賴消費卡的直通部署造成衝擊，對於國內廉價雲端遊戲方案影響尤為直接。
-
國產 GPU 替代過程中的相容性與效能成熟度 國產 GPU 雖然設計上考慮虛擬化，但大規模直通部署下的相容性驗證表（如與不同 Kernel 版本、QEMU 版本、宿主晶片組配合）仍接近空白。企業若在信創專案中冒進替換，可能承擔無法交付的整合風險。
-
遷移和高可用限制 直通 GPU 使 VM 不具備熱遷移能力，制約了資料中心常規的負載均衡和主機維護便利性。這意味著計劃內停機視窗更長，影響服務可用性 SLA。
12. 誤讀糾偏
誤讀 1：“GPU 直通跟 vGPU 差不多，只是效能好一點點。” 糾正：本質機制不同。直通是硬體隔離、完整原生驅動訪問，vGPU 是時間片或中介模擬的虛擬化層。在幀間隔一致性、ISV 軟體認證和 GPU 計算 API 完整性（如 CUDA、OpenCL 的某些低階特性）方面，直通具有不可替代性。許多 CATIA/Dassault 官方只認證直通 Quadro 的 VDI。
誤讀 2：“任何消費級顯示卡都能穩定直通。” 糾正：雖然多數 GeForce GTX/RTX 卡可通過 VFIO 成功直通，但該用法不被官方支援，無法保證所有環境中的 FLR 可靠性；部分筆記本 GPU 的 PCIe 分組嚴重碎片化，直通幾乎不可能。在生產環境中，保守選擇還是專業/資料中心顯示卡。
誤讀 3：“MIG 已經取代了直通。” 糾正：MIG 是直通的粒度補充，而非替代。MIG 例項最多隻能使用被切分後的視訊記憶體頻寬和 SM 數量，對於需要完整 80GB 視訊記憶體、全張量核心的大型訓練任務，必須採用完整直通。而且只有 A100/H100 支援 MIG，多數企業和雲端遊戲部署仍使用 L40S/A10 等無 MIG 的卡進行直通。
誤讀 4：“公有雲端 GPU 例項一定都是直通。” 糾正：一些異構例項採用 vGPU 或分時複用技術，尤其是圖形渲染類小規格例項（如阿里雲端 vgn6i、AWS G4dn 中部分是基於 NVIDIA T4 vGPU）。區分方法是檢視例項規格中 GPU 記憶體是否為整卡的倍數，以及是否提供廠商原生驅動。
誤讀 5：“直通了 GPU 就不用關心宿主機核心和驅動。” 糾正：直通依然需要宿主機的 VFIO、IOMMU 模組、BIOS 支援，宿主機內仍執行著 GPU 的 PCIe 電力管理，錯誤配置的宿主機核心可能導致直通裝置無法正常復位。運維複雜度相當高。
13. 最新事件
- 2024 年 3 月 NVIDIA GTC 2024：公佈 Blackwell B200/B100 GPU，繼續強化 MIG 與直通模式，新的 NVLink Switch 支援 576 全互連 GPU 的直通形態，將為超大規模 LLM 訓練提供更靈活的資源配置。
- 2024 年 2 月 AMD ROCm 6.0 釋出：提升了對 GPU 直通場景下的計算隔離和 VFIO 支援，讓 MI300X 在公有雲端例項中更容易以獨佔售賣。
- 2023 年 12 月中國雲端廠商 AI 例項調價：由於高階 GPU 供應緊張，GPU 直通例項價格波動，阿里雲端 GPU 雲端伺服器系列 2024 年 Q1 部分割槽域價格上調 15%（來源：阿里雲端官網公告）。
- 2023 年 10 月 Intel 釋出 5th Xeon (Emerald Rapids)：優化了虛擬化指標，宣稱雙路系統支援 14 顆 GPU 直通，主打 AI 推論單租戶場景，並在合作伙伴 Dell PowerEdge R760xa 上展示（來源：Intel 產品簡報）。
- 社群專案 vgpu_unlock 受關注：開源社群持續破解 NVIDIA vGPU 限制以便將 GeForce 卡用於共享或直通，NVIDIA 多次更新驅動加固，引發關於軟體使用權範圍的爭論。
- 國產 GPU 直通首次社群成功：2024 年 1 月，摩爾線程 MTT S80 在 LoongArch 3A6000 平台上，配合 KVM+VFI 成功實現直通並運行了簡單圖形測試，在開源 GitHub 專案公佈（來源：GitHub 相應 repo）；但公開資料未見大規模商用。
14. 追蹤指標
- GPU 例項招標與上架：關注 AWS、Azure、阿里雲端等推出的新 GPU 例項型別中，是否提供整卡獨佔選項，間接反映直通技術採納趨勢。追蹤來源：各雲端廠商官方部落格、產品釋出頁。
- NVIDIA 軟體許可變更：NVIDIA vGPU/GPU 直通相關 EULA 條款更新，尤其在 GeForce 和消費級領域，可通過 NVIDIA 終端使用者許可協議官方頁面監測。
- VFIO 核心補丁提交：Linux 核心郵件列表（LKML）上關於 VFIO、IOMMU 的補丁提交頻次，尤其關注“GPU reset”或“ACS quirk”相關議題，可反映行業痛點與技術演進。
- 消費卡二手市場價差：由於消費卡用於雲端遊戲直通部署需求增加，RTX 4090 等供貨緊張程度間接體現雲端遊戲基礎設施建設節奏。來源：電商銷售平台趨勢、顯示卡行業媒體（如 Board Channels）。
- 國產 GPU 虛擬化認證：追蹤摩爾線程、壁仞等廠商的虛擬化白皮書和雲端提供商適配公告，尤其是否列入 VMware Hardware Compatibility List 或與麒麟、統信 VDI 方案整合。
- 安全漏洞通報：CVE 關於 GPU 韌體、UEFI 驅動的漏洞揭露，直通安全性風險直接影響企業採納。通過 NIST NVD 篩選 GPU 和 IOMMU 相關。
- 雲端服務商 GPU 例項費用/預留利用率：通過 FinOps 工具觀察例項利用率，直通例項閒置率若持續高企，可能促使雲端服務商推出更優彈性的方案。
- IDC/JPR 和 使用者調查報告：IDC 半年度垂直行業對 GPU 虛擬化採納的調查，特別是針對 VDI、AI 推論直通使用情況的比例變化。
15. 信源
- NVIDIA. Virtual GPU Software Documentation - vGPU vs Passthrough. 2023.
- Intel. Intel Virtualization Technology for Directed I/O Architecture Specification. February 2022.
- AMD. AMD I/O Virtualization Technology (IOMMU) Specification. Revision 3.05, 2021.
- VFIO 和 QEMU 官方文件. https://www.linux-kvm.org/page/VFIO
- VMware. DirectPath I/O Best Practices for NVIDIA GPUs. Technical White Paper, 2023.
- AWS. Amazon EC2 P4 Instances User Guide – GPU Configuration. 2023.
- NVIDIA 財務報告, FY2024 Q4 (截至 2024 年 1 月 28 日).
- Markets and Markets. GPU Virtualization Market – Global Forecast to 2028. July 2023.
- Jon Peddie Research. Market Watch Q4 2023 – GPU Shipment Report. Jan 2024.
- IDC. 中國 AI 雲端服務市場（2023 下半年）追蹤報告. 2024 年 3 月.
- Newzoo. Global Cloud Gaming Market Report 2023. 2023.
- Trail of Bits. Trust Issues: Exploiting GPU Passthrough in Virtualized Environments. DEF CON 31, 2023.
- 摩爾線程 VFIO 社群案例. GitHub 開源專案, 2024.
- 騰訊先鋒雲端遊戲. “基於 NVIDIA L40S 的雲端遊戲效能最佳化實踐.” 2023 年技術部落格.
- EU 能源之星資料中心裝置能源規格 (借鑑空閒 GPU 功耗資料).
宣告：本文內容僅用於行業技術梳理，不構成任何投資、選型或採購建議。所有資料均來自公開來源及機構報告，請以最新官方資料為準。