Serverless GPU

1. 3 秒看懂

Serverless GPU 是一種將 GPU 算力包裝成“按呼叫計費”的雲端運算模型。使用者無需提前預留或管理帶有 GPU 的伺服器、虛擬機器或容器叢集，只需提交程式碼、模型或任務，平台自動完成資源分配、啟動計算環境、執行任務、返回結果，並在空閒時立即回收資源。開發者不需要關心 GPU 型號、驅動版本、CUDA 庫相容性、節點數量等底層細節，按實際消耗的 GPU 計算時長或呼叫次數付費，真正實現“用時即起、用完即停”的極致彈性。

2. 3 分鐘產業解釋

本質上，Serverless GPU 把“計算資源”的售賣模式切換為“計算結果”的售賣模式。傳統 GPU 雲端伺服器以整塊 GPU 卡/小時為單位出租，即使使用者沒有滿負荷執行也需全額付費；而 Serverless GPU 的計價單位可以是 GPU 核/秒、視訊記憶體/GB/秒，甚至單次推論請求。這一轉變依託於容器封裝、高速資源排程、虛擬 GPU 切分與毫秒級計費系統。典型應用場景包括具有突發性或間歇性特徵的 AI 模型推論、批次影像處理、影片轉碼、科學模擬以及雲端遊戲渲染等。使用者不再為閒置的 GPU 時間買單，平台則通過規模效應和多租戶複用提高硬體利用率，這在 AI 推論等高併發、低延遲場景中正快速普及。

該理念在部分前沿方案中進一步演進為“鏈式雲端（Chain-Cloud）”——一種基於區塊鏈的開放算力市場。在鏈式雲端架構中，個人或機構可將手中的閒置 GPU 作為節點有償提供算力，智慧合約自動完成任務匹配、結算和可驗證計算。儘管該方向在去中心化、降低成本方面充滿想像空間，但目前仍面臨效能損失、網路延遲、安全審計與監管合規等重大挑戰，整體處於早期實驗階段。

3. 技術原理

Serverless GPU 不是單一技術，而是一套涵蓋硬體虛擬化、容器編排、任務排程與資源隔離的工程棧。

硬體池化與虛擬化切分
資料中心內大量 GPU 伺服器通過 RDMA 等高速網路互聯，形成統一物理資源池。在此之上，利用 NVIDIA vGPU、MIG（多例項 GPU）、AMD MxGPU 或基於 SR-IOV 的 GPU 直通技術，將一張物理 GPU 劃分為多個獨立、具備可預測效能上限的虛擬 GPU 例項。MIG 能提供嚴格的硬體級故障隔離與並行執行，尤其適合對效能一致性要求極高的推論任務；vGPU 則更靈活但隔離性稍弱。對於無法硬體切分的場景，也可以用控制組（cgroups）等軟體手段限制視訊記憶體與計算單元，實現較粗粒度的共享。

容器封裝與任務啟動
使用者的程式碼、模型檔案和依賴庫被打包成 OCI 標準容器映象，輔以後設資料描述所需的 GPU 規格（如 NVIDIA A10、視訊記憶體≥8 GB）、CUDA 版本、預置環境變數等。當任務被觸發（HTTP 請求、訊息佇列、定時器等），排程器查詢滿足條件的物理節點並拉取映象。為降低冷啟動延遲，各平台普遍採用映象預熱、核心級沙箱複用、快照恢復等最佳化，使容器啟動時間壓縮至秒級甚至亞秒級。對於無狀態推論，執行時直接載入模型到視訊記憶體並啟動推論服務；對於有狀態場景，則需依賴外部儲存或快取中間狀態。

動態排程與生命週期管理
排程器綜合考慮 GPU 型號親和性、拓撲感知（如 NVLink/NVSwitch 區域）、即時可用容量、排隊長度等，動態選擇一個或多個虛擬 GPU 例項承載任務。任務執行期間，平台持續採集 GPU 利用率、視訊記憶體頻寬、功耗等指標用於計費與異常檢測。任務完成後或超時後，立即釋放 GPU 資源、擦除容器檔案系統、重置視訊記憶體，確保租戶間徹底隔離。對於請求量波動極大的服務，擴縮容策略可在數百毫秒內完成例項增減。

鏈式雲端的擴充套件架構
鏈式雲端引入去中心化排程與可驗證計算。算力提供者將硬體註冊到區塊鏈網路，通過 TEE（可信執行環境）或零知識證明等機制，讓使用者驗證任務確實在聲稱的 GPU 上執行，而不是虛假算力。智慧合約管理訂單、支付和懲罰邏輯，去除中心化仲裁。然而，去中心化網路面臨任務排程時延高、傳輸資料頻寬受限以及證明計算開銷大等現實瓶頸，尚無法與中心化雲端服務的穩定低延遲匹敵。

4. 關鍵引數

理解 Serverless GPU 服務時，有幾個關鍵引數直接影響成本、效能和適用性：

• GPU 虛擬化粒度：物理 GPU 被切分為多少個獨立例項，以及每個例項的視訊記憶體上限和計算單元比例（如 MIG 的 1g.5gb、3g.20gb 等規格），決定了併發多工時的隔離程度和效能保障。
• 冷啟動延遲：從任務觸發到容器就緒、模型載入完畢並可處理請求的時間。不同平台和資源配置下差異明顯，典型值在數百毫秒到十幾秒之間，模型檔案較大時可能更長。多數平台會提供“預留併發”或“預置例項”來消除冷啟動，但這會失去部分彈性，併產生預留費用。
• 最大併發 & 擴縮容速率：服務可同時處理的任務數量上限，以及每秒可新增的例項數量。對突發流量衝擊至關重要。
• 單次呼叫超時 & 任務最大執行時間：平台對單次呼叫的執行時間限制，常見從幾分鐘到數小時不等，需要根據模型推論時長或批處理任務量選擇。
• GPU 型號與視訊記憶體選擇：可選的 GPU 型號（如 NVIDIA T4、A10、A100、H100 等）及其視訊記憶體大小。視訊記憶體不足會直接導致模型載入失敗或推論 batch size 受限。
• 計費粒度與計費項：最小計費單元（1 秒、1 毫秒或單次呼叫），以及是否單獨對視訊記憶體、CPU、記憶體、網路出口流量、請求次數等收費。部分平台按“GPU-秒”綜合定價，部分則分項累加。
• 資料持久化與儲存 IO：Serverless GPU 通常不保證本地儲存的永續性，需掛載外部物件儲存或檔案儲存來儲存模型和中間結果，儲存吞吐與時延會成為推論延遲的新增變數。
• 網路吞吐與延遲：對於在推論內部訪問外部 API、資料庫或載入遠端資料的場景，例項的網路頻寬和延遲會影響端到端響應。

以上引數均可能隨平台和區域而變化，具體數值應以各雲端廠商官網公佈的 SLA 和定價頁為準（公開資料持續更新）。

5. 技術路線

當前產業界實現 Serverless GPU 的路徑可歸納為三條主線，彼此存在交叉與演進。

路線一：基於容器即服務（CaaS）和 Kubernetes 的精細化封裝
AWS Lambda（擴充套件到 GPU）、Google Cloud Run for GPU、Azure Container Apps 等，都是將容器編排平台升級為相容 GPU 的 Serverless 執行時。平台負責排程 GPU 節點、按需注入 GPU 裝置，使用者只需指定容器資源和 GPU 型別。此路線生態成熟，與現有 DevOps 工具鏈和日誌監控系統無縫整合，但其彈性粒度受限於容器排程效率，冷啟動最佳化在大型模型場景下仍需投入定製開發。

路線二：專用 AI 推論平台原生 Serverless
典型代表是 AWS SageMaker Serverless Inference、阿里雲端 PAI-EAS、華為雲端 ModelArts 的 Serverless 部署等。它們在 AI 層做更高抽象，預置模型最佳化引擎（如 TensorRT、ONNX Runtime），自動完成模型版本管理、灰度釋出和推論介面暴露，開發者幾乎不接觸容器細節。該路線的優點是模型部署簡單，但其內部資源複用策略對外不可見，使用者對底層 GPU 行為難以微調，也更容易被鎖定在特定雲端廠商的 API 生態中。

路線三：垂直 GPU 雲端廠商的輕量化平台
CoreWeave、Lambda Labs、RunPod、Modal 等公司，提供圍繞 GPU 例項的簡化 Serverless 介面。它們往往在資料中心架設大量同代際 NVIDIA GPU，藉助深度定製的排程器和高速儲存，將啟動速度推到極致，並通過競價型定價、按秒或按次計費吸引訓練和推論客戶。這類廠商不追求全棧雲端服務，而聚焦在“GPU 算力效率”本身，對成本敏感的大規模 AI 使用者有較強吸引力，但其服務可用性、全球基礎設施覆蓋和合規認證落後於頭部公有雲端。

路線四（探索期）：去中心化鏈式雲端
如技術原理中所述，以區塊鏈和算力證明為基礎的鏈式雲端架構，目標是打破中心化雲端廠商壟斷。該路線當前主要用於概念驗證和小範圍部署，距離生產級可靠性和大規模商用仍有較大差距。公有雲端和垂直 GPU 雲端仍是現階段主流路線。

總體趨勢上，各路線都在向更短的冷啟動時間、更精細的計費粒度和更豐富的 GPU 型號演進，同時嘗試通過統一 API 跨雲端管理，但標準化程序較為緩慢。

6. 上游

Serverless GPU 的上游可拆分為算力元器件、整機系統與資料中心基礎設施三層。

晶片層（GPU/CPU）

• NVIDIA 佔據絕對主導地位，提供涵蓋 A100、H100、H200、L40S、L4 等全線資料中心 GPU，以及配套的 NVLink、NVSwitch 高速互聯方案和 MIG 技術。其 CUDA 生態幾乎成為 GPU 計算的行業標準。
• AMD 憑藉 Instinct 系列（MI250、MI300 等）和 ROCm 軟體棧切入市場，在高效能運算和部分 AI 訓練中取得進展，但生態成熟度仍遠遜於 NVIDIA。
• 英特爾通過資料中心 GPU（如 Flex 系列、Max 系列）和 oneAPI 試圖進入，目前份額較小。
• 中國廠商如華為（昇騰 910、310 系列）、寒武紀、海光資訊等，在國產替代背景下加速迭代，已可在部分推論和訓練場景實現規模化部署，尤其在國內政務、金融等領域有一定採用。但因軟體生態相容性，與主流 CUDA 應用存在遷移成本。

伺服器與網路裝置商
提供專用 GPU 伺服器的廠商包括浪潮資訊（中國市場份額領先，據 IDC 2023 年報告）、新華三、超聚變、寧暢、Dell、HPE、Supermicro 等。它們設計高密度 GPU 節點（如 8×A100 或 H100 的 NVLink 機型），整合高效散熱與供電系統。網路方面，Mellanox（現屬 NVIDIA）、Broadcom 等提供 RDMA over Converged Ethernet（RoCE）或 InfiniBand 高速互連裝置，是保障 GPU 叢集低延遲通訊的關鍵。

資料中心與雲端基礎設施
大規模 GPU 叢集對電力、冷卻和機架密度提出極高要求，單櫃功率可達數十千瓦，液冷方案開始滲透。資料中心提供商包括 Equinix、Digital Realty、萬國資料、世紀互聯、秦淮資料等，它們為雲端廠商和垂直 GPU 服務商提供託管與租賃服務。上游電力和供應的穩定性直接影響 GPU 雲端服務可用性。

（以上市場份額、出貨量等具體數字因更新頻繁，請以各廠商最新財報和 IDC、Gartner 最新發布的報告為準。）

7. 下游

Serverless GPU 的下游應用正從 AI/ML 推論向更多行業滲透。

AI 與機器學習推論
大語言模型（LLM）、文生圖（如 Stable Diffusion）、語音識別、推薦系統等模型部署推論是最核心的場景。突發性請求特性與 Serverless 按需付費高度契合，大幅降低推論服務在低負荷時的執行成本。多個 AI 初創公司通過 Serverless GPU 平台提供模型 API，自身無需持有大量 GPU 硬體。

批次資料處理與科學計算
金融行業的量化交易回測、風險模型計算，製藥行業的分子對接模擬，氣象預測、基因測序等，常需要週期性、大規模平行計算。藉助 Serverless GPU，科研團隊可隨時提交數萬核心小時的作業，任務結束後立即釋放資源，避免為峰值容量長期預留硬體。

雲端遊戲與即時渲染
遊戲渲染和虛擬桌面等工作負載要求 GPU 密集、延遲極低，但使用者會話具有高度間歇性。Serverless GPU 可動態啟動渲染節點，按活躍玩家數付費，在使用者流出後及時縮容，提升 GPU 利用率。

音影片處理與轉碼
影片直播轉碼、4K/8K 影片渲染、VR/AR 內容生成等，處理時間集中且量大。Serverless GPU 可逐任務分配 GPU 加速編碼器，防止為等待任務佇列而購買過多常駐伺服器。

企業 SaaS 與邊緣應用
整合到 SaaS 工作流中的文件 OCR、內容稽核、個性化推薦等微服務，可藉助 Serverless GPU 提升響應速度，並在夜間或非高峰時段幾乎零成本保持待命。

下游使用者結構方面，中小型 AI 團隊和獨立開發者對 Serverless GPU 的接受度最高，因為它們缺乏運維大規模 GPU 叢集的能力；大企業則往往選擇混合部署，核心穩態負載使用預留例項，波峰波谷彈性部分採用 Serverless GPU。

8. 受益公司

以下分類梳理產業鏈相關環節的受益企業，僅基於公開資訊及行業邏輯，不構成任何投資或採購建議。

公有雲端巨頭

• AWS：通過 Lambda GPU 支援、SageMaker Serverless Inference 等將 Serverless 概念擴充套件到 AI，坐擁龐大客戶基礎和生態整合能力。
• 微軟 Azure：在 Azure Functions、Azure Container Apps 和 Azure Machine Learning 中提供 GPU Serverless 選項，深度捆綁 OpenAI 等服務。
• Google雲端：Cloud Run for GPU、Vertex AI 提供統一的無伺服器 AI 平台，GPU 型號涵蓋 T4、L4、A100 等。
• 阿里雲端：函式計算 FC、Serverless 應用引擎 SAE、PAI-EAS 服務均支援 GPU 彈性例項，國內市場份額領先（參考 IDC 相關報告）。
• 騰訊雲端：雲端函式 SCF、TI 平台支援 GPU 無伺服器推論，強調與小程式、遊戲生態聯動。
• 華為雲端：FunctionGraph 和 ModelArts 支援 Serverless 部署，昇騰 GPU 適配是其差異化方向。

垂直 GPU 雲端及初創公司

• CoreWeave：自建大規模 NVIDIA GPU 叢集，專攻高效能 GPU 計算，以低成本、靈活計費吸引 AI 訓練和推論客戶。2023 年融資後估值飆升（來源：公開市場報道）。
• Lambda Labs：面向 AI 開發者的 GPU 雲端，提供按需和預留例項，也向 Serverless 靈活排程演進。
• RunPod、Modal、Banana 等：以開發者體驗為核心，在 Serverless GPU 推論領域提供極簡部署、按秒計費，吸引大量獨立開發者和小團隊。
• 國內趨動科技：聚焦智慧算力池化和排程軟體，幫助資料中心建置 Serverless GPU 資源池，已與多家頭部科技企業合作。

上游硬體與基礎設施

• NVIDIA：GPU 硬體與 CUDA 生態標準制定者，其 MIG、Triton 推論伺服器等直接賦能 Serverless GPU 實現。資料中心 GPU 營收大幅增長（NVIDIA 2024 財年報告公開資料）。
• 伺服器及資料中心提供商：浪潮資訊、萬國資料、世紀互聯等從 GPU 叢集擴建中獲益。

（以上公司列舉僅反映行業現狀，不作為任何形式的價值評判或建議。）

9. 市場規模

直接用“Serverless GPU市場規模”口徑的獨立統計，截至本內容撰寫時，公開資料未見權威機構釋出專項數字。業界通常將 Serverless 整體市場或 GPU 雲端服務市場作為近似參考。

• 據 Gartner、MarketsandMarkets、Fortune Business Insights 等多份行業報告（約 2023–2024 年釋出），全球 Serverless 計算市場規模預計從 2022 年的約 80–100 億美元增長至 2027–2030 年的 300–400 億美元，年複合增長率約 20–25%。其中，函式即服務（FaaS）與 Serverless 容器是主要形態，GPU 加速的工作負載佔比正快速上升，但缺乏精確分離資料。
• 在 AI 推論市場方面，多家機構預測 2023 年全球 AI 推論晶片及服務市場規模約 200–300 億美元，到 2028 年有望突破 500 億美元（來源：Allied Market Research 等）。推論任務天然適配 Serverless GPU 的按呼叫計費模型，因此該市場的高增長將直接推動 Serverless GPU 的需求。
• 中國市場中，IDC 等機構資料顯示，2022 年中國公有雲端函式計算、容器與 Serverless 相關市場規模約 XX 億元，增速顯著，但 GPU 部分的細化資料同樣匱缺。受“東數西算”和 AI 大型模型落地影響，雲端廠商正加速擴張 GPU 資源池，推論端 Serverless GPU 被認為將佔據其中可觀份額。

綜上，雖無權威細分統計，但通過相關市場的規模和增速可以推斷，Serverless GPU 正處於快速增長期，並有望成為 AI 推論部署的主流方式之一。

10. 玩家對比

綜合技術、計費、生態等因素，不同玩家呈現差異化定位（以 2024 年中公開資訊為參考，細節可能已變動）。

維度	公有雲端巨頭（AWS/Azure/GCP/阿里雲端等）	垂直 GPU 雲端（CoreWeave、Lambda Labs 等）	輕量 Serverless 平台（RunPod、Modal 等）
GPU 型號選擇	覆蓋廣，多代多型號，但部分地區高階卡（H100）供給緊張	聚焦 NVIDIA 高階卡，單代大規模叢集	以熱門型號為主（A4000、A10、A100 等）
冷啟動延遲	數百毫秒到數秒，可預置例項降低延遲	通常最佳化較好，秒級啟動	極簡流程，數秒內啟動，針對推論調優
計費粒度	計費項多，GPU-秒、記憶體、網路等，定價相對複雜	按 GPU 小時或競價，部分按秒	按呼叫次數、GPU-秒，計費直觀
生態整合	全棧雲端服務，與資料庫、儲存、監控、IAM 深度打通	IaaS 層為主，依賴使用者自建周邊服務	API 簡單，適合輕量應用，生態較淺
供應商鎖定	高，API 和事件源易深度繫結	中低，基於標準容器和 Kubernetes 介面	低，遷移相對容易但高階特性私有
全球節點與合規	全球覆蓋廣，合規認證齊全	節點集中於北美、歐洲，合規積累中	節點有限，多依賴公有雲端底層
典型使用者	企業混合負載、有合規需求的大型組織	大規模 AI 訓練/推論團隊，成本敏感型	獨立開發者、初創公司、原型驗證

對於國內玩家，阿里雲端 PAI-EAS、華為雲端 ModelArts、騰訊雲端 TI 等在模型部署生態上各有側重，並投入國產 GPU 適配。它們在國內合規、資料主權和網路延遲方面具備優勢，但面對高階海外 GPU 供給限制，需在技術路線上做更有彈性的設計。

（以上對比基於公開資訊整理，產品細節和定價請以各公司最新官方文件為準。）

11. 風險

冷啟動與效能一致性風險
首次呼叫或長時間空閒後的冷啟動可能導致延遲從理想狀態的毫秒級增加到數秒甚至更久，對延遲敏感類應用（如即時對話 AI、高頻量化）構成不可忽視的風險。在多租戶共享物理 GPU 時，“吵鬧鄰居”效應還可能造成計算吞吐抖動，儘管 MIG 等技術可緩解，但無法完全消除。

成本不可預測風險
按呼叫計費看似低廉，假如流量超出預估、模型未經最佳化、單次推論耗時過長，或因程式碼錯誤導致無意義迴圈呼叫，成本會急劇攀升。計費項繁多且呼叫鏈複雜時，使用者很難即時理解和控制總支出，容易遭遇“賬單衝擊”。

供應商鎖定與遷移成本
深度使用雲端廠商專有的事件觸發器、API 閘道器、日誌監控與安全架構後，將應用遷移到其他平台或私有化部署需要大量重寫，費用和時間遠超預期。即便採用相容標準容器的方案，生態工具和服務繫結仍構成隱性鎖定。

資料安全與合規風險
在共享 GPU 硬體上執行不同租戶的程式碼和模型，對硬體與 hypervisor 層的安全隔離要求極高，任何漏洞都可能導致側通道攻擊或資料洩露。對於需要滿足 GDPR、中國《資料安全法》等法規的業務，跨境呼叫或節點分佈不透明可能引發合規問題。尤其針對鏈式雲端的開放網路，資料可能流經不受控制的節點，安全和審計責任界定極為困難。

技術與生態演化風險
GPU 架構和 AI 架構迭代極快，Serverless GPU 平台若不能及時適配新卡、新庫，或者依賴某種特定版本的 CUDA，可能造成技術棧迅速老化。初創平台若缺乏持續資金，也可能停止運營，導致依賴其 API 的應用面臨中斷風險。

鏈式雲端的額外不確定性
去中心化算力市場面臨可驗證計算的效率瓶頸、網路延遲波動、算力實際效能欺詐以及法律管轄權模糊等多重不確定性，目前在可用性和信賴度上遠未達到企業生產標準。

12. 誤讀糾偏

“Serverless GPU 就是沒有伺服器”
Serverless 不是沒有伺服器，而是將伺服器管理、擴縮容、故障恢復等工作完全移交給平台，使用者無需關心伺服器層面的存在，但幕後仍然有大量物理 GPU 叢集在運轉。

“Serverless GPU 適用於一切 GPU 任務”
並非如此。對需要長時間執行持續訓練的大型模型任務，預留整臺 GPU 伺服器或裸金屬例項通常更加經濟高效。Serverless GPU 更適合間歇性、短任務、突發推論和不確定負載的場景。穩態高負載使用反而不划算。

“冷啟動問題早已解決”
雖然映象預熱、快照等技術大幅降低了冷啟動時間，但在模型檔案巨大（數十 GB）、網路儲存吞吐有限時，冷啟動仍然可以達到若干秒甚至更久。只有對延遲不敏感或配置預留例項的業務才能完全避免，但預留例項又削去了部分 Serverless 彈性優勢。

“鏈式雲端將很快取代中心化雲端”
鏈式雲端為算力供給提供了去中心化願景，但在效能、可靠性、合規等方面尚存明顯短板。目前它更適合補充邊緣案例和小範圍實驗，主流生產負載仍高度依賴中心化雲端廠商的成熟基礎設施，短期內看不到取代趨勢。

“Serverless GPU 一定比傳統 GPU 雲端更便宜”
不一定。高度彈性的代價是單個 GPU 小時的均價往往高於長期預留或包年包月例項。只有在負載高度波動、平均利用率很低的情況下，按需呼叫模式才具備顯著成本優勢。組織需要仔細核算自身負載特性才能判斷。

13. 最新事件

以下梳理截至 2024 年中前的部分行業動態，供參考（以公開報道為來源，具體請查閱各家公司官方公告）。

• 2023 年至 2024 年，CoreWeave 連續獲得多輪大額融資，並啟動大規模資料中心擴建，承諾交付數萬塊 NVIDIA H100 GPU，反映垂直 GPU 雲端的市場熱度。（來源：CoreWeave 官方新聞及科技媒體報道。）
• AWS 在 2023 re:Invent 大會上宣佈擴大 Lambda 函式的 GPU 支援，並在 SageMaker 中強化 Serverless Inference 的功能。（來源：AWS 官方部落格。）
• Google雲端於 2023 年推出 Cloud Run for GPU 的公測版，拓展無伺服器容器在 AI 推論上的應用。（來源：Google Cloud 官方部落格。）
• 阿里雲端在 2023 雲端棲大會上展示基於函式計算 FC 的 Stable Diffusion 開箱即用套件，主推 GPU Serverless 在 AIGC 推論中的易用性。（來源：阿里雲端官方報道。）
• 中國“東數西算”工程持續推進，多個數據中心叢集加大 GPU 資源池建設，國產 GPU 適配成為多家雲端廠商的重點專案。（來源：國家相關部門檔案及雲端廠商公開資訊。）
• 針對高階 GPU 的貿易限制持續影響國內供應，部分雲端廠商優先將受限 GPU 用於訓練，將更多推論場景導向國產晶片或上一代 GPU，並嘗試以 Serverless 方式提升利用率。（基於公開市場分析。）

（動態持續更新，使用者請自行查閱各廠商官網及主流科技媒體。）

14. 追蹤指標

如要持續追蹤 Serverless GPU 產業的進展與競爭力，可關注以下指標。

• 主流雲端平台 GPU 例項上線種類與區域擴張速度：觀察可選的 NVIDIA、AMD、國產 GPU 型號是否增加，以及覆蓋的資料中心區域數量。
• 冷啟動延遲與最大併發指標：定期測試並在技術社群追蹤各平台的實際冷啟動時間和最大可支援併發數。
• 計費粒度與單位成本變化：監控 GPU-秒、GB-秒價格走勢，以及是否新增計費項（如網路出方向流量）。
• AI 推論市場滲透率：雖然直接統計困難，可間接通過大型模型 API 提供商的底層基礎設施選擇、技術部落格等方式估算。
• 垂直 GPU 雲端融資與擴張動態：CoreWeave、Lambda Labs、RunPod 等的融資輪次、自建資料中心規模和 GPU 採購量，反映市場信心與供給能力。
• 開源與標準化進展：如 KEDA、KNative 等第三方自動擴縮容專案對 GPU 的支援程度，以及廠商中立 API 架構的出現。
• 國產 GPU 相容性與效能追蹤：昇騰、寒武紀等在主流推論架構（PyTorch、ONNX Runtime 等）和 Serverless 平台的適配進展，以及效能/Watt 指標的提升。
• 監管與合規動態：各國資料本地化法規、晶片出口管制政策的變化，以及鏈式雲端相關的區塊鏈算力合規討論。

15. 信源

• NVIDIA 官方技術文件：vGPU、MIG 使用者指南。
• AWS、Azure、Google Cloud、阿里雲端、騰訊雲端、華為雲端關於 Serverless 及 GPU 服務的官方產品頁面與白皮書。
• CoreWeave、Lambda Labs、RunPod 等公司官網及技術部落格。
• IDC、Gartner 關於公有雲端、Serverless、AI 基礎設施的市場分析報告（2022-2024 年釋出）。
• MarketsandMarkets、Fortune Business Insights、Allied Market Research 等機構關於 Serverless 計算、AI 晶片市場的報告（約 2023 年）。
• IEEE、ACM 相關論文：GPU 虛擬化、容器彈性排程、無伺服器計算效能分析。
• 行業科技媒體（如 TechCrunch、The Information、極客公園、機器之心等）對 CoreWeave 融資、雲端廠商產品釋出的報道。
• 國家發展改革委等部門關於“東數西算”工程的公開檔案。

（以上來源均為公開可查，具體資料和事件以各機構及企業最終釋出為準。）