Usage Expansion

3秒看懂

Usage Expansion（使用量擴張）：指人工智慧（AI）算力需求從模型訓練為主轉向訓練與推論並重、且推論需求佔比急速攀升併成為主導力量的結構性轉變。其核心是“用模型”的次數和強度遠超“煉模型”，驅動算力總量持續增長並重構產業鏈價值分佈。

3分鐘產業解釋

過去數年，AI產業的核心敘事是“訓練”——用成百上千個GPU，花費數月，訓練出一個能力強大的基礎大型模型。這個過程需要一次性、脈衝式的巨大計算資源投入，業內常稱之為“煉丹”。

當前更深刻、更持久的趨勢是Usage Expansion。當基礎模型（如GPT‑4、Llama 3、文心大型模型等）被訓練出來後，真正的商業價值在於將其部署到億萬個應用場景中去。每一次使用者提問、每一張AI生成的圖片、每一段程式碼補全、每一次自動駕駛的決策，都是一次模型推論。隨著AI應用從早期採用者擴散至主流企業與消費者，推論請求的數量正以指數級增長。

由此帶來算力需求結構的根本變化：

1. 訓練需求：持續增長，驅動力來自更大規模的多模態模型、更長上下文的模型、強化學習對齊技術（如RLHF）以及新領域模型的不斷湧現。
2. 推論需求：爆發式增長，成為增長主引擎。它具有高併發、低延遲、持續不斷的特點，並直接與商業營收和使用者規模掛鉤。

對於產業鏈而言，這意味著機會與挑戰的轉移：從支撐“煉丹”的高階訓練叢集，更多轉向支撐大規模、高效率、低成本“用丹”的推論系統，並催生自研晶片、邊緣推論等全新戰場。

技術原理

Usage Expansion 的底層是推論計算模式的獨特性，使其能夠進行一系列專門最佳化，從而在給定硬體上最大化服務效率、壓低成本。

1. 計算模式的根本差異 推論的核心是基於固定計算圖的前向傳播。與訓練不同，它沒有反向傳播和梯度更新，計算圖在模型載入後保持不變，這使得大量離線與線上最佳化成為可能。

2. 推論最佳化技術棧 現代推論服務依賴多層協同最佳化：

+-------------------------------------------------------+
|                 應用層 (API, Chatbot, Agent)           |
+--------------------------|----------------------------+
          請求與批處理排程 (Dynamic Batching)
+-------------------------------------------------------+
|             模型編譯器 & 最佳化器 (TensorRT-LLM, vLLM)  |
|  +-------------+ +-------------+ +------------------+ |
|  | 運算元融合     | | 記憶體規劃     | | 計算圖最佳化       | |
|  +-------------+ +-------------+ +------------------+ |
+-------------------------------------------------------+
|        執行時 (CUDA, ROCm, SYCL, OneAPI)              |
+--------------------------|----------------------------+
          量化 (INT8, FP8, GPTQ, AWQ)
+-------------------------------------------------------+
|                 硬體層 (GPU, ASIC, NPU, CPU)           |
|  +-------------+ +-------------+ +------------------+ |
|  | 計算單元     | | 快取記憶體     | | 記憶體頻寬 (HBM)   | |
|  +-------------+ +-------------+ +------------------+ |
+-------------------------------------------------------+

• 動態批處理（Dynamic Batching）：將同時到達的多個請求合併為一個批次進行計算，極大提升硬體利用率（MFU），是吞吐量提升的關鍵。
• 量化（Quantization）：將模型權重和啟用值從較高的浮點精度（FP32/FP16）轉換為低精度（INT8、FP8），甚至近期出現的4‑bit量化（如GPTQ、AWQ），以減少記憶體佔用和計算量。量化是降低單次推論成本的殺手鐧技術，通常可將推論成本降低50％～80％，且通過模型校準幾乎不損失質量。
• KV快取（Key‑Value Cache）：對於自迴歸生成式模型（如大語言模型），對已計算的鍵（Key）和值（Value）向量進行快取，避免在每生成一個 token 時重複計算歷史 token 的注意力，是空間換時間的經典策略。KV快取管理（如PagedAttention）是vLLM等架構的核心創新。
• 運算元融合與編譯最佳化：將多個細粒度的運算元（如矩陣乘法、啟用函式、LayerNorm）融合為單個最佳化核心，減少視訊記憶體訪問次數和Kernel Launch開銷。TensorRT‑LLM、MLIR等工具鏈即側重於此。
• 推測解碼（Speculative Decoding）：用一個輕量級“草稿模型”快速生成多個候選 token，再由目標大型模型一次驗證，從而在保持輸出分佈不變的前提下，實現2倍～3倍的推論加速，尤其適合大語言模型。

上述技術共同指向一個商業目標：極致降低每百萬 token 的生成成本，這也是Usage Expansion在經濟學上能夠成立的核心支柱。

關鍵引數

判斷推論系統效率和產業景氣度的核心指標：

1. 推論吞吐量（Tokens/s 或 Images/s 或 Requests/s）：單位時間內可處理的請求量，直接決定服務容量和營收潛力。對於大語言模型，常以每秒生成 token 數（TGS）衡量。
2. 推論延遲（Latency）：
   • 首 token 延遲（Time to First Token, TTFT）：使用者感知響應速度的關鍵，影響互動體驗。
   • 每 token 延遲（Inter‑token Latency）：影響生成流式輸出的流暢度。
3. 每請求/每百萬 token 成本（Cost per Request / per 1M tokens）：推論經濟學的核心。它由硬體採購成本攤銷、電力成本、軟體最佳化水平、硬體利用率等共同決定。例如，某頭部模型API定價在2024年中已降至每百萬輸入 token 約 $0.15、輸出 token $0.60（來源：OpenAI定價頁面，2024年8月），且仍在快速下降。
4. 硬體利用率（Model FLOPs Utilization, MFU）：實際算力與硬體理論峰值算力的比值。典型訓練MFU約在35%～50%，而推論通過深度最佳化可達60%～80%甚至更高。
5. 能效比（TOPS/W）：每瓦功耗提供的算力，是衡量推論硬體——尤其是邊緣端和超大規模資料中心——競爭力的核心。根據公開晶片規格，輝達H200的FP8推論能效比約為3.2 TOPS/W（來源：NVIDIA H200 資料表，2024年）。
6. 總計算量（Training FLOPs）：雖主要表示訓練需求，但模型規模的膨脹（如從百億引數到萬億引數）直接抬高單次推論的算力門檻，從而放大推論總需求。
7. 視訊記憶體頻寬與容量：大語言模型推論的效能瓶頸多在視訊記憶體頻寬而非算力，HBM的容量和頻寬直接決定單個加速卡可服務的最大型模型規模與批處理大小。

技術路線

技術演進路徑

• 前奏期 (2012–2017)：深度學習復興，小模型推論與訓練需求混雜，GPU通用性足夠，無明顯推論專用設計。
• 分化期 (2018–2022)：Transformer及大型語言模型（GPT‑3）出現，大規模訓練叢集成為焦點，NVIDIA A100等訓練卡主導。推論需求增長但被視為附屬，部分雲端廠商開始定製推論晶片（如AWS Inferentia 2019釋出）。
• 爆發前夜 (2022–2023)：ChatGPT引爆生成式AI，首次讓億萬使用者體驗到對話式AI能力，推論請求量垂直攀升。產業開始嚴肅討論“推論經濟學”。
• 擴張確認期 (2023–至今)：多模態模型、AI Agent、具身智慧等應用湧現，推論場景多元化。雲端廠商財報顯示AI相關營收（主要由推論驅動）增長迅猛。NVIDIA推出專用推論卡（L40S）及推論軟體棧（TensorRT‑LLM），AMD MI300X強化推論效能，自研晶片加速迭代。

訓練與推論的技術路線對比

維度	模型訓練	模型推論
核心目標	最小化損失函式，學習資料分佈	最小化延遲/成本，最大化吞吐
計算模式	前向+反向傳播，通訊密集（AllReduce）	僅前向傳播，計算密集頻寬
資料特徵	大規模靜態資料集	流式、動態、持續的使用者請求
精度需求	傾向高精度（FP32/BF16/TF32）以保證收斂	可接受低精度（INT8/FP8/INT4）以提效率
硬體瓶頸	算力、視訊記憶體容量、互聯頻寬	視訊記憶體頻寬、能效比（TOPS/W）、推論專用引擎
最佳化關鍵	資料並行、模型並行、梯度同步	量化、KV快取、批處理、運算元融合、推測解碼
商業模式	專案制、資源租賃	按呼叫量收費，與終端使用者量線性繫結
代表軟體棧	Megatron‑LM, DeepSpeed	TensorRT‑LLM, vLLM, Triton Inference Server

產業的長期路線聚焦於：更大規模的推論叢集（可達數萬卡）、更高效的專用推論晶片、雲端端‑邊緣混合推論架構，以及更先進的模型壓縮與系統排程技術。

上游

算力硬體

• GPU/加速卡：輝達（Hopper/H100、H200、L40S，2024年釋出Blackwell B200）、AMD（MI300X於2024年量產）是主要供應商。據Mercury Research 2024年Q2報告，輝達在資料中心GPU市場份額超過90%（銷售額口徑）。
• 定製AI晶片（ASIC）：雲端廠商自研晶片佔比提升。GoogleTPU v5p（2023年推出）、AWS Trainium2/Inferentia2、微軟Maia 100（2024年部署）、Meta MTIA v2等。Omdia在2024年報告中估算，2023年雲端廠商自研AI加速器出貨約佔總AI加速器的～15%（單位數量）。
• 邊緣推論晶片：高通驍龍8 Gen 3/ X Elite（整合NPU）、AppleM4晶片、聯發科天璣9300等移動SoC均大幅提升終端AI推論能力，典型INT8算力超過40 TOPS。
• HBM記憶體：推論效能嚴重依賴視訊記憶體頻寬，HBM為關鍵上游。SK海力士、三星、美光三足鼎立，2024年HBM3E為主要供應。據TrendForce 2024年8月報告，HBM在整體DRAM產能中佔比已超5%，預計2025年進一步上升，供應仍偏緊。

互聯與封裝

• 片間互聯：NVLink、Infinity Fabric，保證多卡推論擴充套件性。
• Chiplet先進封裝：台積電CoWoS（Chip‑on‑Wafer‑on‑Substrate）產能直接制約高階GPU和AI晶片供應。台積電2024年Q2法說會預計CoWoS產能至2025年底將翻倍，但仍供不應求。

軟體與工具鏈

• AI編譯器與架構：TensorRT‑LLM、vLLM、OpenAI Triton、MLIR等構成推論軟體棧的核心。輝達CUDA生態仍處壟斷地位，AMD ROCm正加速追趕，自主生態如華為CANN亦在成長。

下游

Usage Expansion 的最終驅動力來自廣袤的下游應用，將推論請求量分攤至不同的行業和場景：

• 雲端端API與對話服務：ChatGPT、Claude、文心一言等大型模型對話服務，是當前推論流量的最大來源之一。根據Similarweb估計，ChatGPT網站在2024年3月的訪問量達～18億次，每次訪問可能產生多次推論呼叫。
• AI搜尋與內容生成：微軟Copilot、GoogleAI Overviews將推論融入搜尋引擎，每一次搜尋都可能觸發大型模型推論。影像生成模型（如DALL‑E 3、Midjourney、Stable Diffusion）每次生成即是推論。
• 程式碼輔助：GitHub Copilot每日為超百萬開發者提供程式碼補全，其推論呼叫已是數十億次/天量級。據微軟2024財年Q4電話會議，GitHub Copilot帶來的年化營收已超過20億美元（基於公開揭露口徑推算），側面映射出巨大推論負載。
• 企業知識庫與Agent：Salesforce Einstein GPT、ServiceNow、SAP Joule等將推論嵌入企業工作流；AI Agent執行多步推論（如AutoGPT、Claude Computer Use），每步呼叫皆需模型推論。
• 自動駕駛與機器人：特斯拉的端到端駕駛演算法、機器人的動作規劃均需在車端或邊緣進行即時推論，對低延遲和可靠性要求極高。
• AI PC與手機：AI PC（如聯想、戴爾的新品）和AI手機通過端側推論實現照片修圖、通話摘要、離線翻譯等。IDC在2024年6月預測，2024年全球AI PC出貨量將達到約5000萬臺，2027年滲透率超過60%。

下游最核心的邏輯是：推論請求量直接繫結終端使用者數與使用頻次，因此下游應用的使用者基數和活躍度成為判斷Usage Expansion實際進度的領先指標。

受益公司

以下分類旨在說明產業鏈位置和受益邏輯，不構成任何投資建議。

算力硬體層

• 輝達：通過資料中心GPU（H100/B200）和推論軟體（TensorRT‑LLM）佔據主導地位。2025財年Q1（截至2024年4月）資料中心營收達226億美元，年增率增長427%，其中推論相關營收佔比管理層在財報電話會中稱已達約40%。（來源：輝達2025財年Q1財報及電話會議）
• AMD：MI300X於2024年量產，ROCm生態逐漸完善，主要受益於推論多元化需求和對第二供應方的渴求。
• 雲端廠商自研晶片部門：Google、AWS、微軟等通過自研推論晶片降低外採依賴，自研晶片主要供內部服務使用，長期有利於最佳化大型模型服務成本。
• 邊緣AI SoC晶片：高通、聯發科、Apple等，受益於端側推論裝載，將NPU作為SoC的關鍵差異化功能，驅動換機週期。

雲端與模型平台層

• 微軟Azure、AWS、Google Cloud：提供GPU租賃和模型API服務，是推論需求擴大的直接變現者。微軟Azure AI服務營收在2024財年Q2首次揭露超33億美元（年化），並稱大部分為推論貢獻（來源：微軟2024財年Q2財報電話會議）。Gartner 2024年7月報告估計，2024年全球AI雲端服務市場（含推論即服務）規模將超過550億美元。

模型與應用層

• OpenAI、Anthropic、Google DeepMind：提供前沿模型API，按呼叫量收費，推論擴張直接轉化為營收增長。據The Information 2024年6月報道，OpenAI年化營收已超過34億美元，其中絕大部分來自推論API及ChatGPT訂閱。
• 開源模型廠商與ISV：Meta（Llama）、Mistral等推動開源模型生態，降低推論使用門檻，間接加速用量擴張。廣泛的獨立軟體開發商（ISV）將模型嵌入垂直行業SaaS，是推論需求的最終播種機。

受益邏輯總結：Usage Expansion的確定性受益鏈條為“底層硬體→雲端基礎設施→模型API→終端應用”的逐層傳導，其中硬體與雲端層在上行週期中受益較早和較確定，而應用層的價值釋放決定整個敘事能否長期持續。

市場規模

市場規模資料因覆蓋範圍、口徑不同差異較大，以下列舉基於第三方機構報告的公開估算，需注意各自假設。

• AI推論晶片市場：Omdia在2024年7月報告中預測，全球AI推論加速器市場（包含GPU、ASIC等）將從2023年的約150億美元增長至2028年的780億美元，年複合增長率約39%。該機構認為推論加速器市場份額將很快超過訓練晶片。
• AI伺服器市場：TrendForce在2024年1月報告估算，2023年AI伺服器出貨量約為120萬臺，年增率增長約28%，其中推論伺服器佔比約35%，預計2025年推論佔比將提升至近50%。DIGITIMES Research指出，2024年AI伺服器出貨將增長約20%。（含有預測）
• 推論即服務市場：MarketsandMarkets在2023年12月釋出報告，預計全球推論即服務（Inference as a Service）市場規模從2023年的94億美元增長到2028年的332億美元，預測基於API呼叫營收及定製推論平台。（注：該報告尚未覆蓋最新growing，作為參考）
• 端側AI晶片市場：Strategy Analytics拆解資料指出，2023年全球帶有AI引擎的智慧手機出貨量佔比已超90%；Counterpoint預測，AI手機滲透率在2024年將達20%，其推論算力總和將極為可觀。公開資料未見完整規模預測的統一口徑。
• 全口徑AI計算市場：IDC在2024年5月釋出的Worldwide AI Infrastructure Tracker中，將AI計算支出分為訓練與推論，認為2024年推論支出增速將首次超過訓練，並預計2027年推論支出將達AI計算總額的60%以上。但具體美元數字因報告非公開而省略。

注：上述預測均基於公開摘要或引用，各機構方法論和統計口徑不同，不宜直接加總比較。增長方向的一致性高於絕對數值。

玩家對比

基於當前主流推論硬體平台的關鍵維度對比（截至2024年底已公開資訊）：

維度	輝達 H200 / Blackwell	AMD MI300X	Google TPU v5p	AWS Inferentia2
晶片定位	通用AI訓練/推論GPU	通用AI加速GPU	自研雲端推論/訓練ASIC	自研雲端專用推論ASIC
FP8峰值算力	~1,979 TFLOPS (B200)	~1,307 TFLOPS (FP8稀疏)	~459 TFLOPS (per chip)	公開資料未見
HBM容量/頻寬	H200:141GB/4.8TB/s; B200:192GB/8TB/s	192GB/5.3TB/s	95GB (HBM2E)/2.76TB/s	32GB HBM/1.15TB/s (單個晶片)
推論最佳化軟體	TensorRT‑LLM, vLLM	ROCm, 相容vLLM等（移植中）	JAX, TensorFlow Serving	Neuron SDK
生態成熟度	極高，CUDA護城河深	中等，ROCm快速迭代，部分模型支援良好	高（內部最佳化，外部有限）	內部最佳化，僅限AWS
供貨模式	OEM/ODM伺服器及雲端租賃	OEM/ODM伺服器及雲端租賃	僅通過GCP提供雲端服務	僅通過AWS提供雲端服務
典型推論效能（Llama‑3‑70B）	>10,000 tokens/s / 8‑GPU 伺服器 (來源: 輝達部落格)	~8,000 tokens/s / 8‑GPU (來源: AMD社群測試)	公開資料未見	公開資料未見

注：效能數字依賴軟體棧版本和模型最佳化程度，不同條件下結果差異較大，僅供示意見對比。

玩家策略分化明顯：輝達與AMD主打通用生態，通過大規模供貨覆蓋所有客戶；雲端廠商自研ASIC則走垂直整合路線，降低內部推論總擁有成本（TCO），但其對外影響力和通用性有限。

風險

1. AI應用商業化不及預期：若終端使用者對AI應用付費意願低、企業ROI證明困難，則推論請求量的增速可能顯著低於預期，導致資本支出效率降低。據摩根士丹利2024年7月調查，企業大規模AI部署仍面臨模型準確性、成本和資料隱私三大障礙。
2. 供給瓶頸持續：高階製程（台積電N3/N4）、CoWoS先進封裝和高頻寬儲存器HBM的擴產週期長，一旦需求超預期，供應短缺將推高硬體成本，拖慢推論規模部署的節奏。台積電在2024年多次強調CoWoS產能緊張。
3. 技術替代風險：新型模型架構（如狀態空間模型 Mamba）、端側高效模型（如Phi‑3、Gemma）的突破可能大幅降低單次推論算力需求，導致原本預估的硬體需求被高估。
4. 能效與散熱瓶頸：超大規模推論叢集的電力消耗和散熱已成為現實制約。國際能源署（IEA）2024年1月報告估計，資料中心用電量到2026年可能超過1000太瓦時，推論叢集的能效最佳化若跟不上，可能遭遇監管和成本的雙重壓力。
5. 地緣政策風險：高階晶片的出口管制持續，影響全球供應鏈格局和部分市場的推論需求滿足度。

誤讀糾偏

• 誤讀一：Usage Expansion 等同於購買更多GPU。
  • 糾偏：這只是表面。更深層的是需求結構變化驅動軟硬體架構協同創新。單純堆砌為訓練設計的GPU叢集可能無法經濟高效地服務推論負載（延遲高、利用率低）。產業正在圍繞“推論時代”重新設計從晶片（推論專用加速器）到排程軟體的整個技術棧。
• 誤讀二：訓練需求將見頂並停滯。
  • 糾偏：訓練需求仍在增長，用於開發多模態、具身智慧、世界模型等更復雜能力的模型，以及持續的對齊和微調。其增速相對放緩，且增長模式從“暴力規模擴充套件”轉向“更高效地訓練”。訓練與推論的 “雙螺旋”增長才是完整圖景。
• 誤讀三：端側AI將取代雲端端推論。
  • 糾偏：兩者是互補與協同關係。端側處理即時、隱私敏感的輕量任務（本地語音識別、照片最佳化）；雲端端處理需要超大型模型、複雜邏輯、跨知識庫的重型任務。混合AI架構是未來主流，資料和任務在端、邊、雲端之間智慧排程。
• 誤讀四：只有大型模型公司受益。
  • 糾偏：推論擴張的受益方遠不止模型廠商。硬體、雲端基礎設施、企業IT服務商、乃至利用AI降本增效的各行業應用端都是主要受益者。推論需求越分散，整個生態越繁榮。

最新事件

以下彙集截至2024年12月前後與Usage Expansion直接相關的重點事件，旨在反映趨勢動能。

• 輝達Blackwell平台釋出與量產：2024年3月GTC大會，輝達釋出Blackwell架構B200 GPU，宣稱推論效能較H100提升30倍（在特定大語言模型場景），並重點突出推論能效。據公司通報，B200於2024年下半年開始向客戶發貨，預計將推動更高效的推論叢集建設。（來源：輝達新聞稿，2024年3月18日）
• AMD MI300X規模化部署：AMD在2024年Q1業績電話會議中表示，MI300系列僅在2024年便貢獻超40億美元營收，主要客戶用於推論工作負載。微軟Azure於2024年5月宣佈大量採用MI300X例項，用於GPT規模模型的推論。（來源：AMD 2024年Q1電話會議，5月1日）
• 雲端廠商自研推論晶片商用加速：微軟在2024年Build大會上公開其自研AI推論加速器Maia 100已在內部支援Azure OpenAI服務，計劃於2024年底前全面整合。（來源：微軟官方部落格，2024年5月21日）
• OpenAI o1系列模型釋出：2024年9月，OpenAI推出o1系列模型，其“思維鏈”推論過程需要大量的中間推論步驟，導致單次回答的推論計算量比普通模型高一個數量級以上。這種新範式可能在未來進一步拉高推論需求強度。（來源：OpenAI釋出說明，2024年9月12日）
• 端側AI硬體扎堆釋出：2024年WWDC上Apple釋出Apple Intelligence，需要A17 Pro/M系列晶片支援本地推論；高通驍龍X Elite PC平台重點宣傳每秒45 TOPS的NPU能力；三星Galaxy S24系列全面引入端側AI功能，拉動推論晶片需求。（來源：各公司釋出會，2024年2‑9月）
• AI API價格大幅下降：2024年5月，多家中國大型模型廠商開始大幅調降推論API價格，如字節跳動豆包大型模型、阿里雲端通義千問等下調幅度最高達99%。價格戰雖壓縮短期獲利率，但實質降低了應用開發門檻，有利於中長期用量擴張。（來源：公開新聞報道，2024年5月）

追蹤指標

監控Usage Expansion程序的領先與同步指標：

1. 雲端巨頭資本支出（CapEx）及展望：微軟、Google、亞馬遜、Meta的季度資本支出及其“AI相關”佔比，直接反映基礎設施投入動能。例如，微軟2025財年Q1（2024年Q3）資本支出季增率增長，並以滿足AI推論需求為主要理由。
2. AI推論硬體出貨與佔比：通過主要廠商（輝達、AMD）的資料中心GPU出貨結構、或調研機構（如IDC）的AI伺服器中推論伺服器佔比資料，觀察推論硬體比重變化。
3. 輝達資料中心業務中推論佔比：輝達每季度財報電話會議中揭露的推論在資料中心營收的佔比，是重要直接指標。2024年Q1該比例約40%。
4. 模型API呼叫量及價格趨勢：追蹤主要模型API提供商的公開定價頁面、或第三方估計的呼叫量增長。API價格下降速率變緩而用量仍在加速，可能預示著需求彈性的釋放。
5. 主要AI應用月活躍使用者（MAU）與日活（DAU）：ChatGPT、Character.AI、GitHub Copilot等應用的使用者規模直接傳導至推論請求量。
6. HBM與先進封裝產能利用率及價格：HBM價格與CoWoS交期是供應鏈緊張度的晴雨表。若供應緩解而需求依然旺盛，則行業擴張步伐有望加快。
7. 資料中心能耗與PUE趨勢：推論消耗的電力增長與能效提升的平衡，反映產業可持續性。
8. 企業AI支出調研：摩根士丹利、Gartner等的CIO調查或企業IT預算資料，揭示企業對AI推論的真實部署意願。

信源

• 公司財報與電話會議：輝達、AMD、微軟、Google、亞馬遜、Meta、OpenAI（通過媒體轉述）的季度財報及管理層評論。
• 第三方市場研究：Omdia（AI Accelerator Market Tracker），IDC（Worldwide AI Infrastructure Tracker），TrendForce，Gartner，MarketsandMarkets，Counterpoint。
• 產業分析與部落格：SemiAnalysis, The Information, The Next Platform, TechInsights。
• 學術與開源社群：vLLM、TensorRT‑LLM、MLIR等開源專案文件與效能報告；MLSys、Hot Chips會議論文。
• 廠商官方部落格與公告：NVIDIA Developer Blog，Microsoft Azure Blog，AWS Machine Learning Blog，Google Cloud Blog，台積電法說會紀要。
• 新聞與公開報道：Reuters、Bloomberg、CNBC、國內主流科技媒體報道。

宣告：本文引用的市場資料和預測均來自公開可得的第三方報告或公司揭露，標註年份及出處。部分非公開報告內容通過公開摘要引用，不能完全排除研究方法差異。所有分析限於產業邏輯，不構成任何投資建議。