AI SKU
1. 3 秒看懂
AI SKU 是面向人工智慧工作負載專門定義的最小產品配置標識。它本質上不是“一顆晶片”，而是一個融合了算力、視訊記憶體容量、互連頻寬、功耗與定價的商務/技術組合。在同一晶片架構代次內，廠商通過裁剪計算單元數、視訊記憶體位寬、封裝形式和功耗上限，劃分出從萬卡級訓練叢集到邊緣推論節點的不同產品。AI SKU 直接決定了能跑多大的模型、消耗多少電力以及叢集的總擁有成本(TCO)。
2. 3 分鐘產業解釋
在 AI 基建的採購清單上，看到的並非簡單的 GPU 型號，而是類似“H100 80GB HBM3 SXM”、“H100 NVL 94GB HBM3”或“MI300X 192GB HBM3”這類精確描述。這些標識對應的是同一個核心 GPU 架構下的不同 AI SKU。廠商的底層邏輯是基於物理現實與商業策略進行組合裁剪：晶圓良率導致的缺陷、HBM 視訊記憶體堆疊的層數、最高可承受的熱設計功耗(TDP)，以及為了區隔市場而主動用熔絲停用的計算單元。這些因素共同構成了一個多維度矩陣。
AI SKU 的劃分將直接左右以下三大核心環節：
- TCO模型建置：單位算力的功耗瓦數與採購成本決定了模型訓練的最終投入。一個錯誤的 SKU 選擇可能導致電力預算超支或叢集利用率不足。
- 叢集組網拓撲設計：NVLink 域的大小、跨節點 All-Reduce 頻寬以及對外擴充套件的網路能力均由 SKU 上的互連埠規格決定，這直接影響千卡叢集的線性加速比。
- 軟體棧相容邊界：驅動版本、運算元庫的最佳化粒度，甚至部分虛擬化功能(如 MIG)的可用性，都嚴格與特定 SKU 繫結。
因此，AI SKU 並不止是硬體的“配置單”，它是算力租賃商、雲端運營商與模型廠商在做技術選型及財務評估時的最小編址單元。
3. 技術原理
AI SKU 的分化並非隨意而為，而是由一組嚴格的技術閥門組合控制，其核心機制遵循以下流程：
晶圓製造 → 良率篩選 → 核心計算規格分級
↓
封裝設計 → 確定 HBM 堆疊數量與位寬 → 定義視訊記憶體容量/頻寬
↓
板卡設計 → 供電子系統與散熱方案 → 鎖定功耗上限(TDP)
↓
韌體/熔絲 → 永久禁能部分單元 → 最終確定算力(FP16/BF16/FP8 Tensor FLOPS)- 計算單元規格化：通過 eFuse(電子熔絲)或雷射修調，在生產後期永久停用一定比例的流處理器(SM)或張量核心(Tensor Core)。這允許廠商將不符合旗艦級功耗或缺陷標準的晶片降級出售。
- 視訊記憶體位寬與容量配置：AI 加速器的視訊記憶體頻寬由啟用的 HBM 堆疊數 × 1024-bit決定。例如，一個高階 SKU 啟用 6 個 12-Hi HBM3E 堆疊，可提供 6144-bit 位寬與 144GB 容量；而一個主流 SKU 則啟用 5 個 8-Hi 堆疊，提供 5120-bit 位寬與 80GB 容量。對於 MoE(混合專家)架構等視訊記憶體密集型模型，頻寬與容量的削減會直接導致效能急劇下降。
- 先進封裝的決定性作用：高階 SKU 依賴 CoWoS-S(矽中介層)實現最高密度的 HBM 整合，其高成本與產能瓶頸是旗艦卡供應短缺的主要成因。而面向成本敏感型推論場景的 SKU，可能採用 CoWoS-R 甚至傳統的 FCBGA 封裝，以犧牲部分頻寬換取供給穩定性。
- TDP 與電源拓撲強耦合：700W-1000W 級別的旗艦 SKU 要求板級供電方案採用更多相數的 DrMOS、高密度電源聯結器，甚至引入 48V 供電架構以確保效率。這一功耗牆直接限制了 GPU 核心的持續加速頻率，並決定了伺服器的散熱設計(風冷或液冷)。
4. 關鍵引數
評估 AI SKU 時，不能只看單一的峰值算力(如 TFLOPS)，必須採用多維度交叉視角：
- 張量計算吞吐量：在不同精度下(FP16, BF16, FP8, INT8/FP4)的 TFLOPS 值。需區分是否包含稀疏計算加速，這是衡量訓練與推論原始出力的基準。(來源：廠商官方白皮書，不同代際數值各異)。
- 視訊記憶體容量與頻寬：決定了可容納的最大型模型引數量及單 token 生成的延遲。對於千億引數以上的大語言模型，頻寬瓶頸往往比計算瓶頸更早出現。頻寬常用單位：TB/s。
- 互連單通道速率與總頻寬：多卡擴充套件的效率核心。單通道速率(如 50 GT/s PAM4)乘以鏈路總數，即跨卡雙向總頻寬，直接影響 Megatron 張量並行等分散式策略中的 All-Reduce 通訊時延。
- TDP(熱設計功耗)：不僅是功耗問題，更是機房供電密度與散熱方案的基礎約束。一個 42U 機櫃能承載多少張卡，直接由單卡 TDP 決定。
- 例項切分粒度：針對推論場景，單卡通過硬體分割槽(如 MIG)能隔離出的最小計算例項數量。這衡量了雲端端多租戶服務的併發能力。
- eFuse/熔絲鎖定配置：這是廠商用來定義 SKU 的最終物理手段。雖然使用者不可見且不可改，但它決定了上述所有啟用引數的最終上限。
5. 技術路線
市場主流的 AI SKU 可按功耗與計算能力分為三個清晰層級，各自遵循不同的技術實現路徑：
| 維度 | 旗艦訓練 SKU | 主流推論/訓練 SKU | 邊緣/入門 SKU |
|---|---|---|---|
| 核心晶片 | 全規格 Die，採用最激進的主頻與 TDP | 同架構降級 Die 或通過熔絲禁能部分單元 | 較小面積 Die 或大幅禁能，TDP 嚴重受限 |
| 視訊記憶體方案 | 搭載最新一代 HBM(如 HBM3E 12-Hi)，追求最大頻寬與容量 | 使用前代或低層數 HBM，容量與頻寬適度削減 | 放棄 HBM，改用 GDDR 或 LPDDR，大幅降低成本 |
| 互連能力 | 滿埠 NVLink/Infinity Fabric，配合多路 OSFP 網路介面 | 鏈路數削減，或降級為純 PCIe 擴充套件 | 僅提供 PCIe 通道或無高速互連 |
| 功耗量級 | 高(700–1000W 級別) | 中(300–500W 級別) | 低(≤150W) |
| 核心用途 | 萬億引數級 LLM 預訓練、HPC 模擬 | 高併發雲端推論、百億引數模型微調、中小規模訓練 | 邊緣即時推論、影片流分析、工業視覺 |
| 主導封裝 | CoWoS-S/L，高成本，供應受限 | 同系廉價或成熟節點封裝，消耗更少中介層面積 | FCBGA、扇出型或成熟模組封裝 |
| 供應瓶頸 | 嚴重受制於 CoWoS 產能與 HBM 顆粒交付 | 受先進封裝產能間接擠壓，可通過調整 HBM 需求緩衝 | 供應成熟，瓶頸主要在特定應用場景的整合生態 |
注：上述數值為跨代際行業通用範圍概括，不完全對應特定產品型號。
6. 上游
AI SKU 的供給形態受制於一條集中度極高的上游產業鏈：
- 晶片設計與 IP 授權：核心計算架構、I/O 互聯 Die(SerDes)、記憶體控制器等關鍵 IP 的授權方與架構設計商。例如，用於建置 NVLink 或 Infinity Fabric 的物理層 IP 決定了互連規格的上限。
- 晶圓製造：先進邏輯製程(如 5nm、4nm/3nm 級)的代工。不同 SKU 雖然可能使用同代工藝，但晶片面積、漏電流特性導致良率和成本不同。高功耗的大晶片對工藝的波動性尤其敏感。
- HBM 儲存器：SK Hynix、三星等是 SKU 定義視訊記憶體頻寬與容量的決定性源頭。根據公開資料，海力士在 2023-2024 年的 HBM3 市場中佔據主導份額，其 12-Hi 產品的良率爬坡速度直接決定了旗艦 SKU 的季度出貨節奏。
- 先進封裝與基板：台積電的 CoWoS 是我們的主要約束。根據台積電 2023 年四季度法說會及後續宣告，其 CoWoS 產能計劃在 2024 年實現年增率倍增，但仍未完全滿足客戶需求。ABF 載板的層數與尺寸則限制著大型晶片的封裝方案。
- 板級供電與散熱元件：承載高電流的智慧功率級(DrMOS)和數字 PWM 控制器是供電核心。高 TDP SKU 已加速普及冷板式液冷甚至浸沒式液冷方案，其元件供應鏈(如快接頭、CDU)也已成為上游關鍵環節。
7. 下游
AI SKU 的最終形態完全基於下游採購方的業務模型定製：
- 伺服器 ODM/OEM：如廣達、富士康工業富聯、超微等，它們將 AI SKU 板卡整合入帶液冷和高壓直流供電的定製伺服器中。其設計方案需嚴格適配特定 SKU 的功耗、尺寸與互連拓撲。
- 雲端服務商與算力租賃商：CoreWeave、Lambda Labs 等 GPU 雲端是定價的“放大器”。它們根據單卡租賃回收週期反向測算可接受的採購成本，從而影響上游廠商對某一 SKU 定位的成功與否。AWS、微軟 Azure 等超大規模廠商則在大量採購的同時，大規模部署內部自研 SKU，形成“通用+自研”的混合部署模式。
- 前沿模型廠商與實驗室：OpenAI、Anthropic、國內頭部大型模型公司等是旗艦訓練 SKU 的終極需求者。它們的採購決策高度集中於釋放即時的最強算力，對供應延遲的容忍度極低。
- 企業級 AI 基礎設施：金融機構、運營商和大型製造企業自建私有化部署，它們在採購時更關注主流 SKU 的生命週期穩定性、軟體棧長期支援承諾以及與現有資料中心的散熱相容性。
8. 受益公司
不同公司在 SKU 價值鏈中的受益邏輯清晰：
- 通用 GPU 主導廠商(NVIDIA)：憑藉最完整的 AI SKU 矩陣，從 H100 到 B 系列，通過不同封裝形態(SXM, NVL, PCIe)和互連代次覆蓋所有細分市場。其資料中心營收的連續高速增長反映了 SKU 矩陣定價權的成功。(資料可追蹤其季度財報中的資料中心業務營收及產品毛利率變化)。
- 挑戰者架構廠商(AMD)：以 Instinct 系列建置了基於 Chiplet 的差異化 SKU 路線。通過靈活搭配 3D V-Cache 與不同棧次 HBM，以更低的總成本切入主流訓練與推論市場。
- 自研晶片陣營(Google, Amazon, Microsoft)：TPU、Trainium/Inferentia、Maia 是典型的內部專用 SKU。它們不對外售賣，但受益於單一內部客戶的放量應用，單位算力成本在大規模部署下具有優勢，直接降低了自家的對外服務運營成本。
- HBM 及先進封裝供應鏈公司：伴隨每一個高階 AI SKU 的出貨，HBM 顆粒與 CoWoS 封裝產能的供應商將獲得量價齊升的確定性收益，其營收增速與 AI 加速器出貨量高度正相關。
- 伺服器整合與散熱方案商：高功耗旗艦 SKU 放量迫使資料中心轉向液冷，直接帶動相關散熱元件供應商的營收規模與毛利率結構性提升。
9. 市場規模
由於 AI SKU 沒有獨立的市場統計口徑，其規模隱含於幾大板塊的交集中，但可通過現有資料進行定性描述：
- AI 加速器晶片市場：據多個第三方分析機構(公開報告未逐一列出具體機構名稱，需交叉印證)估算，2024 年全球 AI 加速器晶片的市場營收在數百億美元量級，並預計在 2027-2028 年達到千億美元級別，年複合增長率維持在高雙位數。
- 結構分化特徵明顯：其中，訓練用旗艦 SKU 佔據最大營收份額，但推論用 SKU 的出貨量正快速攀升，預計在 2025 年後成為增長的主力驅動。這標誌著大型模型正從開發期轉向規模化應用落地期。
- 供需的持續性缺口：2023 全年至 2024 年，旗艦 AI SKU 的供給缺口維持在 20%-30%(不同渠道測算均值)，主要瓶頸在 CoWoS 產能。預計隨著 2024 年下半年臺積電等廠商擴產落地，缺口開始收斂，但 HBM3E 的供給將接替成為新的核心約束。
- 注：以上具體數字需以當年諮詢機構最新報告為準。
10. 玩家對比
以 2024 年初市場主流玩家的旗艦推論與訓練 SKU 為例進行邏輯對比，不涉及具體買進建議：
- NVIDIA：其特點是 SKU 切分極其精細。不僅區分 HBM 容量，還通過 NVLink 橋接器與乙太網路埠的組合衍生出 NVL 等專為大語言模型推論設計的 SKU。生態護城河(CUDA)最深，使得同一顆晶片的不同軟體切片(如 MIG)也可作為更高客單價的 SKU 進行售賣。
- AMD：主打視訊記憶體容量與開放生態價效比。其旗艦推論 SKU 在同功耗下提供更大的 HBM 容量，對執行大尺寸模型有天然吸引力。其通用計算(ROCm)生態正加速追趕，但在部分小眾運算元覆蓋上仍有差距。
- Intel Gaudi 系列：跳出了 NVLink 的標準架構，以整合乙太網路 RDMA 實現橫向擴充套件，其 SKU 定位強調在特定模型下的價效比，例如在 Stable Diffusion 或某些推薦模型上提供極優的每美元推論效能。
- 雲端端自研(AWS Trainium/Inf2)：作為純粹的雲端端專用 SKU，其效能基準並不公開對標 GPU，但通過成本極低的租用價格和與自家 SageMaker 平台的深度耦合鎖定使用者，其競爭力體現在總體雲端服務賬單的降低上。
11. 風險
配置與採購 AI SKU 涉及多重風險，需警惕：
- 先進封裝供給中斷與擠兌：高階 AI SKU 的命運與 CoWoS 等先進封裝的擴產節奏深度繫結。一旦生產發生火災、地震或裝置交期延誤，將導致旗艦卡全球性的缺貨。2023 年的歷史資料已證明了這種緊耦合的脆弱性。
- 功耗與冷卻換代風險：1000W 級的 SKU 正迫使存量資料中心進行昂貴的電力與散熱改改造。若某代際的能效比提升低於預期，大規模部署可能陷入電容量不足的困境，導致客戶推遲採購。
- SKU 定義被管制重塑：地緣政治驅動的出口管制會強制催生“合規性閹割版”SKU，即刻意削減互連頻寬或 TFLOPS 至特定閾值以下。這類產品會被打亂市場正常的定價體系，衝擊原廠的全球分割槽供貨策略。
- 軟體生態鎖定與遷移沉沒成本：過度依賴某個 SKU 的特性(如特定的計算分割槽或低精度融合)，會在轉向其他廠家或自研晶片時產生巨大的工程遷移成本。這是一種非顯性的，但最終體現在工程師人力和時間上的成本風險。
12. 誤讀糾偏
對 AI SKU 的以下常見認知需要糾偏：
誤讀一：“AI SKU 就是 GPU 型號+視訊記憶體大小的簡單排列” 事實並非如此。即便是相同 GPU 代號和視訊記憶體容量(例如同為 80GB)，SXM 封裝的 SKU 支援全速網際網路絡和更高 TDP，而 PCIe 封裝的 SKU 則受限於 300W 級別的功耗牆和較低的卡間頻寬。買錯封裝形態可能意味著預想中的訓練叢集完全無法組網。
誤讀二：“算力(TFLOPS)是衡量 SKU 訓練/推論能力的唯一指標” 這是典型的“單維度謬誤”。在 LLM 推論中，當視訊記憶體頻寬被削減 40%，即使計算單元一個不少，其 token 生成延遲也將惡化 40% 以上。真正的 AI 效能綜合依賴於“計算-記憶體-互連-功耗”四支柱的平衡。只看單精度峰值而忽略頻寬，極易誤判真實工作負載表現。
誤讀三：“通過韌體解鎖可以跨代升級 SKU” 出於商業驅動力的一致性，現代 AI SKU 的劃分絕大多數是物理性、永久性的。這通過雷射熔斷(laser fuse)或 eFuse 實現，一經出廠，被停用的單元從物理上被永久切斷，韌體和驅動僅能在剩餘規格範圍內進行最佳化，無法實現所謂的“付費解鎖”核心算力。
13. 最新事件
截至 2024 年中的資料與趨勢：
- HBM3E 認證與匯入：頭部儲存廠商已向主要客戶交付次世代 HBM3E 樣品，散熱特性與功耗效率改善，直接決定了下一代 B 系列等旗艦 SKU 的最終量產時間表與初期放量規模。
- 出口管制新規：美國商務部持續更新對華先進計算及半導體制造管制細則，導致幾款超高階 AI SKU 被明確禁止出口至部分國家。為應對合規要求，原廠被迫推出了專門為中國市場設計的“合規版”SKU，削減了互連頻寬以符合管制閾值。
- 算力租賃平台爆發：以無伺服器 GPU 推論和按小時計費的千卡叢集租賃服務爆發式增長。這表明下游市場對 AI SKU 的消費模式正從重資產採購轉向服務化，這種模式會更直接地反饋各 SKU 的真實單位算力盈利能力。
- 液冷方案成為主流選項：伴隨著多款功耗超過 700W 的旗艦 SKU 大規模出貨，頭部伺服器 ODM 廠商已宣佈其高密度 AI 伺服器將標配冷板式液冷方案，這標誌著風冷散熱在大算力 SKU 時代正式退居次席。
14. 追蹤指標
為持續觀察 AI SKU 市場的景氣度與動向，需追蹤以下高價值指標：
- 台積電季度法說會：重點看 CoWoS/L 先進封裝產能的資本支出計劃及季度季增率擴產幅度。這是整個工業界的首要供給先行指標。
- SK Hynix 與三星的 HBM 出貨展望：關注 HBM3E 的良率、產能爬坡和營收佔比。其出貨量展望直接鎖死了一個季度後全球能產出多少張高階卡。
- 頭部 GPU 廠商資料中心業務營收拆分：看資料中心營收的絕對數、佔總營收比重，以及管理層對推論型 SKU 出貨量佔比變化的具體描述，這能揭示產業所處階段。
- 雲端廠商(CSP)資本支出：特別是用於 AI 基礎設施的專項採購預算展望。追蹤其自研 SKU 與外部採購 SKU 的比例變化。
- MLPerf 等基準測試放榜：對照各廠商提交的推論與訓練成績，分析不同 SKU 在特定模型下的實際效能功耗比，尋找實際的規格與應用落差。
- 現貨與雲端租賃價格：追蹤如 GPU 算力雲端市場上某代表性旗艦 SKU 的每小時租賃價格變動，這是供需缺口的靈敏即時溫度計。
15. 信源
為保持客觀嚴謹，此類分析需交叉參考以下資訊源型別：
- 原廠技術文件與白皮書：NVIDIA, AMD, Intel 官網的資料中心產品頁。直接查閱資料手冊以獲取各 SKU 確切的 TFLOPS、TDP、HBM 容量及頻寬。
- 半導體物理層分析機構：TechInsights, Yole Group 的深度報告，用於解構先進封裝與 HBM 的真實成本結構與良率預估。
- 財務與供應鏈資料：通過各家公司的季度投資者關係頁面，抓取關於產能、營收和終端市場出貨量的一手陳述。
- 第三方技術評測社群：ServeTheHome, Tom‘s Hardware, SemiAnalysis(注意辨證看待其預測性結論)提供的實際功耗與效能定界。
- 行業基準測試組織：MLCommons(維護 MLPerf)的官方結果庫，用於對比各 SKU 在封閉規則下的工程效能，規避宣傳誇張。
免責宣告: 本文所述所有資料、趨勢和邏輯均為行業概念性分析架構，關鍵硬規格數值需以相關廠商官方最新發布的資料手冊為準。任何市場、規模和份額相關的數字均需結合當年度的具體諮詢報告進行精確校正，本文不構成任何形式的投資或採購決策建議。