參考設計（Reference Design）

1. 3 秒看懂

參考設計是晶片或系統廠商釋出的、經過充分驗證的標準化硬體與軟體藍圖。它把複雜的晶片應用知識封裝成一套可複用的“交鑰匙”方案，幫助下游廠商跳過從零開始的研發，直接進入產品定製與量產階段，本質是技術商業化的“加速器”。

2. 3 分鐘產業解釋

在 AI 硬體產業鏈中，參考設計處於晶片設計公司與終端產品製造商之間的關鍵樞紐位置。一份典型的 AI 參考設計至少包含：完整的電路原理圖與 PCB 版面配置指南、韌體與驅動程式、針對特定 AI 架構最佳化的軟體棧、散熱與供電方案建議，以及一系列測試驗證報告。

其核心產業價值體現在三個層面：

• 降低研發門檻與試錯成本：對於 OEM/ODM 廠商，直接採用並區域性修改一套成熟的參考設計，可將產品從立項到量產的週期壓縮 30%–50%（據 ZVEI 2021 年報告對德國電子製造業的調研，基於參考設計的專案平均研發週期比全自研縮短約 6–9 個月），同時規避掉大量早期工程風險。
• 保障效能一致性與穩定度：參考設計經過晶片原廠的嚴格模擬與實測驗證，在特定工作負載下（如 ResNet-50 推論、GPT 類模型訓練）能保證達到標稱的 TOPS/TFLOPS 水平，並把早期失效機率控制在可接受範圍內。
• 推動生態標準化：它定義了計算模組的物理尺寸、互聯協議、電源介面和管理 API，促進板卡、機箱、液冷系統等上下游元件的互操作性，形成事實的行業標準。

例如，一臺面向大語言模型訓練的 8-GPU 伺服器參考設計，會明確規定 GPU 與 CPU 間的 PCIe 通道配置、GPU 間 NVLink 互聯拓撲、HBM 視訊記憶體容量與頻寬要求、供電模組的冗餘設計，以及配套的深度學習容器映象和排程外掛的版本清單。

3. 技術原理

參考設計的核心技術邏輯是系統級協同設計與知識封裝。它不是簡單的元器件堆疊，而是將晶片的微架構特性、封裝約束與系統層面的訊號/電源完整性、熱管理、機械結構進行跨層級耦合最佳化。

技術實現通常遵循以下流程：

1. 場景定義與指標分解：基於目標工作負載（例如：雲端端訓練、邊緣推論、自動駕駛感知等）確定算力（TFLOPS）、吞吐率（Tokens/s）、延遲（ms）和功耗包絡（TDP）等關鍵效能指標。
2. 架構權衡與晶片選型：選定核心計算晶片（GPU/FPGA/ASIC）及配套晶片組，明確互聯方案（如 CXL、NVLink、InfiniBand）、記憶體層次（HBM 容量與位寬、系統 DDR 通道數）和 I/O 頻寬分配。
3. 原理圖與版圖設計：完成電路原理圖，進行高速訊號的佈線、疊層設計，並藉助 EDA 工具開展訊號完整性、電源完整性和電磁相容性模擬（SI/PI/EMC）。這一環節需要充分考慮串擾、反射、直流壓降等物理效應。
4. 韌體與底層軟體適配：開發 UEFI/BIOS 韌體、基板管理控制器（BMC）子系統、裝置驅動及與晶片繫結的加速庫（如 CUDA、ROCm、oneAPI）。
5. 多層級驗證：在單板、整機、叢集三個層級，利用合成負載和真實業務負載（如 MLPerf 基準）進行功能、效能、壓力、容錯和環境老化測試。

從知識管理的角度看，參考設計本質上是將晶片原廠在特定製程節點（如 4nm、5nm）和封裝技術（如 CoWoS、EMIB）上的經驗，轉化為可交付的工程約束和設計指南，從而把高度不確定的工程探索過程，變成一套邊界清晰、風險可控的二次開發流程。

4. 關鍵引數

評估參考設計優劣的核心引數體系包括：

1. 目標算力與精準度：在 INT8/FP16/BF16/FP32 等精度下的理論峰值算力（TOPS/TFLOPS），以及在 MLPerf 等公開基準上實測的收斂時間和推論延遲。例如，NVIDIA DGX 系統的參考設計通常會標明單機和叢集在 MLPerf Training 上的成績。
2. 能效比：每瓦算力（TOPS/W 或 TFLOPS/W）。對於大規模部署的資料中心，能效比直接決定運營成本。2023 年 Omdia 的 AI 處理器比較報告中，能效比已是核心對比維度。
3. 互聯頻寬與可擴充套件性：GPU 間專用互聯（如 NVLink 4.0 的 900 GB/s 雙向頻寬）和節點間網路頻寬（如 400G InfiniBand/RoCE）決定了多卡、多節點的線性擴充套件效率。
4. 記憶體容量與頻寬：對於大型模型訓練和推論，HBM 容量（如 80GB 或 192GB）和頻寬（如 3.35 TB/s 或更高）通常是效能瓶頸。參考設計通常指定支援的最大視訊記憶體配置。
5. 熱設計功耗與解熱方案：晶片 TDP（如 700W 級別 GPU）與整機散熱能力匹配。高階參考設計會提供風冷、冷板液冷和浸沒液冷等不同熱管理方案的設計準則。
6. BOM 成本與授權模式：物料清單成本、IP 授權費、技術支援年費等構成的整體擁有成本（TCO）。公開資料中，開放計算專案（OCP）的參考設計常揭露參考 BOM，但商業廠商的細節通常需要簽署 NDA。
7. 成熟度和開箱即用度：驅動與主流 AI 架構的適配完備度、與 Kubernetes 等編排工具的整合度，以及上手時間。這一項通常通過社群反饋和廠商配套文件質量來評估。

5. 技術路線

當前主流的參考設計路線可歸納為三類：

路線一：高度垂直整合的全棧參考設計

• 特徵：由單一晶片廠商提供從晶片、板卡、系統、網路到軟體棧的完整方案，硬體耦合極深，軟體生態封閉或半封閉。
• 優勢：效能達到理論上限，上市速度最快，技術支援責任清晰。
• 侷限：下游廠商議價力弱，定製靈活性低，容易形成單一供應商鎖定。
• 代表：NVIDIA HGX/DGX 系列、Intel Gaudi 2/3 平台、Google 的 TPU v5p Pod（通過定製通道提供給重要客戶）。
• 適用場景：追求極致效能的公有雲端服務商、頭部 AI 實驗室。

路線二：標準化模組與開放互聯參考設計

• 特徵：遵循 OCP、OAM（OCP Accelerator Module）等開放標準，加速卡、主機板、機櫃採用標準化尺寸與介面，允許多家供應商的部件互換。
• 優勢：供應鏈彈性高，成本可控，避免單一供應商風險。
• 侷限：整合複雜度高，跨廠家的最佳化責任有時難以界定，可能無法完全發揮單一晶片的最佳效能。
• 代表：Meta、微軟等超大規模公司主導的 OCP 伺服器設計；基於開放標準的多家 GPU/ASIC 加速卡參考設計。
• 適用場景：超大規模資料中心自研裝置、追求 TCO 最最佳化的網際網路巨頭。

路線三：應用導向的嵌入式與邊緣參考設計

• 特徵：面向特定垂直場景（如自動駕駛、智慧攝像頭、工業質檢），高度整合感知、決策和通訊模組，軟硬體一體，通常以模組或開發套件形式交付。
• 優勢：開發門檻極低，可直接進行應用開發，功耗和體積針對場景最佳化。
• 侷限：算力跨代升級困難，功能擴充套件受限。
• 代表：NVIDIA Jetson Orin 系列開發者套件，高通 Snapdragon Ride 平台，地平線征程系列開發板。
• 適用場景：汽車 ADAS/AD 域控、智慧物聯網裝置、機器人等。

上述三條路線的邊界正在模糊：OCP 社群積極吸收來自 NVIDIA 等廠商的物理層定義，同時，先進封裝（Chiplet）和 UCIe 互聯標準為“混搭”晶片的參考設計提供了新的可能性，不過相關量產級參考設計截至 2024 年底仍處於早期階段。

6. 上游

參考設計的上游是提供其核心構件和工具的產業環節，主要包括：

• IP 與架構授權商：Arm（Cortex/Neoverse 處理器 IP）、SiFive（RISC-V IP）、Cadence、Synopsys（介面與安全 IP）。(2023 年 IPnest 報告顯示，Arm 在處理器 IP 市場市佔率超 40%，Synopsys 和 Cadence 合計在介面/安全/其他 IP 領域市佔率近 30%。)
• EDA 與模擬工具商：Cadence、Synopsys、Siemens EDA（原 Mentor）提供晶片設計、SI/PI 模擬、PCB 版面配置和熱模擬工具。其工具授權費是參考設計開發成本的重要組成。
• 晶圓代工廠：台積電 (TSMC)、三星 (Samsung)、英特爾 (Intel Foundry Services) 等。先進製程（7nm 以下）的工藝設計套件（PDK）直接影響參考設計的物理實現邊界。2023 年 TSMC 佔全球半導體代工份額約 59%（TrendForce）。
• 封裝與基板供應商：日月光 (ASE)、安靠 (Amkor)、長電科技 (JCET)、Ibiden、Unimicron 等。高效能 AI 晶片的 CoWoS、EMIB 等先進封裝產能成為參考設計能否量產的關鍵瓶頸。2023 年 TSMC 的 CoWoS 產能仍緊缺，約 11 萬片/月，並計劃 2024 年底擴至約 20 萬片/月（據媒體報道及分析師估算）。
• 被動元件與聯結器：村田、TDK、泰科電子、安費諾等。高速訊號聯結器的 SI 效能直接影響參考設計可達到的最高頻寬。

7. 下游

參考設計的下游是將其轉化為可銷售產品並最終使用的群體：

• 伺服器 OEM/ODM 廠商：戴爾科技 (Dell Technologies)、慧與 (HPE)、超微 (Super Micro Computer)、浪潮電子資訊、聯想、英業達、廣達等。它們在參考設計的基礎上進行機箱、供電、散熱、韌體的定製，生產出最終品牌伺服器。
• 獨立設計公司 / 方案商：如中電港、世平集團等，在晶片原廠參考設計基礎上，為中小客戶提供二次開發或整合多品牌晶片的完整方案。
• 雲端服務商 (CSP)：亞馬遜 AWS、微軟 Azure、Google Cloud、阿里雲端、騰訊雲端等。它們是高階 AI 參考設計的最大直接或間接買家，常常與晶片廠商聯合開發定製的參考設計，並交由 ODM 白牌生產。
• 垂直行業系統整合商：汽車電子 Tier‑1 供應商（如博世、大陸）、工業自動化系統整合商等，利用嵌入式參考設計為車廠或工廠開發最終產品。
• 終端企業使用者與公共機構：金融機構、生物醫藥公司、國立實驗室、高校等購買由 OEM 基於參考設計生產的伺服器或叢集，用於 AI 訓練與推論。

8. 受益公司

從產業價值分配角度看，具有強參考設計能力的廠商往往攫取價值鏈中較豐厚的獲利：

• 晶片原廠：NVIDIA 是典型代表。其 2024 財年資料中心業務營收達到 475 億美元（年增率增長 217%），很大程度上受益於其 HGX/DGX 參考設計帶動的 GPU、網路和軟體生態整體銷售。AMD 通過 Instinct MI300 系列及其參考設計加速在 AI 訓練市場的滲透，2023 Q4 其資料中心 GPU 營收約 4 億美元（公司財報口徑）。英特爾以 Gaudi 系列加速器和 Xeon 處理器配合的全棧參考設計爭奪 AI 推論市場。
• AI 伺服器 ODM 龍頭：超微電腦 (SMCI) 憑藉迅速跟進 NVIDIA 等廠商的參考設計並快速量產的能力，2024 財年第二季度營收達到 36.6 億美元，年增率增長 103%（公司財報），其與 NV 的緊耦合關係被視為競爭力核心。
• 散熱與電源方案商：高算力參考設計對液冷和大功率電源的需求，帶動了 CoolIT Systems、Vertiv、雙良節能、高瀾股份等液冷方案商，以及臺達、艾默生等電源廠商的業務增長。
• 先進封裝與測試企業：如前所述，承接先進封裝的 ASE、JCET 及承擔晶圓測試的公司，因參考設計對先進封裝的強依賴而獲得訂單增量。台積電本身也是受益者，其 CoWoS 產能擴張與 AI 晶片參考設計需求直接相關。

9. 市場規模

直接統計“參考設計市場”的獨立口徑較為罕見，通常融合在上游晶片和下游硬體市場中。但可以從兩個維度交叉估算：

• 半導體 IP 市場：據 IPnest 資料，2022 年全球半導體設計 IP 市場約 66.7 億美元，2023 年預計增長至約 70 億美元左右，反映了晶片原廠和設計服務公司為生成參考設計而購買的底層 IP 的規模。
• AI 伺服器硬體市場：IDC 資料顯示，2023 年全球 AI 伺服器市場營收約為 211 億美元（年增率增長約 14%），TrendForce 預估 2024 年將增長至約 310 億美元。而 AI 伺服器絕大多數都是基於晶片原廠的參考設計打造，因此該市場的增速可間接反映高階參考設計價值的膨脹。若假定參考設計相關軟硬體及工程服務價值佔 AI 伺服器成本結構的 5%–8%，則 2024 年與之對應的隱含商業規模約在 150 億至 250 億美元之間（粗估，並非精確會計口徑）。更廣泛地看，包含嵌入式、汽車電子的整體參考設計相關軟硬體市場在數千億美元量級，但可比精確資料公開資料未見。

10. 玩家對比

下表對比了當前 AI 參考設計領域的主要競爭者（基於截至 2024 年中的公開資訊）：

維度	NVIDIA	AMD	Intel	高通/聯發科	OCP 開源生態
代表平台	HGX/DGX (GPU)	Instinct MI300X	Gaudi 3, Xeon Max	Snapdragon Ride, Dimensity Auto	OAM, DC-SCM
晶片架構	Hopper/Blackwell GPU	CDNA3 GPU	異構加速器 + CPU	移動/車規 SoC	通用/定義開放
軟體生態	CUDA, Nsight, TensorRT	ROCm, HIP	oneAPI, SynapseAI	專有 SDK	各自適配
整合深度	垂直整合極深	偏重開放與標準化	近期加大垂直整合	深度整合模組	最低，強調解耦
市場定位	訓練/推論全覆蓋，高階優先	挑戰訓練市場，推論補位	推論與混合負載，企業級	邊緣智慧、汽車	超大規模自研
單點效能 （BF16 TFLOPS avg）	989 (H100 SXM) / 4500 (B200)	1310 (MI300X)	1835 (Gaudi 3 BF16)	取決於 SoC，典型 10 ~ 50 TOPS INT8	取決於選用加速卡
主要下游客戶	Azure、CoreWeave、Lambda、DELL 等	Microsoft、Oracle、El Capitan 超算	AWS、ThinkSystem 等	車廠、手機品牌	Meta、Microsoft 自研
優勢	生態壁壘、效能上限、技術成熟度	價效比、開放互聯（Infinity Fabric）	IDM 產能保障、x86 生態繫結	行動端統治地位、低功耗	無鎖定、靈活、TCO 可控
劣勢	供應受限、價格高昂、生態封閉	軟體生態仍需追趕	AI 訓練份額低，生態遷移成本高	高階算力不足	整合複雜性高，最佳化責任分散

注：算力數值來自各公司 2023‑2024 年產品釋出材料，代表標稱峰值，實際受散熱和供電影響。

11. 風險

投資或產業觀察中需警惕以下與參考設計相關的風險：

• 技術鎖定風險：過度依賴單一廠商的深度整合參考設計（如 CUDA 生態），會在後續產品迭代中喪失議價權，並面臨斷供或條款變更風險。當頭部雲端商試圖引入第二、第三供應源時，會發現遷移成本極高。
• 技術迭代導致的快速貶值：AI 晶片迭代週期已縮短至約 1‑2 年。一套基於某代晶片的參考設計可能在其生命週期後期因新一代產品的釋出而需求驟降。例如，2024 年 B200 的釋出導致部分 H100 基參考設計訂單向下一代傾斜。
• 供應鏈瓶頸：先進封裝（CoWoS）、高多層 PCB、大功率電源模組等產能可能成為參考設計落地的共同約束。2023‑2024 年間，NVIDIA H100 系統交付延遲的重要原因之一就是 CoWoS 產能不足。
• 開源路線的智慧財產權模糊性：部分基於 RISC‑V 或 OCP 的開放參考設計，可能涉及未獲有效專利池保護的第三方 IP，若遇專利訴訟，會對下游產品造成不可控影響。
• 地緣政治因素：高效能 AI 晶片及其參考設計已被納入主要經濟體的出口管制清單。2023 年 10 月美國商務部工業安全域性 (BIS) 更新的出口管制規則，限制了高階 GPU 參考設計向特定國家的擴散，導致供給錯配和區域市場分化。
• 同質化競爭與獲利空間：中低端參考設計市場準入門檻相對較低，可能導致價格戰，擠壓方案商和 ODM 的獲利。是否能提供差異化的系統級最佳化成為關鍵。

12. 誤讀糾偏

1. 誤讀：“參考設計就是可以直接生產的完整產品圖紙。” 糾偏：參考設計是核心板卡和基礎軟體棧的驗證起點，遠非可立即量產的產品。它需要下游廠商根據目標市場的成本限制、供電環境、EMI 認證標準、使用場景進行大量適應性修改，包括更換非關鍵元器件、重新版面配置 I/O 面板、設計專屬機箱和散熱系統等。直接原封不動複製的產品往往不滿足商業所需的魯棒性與合規要求。
2. 誤讀：“採用參考設計會抹平技術差異，所有廠商的產品都會同質化。” 糾偏：雖然參考設計吸收了相當一部分底層硬體設計複雜度，但差異化的空間轉移到系統層面：包括獨家散熱與降噪方案、定製化的 BMC 監控與節能策略、針對自有業務的架構運算元融合、多維度的故障預測與 RAS（可靠性、可用性、可維護性）設計。這些依然是產品競爭的核心護城河。
3. 誤讀：“開源參考設計一定比商業參考設計便宜。” 糾偏：開源設計雖然省去了部分一次性授權費（NRE），但下游廠商需要投入更多資源進行驗證、整合和維護，且缺乏原廠的效能兜底承諾。對於缺乏強大硬體工程團隊的公司，開源方案的隱性成本和風險往往高於商業方案。
4. 誤讀：“一個參考設計能適應所有規模的部署。” 糾偏：面向單機伺服器、超大規模叢集和嵌入式邊緣的參考設計在互聯拓撲、管理平面、故障域設計上完全不同。試圖將資料中心級參考設計簡單縮小到邊緣，或反向擴充套件，常導致效能或穩定性問題。

13. 最新事件

• NVIDIA Blackwell 平台釋出 (GTC 2024)：2024 年 3 月，NVIDIA 釋出了基於 Blackwell 架構的 B200 GPU 及 GB200 Grace Blackwell 超級晶片，同時推出新一代 HGX B200 和 DGX B200 參考設計。新設計集成了第五代 NVLink 和 NVSwitch，支援超大規模 FP4 推論，並引入了液冷參考架構。多家主要 OEM 預計在 2024 年底推出基於該設計的伺服器產品。
• AMD Instinct MI300X 量產與參考設計交付 (2023‑2024)：AMD 於 2023 年底正式發貨 MI300X，並提供了完整的 Infinity Fabric 互聯參考設計。2024 年，微軟 Azure ND MI300X v5 系列虛擬機器上線，採用該參考設計並支援 ROCm 6.0，是 AMD 在雲端 AI 領域的重要里程碑。
• Intel Gaudi 3 釋出 (2024 年 4 月)：Intel 釋出 Gaudi 3 加速器，標稱 BF16 算力為前代兩倍，並配套更新了面向大型模型推論和微調的參考設計，計劃 2024 年 Q3 開始向客戶發貨，戴爾、超微等宣佈將推出相關產品。
• OCP 全球峰會 (2023)：會上多家廠商展示了基於 OAM 2.0 的開放加速器模組參考設計，Meta 分享了其基於 AMD 和 Intel 不同加速器的雙源參考設計戰略，顯示出超大規模雲端商減少單一供應商依賴的趨勢。
• 中國本土 AI 晶片參考設計動態：受出口管制影響，華為昇騰 (Ascend) 系列伺服器參考設計成為國內智算中心建設的重要基礎。多家 AI 系統整合商基於昇騰計算硬體推出自研訓練/推論一體機。公開的基準效能資料較少，但在通訊、金融等行業已有規模部署案例（據 2024 年公開報道）。其他國產 GPU（如天數智芯、壁仞）也釋出了雲端伺服器參考設計，但公開可查的大客戶案例尚不豐富。

14. 追蹤指標

產業追蹤者可重點觀測以下指標，以判斷參考設計的技術迭代和商業兌現節奏：

• 晶片原廠新品釋出與交付時間差：晶片官方宣佈日到基於該晶片的參考設計/開發套件送樣日、再到 OEM 首批系統出貨日之間的間隔，反映參考設計的成熟度和原廠工程能力。
• ODM 大廠 AI 伺服器營收及其增速：超微 (SMCI)、廣達、英業達、浪潮等公司財報中資料中心或 AI 相關業務線營收的年增率變化，並觀察其是否同步某家晶片廠商的釋出節奏。
• 先進封裝產能與利用率：台積電季度法說會公佈的 CoWoS 產能規劃與實際出貨量；日月光、安靠的先進封裝營收趨勢，為判斷硬體放量提供先行參考。
• MLPerf 等基準成績提交者變化：每輪 MLPerf 訓練/推論提交中，基於不同晶片參考設計的系統數量及效能得分，可追蹤新玩家和新設計進入商用驗證的節拍。
• 雲端服務商例項上新：AWS、Azure、Google Cloud、阿里雲端等新上線 GPU/加速器例項所採用的晶片型號和規格，側面驗證該晶片參考設計是否通過雲端廠商嚴苛的可用性驗證。
• 液冷與電源相關供應鏈訂單：Vertiv、臺達、CoolIT 等公司的液冷和電源管理模組訂單及積壓情況，可對映高階參考設計的實際部署量。
• 開源設計社群的活躍度：OCP 伺服器與加速器專案的新提案數量、RISC-V 國際基金會新增硬體設計貢獻者數目，反映開放路線的吸引力變化。

15. 信源

• 晶片原廠官方釋出：NVIDIA GTC 2024（Blackwell 平台）、AMD 加速資料中心峰會 (MI300 系列)、Intel Vision 2024 (Gaudi 3) 演講及技術資料。
• 行業研究報告：IDC《Worldwide Quarterly Server Tracker》（各季度）；Gartner 半導體及 IT 基礎設施預測；TrendForce 先進封裝報告；Omdia 的 AI 處理器對比與市場分析；IPnest 設計 IP 年度報告。
• 上市公司財務揭露：NVIDIA 10‑K/10‑Q、AMD 財報、Super Micro 財報、Intel 財報、TSMC 法說會等公開資訊（引用年份按財報揭露時間）。
• 標準與社群組織：OCP 官網與全球峰會會議資料；RISC-V International 技術工作組更新；MLPerf 官方結果列表。
• 科技媒體與分析師專欄：Semianalysis、AnandTech、Serve the Home 等對參考設計的技術解剖；彭博、路透關於出口管制影響的報道。
• 學術與會議資源：IEEE 期刊 (TCPMT, TCAS) 關於高速設計、先進封裝論文；Hot Chips 歷年會議演講。

提示：本詞條力求在現有公開資料基礎上提供產業觀察架構，具體廠商的最新產品規格、定價、效能表現及財務資料請以各公司官方最新揭露為準。文中涉及未來預測性陳述具有不確定性，不應作為投資決策依據。