概念庫 開放閱讀

協作組

概念庫 · 開放閱讀

概念 ID
cooperative-groups
更新時間
2026-06-03
來源數量
1

協作組

⚡ 1. 3 秒看懂

一句話定義:AI 產業鏈的”鏈-芯-核”協作組,指在通用人工智慧(AGI)願景驅動下,演算法模型(核)、智慧晶片(芯)、應用鏈(鏈) 三方告別傳統線性供應關係,轉而通過技術共生、資料迴流與資本繫結形成的深度耦合、正反饋加速的產業協作架構。該模式的執行邏輯是:演算法規模膨脹倒逼晶片架構變革,晶片能力解鎖釋放新演算法可能,應用鏈產生的海量互動資料則反向滋養模型進化。

📖 2. 3 分鐘產業解釋

2.1 協作組的結構拆解

要理解這一概念,首先要打破傳統硬體、軟體分層的線性思維。“鏈-芯-核”以物理隱喻建置了全新的價值鏈分工:

層級定義與內涵核心載體典型玩家 (2024年格局)
核 (Core)智力引擎:基礎模型演算法、訓練與推論架構、多模態資料工程、對齊與安全機制基座大型模型、合成數據管道OpenAI (GPT系列)、Google DeepMind (Gemini)、Anthropic (Claude)、百度 (文心)、智譜 (GLM)
芯 (Chip)物理底座:面向訓練與推論的專用計算晶片、高頻寬儲存、片間互聯及配套基礎軟體棧AI GPU/NPU、HBM、互聯協議 (NVLink/UALink)NVIDIA (Blackwell)、AMD (MI300X)、華為 (昇騰910C)、英特爾 (Gaudi)
鏈 (Chain)價值轉化與感測網路:算力基建、雲端服務平台、終端應用、具身智慧載體。它是算力的消費者,同時也是資料的生產者。智算中心、MaaS平台、端側裝置雲端廠商(Azure/AWS/阿里雲端)、終端廠商(特斯拉/華為/Apple)、垂直SaaS

2.2 為何是”協作組”而非”供應鏈”?

傳統半導體供應鏈是單向價值鏈:IP/EDA → 晶圓代工 → 封裝 → 模組 → 整機 → 軟體應用。其中,交付是遞進的,反饋是緩慢的。而AI產業已演變為一個以資料吞吐量為血脈、以加速計算為心臟、以下一代模型能力為大腦的三角反饋迴路。三者之間的互動關係可以用下圖清晰地呈現:

           演算法(核)
          ↙       ↘
  向晶片倒逼架構需求   嚮應用輸出智慧能力
        ↓               ↓
     晶片(芯)  ←→    應用(鏈)
           算力反哺 & 資料迴流

這一反饋迴路的關鍵在於:**沒有應用鏈,就沒有真實資料來源,模型品質無法提升;沒有先進晶片,模型規模與推論延遲就受物理約束;沒有最先進的演算法,晶片與應用則為”屠龍之技”。**例如OpenAI的GPT-4訓練大約在2.5萬塊A100上進行了90-100天,這直接驗證了萬卡叢集的有效性,倒逼NVIDIA推出H100/B200系列,而新晶片能力釋放後又催生Sora等高維生成應用,產生海量推論需求並積累人類偏好資料。

2.3 協作組的三大核心特徵

  1. 軟硬協同設計:模型架構師與晶片架構師同步規劃研發週期。例如,Transformer結構催生了專用Tensor Core;下一代狀態空間模型(SSM)或液態神經網路可能定義超越GPU的新架構。
  2. 資料-算力雙飛輪:應用鏈的互動資料(如自動駕駛中的人類駕駛行為、AI搜尋的點選反饋)是模型對齊與迭代的唯一真實養料。飛輪一旦啟動,後發者極難追趕。
  3. 生態化鎖定:協作組的終極形態是形成難以遷移的生態壁壘。NVIDIA的CUDA(擁有超500萬開發者,2024)、華為的CANN+昇思MindSpore、Google的TPU+JAX,都是在建立從晶片指令集到上層模型架構的縱向閉環。

🔬 3. 技術原理:算力、互聯與儲存的三重奏

3.1 核之驅動:大型模型規模的超線性算力飢渴

大型語言模型(LLM)的能力遵循”擴充套件法則”(Scaling Laws),模型效能的提升與引數量、資料集大小和計算量的增加強相關。其結果是,訓練算力需求呈指數級增長。

模型關鍵指標2020: GPT-32023: GPT-4 (業界推測)2024/2025: 前沿萬億引數MoE
引數量級175B (稠密)~1.8T (MoE, 公開推測)數萬億級 (MoE)
訓練算力 (浮點運算)~3.14×10²³ FLOPs~2×10²⁵ FLOPs (公開推測)預計達10²⁶量級
等效算力叢集約數千塊 A100·月約2.5萬-7.5萬塊 H100·月十萬至數十萬卡叢集
單次訓練電力約1,300 MWh約50—60 GWh (公開估算)更大數量級

來源:公開論文、Epoch AI、行業估算。部分數字因商業機密為推測值。

3.2 芯之應戰:從製程微縮到系統級架構創新

摩爾定律放緩後,單晶片的電晶體密度提升已無法滿足算力需求。晶片側從四個維度進行應對,以構成一個高效能運算系統:

突破維度核心技術物理載體與指標代表產品 (年份)
算力密度低精度計算 (FP8/FP4/INT4)、稀疏加速、專用架構(DSA)NVIDIA B200: ~4,500 TFLOPs (FP4)
MI300X: ~2.6 PFLOPs (FP8)H100 (2022), B200 (2024)
儲存瓶頸高頻寬記憶體 (HBM)、存算一體(PIM)HBM3e: 頻寬8 TB/s/堆疊, 容量36GB
B200: 192GB HBM3e, 8 TB/s三星/SK海力士 (2023/2024)
互聯牆片間互聯、光電合封(CPO)、統一記憶體架構NVLink 5: 1.8 TB/s (雙路)
UALink 聯盟: 開放互聯標準NVSwitch (系統級)
能效牆液冷/浸沒式散熱、先進封裝(CoWoS-L)TDP突破1000W/GPU
CoWoS產能成為全鏈瓶頸台積電 TSMC (2024)

晶片的本質能力,不再是單一的浮點峰值,而是建置高吞吐、低延遲、高能效的單一大規模平行計算域的能力。

3.3 軟體棧:協作組的暗物質

硬體形態由軟體生態定義。頂層演算法架構與底層晶片指令集之間的軟體棧,是遷移的絕對壁壘。

┌──────────────────────────────────────────┐
│               應用與演算法層                  │
│  模型架構 (Transformer/MoE/SSM/Diffusion)  │
├──────────────────────────────────────────┤
│               前端架構層                    │
│  PyTorch (主導, ~90%+ 論文), JAX, 飛槳,      │
│  MindSpore, 昇思                           │
├──────────────────────────────────────────┤
│          中間表示與編譯器 (核心壁壘)         │
│  Triton, XLA, MLIR, TVM, 華為昇騰CANN      │
│              運算元庫與驅動                   │
│  CUDA/cuDNN, ROCm/MIOpen, CANN/AKG        │
├──────────────────────────────────────────┤
│            指令集與硬體架構層               │
│  NVIDIA PTX/SASS, AMD ROCm, Intel OneAPI  │
└──────────────────────────────────────────┘
  • CUDA生態黏性:全球絕大多數大型模型訓練程式碼基於CUDA編寫。編譯器與運算元庫(Triton, cuBLAS)對NVIDIA GPU的效能最佳化到了極致,成為了事實上的工業標準(2024年推算,AI晶片市場中超80%的資料中心營收由NVIDIA獲得)。
  • 中國的自主軟體棧努力:華為主導的昇思(MindSpore)與CANN正在建置與昇騰晶片協同的”軟硬全棧”。百度飛槳、崑崙芯構成了另一套閉環。遷移成本和學習曲線是它們面臨的主要市場挑戰。

📊 4. 關鍵引數:衡量協作組實力的硬指標

評估一個鏈-芯-核協作組,不能割裂地只看單點引數,必須從系統吞吐的維度衡量。

關鍵引數定義行業前沿基準 (2024)說明
叢集有效算力(FLOPS)千卡/萬卡級叢集在執行大型模型時的有效浮點運算能力利用率(MFU)。MFU > 50% (萬卡H100叢集訓練GPT-4級別模型)互聯和軟體棧的優劣決定MPI通訊開銷,MFU是綜合體檢報告。
單卡等效記憶體牆(BW/Capacity)HBM頻寬與容量的比值,決定了大型模型推論/訓練時KV Cache或模型權重能否駐留。頻寬/容量 ~ 80-120 s⁻¹B200採用192GB HBM3e就是這個指標的極致體現,決定長上下文能力。
模型端到端時延(TTFT/TPOT)應用側感知的從提問到首個token產出(TTFT)及token間延遲(TPOT)。即時互動 < 300ms使用者體驗的硬槓槓,制約端側與雲端端的雲端邊協同架構。
互聯頻寬域能夠實現高頻寬統一地址訪問的GPU/NPU數量。單域內 > 72 GPU (NVIDIA GB200 NVL72)NVLink域的大小,直接決定了單個超大規模MoE模型的極限。
生態遷移成本(TCO)一個典型千億引數模型從CUDA生態遷移至其他平台所需的人月及效能損失。人月 > 24人·月, 效能損失 10%-50%不等公開資料未見精確統計,此為行業估計值。

🗺️ 5. 技術路線:從單晶片到系統級競賽

芯的競爭,已從單純追求單晶片工藝節點,分化出幾條並行的技術路線。

路線一:極致系統級擴充套件 (路徑: 大算力基座)

  • 核心思想:承認單Die面積受限與光罩極限,通過先進封裝(CoWoS-L)、高速互聯(NVLink)和統一記憶體訪問(UMA)將多晶片攢成一個巨型虛擬GPU。
  • 代表玩家:NVIDIA (GB200 NVL72, 將72塊Blackwell GPU、36塊Grace CPU通過NVLink連線為一個1.4 ExaFLOPS系統)。該路線的護城河在於封裝互聯專利與銅/光混合互連技術
  • 2025年預期:向更大域(可上千卡互聯)以及矽光互連(CPO)演進。

路線二:開放生態與多元算力 (路徑: 去中心化互聯)

  • 核心思想:抵制NVIDIA全棧封閉模式,通過開放標準(如UALink、Ultra Ethernet)連線各家加速器。讓芯迴歸”高速運算裝置”角色。
  • 主要推動者:AMD、博通、英特爾、Meta及雲端廠商。該路線依賴大量頭部客戶的聯合推動,其成功的標誌是大規模混部異構叢集的商業化可用

路線三:自研定製化 (路徑: 按需定義)

  • 核心思想:為了控制TCO和供應鏈,大型CSP(雲端服務商)根據自身核心業務(搜尋、推薦、推論)的特定負載研發ASIC或定製晶片。
  • 代表作:Google TPU v5p (8,896 chip pod)、Amazon Trainium2、微軟Maia 100。這些晶片與自家核(如Gemini)和鏈(搜尋/雲端)形成內迴圈協作組。

🏭 6. 上游:算力基座的物理與材料之源

產業鏈上游定義了協作者的物理極限。

核心環節技術與功能市場主導者與格局 (2024)中國現狀
EDA & IP核先進工藝設計與高速介面IP新思科技(Synopsys), 益華電腦(Cadence)壟斷 (合計全球EDA份額 >70%)華大九天、國微集團;追趕中提升模擬、後摩爾領域,數字全流程差距大
晶圓代工先進邏輯製程(5nm, 3nm及GAA)台積電(TSMC) 獨供尖端AI晶片 (份額>90%);三星, 英特爾(IDM2.0)追趕中芯國際2024年7nm (N+2) 處於Díw 多重曝光階段,受EUV裝置禁運阻遏
HBM (高頻寬記憶體)3D堆疊儲存,AI晶片的資料”水源”SK海力士 (領先主導HBM3E) > 三星 > 美光此為硬瓶頸。長鑫儲存聚焦DRAM,量產HBM未見公開報道。
先進封裝CoWoS, 中介層(Interposer)台積電 (CoWoS產能成2024-2025全球算力總供給瓶頸),日月光, 長電科技長電科技、通富微電具備2.5D封裝能力,但TSMC級的高密度中介層產能和良率仍是挑戰
光學/網路光模組(800G/1.6T), 交換器交換器Cisco/Arsta, 光模組中際旭創/Coherent中國在光模組領域有全球競爭優勢,但內部交換器晶片博通佔優

資料來源:TrendForce, SemiAnalyse, 各公司季報(2024Q1-Q3)


🌐 7. 下游:價值轉化的應用鏈場景

下游是價值的終點和資料的起點。中國在應用層創新和落地速度上具備一定的區域性優勢。

場景落地形態與典型用例代表企業 (截至2024年)對”核-芯”的拉動力
內容與生成文生圖/影片、AI寫作、虛擬角色海外: OpenAI(Sora), Midjourney
國內: 快手(可靈), 位元組(即夢), 月之暗面(Kimi)對大規模推論叢集、低延遲影片解碼晶片提出海量需求
程式碼與人機協作AI程式碼助手、Copilot模式GitHub Copilot (使用者超180萬付費), 通義靈碼, Cursor高質量私有程式碼資料迴流,提升模型邏輯能力
自動駕駛與具身智慧端到端模型(VLA)、人行機器人汽車: 特斯拉(FSD V12), 華為(ADS 3.0)
機器人: Figure AI, 宇樹科技邊端側高能效推論晶片(如華為MDC、特斯拉FSD晶片)的試煉場
企業服務與流程智慧客服、數字員工、AI原生SaaSSalesforce, ServiceNow, 釘釘AI, 飛書智慧夥伴拉動私有化部署需求,促進中小模型精調及LoRA技術普及

💰 8. 受益公司:沿不同分工軸的擴充套件

協作組模式使價值在不同層面積聚,不同環節的受益邏輯不同。

  1. 基礎設施”賣鏟人”:確定性最高受益層
    • 頭部晶片與系統商: NVIDIA (資料中心季度營收超260億美元, FY25Q2),其系統級產品GB200進一步鞏固整合優勢。AMD為挑戰者。
    • 聯結器與儲存: 博通(定製化XPU+網路)、SK海力士(HBM核心供應商)。台積電作為唯一尖刀工藝及先進封裝提供方,是產業鏈的關鍵樞紐。
  2. 模型層”軍火商”:既得壟斷與開源顛覆者
    • 閉源巨頭: OpenAI, Google, Anthropic。他們通過訂閱和API控制頂級智慧介面,形成”核->鏈”的智力收費站。
    • 開源顛覆者: Meta(Llama 3/4系列)、DeepSeek、阿里巴巴(通義千問)。他們通過開源模型建立生態,意圖打破封閉壟斷,讓’鏈’層應用百花齊放。
  3. 雲端平台”包租公”:算力交付的血管
    • 微軟 Azure、亞馬遜 AWS、Google GCP 成為AI公司”提水”的雲端水管。算力租賃和模型即服務(MaaS)是核心商業模式。
    • 國內:阿里雲端、華為雲端、火山引擎依靠東數西算和資料中心,承接了大量國產替代與政企智慧化需求。
  4. 應用層”淘金者”:邊際效應爆發層
    • 掌握獨特使用者資料和高粘性工作流的SaaS企業,通過整合AI可能創造指數級效率提升。這是最分散且最具爆發力的層級。

📈 9. 市場規模:公開資料與估算 (2023-2030)

資料口徑:以下資料綜合自IDC, Gartner, Bloomberg Intelligence, Fortune Business Insights的產業估算。

  • 全球AI晶片市場(含訓練與推論)
    • 2023年: 約 450億-550億美元 (估算, 來源: Gartner, IDC)
    • 2024年: 預計突破 800億美元 (NVIDIA一家資料中心營收就可能達1000億美元+,體現其在訓練側統治力)
    • 2027年 (預測): 據多機構預測,市場將增長至超過 2000億美元,其中推論晶片的複合年增長率(CAGR)將超過訓練晶片。
  • 全球大型模型市場 (含API, 微調, 訂閱)
    • 2024年: 約 60億-80億美元 (初創與雲端廠主營營收估算)
    • 2030年 (預測): 可達 600億—1000億美元 之間,是當前最迅猛的增長極之一。
  • 下游生成式AI相關產業IT支出
    • 2024年: Gartner預測全球IT支出約5.1萬億美元,受GenAI帶動增長。
    • 中國智算中心投資: 據工信部及券商報告,2023-2024年規劃中的智算中心總投資規模超千億元人民幣,國產晶片採購佔比按國家政策要求不斷提升。

⚖️ 10. 主要玩家對比:路線決定架構

維度NVIDIA 全棧閉源派華為 自主全棧派AMD/Intel 開放聯盟派雲端廠 ASIC 自研派
核心信條我就是標準。CUDA+NVLink就是最好的協作組粘合劑。中國場景全棧可控。從昇騰晶片到昇思MindSpore,適配產業數字化”鏈”長。開放系統勝出。通過標準聯盟,對抗垂直鎖定。軟體定義硬體。我的業務負載決定芯的形狀,降本增效超越通用效能。
核心產品/生態H200, B200/GB200, CUDA, NVLink昇騰910B/C, CANN, 昇思MindSpore, 盤古大型模型MI300X+ROCm; Gaudi+OneAPI; UALinkGoogle TPUv5p, Trainum2, Maia 100
獨特的優勢成熟開發者生態、最完備系統性能政企市場信任狀、端邊雲端全場景覆蓋能力具有在CPU時代積累的廣泛OEM/ODM聯盟與渠道自身就是最大客戶,TCO極佳,無銷售成本
主要挑戰地緣斷供風險、客戶強烈的”脫鉤”動機先進製成受限、HBM進口依賴、軟體棧海外接受度低生態碎片化,軟體成熟度和最佳化深度不及CUDA通用性低,無法外售,研發沉沒成本高

⚠️ 11. 風險:技術、供應鏈與宏觀的三重挑戰

11.1 技術與物理極限風險

  • 擴充套件法則瓶頸:文本資料可能在2026-2032年間耗盡(Epoch AI),單純堆算力的效能收益邊際遞減,若缺乏新的架構突破,核的拉動作用會減弱。
  • 能耗失控:資料中心電力需求已佔全球總量的1-2%,並在快速增長。一個十萬卡叢集的耗電相當於一個小型城市。歐盟與國內都已對PUE提出嚴苛指標,能源已成為硬約束。
  • 推論經濟賬:當前前沿模型的單次推論成本依然高昂,難以支撐大規模、低頻的商業模式。推論晶片的效能釋放與成本降低是協作組能否擴大閉環的關鍵。

11.2 地緣與供應鏈風險

  • 晶片出口管制常態化:2022年10月及此後的多輪BIS(美國商務部工業與安全域性)規則,嚴格限制了NVIDIA A100/H100/B200等高階晶片對華出口。晶片”可用但落後一代”成為中國協作者的現實約束。
  • 製造單點故障:全球AI大算力晶片的製造、封裝高度集中於台積電(CoWoS)和SK海力士(HBM),地緣政治衝突會造成全行業癱瘓。
  • 裝置禁運:ASML的EUV光刻機、部分高階DUV對華維護和服務受限,使得國內先進製程攻堅之路更為漫長。

11.3 產業與監管爭議

  • AI泡沫之辯:2024年多家避險基金和高盛等機構報告提出,目前AI基礎設施投資規模與終端應用的創收能力嚴重不符,如果”鏈”層沒有爆款應用,數十億美元的模型與芯投資可能面臨減值。
  • 開源與閉源之困:Meta的開源為全球開發者提供了”繞過華為”之外的另一種”去NVIDIA化”可能(適配更多晶片),但也造成了安全濫用風險。中國的閉源和開源模型分化也變得顯著。
  • 全球監管阻礙資料流:歐盟《AI法案》、中國生成式AI暫行辦法等,對資料跨境傳輸、模型訓練資料合規性設定了高門檻,可能割裂全球一體化的資料飛輪。

🧠 12. 誤讀糾偏:關於協作組的常見認知陷阱

  1. ✖ 誤讀:“芯”強,“核”就一定強。 ✔ 正解: 如果缺失CUDA或CANN這樣牢固的”軟硬中間層”,強芯無異於一堆廢鐵。演算法工程師無法有效地將算力應用於模型訓練。能效比(效能/TCO/開發者人月) 才是核心指標。

  2. ✖ 誤讀:協作組就是巨頭搞封閉垂直體系。 ✔ 正解: 協作組強調的是一種底層物理與頂層資料必須協同演進的產業結構,不必然是封閉的。UALink聯盟、開源大型模型等就是要證明一條開放、多芯、多核的協作路徑也存在。

  3. ✖ 誤讀:中國只能走一條全棧自主研發的道路。 ✔ 正解: 中國產業界的策略實為”雙迴圈”:一方面以華為昇騰為核心打造自主根技術協作組;另一方面積極融入全球協作組,扮演好光模組供應商、雲端服務商、海量應用場景資料提供商的角色。

  4. ✖ 誤讀:Scaling Law失效,協作組的飛輪就會停止。 ✔ 正解: 計算需求不會消失,只會轉移。如果預訓練擴充套件放緩,計算會大規模流向強化學習、搜尋增強生成(RAG)、高階推論樹等後訓練和推論階段。這對協作組只是另一次結構的重塑。


📰 13. 最新事件 (2024年-至今)

  • 2024年Q2:NVIDIA釋出Blackwell B200/GB200,首次大規模實現GPU間的NVLink-C2C高速互聯,推出GB200 NVL72機櫃級系統,明確從”賣卡”走向”賣超級計算機”。
  • 2024年5月:AMD、博通、思科、Google、HPE、英特爾、Meta和微軟組建”Ultra Accelerator Link (UALink) 聯盟”,旨在建立開放標準對抗NVIDIA的NVLink。
  • 2024年6月:台積電表示,由於AI需求爆發,其CoWoS先進封裝產能缺口極大,正全力擴產,供需緩解預計要到2025年底或2026年。
  • 2024年7月:中國工信部啟動”算力強基揭榜掛帥”,將異構算力互聯、國產高頻寬儲存及先進計算軟體棧列為重點任務。
  • 2024年8月:美國BIS更新出口管制規則,進一步收緊對先進DRAM (HBM3E)和對華先進製程投片的管理審查。
  • 2024年:國內大型模型創業進入洗牌期,融資向少數頭部模型廠商集中,明星初創公司估值增長但多數未找到清晰的PMF(產品市場匹配)。

📊 14. 追蹤指標:建立產業觀察架構

    1. arXiv論文引用率、Hugging Face開放模型下載量及貢獻者活躍度。
    2. LMSYS Chatbot Arena等主要排行榜的ELO積分變化。
    3. 頭部實驗室下一代模型的引數量和訓練FLOPs消耗估算。
    1. NVIDIA下一代產品路線圖及系統級解決方案(如Rubin)。
    2. AMD、Intel等的客戶匯入情況(尤其是頭部CSP的實際採購部署量)。
    3. 台積電CoWoS和SoIC產能擴建節奏及季度晶圓出貨營收。SK海力士HBM的季度價格與產能利用率。
    1. 大型企業IT支出中,AI/MaaS服務所佔份額的季增率變化。
    2. AI應用在C端實現千萬級DAU並形成留存的速度(如ChatGPT, Character.AI, Kimi等同類應用資料對比)。
    3. 微軟Copilot、Adobe Firefly等嵌入工作流的生成式AI的實際採納率及ARPU(每使用者平均營收)。

🔗 15. 關鍵信源推薦

  • 產業研究機構: SemiAnalysis, The Information(NVIDIA專欄), Epoch AI, Counterpoint, TrendForce。國內以中金公司、華泰證券、廣發證券的科技產業研究報告為主。
  • 一手開發者生態觀察:GitHub首頁趨勢、Hugging Face每日熱度模型、PyTorch官方部落格、NVIDIA技術部落格、昇騰社群、各雲端廠商MaaS更新文件。
  • 政策與標準組織:中國工信部、美國BIS出口管制實體清單、BLOOM論壇、MLCommons (MLPerf效能測試釋出)。
  • 科技媒體:Reuters, Bloomberg, 晚點LatePost, 機器之心, 量子位等將持續跟進一線動態。

免責宣告:本文僅為基於公開信源的產業資訊梳理與分析,不構成任何形式的技術選型推薦、投資決策建議、買賣指令或 對任何具體證券的背書。文中涉及的所有財務數字、市場預估均已標註年份與資料口徑,部分推測性資料可能偏差,凡無法核實之處均已標明”公開資料未見”。請讀者多方求證,獨立審慎判斷。

source: 公開揭露與公開資料整理 本頁僅用於產業鏈學習、資訊檢索和研究輔助;不構成投資建議,不預測漲跌,不提供買賣、部位或目標價建議。
完整概念頁 複盤 13 節結構 公司投研頁 沿產業鏈找到受益公司 投資課 把概念轉成可跟蹤模型