ROCm

3 秒看懂

ROCm = AMD的開源GPU計算軟體平台，目標是打破NVIDIA CUDA在AI/HPC領域的壟斷生態。

一句話定位：它是AMD硬體（Instinct系列GPU）通向AI訓練與HPC應用的”軟體橋樑”，包含程式設計模型、編譯器、數學庫、通訊庫、架構適配層的完整棧。

3 分鐘產業解釋

為什麼 ROCm 存在？

AI產業的”卡脖子”不僅在晶片，更在軟體生態。NVIDIA憑藉CUDA十餘年的積累，建置了從底層驅動到上層架構的完整護城河。全球絕大多數AI訓練程式碼、庫、工具鏈均以CUDA為原生目標。

AMD擁有高效能GPU硬體（Instinct系列），但如果無法執行主流AI架構和程式碼，硬體就只是”鐵塊”。ROCm存在的核心價值：

提供CUDA替代路徑：通過HIP程式設計模型+相容層，讓CUDA程式碼可遷移至AMD GPU
建置開源生態：所有核心元件開源，吸引社群共建
支撐商業落地：為MI250X/MI300X等高階加速卡進入資料中心提供軟體基礎

產業位勢

維度	NVIDIA (CUDA)	AMD (ROCm)	Intel (oneAPI)
生態成熟度	事實標準，最完整	追趕中，改善顯著	起步階段
架構支援	原生深度支援	PyTorch/TensorFlow已支援，但部分特性滯後	有限
社群規模	極大	中等，增長中	較小
開源程度	部分開源	核心棧開源	部分開源
硬體市場份額（AI訓練）	絕對主導	增長中[定性]	極小

15 分鐘專家深入

ROCm 架構全景

ROCm並非單一工具，而是一個分層軟體棧：

┌─────────────────────────────────────────────────────────┐
│                    AI 架構層                              │
│    PyTorch (ROCm後端) / TensorFlow / JAX / ONNX Runtime  │
├─────────────────────────────────────────────────────────┤
│                    深度學習原語庫                          │
│    MIOpen (類cuDNN) / rocBLAS / hipBLASLt               │
├─────────────────────────────────────────────────────────┤
│                    通訊庫                                 │
│    RCCL (類NCCL) — 多GPU/多節點集合通訊                   │
├─────────────────────────────────────────────────────────┤
│                    數學庫                                 │
│    rocBLAS / rocFFT / rocRAND / rocSOLVER                │
├─────────────────────────────────────────────────────────┤
│                    程式設計模型 & 編譯器                       │
│    HIP (程式設計API) / hipcc (編譯器) / ROCr (執行時)         │
│    LLVM/AMDGPU後端                                       │
├─────────────────────────────────────────────────────────┤
│                    驅動 & 核心層                           │
│    amdgpu (Linux核心驅動) / KFD (核心融合驅動)             │
├─────────────────────────────────────────────────────────┤
│                    硬體層                                 │
│    AMD Instinct MI250X / MI300X 等                       │
└─────────────────────────────────────────────────────────┘

HIP：CUDA相容的核心程式設計模型

HIP (Heterogeneous-compute Interface for Portability) 是ROCm最關鍵的技術創新：

設計目標：提供與CUDA高度相似的程式設計API，降低遷移成本
工具支援：提供hipify工具，可將CUDA原始碼自動轉換為HIP程式碼
雙後端：HIP程式碼可編譯為AMD GPU（通過ROCm）或NVIDIA GPU（通過CUDA）目標
語法對映：cudaMalloc → hipMalloc，cudaMemcpy → hipMemcpy，核心概念（kernel、grid、block、warp/wavefront）基本對應

關鍵差異點：

AMD GPU的基本執行單元是Wavefront（64執行緒），而非NVIDIA的Warp（32執行緒）
記憶體層次結構和共享記憶體模型有細微差異
部分CUDA特有API（如某些tensor core操作）需通過hipBLASLt等庫重新實現

架構適配現狀

架構	ROCm支援狀態	備註
PyTorch	官方支援（rocm分支）	主流版本均可用，[定性]某些最新特性可能滯後
TensorFlow	官方支援	通過tensorflow-rocm包
JAX	社群支援	活躍開發中
DeepSpeed	已適配	通過ROCm PyTorch
Megatron-LM	已適配	AMD持續投入最佳化

ROCm 6.x 系列

[定性表述] ROCm 6.x是當前主要版本線，持續改進：

對MI300系列（CDNA 3架構）的最佳化支援
效能調優和穩定性改善
對最新AI架構版本的適配

技術原理

GPU架構與ROCm的對應關係

ROCm軟體棧對應AMD的GPU架構代際：

GPU架構	代表產品	ROCm支援狀態	關鍵特性
GCN (舊)	Vega系列	早期ROCm版本支援，現逐步減少	-
CDNA 1	MI100	成熟支援	首代專用計算架構
CDNA 2	MI200/MI250/MI250X	成熟支援	多die封裝，HBM2e
CDNA 3	MI300系列	ROCm 6.x主要最佳化目標	3D chiplet，HBM3

HIP Kernel 執行模型

CPU (Host)                    GPU (Device)
    │                              │
    ├── hipMalloc() ──────────► 分配視訊記憶體
    │                              │
    ├── hipMemcpy() ─────────► 資料傳輸 Host→Device
    │                              │
    ├── kernelgrid, block(args)
    │                              │
    │                         ┌────┴────┐
    │                         │ Grid     │
    │                         │ ┌──────┐ │
    │                         │ │Block │ │  ← 每個Block有共享記憶體
    │                         │ │64執行緒│ │  ← Wavefront = 64執行緒
    │                         │ └──────┘ │
    │                         └─────────┘
    │                              │
    ├── hipMemcpy() ◄────────── 資料傳輸 Device→Host
    │                              │
    └── hipFree() ────────────► 釋放視訊記憶體

編譯流程

HIP原始碼 (.cpp/.hip)
       │
       ▼
   hipcc 編譯器驅動
       │
       ├── (AMD目標) ──► LLVM/AMDGPU後端 ──► GCN/CDNA ISA ──► ROCr執行時
       │
       └── (NVIDIA目標) ──► NVCC (CUDA工具鏈)

MI300X 的硬體-軟體協同 [定性/估算]

MI300X是AMD當前最高階AI加速卡，關鍵架構特點：

Chiplet設計：採用3D chiplet封裝，將計算die與I/O die分離 [定性]
HBM容量：配備大容量HBM3，[定性]在同代產品中容量領先，有利於大型模型推論
統一記憶體架構：MI300A（APU版本）支援CPU+GPU統一記憶體，簡化程式設計模型
ROCm最佳化重點：針對MI300的記憶體層次、Infinity Fabric互聯進行深度調優

技術演進史

時間	里程碑	意義
2016	ROCm 1.0 釋出	初始版本，建立開源GPU計算棧基礎
2017	HIP 概念成熟	CUDA相容程式設計模型成型
2018	MI50/MI60 釋出	CDNA前代產品，ROCm初步進入HPC
2020	MI100 釋出	首代CDNA架構，HPC市場突破
2021-2022	MI200/MI250X 釋出	CDNA 2，多die設計，進入主流超算
2022	ROCm 5.x	大幅改善架構相容性和穩定性
2023	MI300X/MI300A 釋出	CDNA 3，瞄準AI訓練/推論市場
2023-2024	ROCm 6.x	針對MI300系列深度最佳化
持續進行	生態建設	與雲端廠商、架構開發者持續合作

技術路線對比

ROCm vs CUDA vs oneAPI (Intel)

維度	CUDA (NVIDIA)	ROCm (AMD)	oneAPI (Intel)
開源程度	部分（驅動閉源）	核心棧開源	部分開源
程式設計模型	CUDA C++	HIP C++（CUDA相容）	SYCL/DPC++
主要硬體	NVIDIA GPU	AMD Instinct GPU	Intel GPU/加速器
AI架構成熟度	最高（原生支援）	高（官方支援，持續追趕）	中低
通訊庫	NCCL	RCCL	oneCCL
深度學習庫	cuDNN	MIOpen	oneDNN
社群生態	極為龐大	活躍增長	相對較小
遷移成本	-	低（hipify工具）	中-高

為什麼生態差距在縮小但仍然顯著？

ROCm開源策略：降低了廠商和社群參與門檻
AMD硬體競爭力：MI300X在大記憶體容量場景有優勢
但CUDA的護城河仍在：十餘年的庫最佳化積累、開發者習慣、第三方工具支援

上下游

上游依賴

環節	元件	主要供應商/來源
GPU硬體	Instinct加速卡	AMD
晶片製造	先進製程	台積電（先進節點）[定性]
HBM記憶體	HBM3	SK海力士、三星、美光 [定性]
封裝	先進封裝	台積電、AMD自研封裝方案 [定性]
編譯器基礎設施	LLVM	開源社群

下游應用

場景	使用者/客戶	使用方式
雲端服務	Microsoft Azure、Oracle Cloud	提供MI300X例項
超算	美國國家實驗室	El Capitan等超算系統
AI訓練	大型模型廠商	大記憶體容量優勢場景
AI推論	雲端廠商、企業	大型模型推論部署
HPC	科研機構	科學計算模擬

關鍵指標

衡量ROCm生態健康度的指標

指標	說明	當前狀態
架構版本覆蓋率	支援的PyTorch/TF版本號	[定性]主流版本已支援，新版本適配速度在加快
模型適配率	主流AI模型能在ROCm上執行的比例	[定性]大部分主流模型可執行，但部分新模型/SOTA可能需要適配
效能對標比	相同任務vs CUDA的效能比	[估算]因任務而異，MI300X在大型模型推論場景有競爭力
Issue解決速度	GitHub問題響應和修復	[定性]AMD投入增加，社群活躍度提升
第三方庫支援	FlashAttention、Triton等	[定性]在改善中，但仍有差距

供需與市場資料

供給側

AMD Instinct出貨：MI300系列出貨量在增長，但精確數字AMD未充分揭露
雲端廠商採納：Azure、Oracle等已提供MI300X例項，AWS、Google等也有相關產品或計劃
產能約束：先進封裝和HBM供應是共同瓶頸

需求側

驅動因素：AI算力需求爆發、NVIDIA供給緊張帶來的多元化需求、成本考慮
採用障礙：軟體遷移成本、生態成熟度、現有CUDA程式碼基礎

市場份額 [行業報告/估算]

AMD在AI加速器市場的份額處於增長態勢，但NVIDIA仍佔據絕對主導地位
[定性]精確市場份額資料因口徑和時間點差異較大，建議參考IDC/Gartner等最新報告

代表公司與資本對映

核心公司

公司	角色	ROCm相關性
AMD	核心開發者、硬體供應商	ROCm + Instinct GPU是其AI戰略核心
台積電	晶片製造	為AMD提供先進製程和封裝
SK海力士	HBM供應商	MI300系列HBM供應 [定性]
Microsoft	大客戶、生態合作	Azure MI300X例項，深度合作
Oracle	大客戶	OCI提供AMD GPU例項

資本對映思路

直接標的：AMD (NASDAQ: AMD)
供應鏈：台積電 (TSM)、SK海力士 (000660.KS)、美光 (MU)
間接受益：使用AMD GPU降低算力成本的雲端廠商、AI公司

投資邏輯

看多邏輯

NVIDIA供應緊張的替代需求：客戶有動力尋找第二個GPU供應商
開源策略的長期價值：降低切換成本，吸引社群
硬體競爭力：MI300X在大記憶體場景有差異化優勢
大客戶匯入：Azure等頭部雲端廠商採用是重要訊號
AI市場持續擴張：蛋糕做大時，非主導者也能獲得增長

風險/看空邏輯

生態追趕的長期性：CUDA積累非一朝一夕能追平
NVIDIA的反制：CUDA持續創新、降價競爭
軟體質量穩定性：ROCm歷史上有穩定性問題的歷史包袱
大客戶集中度：對少數大客戶依賴

關鍵觀察點

ROCm新版本的釋出節奏和功能追趕速度
主流AI模型在ROCm上的效能和相容性報告
大型AI公司的ROCm採用公告
AMD Instinct季度營收和出貨量趨勢

常見誤讀糾偏

❌ 誤讀1：「ROCm已經追平CUDA，可以無縫替代」

糾偏： ROCm在基礎功能和主流架構支援上已顯著改善，但CUDA生態的深度（庫最佳化、邊緣用例支援、第三方工具鏈、開發者經驗）仍然領先。遷移成本雖然降低，但並非為零。特別是：

新發布的SOTA模型可能最初只在CUDA上測試
某些效能敏感場景的調優經驗存在差距
部分小眾但重要的庫可能缺乏ROCm支援

❌ 誤讀2：「ROCm = HIP，就是把CUDA程式碼換幾個API」

糾偏： HIP程式設計模型只是ROCm棧的一層。完整的ROCm包括：

編譯器工具鏈（hipcc + LLVM/AMDGPU）
執行時（ROCr）
驅動層（amdgpu/KFD）
數學庫（rocBLAS等）
通訊庫（RCCL）
深度學習庫（MIOpen）

此外，從CUDA遷移到ROCm涉及的不僅僅是API替換，還包括：

效能調優（Wavefront vs Warp差異）
記憶體模型差異
編譯器行為差異
除錯工具差異

❌ 誤讀3：「MI300X記憶體大就一定比NVIDIA GPU好」

糾偏：大HBM容量確實在大型模型推論、長序列處理等場景有優勢，但整體效能取決於：

計算密度和架構效率
軟體棧最佳化程度
互聯頻寬
具體工作負載特徵

不同場景有不同的最優選擇，不存在絕對的”更好”。

學習路徑

入門階段

理解背景：為什麼需要CUDA替代方案？
官方文件：ROCm官方文件 (rocm.docs.amd.com)
HIP入門：學習HIP程式設計模型，理解與CUDA的對應關係

實踐階段

環境搭建：配置ROCm開發環境（需要AMD GPU或雲端例項）
hipify練習：將簡單CUDA程式轉換為HIP
架構實踐：在ROCm上執行PyTorch/TensorFlow訓練

進階階段

效能最佳化：理解AMD GPU架構特點，最佳化kernel
原始碼閱讀：閱讀MIOpen、RCCL等庫原始碼
社群參與：參與ROCm GitHub issues和討論

一句話總結

ROCm是AMD打破NVIDIA CUDA生態壟斷的關鍵武器，通過開源策略和CUDA相容設計降低遷移門檻，其成熟度在持續追趕中，是理解AMD AI戰略的核心拼圖。

延伸閱讀與來源

來源	說明	可信度
AMD官方ROCm文件	架構、API、安裝指南	高
AMD GitHub (github.com/ROCm)	原始碼、issues、版本釋出	高
AMD季度財報	Instinct營收、出貨量	高
IDC/Gartner報告	市場份額資料	中-高（需注意口徑）
半導體行業分析	供應鏈、製程資訊	中（需交叉驗證）
學術論文/基準測試	效能對比資料	中（需注意測試條件）

本頁技術事實基於公開可查的廠商文件和行業資料。具體效能數字、出貨量等因揭露口徑和時間點可能有差異，建議以AMD官方揭露和權威第三方報告為準。市場狀態為撰寫時點的定性描述，不構成投資建議。