晶片層 開放閱讀

SVE

Scalable Vector Extension

概念 ID
scalable-vector-extension
更新時間
2026-05-29
來源數量
待補

SVE(Scalable Vector Extension)

3 秒看懂

SVE 是 ARM 為 AArch64 架構引入的可變長度向量 SIMD 擴充套件,核心賣點是 “向量長度無關”(VLA)程式設計模型:同一份二進位制程式碼可在 128-bit 到 2048-bit 任意硬體向量寬度上自動高效執行。它讓晶片設計者可以自由選擇最優的向量寬度,而軟體無需重寫或重編譯——這是 NEON(固定 128-bit)做不到的,也是 SVE 區別於 x86 AVX-512(固定 512-bit)的根本所在。

3 分鐘產業解釋

為什麼需要 SVE?

在 AI 推論、HPC(高效能運算)、科學模擬等計算密集場景中,向量(SIMD)處理能力直接決定算力天花板。ARM 原有的 NEON 擴充套件僅支援固定 128-bit 向量寬度,面對 x86 陣營從 SSE(128-bit)→ AVX2(256-bit)→ AVX-512(512-bit)的持續拓寬,已顯力不從心。

SVE 要解決的核心矛盾是:晶片設計者希望向量寬度因場景而異(手機晶片 128-bit 足矣,資料中心晶片需要 256-bit 甚至 512-bit),但軟體生態不希望為每種寬度重新編譯或重寫程式碼。

SVE 的 VLA(Vector-Length Agnostic) 方案一舉兩解:軟體寫一次、到處跑;硬體自由選寬度、不用等軟體適配。

誰在用?

時間線標誌性事件
2016 年ARM 正式釋出 SVE 規範(面向 ARMv8.2-A)
2018–2019 年富士通 A64FX 處理器流片,實現 512-bit SVE
2020 年搭載 A64FX 的 富嶽(Fugaku)超級計算機 登頂 Top500
2022 年AWS Graviton3 釋出,基於 Arm Neoverse V1 微架構,支援 SVE
2021 年ARM 釋出 ARMv9-A 架構,SVE 的升級版 SVE2 成為強制標準
2023–2024 年基於 Neoverse V2/N2 的新一代伺服器晶片(如 Graviton4、NVIDIA Grace)支援 SVE2

一句話總結:SVE 讓 ARM 在 HPC/資料中心向量計算領域首次具備與 x86 AVX-512 正面對抗的能力,同時 VLA 模型賦予了更強的跨代軟體複用優勢。

15 分鐘專家深入

1. VLA 程式設計模型:SVE 的靈魂

傳統 SIMD(NEON、SSE/AVX)要求程式設計師/編譯器在編寫程式碼時明確知道向量寬度——迴圈步長、資料分塊策略都硬編碼為具體 bit 數。一旦硬體升級向量寬度(如 AVX2→AVX-512),程式碼可能需要重寫。

SVE 的 VLA 模型徹底改變了這一點:

  • 向量暫存器(Z0–Z31):32 個可伸縮向量暫存器,最低 128-bit,最高 2048-bit,硬體在執行時決定實際寬度。
  • 謂詞暫存器(P0–P15):16 個謂詞暫存器,每個向量元素 1 bit,用於逐元素掩碼(masking)。
  • 獲取向量長度:軟體可通過 RDVL 指令或 CNTB/CNTD 等指令查詢當前硬體的向量長度(以位元組/元素計)。SVE 架構中並未定義名為 VL 的物理暫存器,這些指令以虛擬方式在執行時返回長度值。

關鍵設計思想:程式碼中不出現硬編碼的向量長度,而是通過 WHILELT(while-less-than)指令根據迴圈變數和 VL 動態生成謂詞掩碼,驅動迴圈迭代。這意味著:

; 偽彙編:SVE 向量迴圈示例
    mov     x0, #0              ; 迴圈索引
    mov     x1, #N              ; 陣列長度
.loop:
    whilelt p0.s, x0, x1        ; 生成謂詞:x0 到 x1 的有效 lane
    ptest   p0, p0.b
    b.eq    .done               ; 如果所有 lane 都無效,退出
    ld1w    {z0.s}, p0/z, [x2, x0, lsl #2]  ; 條件載入
    fmul    z0.s, z0.s, z3.s                   ; 向量乘法
    st1w    {z0.s}, p0, [x4, x0, lsl #2]      ; 條件儲存
    incw    x0, x0              ; 索引遞增(按 VL 中的 word 數)
    b       .loop
.done:

這段程式碼在 128-bit 硬體上每輪處理 4 個 float,在 512-bit 硬體上每輪處理 16 個 float,無需任何修改。編譯器只需編譯一次。

2. 逐元素謂詞(Per-Lane Predication)

SVE 的謂詞機制是其區別於 NEON 的關鍵特性之一。每個謂詞暫存器 Pn 的 bit 數 = 向量暫存器中對應型別元素的數量。

用途:

  • if-conversion:將分支程式碼轉換為謂詞化的無分支向量程式碼(避免分支預測失敗的代價)。
  • 尾部處理(Tail handling):迴圈最後一次迭代中,陣列長度不能被向量長度整除時,剩餘元素通過謂詞有效化,無需專門的標量尾迴圈。
  • 稀疏資料處理:僅對滿足條件的元素執行操作。

SVE 指令中 /z(zeroing)和 /m(merging)修飾符控制無效 lane 的行為:

  • Pn/Z:無效 lane 結果置零
  • Pn/M:無效 lane 保持目標暫存器原值

3. Gather/Scatter 與 First-Fault Loads

Gather Load / Scatter Store

  • LD1W {Zd.S}, Pg/Z, [Xn, Zm.S, LSL #2] —— 通過向量索引暫存器 Zm 中的地址從非連續記憶體位置載入資料到向量暫存器。
  • 對稀疏矩陣運算、圖計算、間接定址場景至關重要。

First-Fault Loads(FFR)

  • LDFF1W {Zd.S}, Pg/Z, [Xn, Zm.S, LSL #2]
  • 載入時如果遇到第一個無效地址(如 page fault),不會立即異常,而是將該 lane 及之後的 lane 標記為無效(通過 FFR 暫存器),已成功載入的 lane 仍然有效。
  • 適用於推測性載入場景,避免不必要的異常開銷。

4. 指令編碼與向量長度的實現

SVE 指令採用 32-bit 編碼,通過特殊編碼欄位(SVE 特有的 opcode space)區分於基礎 A64 指令。關鍵在於:

  • 指令中不編碼具體的向量長度,所有操作語義定義為”對當前 VL 個元素執行”。
  • 硬體在執行時根據實現時選擇的向量寬度(如 256-bit、512-bit)來展開操作。
  • 這使得同一二進位制可跨不同向量寬度的 SVE 實現執行

向量寬度的選擇由硬體設計者在實現時確定,且要求為 128-bit 的整數倍(128, 256, 384, …, 2048-bit),但實際中主流實現集中在 128-bit、256-bit、512-bit。


技術原理

SVE 暫存器檔案架構

┌──────────────────────────────────────────────────┐
│              SVE 暫存器檔案                       │
│                                                  │
│  Z0–Z31  (可伸縮向量暫存器,最低128-bit)          │
│  ┌──────────────────────────────────┐            │
│  │ V0 │ V1 │ V2 │ V3 │ ... │ Vn    │  ← 實際    │
│  │128b│128b│128b│128b│     │128b   │    寬度由   │
│  │    │    │    │    │     │       │    硬體決定  │
│  └──────────────────────────────────┘            │
│  最大可到 2048-bit (16個128-bit chunk)            │
│                                                  │
│  P0–P15  (謂詞暫存器)                             │
│  ┌──────────────────────────────────┐            │
│  │ 1bit per element (word粒度為例)   │            │
│  │ 512-bit向量 → 16個bit            │            │
│  └──────────────────────────────────┘            │
│                                                  │
│  FFR    (First-Fault Register,謂詞型)            │
└──────────────────────────────────────────────────┘

VLA 迴圈控制機制

迴圈迭代模型(虛擬碼):

  i = 0
  while (i < N):
      predicate = WHILELT(i, N)     // 逐元素比較生成謂詞
      if (predicate == NONE):
          break
      // 以下指令僅對 predicate 有效的 lane 執行
      v_load  = LD1W [base + i*4], predicate/Z
      v_result = FADD v_load, v_const
      ST1W     v_result, [dest + i*4], predicate
      i += VL_words                  // 自動按硬體 VL 遞增

WHILELT 指令核心機制

  • 比較迴圈索引 i + lane_idx < N,滿足條件的 lane 對應謂詞位置 1,否則為 0。
  • 當 N 不是 VL 整數倍時,最後一個迭代自動有部分 lane 無效——這就是零開銷尾部處理。
  • 硬體實現:通常用加法器和比較器陣列並行生成所有謂詞 bit。

向量寬度與吞吐量關係

理論峰值浮點吞吐量比例(假設單週期執行):

  NEON  (128-bit):  4 × FP32 FMA/cycle  或  2 × FP64 FMA/cycle
  SVE@256-bit:      8 × FP32 FMA/cycle  或  4 × FP64 FMA/cycle
  SVE@512-bit:     16 × FP32 FMA/cycle  或  8 × FP64 FMA/cycle

  注意:實際吞吐量取決於執行埠數量、發射寬度、
        latency hiding 能力等微架構因素,
        不等於簡單乘以向量寬度比。

SVE 與 NEON 的共存

SVE 和 NEON 共享 Z 暫存器的低 128-bit(NEON 的 Q0–Q31 對應 Z0–Z31 的低 128-bit)。在同時支援 SVE 和 NEON 的實現中,現有 NEON 程式碼可以執行,並可在同一個程式中混合使用 NEON 和 SVE 指令(但需注意暫存器別名帶來的副作用)。但 SVE 架構不強制要求硬體實現 NEON 相容,例如富士通 A64FX 僅實現了 SVE 而未包含 NEON 單元,NEON 指令會觸發未定義異常。


技術演進史

階段時間關鍵里程碑
NEON 時代2005–2015ARMv7 引入 NEON(128-bit 固定 SIMD),服務行動端多媒體。ARMv8-A 將 NEON 升級為 AArch64 版本。
SVE 立項~2014–2016ARM 與富士通(Fujitsu)聯合定義 SVE 規範,核心目標:支撐下一代超算處理器 A64FX。VLA 模型在設計之初就瞄準 HPC 場景中不同計算粒度的靈活性需求。
SVE 規範釋出2016ARM 正式釋出 SVE 架構規範,定位為 ARMv8.2-A 可選擴充套件。關鍵設計決策:向量長度 128–2048-bit、謂詞暫存器、gather/scatter、FFR。
A64FX 量產2018–2019富士通 A64FX 流片並量產,512-bit SVE,48 計算核心 + 4 輔助核心,HBM2 整合封裝。這是 SVE 的首個硬體實現
Fugaku 登頂2020 年 6 月基於 A64FX 的富嶽超算以約 415 PFLOPS(HPL)登頂全球 Top500,並在 HPCG、Graph500 等多項基準中同時奪冠。SVE 512-bit 在大規模平行計算中首次得到頂級驗證。
Neoverse V1 與 SVE 落地伺服器2021–2022ARM 釋出 Neoverse V1 微架構,支援 SVE。AWS Graviton3 基於 Neoverse V1,將 SVE 帶入雲端運算。Graviton3 實現的 SVE 向量寬度據報道為 256-bit [供應鏈/公開資料推斷]。
SVE2 與 ARMv92021ARM 釋出 ARMv9-A 架構,SVE2 成為強制擴充套件(非可選)。SVE2 在 SVE 基礎上增加了更多整數運算、位操作、加密指令,擴充套件了應用場景(從純 HPC 拓展到通用計算和移動)。
Neoverse V2/N2 時代2023–2024Neoverse V2(如 NVIDIA Grace、AWS Graviton4)和 Neoverse N2 採用 ARMv9-A,支援 SVE2。SVE2 在資料中心全面鋪開。

技術路線對比

維度ARM NEONARM SVEARM SVE2x86 AVX-512x86 AVX10RISC-V RVV 1.0
向量寬度固定 128-bit可變 128–2048-bit可變 128–2048-bit固定 512-bit固定 256/512-bit可變,RVV 定義 VLMAX
程式設計模型固定寬度VLA(向量長度無關)VLA固定寬度固定寬度(相容模式)VLA(類似 SVE)
謂詞/掩碼無原生謂詞16 個謂詞暫存器16 個謂詞暫存器opmask 暫存器 (k0–k7)opmask向量掩碼(v0 等)
Gather/Scatter有限完整支援完整支援支援支援支援
First-Fault Load支援(FFR)支援有類似機制
尾部處理需標量尾迴圈零開銷謂詞尾處理零開銷謂詞尾處理可通過掩碼處理剩餘元素需標量尾迴圈零開銷(VL 可變)
跨代軟體相容否(寬度固定)是(核心優勢)否(AVX2→512 需重編譯)部分改善
加密/媒體指令有(AES/SHA等)無(SVE 未覆蓋)有(SVE2 新增)VAES 等擴充套件中
首個量產硬體ARMv7 多款 SoCA64FX(2018)Neoverse V2 等(~2023)Xeon Phi KNL(~2016)Granite Rapids(預期)各 RISC-V 廠商
生態成熟度★★★★★★★★☆☆★★★☆☆★★★★☆★★★☆☆(過渡期)★★☆☆☆

說明:上表中 AVX10 的向量寬度描述基於 Intel 公開的 AVX10 規範草案,具體實現因處理器代際而異。RVV 的 VLMAX 取決於實現,規範允許從最小 32-bit 到理論很高值。具體資料以各 ISA 規範為準。


上下游

上游:IP 設計與架構定義

┌─────────────────────────────────────────────┐
│               上 遊                          │
│                                             │
│  ARM Ltd.                                  │
│  ├── SVE/SVE2 ISA 規範制定                   │
│  ├── Neoverse V1/V2/N2 微架構 IP            │
│  └── 授權給晶片設計公司                       │
│                                             │
│  EDA 工具鏈                                  │
│  ├── Synopsys / Cadence / Siemens EDA       │
│  └── 支援 SVE 向量單元的綜合與驗證            │
│                                             │
│  編譯器/軟體工具                              │
│  ├── GCC(SVE 支援自 GCC 8 起)              │
│  ├── LLVM/Clang(Clang 4.0+ 支援 SVE)      │
│  ├── Arm Compiler for HPC                   │
│  └── ARM Performance Libraries (ArmPL)      │
└─────────────────────────────────────────────┘

中游:晶片設計與製造

晶片微架構SVE 寬度製程目標場景
Fujitsu A64FX定製512-bit7nm(台積電)[供應鏈資訊]HPC 超算
AWS Graviton3 (c7g)Neoverse V1256-bit [公開資料推斷]5nm(台積電)雲端運算通用/AI 推論
AWS Graviton4Neoverse V2支援 SVE2 [公開資訊]5nm(台積電)[推斷]雲端運算通用
NVIDIA GraceNeoverse V2支援 SVE24nm(台積電)[供應鏈資訊]AI/HPC
Ampere AmpereOne定製微架構不確定是否支援 SVE [需確認]5nm(台積電)雲端原生
Arm Total Design 生態夥伴Neoverse 系列按授權配置多樣資料中心/AI

注意:Graviton3 的 SVE 向量寬度,AWS 官方未在所有文件中明確公開 256-bit 的具體數字,此處標註為 [公開資料推斷]。AmpereOne 是否支援 SVE 需以官方規格為準。

下游:應用與終端

┌─────────────────────────────────────────────────┐
│               下 遊                              │
│                                                 │
│  HPC / 科學計算                                  │
│  ├── 富嶽超算(A64FX + SVE)                     │
│  ├── 氣候模擬、分子動力學、CFD                    │
│  └── 線性代數庫(BLAS/LAPACK SVE 最佳化版)        │
│                                                 │
│  雲端運算                                          │
│  ├── AWS Graviton3/4 例項(SVE/SVE2)           │
│  ├── AI 推論(TensorFlow/PyTorch on ARM)        │
│  └── Web 服務、微服務(通用計算加速)              │
│                                                 │
│  AI 推論加速                                     │
│  ├── INT8/FP16 量化推論                          │
│  ├── 卷積/矩陣乘的 SVE 最佳化 kernel               │
│  └── ONNX Runtime / TFLite ARM 後端              │
│                                                 │
│  移動/嵌入式(SVE2 為主)                         │
│  ├── ARMv9 手機 SoC(SVE2 強制)                  │
│  ├── 媒體編解碼、計算攝影                         │
│  └── 端側 AI 推論                                │
└─────────────────────────────────────────────────┘

關鍵指標

指標說明典型值/範圍
向量長度範圍SVE 規範支援的硬體實現寬度128 – 2048-bit(128-bit 步進)
向量暫存器數量Z0–Z3132 個
謂詞暫存器數量P0–P1516 個
最大元素數(FP32@512-bit)每個向量中 FP32 元素數16
最大元素數(FP64@512-bit)每個向量中 FP64 元素數8
Gather/Scatter 基址模式支援的定址模式64-bit 基址 + 32/64-bit 向量索引 × 變比
FFR(First-Fault Register)推測載入控制1 個,謂詞型
指令集相容SVE2 vs SVESVE2 向下相容 SVE;SVE 是 ARMv8.2-A 可選擴充套件,SVE2 是 ARMv9-A 強制擴充套件
編譯器支援(GCC)SVE 自動向量化成熟度GCC 8+ 支援;GCC 10+ 較成熟
編譯器支援(LLVM/Clang)Clang 4.0+ 基礎支援;後續版本持續最佳化

供需與市場資料

需求端驅動

  1. HPC 持續擴張:全球 HPC 市場規模在 2023 年約 400–500 億美元 [行業估算],ARM 架構在 Top500 中的份額持續上升(從零到 2023 年約佔 10%+ 的系統份額 [Top500.org 公開資料]),SVE/SVE2 是 ARM HPC 算力的核心差異化。

  2. 雲端運算 ARM 化加速:AWS Graviton 系列已成為 AWS 增長最快的例項系列之一。Graviton3/4 搭載 SVE/SVE2,對向量密集型負載(影片轉碼、加密、ML 推論)有直接加速效果。AWS 官方宣稱 Graviton3 例項比 Graviton2 有顯著效能提升(具體比例因負載而異 [AWS 公開資訊])。

  3. AI 推論對 SIMD 的依賴:大型模型推論中的矩陣乘法、注意力計算等核心運算元高度依賴向量/SIMD 加速。SVE 的可伸縮性允許晶片設計者針對推論場景最佳化向量寬度和執行單元配置。

供給端格局

環節主要玩家備註
ISA / 微架構 IPARM Ltd.SVE/SVE2 是 ARM 的核心 IP 授權內容
晶片設計富士通、AWS(Annapurna Labs)、NVIDIA、Arm 生態夥伴定製 SoC 整合 SVE
晶圓代工台積電絕大多數 SVE 晶片在臺積電流片(7nm/5nm/4nm)
軟體工具鏈ARM(ArmPL)、GNU 基金會(GCC)、LLVM 基金會開源編譯器 + 商業效能庫
系統整合超算整合商(HPE/Fujitsu 等)、雲端廠商富嶽、Graviton、Grace 等

市場滲透率估算

  • HPC 領域:SVE 晶片在 Top500 ARM 系統中基本是標配,但 ARM 系統在 Top500 中總體佔比仍低於 15% [Top500.org 推斷]。
  • 雲端運算:Graviton3/4 為 AWS ARM 伺服器主力,SVE/SVE2 已成為新一代 ARM 伺服器晶片的標準配置。Google Axion、Microsoft Cobalt 等後續產品預計也將支援 SVE2。
  • 移動/終端:ARMv9-A 手機 SoC(如天璣 9000+、驍龍 8 Gen 2 等平台)必須實現 SVE2,但手機場景中 SVE2 的實際使用率尚在早期階段,多數應用仍以 NEON 為主。

代表公司與資本對映

公司與 SVE 的關係資本關注點
ARM Holdings (ARM, 納斯達克)SVE/SVE2 的 IP 擁有者和授權方SVE/SVE2 是 ARM 在 HPC/資料中心差異化的核心武器;ARM 的特許權使用費(royalty)與 SVE 晶片出貨量直接相關
富士通 (6702.T, 東證)A64FX 晶片設計方,SVE 首個量產硬體,富嶽超算供應商HPC 市場標杆;A64FX 是 SVE 的”demo 硬體”,驗證了 ARM+SVE 在超算領域的可行性
Amazon (AMZN, 納斯達克)Graviton3/4 通過 Annapurna Labs 自研,是 SVE/SVE2 在雲端運算中的最大部署方Graviton 降低 AWS 自身基礎設施成本,提升獲利率;SVE 加速能力是 Graviton 競爭 x86 例項的差異化之一
NVIDIA (NVDA, 納斯達克)Grace CPU 採用 Neoverse V2(SVE2),與 Hopper/Blackwell GPU 協同Grace Hopper/Superchip 中,CPU 側的 SVE2 向量能力補足 GPU 未覆蓋的 HPC 負載
Ampere Computing (未上市)ARM 伺服器 CPU 設計,AmpereOne 是否明確支援 SVE 需以官方為準ARM 伺服器市場的另一重要玩家,若全面支援 SVE/SVE2 將增強競爭力
聯發科 / 高通 / 三星ARMv9 手機 SoC 實現 SVE2行動端 SVE2 生態的推動者;但當前手機 App 利用 SVE2 的比例很低

投資邏輯

核心投資主線

主線一:ARM 生態擴張 → SVE/SVE2 特許權使用費增長

ARM 的商業模式是 IP 授權 + royalty。隨著越來越多的 ARM 伺服器晶片出貨(Graviton、Grace、Ampere、阿里倚天等),SVE/SVE2 相關的 royalty 營收將隨出貨量增長。SVE2 作為 ARMv9-A 的強制擴充套件,每顆 ARMv9 晶片都在為 ARM 產生 SVE2 相關的 royalty

主線二:雲端運算 ARM 化 → 基礎設施價值重估

AWS Graviton3/4、Google Axion、Microsoft Cobalt 等自研 ARM 伺服器晶片的趨勢不可逆。SVE/SVE2 的向量加速能力是 ARM 伺服器在 AI 推論、Web 服務等場景中縮小乃至超越 x86 差距的關鍵因素。這將帶動 ARM 伺服器生態中各環節(IP、EDA、代工、編譯器工具鏈、應用最佳化)的需求。

主線三:AI 推論需求 → 向量計算能力溢價

大型模型推論中,Attention、矩陣乘法等核心運算元對向量吞吐量有剛性需求。SVE 的可伸縮性使晶片設計者能在給定面積/功耗預算下選擇最優向量寬度,最大化推論吞吐量。隨著端側 AI 和邊緣 AI 需求增長,SVE2(在 ARMv9 移動/邊緣 SoC 中強制存在)將成為端側推論加速的基礎能力。

風險因素

  • 生態成熟度仍不及 x86 AVX-512:SVE 軟體最佳化生態仍在追趕中,部分 HPC/科學計算庫的 SVE 最佳化程度不如 AVX-512 版本。
  • 實際使用率有限:許多應用仍以 NEON(128-bit)為主,SVE 的實際利用率在通用計算場景中可能低於預期。
  • RISC-V 競爭:RISC-V 的 RVV(向量擴充套件)同樣採用 VLA 模型,長遠可能分流部分 ARM+SVE 的市場。
  • x86 反擊:Intel AVX10 和 AMD 的向量擴充套件演進可能削弱 SVE 的寬度優勢。

常見誤讀糾偏

誤讀 1:“SVE = 512-bit SIMD”

糾偏:SVE 不是固定 512-bit 的。SVE 的向量寬度從 128-bit 到 2048-bit 不等,由硬體實現者自主選擇。512-bit 只是 A64FX(富士通超算晶片)的選擇,不代表 SVE 本身。AWS Graviton3 的 SVE 向量寬度據報道為 256-bit。“SVE”後面的數字因晶片而異,這才是 VLA 的核心價值——同一份軟體在不同寬度實現上都能高效執行。

誤讀 2:“SVE 主要用於 AI 訓練”

糾偏:SVE **

source: 公開揭露與公開資料整理 本頁僅用於產業鏈學習、資訊檢索和研究輔助;不構成投資建議,不預測漲跌,不提供買賣、部位或目標價建議。
完整概念頁 複盤 13 節結構 公司投研頁 沿產業鏈找到受益公司 投資課 把概念轉成可跟蹤模型