DSA
DSA(Domain-Specific Architecture,领域专用架构)
3 秒看懂
DSA = 不做”万能选手”,只做某个领域的”特种兵”。
通用 CPU 什么都能算,但每样都不够快、不够省电。DSA 的思路是:砍掉用不上的功能,把晶体管和带宽全部堆给目标场景(比如矩阵乘、向量运算、包转发),实现 数量级的能效提升。
这是后摩尔时代延续算力增长的核心路径——John Hennessy & David Patterson 2019 年图灵奖演讲的主旨标题就是 “A New Golden Age for Computer Architecture: Domain-Specific Architectures”。
3 分钟产业解释
为什么 DSA 突然成了热词?
背景:摩尔定律与登纳德缩放同时放缓。
- 晶体管不再每两年翻倍且等比省电,通用处理器的单核频率和能效提升进入平台期。
- 但 AI、自动驾驶、科学计算等领域的算力需求仍在指数级增长,供需缺口巨大。
破局思路:换架构,而不是只靠缩工艺。
| 维度 | 通用处理器(CPU) | 领域专用架构(DSA) |
|---|---|---|
| 设计哲学 | 支持所有指令集 | 只为目标负载深度优化 |
| 灵活性 | 极高 | 中-低(越专用越低) |
| 能效(目标场景) | 基准 | 可提升 10×–1000× [业界共识] |
| 典型产品 | x86、ARM 通用核 | GPU、TPU、NPU、网络 DPU、密码加速器 |
一句话产业逻辑:
当通用架构的边际收益递减,“专用化”就成了算力经济学的最优解。谁能把目标领域的计算模式”焊死”在硬件上,谁就能拿到最高的性能功耗比(Perf/W)和性能成本比(Perf/$)。
15 分钟专家深入
1. DSA 的学术定义与边界
经典定义(Hennessy & Patterson, 2018):
Domain-Specific Architectures are specialized processors designed to efficiently execute operations characteristic of a particular application domain, trading generality for significant gains in performance and energy efficiency.
关键边界:
- DSA ≠ ASIC:ASIC 通常是单一功能、一次性流片;DSA 可以是可编程的(如 GPU、FPGA),只是编程模型面向特定领域。
- DSA ≠ 协处理器:协处理器是辅助角色,DSA 通常是主力计算单元。
- DSA 的谱系:从”领域通用”(如 GPU 面向所有并行计算)到”高度专用”(如 Google TPU 面向推理/训练的特定张量操作),专用程度是一个连续光谱。
2. DSA 为什么能做到 10×–1000× 能效提升?
三板斧:
| 优化手段 | 原理 | 量化收益来源 |
|---|---|---|
| 定制数据类型 | 用 INT8/BF16/FP8 替代 FP64,减少位宽→减少乘法器面积和能耗 | 单次乘法能耗可降数量级 [学术估算] |
| 专用数据通路 | 去掉通用乱序执行、分支预测、多级缓存一致性等”无效硬件”,直接实现目标计算流(如脉动阵列) | 利用率从 CPU 的 <10% 提升到 >50% |
| 存储层次定制 | 根据目标算法的访存模式(如卷积的局部性、Transformer 的大 KV Cache)定制片上 SRAM 和 DMA | 带宽利用率提升,DRAM 访问减少 |
核心公式(Amdahl 定律的 DSA 版本):
加速比 ≈ 1 / (f_serial + f_parallel/S_parallel)
DSA 的价值 = 提高 S_parallel(专用并行单元)
+ 降低 f_serial(用硬连线状态机替代通用控制逻辑)
3. DSA 的设计哲学:数据流 vs 控制流
| 范式 | 特点 | 代表 |
|---|---|---|
| 控制流(Von Neumann) | 指令驱动,每条指令显式操作数据 | CPU |
| 数据流 | 数据就绪即触发计算,天然适合流式/流水线负载 | 脉动阵列(Systolic Array)、流处理器 |
| 混合 | 控制流调度 + 数据流执行单元 | 现代 GPU(SM 调度 + Tensor Core 数据流) |
DSA 倾向数据流的原因:
- 目标领域的计算图通常是静态的、可预测的,不需要通用处理器的动态调度开销。
- 数据流天然匹配流水线并行,硬件利用率更高。
技术原理
4. DSA 的典型硬件架构模式
模式一:空间展开阵列(Spatial Architecture)
┌─────────────────────────────────────────────┐
│ 空间展开计算阵列 │
│ ┌───┐ ┌───┐ ┌───┐ ┌───┐ │
│ │MAC│──▶│MAC│──▶│MAC│──▶│MAC│ Row 0 │
│ └───┘ └───┘ └───┘ └───┘ │
│ │ │ │ │ │
│ ▼ ▼ ▼ ▼ │
│ ┌───┐ ┌───┐ ┌───┐ ┌───┐ │
│ │MAC│──▶│MAC│──▶│MAC│──▶│MAC│ Row 1 │
│ └───┘ └───┘ └───┘ └───┘ │
│ │ │ │ │ │
│ ▼ ▼ ▼ ▼ │
│ ┌───┐ ┌───┐ ┌───┐ ┌───┐ │
│ │MAC│──▶│MAC│──▶│MAC│──▶│MAC│ Row 2 │
│ └───┘ └───┘ └───┘ └───┘ │
│ │
│ 特点:数据在空间上流过阵列,每个MAC在每个周期做一次乘加 │
│ 代表:Google TPU v1/v2(脉动阵列) │
└─────────────────────────────────────────────┘
关键参数(以脉动阵列为范式,不编造具体型号参数):
- 阵列维度(如 N×N):决定每周期的吞吐量(N² 次乘加)
- 数据类型:决定单个 MAC 的面积/功耗
- 片上缓冲大小:决定能”喂饱”阵列多久,减少外部带宽压力
模式二:SIMD/SIMT 宽向量/线程束
┌───────────────────────────────────────┐
│ 宽 SIMD 执行单元 │
│ ┌───┬───┬───┬───┬───┬───┬───┬───┐ │
│ │ALU│ALU│ALU│ALU│ALU│ALU│ALU│ALU│ │
│ └───┴───┴───┴───┴───┴───┴───┴───┘ │
│ 同一指令同时作用于 8/16/32/64 个数据元素 │
│ 代表:GPU(SIMT)、CPU AVX-512、NPU │
└───────────────────────────────────────┘
模式三:可重构数据流(CGRA / Coarse-Grained Reconfigurable)
- 介于 FPGA(细粒度)和固定 ASIC 之间
- 可编程,但编程粒度是功能单元级别(不是 LUT)
- 代表:部分学术/创业公司产品(如 SambaNova 的 RDU)
5. DSA 的存储层次设计
┌─────────────────────────────────────────────────────┐
│ 片外(Off-chip) │
│ HBM / GDDR / DDR ──── 带宽通常是瓶颈 ──── 容量大 │
└──────────────────────┬──────────────────────────────┘
│ 高带宽互连(NoC / Crossbar)
┌──────────────────────┴──────────────────────────────┐
│ 片上(On-chip) │
│ ┌─────────────────────────────────────────────┐ │
│ │ 全局缓冲(Global Buffer / Scratchpad) │ │
│ │ - 软件可控的 SRAM,不是传统 cache │ │
│ │ - 大小通常在数百 KB ~ 数十 MB 量级 │ │
│ └─────────────────────────────────────────────┘ │
│ │ │ │
│ ┌──────┴──────┐ ┌───────┴───────┐ │
│ │ 局部寄存器堆 │ │ 局部寄存器堆 │ │
│ │ (PE/SM 内) │ │ (PE/SM 内) │ │
│ └─────────────┘ └───────────────┘ │
└─────────────────────────────────────────────────────┘
DSA 存储设计的核心原则:
- 软件可控 > 硬件猜测:传统 CPU 用多级 cache + 硬件预取,命中率靠猜;DSA 倾向用 Scratchpad(软件显式管理),命中率可预测。
- 片上 SRAM 是关键资源:SRAM 面积/功耗远低于 DRAM 访问,DSA 的能效优势很大程度来自最大化片上复用。
- 带宽墙是第一约束:AI 加速器的算力增长通常快于片外带宽增长,因此片上缓冲大小和数据复用策略决定了实际利用率。
技术演进史
| 阶段 | 时间 | 里程碑 | 关键意义 |
|---|---|---|---|
| 前DSA时代 | ~2010 | GPU 从图形专用走向通用计算(GPGPU,CUDA 2007) | GPU 成为第一个成功的”领域可编程”DSA |
| TPU 纪元 | 2016 | Google TPU v1 论文发表 | 证明云厂商自研 DSA 的可行性,推土机式推动行业 |
| 架构觉醒 | 2018 | Hennessy & Patterson 图灵奖演讲 | 学术界正式宣告”DSA 是后摩尔时代的主线” |
| AI 军备竞赛 | 2019–2022 | 英伟达 A100/H100、Google TPU v4、各种 AI 创业公司涌现 | DSA 从”学术概念”变成”千亿市场” |
| 异构集成 | 2022– | Chiplet、先进封装(CoWoS、HBM 集成)成为主流 | DSA 的设计复杂度从”单芯片”扩展到”系统级” |
| 新范式探索 | 2023– | 存内计算(CIM/PIM)、光计算、可重构 DSA 探索 | 寻找晶体管之外的 DSA 新物理基底 |
技术路线对比
DSA 光谱:专用程度 vs 灵活性
| 类型 | 专用程度 | 可编程性 | 代表产品 | 能效(目标场景) | 开发门槛 |
|---|---|---|---|---|---|
| 通用 CPU | 低 | 最高 | Intel Xeon, AMD EPYC, ARM Neoverse | 基准(1×) | 低 |
| 通用 GPU | 中-低 | 高 | NVIDIA A100/H100, AMD MI300 | ~10×–50× [估算] | 中 |
| 领域可编程 | 中 | 中 | FPGA(Xilinx/Intel)、部分 CGRA | ~10×–100× [估算] | 高 |
| 领域专用(可编程模型) | 高 | 低-中 | Google TPU、AWS Trainium、华为昇腾 | ~50×–500× [估算] | 中-高 |
| 固定功能 ASIC | 最高 | 无/极低 | 推理 ASIC、网络交换芯片、密码加速器 | ~100×–1000× [估算] | 最低(但适用范围最窄) |
注意:上述能效倍数为目标场景下与 CPU 对比的业界共识估算范围,实际值取决于具体负载匹配度。
GPU vs TPU vs FPGA vs NPU:四类 DSA 路线对比
| 维度 | GPU(以NVIDIA为例) | TPU(以Google为例) | FPGA | NPU(以昇腾/寒武纪为例) |
|---|---|---|---|---|
| 核心架构 | SIMT + Tensor Core | 脉动阵列 / MXU | 可重构逻辑 | 定制向量/矩阵单元 |
| 编程模型 | CUDA / OpenCL | XLA / JAX / TF | HLS / RTL / OpenCL | 自研SDK / ONNX |
| 灵活性 | 高(通用并行) | 中(聚焦张量) | 最高(硬件可改) | 中-低(聚焦推理/训练) |
| 规模效应 | 生态最强(CUDA护城河) | 自用为主,逐步开放 | 工具链成熟 | 生态建设中 |
| 主要短板 | 通用≠专用最优,功耗高 | 生态封闭,灵活性受限 | 开发门槛极高,主频低 | 生态薄弱,通用性差 |
| 适用场景 | 训练+推理,通用HPC | 大规模训练+推理 | 原型验证、边缘、非标协议 | 端侧推理、特定云场景 |
上下游
DSA 产业链全景
上游(基础层) 中游(设计/制造层) 下游(应用层)
┌─────────────┐ ┌─────────────────┐ ┌──────────────┐
│ EDA 工具 │ │ 芯片设计公司 │ │ 云计算厂商 │
│ (Synopsys, │ ──采用──▶ │ (NVIDIA, Google, │ ──供货▶│ (AWS, Azure, │
│ Cadence) │ │ AMD, 华为, 寒武纪)│ │ GCP, 阿里云) │
└─────────────┘ └────────┬────────┘ └──────────────┘
│ 委托代工
┌─────────────┐ ▼ ┌──────────────┐
│ IP 核 │ ┌─────────────────┐ │ 终端应用 │
│ (ARM, Synopsys│ │ 晶圆代工厂 │ │ (AI 训练/推理, │
│ Artisan) │ │ (台积电, 三星, │ │ 自动驾驶, │
└─────────────┘ │ 中芯国际) │ │ 科学计算) │
└────────┬────────┘ └──────────────┘
┌─────────────┐ │
│ 先进封装 │ ┌───────┴────────┐
│ (CoWoS, │ │ 存储供应商 │
│ 2.5D/3D) │ │ (SK Hynix, │
└─────────────┘ │ Samsung HBM) │
└────────────────┘
关键瓶颈环节
| 环节 | 瓶颈说明 | 影响 |
|---|---|---|
| 先进制程 | 先进工艺节点产能有限([行业共识]) | DSA 性能/功耗天花板 |
| 先进封装(CoWoS 等) | HBM 集成产能紧张,良率是挑战 | 限制高端 DSA 出货量 |
| HBM 供应 | SK Hynix 主导,产能扩张周期长 | 决定 DSA 的片外带宽上限 |
| EDA 工具 | 三巨头垄断,先进工艺 PDK 受限 | 设计周期和成本 |
| CUDA 生态 | 英伟达软件护城河极深 | 竞争者需跨越生态鸿沟 |
关键指标
衡量 DSA 优劣的核心 KPI
| 指标 | 定义 | 为什么重要 |
|---|---|---|
| TOPS/W | 每瓦算力(Tera Operations Per Second per Watt) | DSA 最核心的能效指标,决定数据中心电费和部署密度 |
| TOPS/$ | 每美元算力 | 决定经济可行性,训练成本的核心变量 |
| 峰值 vs 持续算力 | 理论峰值 vs 实际负载下可持续算力 | 差距越大,利用率越低,说明架构与负载匹配度差 |
| 片外带宽 | HBM/GDDR 带宽(GB/s 或 TB/s) | AI 负载通常是”算力密集”或”带宽密集”,带宽不足会成为瓶颈 |
| 片上 SRAM 容量 | 全局缓冲/Scratchpad 大小 | 决定数据复用能力,影响带宽需求和能效 |
| 可编程性/易用性 | 编程模型成熟度、工具链完整度 | 影响开发者采用速度,决定生态飞轮能否转起来 |
| 互连带宽(多芯片) | chiplet 间 / 节点间通信带宽 | 大模型训练需要跨芯片并行,互连决定扩展上限 |
AI 训练场景下的关键公式
设:
峰值算力(Peak OPS, OPS)
实际带宽(Real Bandwidth, bytes/s)
算术强度(Arithmetic Intensity)= 计算量 / 访存量(operations/byte)
机器平衡点(Roofline Knee)= 峰值算力 / 实际带宽(operations/byte)
则:
有效吞吐量 = min(峰值算力, 算术强度 × 实际带宽)
当 算术强度 > 机器平衡点时 → 计算瓶颈(compute-bound),吞吐接近算力峰值
当 算术强度 < 机器平衡点时 → 带宽瓶颈(memory-bound),吞吐受带宽和算术强度限制
DSA 设计的核心挑战 = 在目标负载下,让算术强度与机器平衡点匹配,使算力和带宽同时接近饱和
供需与市场数据
市场规模估算
⚠️ 以下为行业报告/分析师估算范围,非精确数字,仅供参考框架。
| 细分市场 | 估算规模 | 增长驱动 | 来源口径 |
|---|---|---|---|
| AI 训练加速器 | 数百亿美元级(2023–2024) | 大模型军备竞赛、云厂商资本开支 | [行业分析师估算] |
| AI 推理加速器 | 快速增长,未来可能超过训练 | 端侧 AI、推理需求爆发 | [行业分析师估算] |
| FPGA 市场 | 百亿美元级 | 通信、工业、数据中心 | [行业报告] |
| 自动驾驶 SoC | 数十亿美元级 | L2+/L3 渗透率提升 | [行业报告] |
需求侧驱动力
| 驱动力 | 影响 |
|---|---|
| 大模型参数量增长 | 训练算力需求指数级增长,通用架构无法满足 |
| 推理成本压力 | 推理量远大于训练量,专用推理芯片需求爆发 |
| 边缘 AI | 端侧功耗/面积约束严格,必须用 DSA |
| 主权算力 | 地缘政治推动各国自研 DSA |
供给侧约束
| 约束 | 影响 |
|---|---|
| 先进制程产能 | 高端 DSA 集中在少数代工厂,产能是硬约束 |
| HBM 供应 | HBM 产能扩张周期长,短期难以满足需求 |
| 人才稀缺 | DSA 设计需要架构+算法+EDA 复合人才 |
代表公司与资本映射
DSA 版图中的关键玩家
| 层级 | 公司 | 定位 | 关键 DSA 产品/技术 |
|---|---|---|---|
| 全栈巨头 | NVIDIA | GPU 生态统治者 | A100/H100/H200/B100/B200,CUDA 护城河 |
| 自研 TPU + 云服务 | TPU v4/v5/v6,XLA 编译器 | ||
| AWS | 自研推理/训练芯片 | Inferentia, Trainium | |
| Microsoft | 自研 + 合作 | Maia 100(自研),合作 AMD/Intel | |
| Meta | MTIA(自研推理) | MTIA v1/v2(推理加速) | |
| 挑战者 | AMD | GPU 挑战者 + CPU 王者 | MI300X/MI300A(APU),ROCm 生态 |
| Intel | 回归 DSA | Gaudi 系列(收购 Habana),FPGA(Altera) | |
| 华为 | 国产 DSA 领军 | 昇腾 910/310,达芬奇架构 | |
| 寒武纪 | 国产 NPU | 思元系列(MLU) | |
| 架构创新 | SambaNova | 可重构数据流 | RDU(Reconfigurable Dataflow Unit) |
| Cerebras | 晶圆级芯片 | WSE-2/WSE-3(整片晶圆做一颗芯片) | |
| Groq | 确定性推理 | LPU(Language Processing Unit),确定性调度 | |
| Graphcore | IPU(智能处理器) | Bow-IPU(已终止,被收购 [行业新闻]) | |
| 垂直领域 | Broadcom | 定制 ASIC(XPU) | 为云厂商定制 DSA([行业报道]) |
| Marvell | 定制 ASIC + DPU | 为云厂商定制加速器 |
资本映射思路
| 投资方向 | 逻辑 | 代表标的 |
|---|---|---|
| 生态主导者 | CUDA 生态护城河最深,短期难以颠覆 | NVIDIA |
| 垂直整合云厂 | 自研 DSA + 云服务,成本内部化 | Google, AWS, Microsoft(关注自研进度) |
| 国产替代 | 地缘政治驱动,国产 DSA 必须发展 | 华为、寒武纪、海光、壁仞(关注技术进度和生态) |
| 卖铲子 | 不论谁赢,EDA/IP/封装都受益 | Synopsys, Cadence, ARM, 台积电 |
| 架构创新 | 高风险高回报,关注差异化路线 | Cerebras, Groq, SambaNova(一级市场为主) |
投资逻辑
核心投资框架
┌─────────────────────────────────────────────────────────────┐
│ DSA 投资决策树 │
│ │
│ Q1: 目标场景的计算需求是否还在指数增长? │
│ ├─ 是 → Q2 │
│ └─ 否 → 防御性配置(关注存量升级) │
│ │
│ Q2: 现有通用架构是否还能满足需求? │
│ ├─ 否(已进入 DSA 必要区)→ Q3 │
│ └─ 是(边际收益尚可)→ 观望,关注拐点 │
│ │
│ Q3: 谁的 DSA 生态最强/最有可能成为标准? │
│ ├─ 生态已锁定(如 CUDA)→ 配置生态主导者 │
│ └─ 格局未定 → 多头配置 + 关注架构创新者 │
│ │
│ Q4: 国产替代是否是硬约束? │
│ ├─ 是 → 配置国产 DSA 链(设计+代工+封装) │
│ └─ 否 → 全球视野配置 │
└─────────────────────────────────────────────────────────────┘
三层投资逻辑
| 层级 | 逻辑 | 时间维度 | 风险收益 |
|---|---|---|---|
| 第一层:生态霸主 | CUDA 生态短期内无法被替代,NVIDIA 仍是最强受益者 | 1–3 年 | 低风险(但估值已反映) |
| 第二层:卖铲子 | 无论 DSA 格局如何演变,EDA/代工/封装/HBM 都受益 | 3–5 年 | 中风险,确定性较高 |
| 第三层:架构创新 | 如果新架构(CIM、光计算、可重构)突破,可能颠覆格局 | 5–10 年 | 高风险高回报 |
常见误读纠偏
误读 1:“DSA 就是 ASIC,通用性差所以没前途”
纠偏:
- DSA ≠ ASIC。DSA 是一个光谱,从”领域可编程”(如 GPU、FPGA)到”高度专用”(如固定功能 ASIC)。
- 现代 AI DSA(如 TPU、NPU)通常保留一定程度的可编程性(通过可配置的指令集或编译器),只是不追求”什么都能做”。
- 核心洞察:通用性是一种”能力”,不是”目的”。如果目标领域足够大、足够稳定(如矩阵乘),专用化的收益远大于灵活性损失。
误读 2:“GPU 是通用处理器,不是 DSA”
纠偏:
- GPU 最初是为图形渲染设计的 DSA(SIMT 架构 + 大规模并行)。
- 虽然 GPU 通过 CUDA 生态变得”通用”(GPGPU),但其架构本质仍是并行计算领域专用的——它的能效远高于 CPU,正是因为它牺牲了 CPU 的通用性(乱序执行、复杂分支预测等)。
- 正确理解:GPU 是 DSA 光谱中”领域较宽、可编程性较高”的一端,但仍然是 DSA。
误读 3:“DSA 能实现 1000× 加速,所以 CPU 要被淘汰了”
纠偏:
- 1000× 加速是理想情况下、与老旧基线对比的数字,通常来自特定 benchmark,不代表真实应用场景。
- DSA 的实际收益取决于负载匹配度——如果负载不完全匹配 DSA 的设计假设,效率会大幅下降。
- 真实图景:DSA 不替代 CPU,而是与 CPU 协同——CPU 负责控制流、调度、通用逻辑;DSA 负责计算密集的核心热点。这就是”异构计算”。
误读 4:“自研 DSA 一定比买 GPU 便宜”
纠偏:
- 自研 DSA 的前期投入巨大(研发团队、流片成本、生态建设),需要达到一定规模才能摊薄成本。
- 对于中小型用户,采购成熟 GPU 的总拥有成本(TCO)可能更低。
- 规模门槛:只有日活用户/计算需求达到一定规模的超大云厂商,自研 DSA 才能实现经济正循环。
学习路径
入门(建立直觉)
| 资源 | 类型 | 说明 |
|---|---|---|
| Hennessy & Patterson 图灵奖演讲 | 视频 | ”A New Golden Age for Computer Architecture”,DSA 的”开山宣言” |
| CS149: Parallel Computing (CMU) | 课程 | 理解并行计算基础,为理解 DSA 打底 |
| ”Computer Architecture: A Quantitative Approach” | 教科书 | 第六版有专门的 DSA 章节(Ch.7) |
进阶(理解设计)
| 资源 | 类型 | 说明 |
|---|---|---|
| Google TPU 论文 | 论文 | ”In-Datacenter Performance Analysis of a Tensor Processing Unit”(ISCA 2017) |
| NVIDIA CUDA 编程指南 | 文档 | 理解 GPU 的编程模型和硬件抽象 |
| Eyeriss 论文 | 论文 | MIT 的 DSA 设计范例,讲解数据流和能量优化 |
专家(系统级思维)
| 资源 | 类型 | 说明 |
|---|---|---|
| ISCA / MICRO / HPCA 顶会论文 | 学术论 |