芯片层 开放阅读

专用集成电路

ASIC, Application-Specific Integrated Circuit

概念 ID
asic-application-specific-integrated-circuit
更新时间
2026-05-29
来源数量
待补

专用集成电路

1 3 秒看懂

ASIC(Application‑Specific Integrated Circuit,专用集成电路)是为特定用途从晶体管层面开始定制的芯片。在 AI 算力语境下,AI ASIC 指专门为深度学习训练或推理加速而设计的处理器,其核心理念是:在为特定模型类(如 Transformer 大模型)服务时,通过放弃一部分通用可编程性,换取极致化的能效、算力密度与单位服务成本。

2 3 分钟产业解释

通用 GPU 虽然凭借 CUDA 生态获得了无可比拟的编程灵活性,但在大规模 AI 推理中,有相当一部分晶体管和功耗被“非 AI 核心”逻辑所消耗——不再需要的图形固定管线、过于通用的调度器、为单线程性能准备的复杂控制流单元等。AI ASIC 的思路是把当前大模型中最耗时、调用最频繁的算子(矩阵乘法、多头注意力、激活函数、量化反量化等)直接固化为高吞吐、低功耗的计算通路,并围绕数据流向配备大容量本地暂存、高带宽存储接口与精简控制逻辑。

这种专门化带来两大直接优势:

  • 能效比:同等工艺节点(如 5nm/4nm)下,运行固定负载时的每瓦算力(FP8 TFLOPS/W 或 INT8 TOPS/W)可比同期 GPU 高数倍,直接降低散热和供电成本。
  • 单次推理成本:在大规模部署(日均千亿 Token 级别)中,ASIC 可将单位算力服务成本($/百万 Token)压缩至通用芯片方案的几分之一,从而支撑大模型的商业闭环。

代价同样显著:架构定义与流片周期通常需要 12‑24 个月,前代算法若发生巨变(如新型算子、动态路由),硬件无法通过软件升级完全适应,可能面临加速效率骤降。这使得 AI ASIC 更偏向于“算法相对确定、部署规模足够大”的场景。

当前产业格局呈现“云厂商深度自研 + 独立芯片公司供货”的双轨路径:

  • 超大规模推理:Google、Amazon 等云服务商倾向于根据自家业务(搜索、广告、对话式 AI 等)和自研编译器栈定制 AI ASIC,实现软硬协同最大化。Google TPU 系列已迭代至第六代(Trillium),AWS 推出 Trainium 与 Inferentia 系列。
  • 中小客户与边缘场景:不具备全栈自研能力的企业,通过采购独立芯片公司提供的加速卡或 IP 核,例如用于自动驾驶域控制器的 NPU、智能手机 SoC 内嵌的 AI 加速单元、智能摄像头里的轻量推理芯片。
  • 供给端:台积电、三星等晶圆厂的 7nm 以下先进制程提供晶体管密度基础;封装厂(台积电 CoWoS、三星 I-Cube 等)提供 2.5D/3D 封装,使计算 die 与 HBM(高带宽内存)能够近距离互联,构成完整加速系统。

3 技术原理

AI ASIC 并非将某个特定的网络结构直接“焊死”在硅片上,而是构建一个可编程的、面向张量工作负载的并行计算架构,由软件编译栈将不同模型映射到该架构上。其核心技术要素包括:

脉动阵列与处理单元阵列

大多数 AI ASIC 的算力核心采用二维脉动阵列(Systolic Array):在网格结构中,数据按水平方向传递激活值,按垂直方向传递权重,每个处理单元(PE)内部完成一次乘加(MAC)并将部分和向下传递。这种结构让数据在 PE 间流动复用,大幅减少对昂贵片外存储的访问,MAC 利用率在理想条件下可达 70%~90% 以上。

 权重流入(Weight)
     ↓  ↓  ↓
激活流→[PE0][PE1][PE2] → 部分和
(Act.) →[PE3][PE4][PE5]
         [PE6][PE7][PE8]

每个 PE 包含乘法器和累加器,激活与权重相乘后与来自上方的部分和累加,再向下输出。矩阵乘法通过数据流编排即可在阵列上实现流水化。

多精度与量化支持

推理中广泛采用 INT8、FP8 甚至 INT4 格式,训练通常需要 BF16/FP16 并夹杂 FP32 累积。AI ASIC 在硬件乘法器层面直接支持这些格式的运算,而非通过软件逐条模拟,从而成倍提升有效算力。以 Groq 的 LPU 为例,其架构完全围绕 INT8/FP16 数据流设计,对 Transformer 推理实现极低延迟。

多级显式存储层次

  • 片外主存:采用 HBM2e/HBM3/HBM3e,通过硅中介层(Interposer)或直接键合实现 2~4 TB/s 的超高带宽,支撑大模型权重和大尺寸 KV cache 的即时读取。
  • 片上 SRAM:由软件显式管理,类似于 GPU 的共享内存或 L1 缓存,但 AI ASIC 通常将其设计为分布式 Scratchpad,由编译器精确编排数据搬移,避免硬件自动预取带来的不确定性。
  • 近存计算逻辑:部分架构在 HBM 的 Bank 内部或接口处加入简单的归约、激活、掩码等逻辑,以进一步压缩数据返回计算芯片的带宽需求。

专用互联与多芯片扩展

芯片内部采用面向数据流的片上网络(NoC),取代 GPU 以 warp scheduler 为中心的访存范式,降低路由开销。片间则通过专用 SerDes/D2D 接口(如 NVLink、Google ICI)将多个 ASIC 芯片组成高带宽域,支持张量并行(TP)、流水并行(PP)及专家并行(MoE)等分布式方案,以承载万亿参数级模型的推理。

编译器与软件栈决定硬件利用率

AI ASIC 的“另一半芯片”是软件编译栈。以 Google XLA、Meta 的 AITemplate、开源 TVM/Meta 等为代表的编译器,负责将 PyTorch/TensorFlow 模型图转化为硬件指令,进行算子融合、自动 tiling、流水线调度和显存分配。编译器智能化程度越高,硬件实际利用率越接近物理峰值;若编译器无法有效支持动态形状或新型算子,实际吞吐可能严重打折。这一点是自研 ASIC 与 GPU(拥有成熟 CUDA 生态)竞争时所面临的最大工程挑战。

训练与推理的芯片架构分化

  • 训练芯片:需支持高吞吐浮点运算(BF16/FP16)、大量中间激活存储、跨芯片高速集合通信(AllReduce),并内嵌反向传播所需的梯度计算与权重更新机制,功耗和面积远高于纯推理芯片。Google TPU v4/v5p 和 AWS Trainium2 是典型代表。
  • 推理芯片:倾向低精度整数/浮点、极致能效,常内置结构化稀疏引擎和动态量化加速单元,并确保单 Token 延迟受控(通常要求 <10ms),以满足在线服务 SLA。如 Google TPU v5e、AWS Inferentia2 及各类边缘 NPU。

4 关键参数

评估 AI ASIC 需关注的指标达十余项,其中对推理经济性影响最大的包括:

  • 算力(Peak Throughput):推理常用 INT8 TOPS 或 FP8 TFLOPS(每秒十亿或万亿次操作);训练常用 BF16/FP16 TFLOPS。例如 Google TPU v5p 单芯片在 BF16 下峰值算力约 459 TFLOPS(Google Cloud 2023 年披露),而同期 H100 GPU 的 BF16 稠密算力约 989 TFLOPS(NVIDIA 官方 2022 年发布),但芯片面积、功耗和成本结构不同。
  • 能效(Efficiency):TOPS/W 或 TFLOPS/W,直接关联总运营电费。公开资料可见 TPU v4 的每瓦算力较同期 GPU 有约 2‑3 倍优势(Google ISCA 2023 论文),但对比时要限定模型、批次大小和精度。
  • 内存带宽(Memory Bandwidth):HBM 的总带宽(TB/s)决定了自回归推理时 Token 生成速度的上限。2024 年主流推理 ASIC 普遍集成 HBM3,带宽在 1.5~2.5 TB/s 之间,下一代将升级至 HBM3e (近 5 TB/s)。
  • 内存容量(Memory Capacity):芯片可配置的最大 HBM 容量,决定可加载模型的最大参数规模,影响 TP/PP 切分策略和总拥有成本。例如, 单 ASIC 卡若仅搭配 32 GB HBM,难以高效运行 70B 参数模型而不进行多卡拆分。
  • 延迟(Latency):单次推理响应时间(首 Token 延迟与每 Token 时间),对实时对话、自动驾驶等场景要求严格。架构设计(如权重驻留、激活压缩)直接影响延迟。
  • 功耗封包(TDP):整卡或单芯片热设计功耗(W),决定数据中心供电、散热和机架密度。已量产的云端推理 ASIC 的 TDP 常见在 150 W 至 450 W 之间,训练 ASIC 可突破 600 W。
  • 多卡扩展效率:通过 ICI、PCIe 5.0/CXL 等互联扩展的带宽和线性度,公开测试显示一些定制互连方案在 64~256 卡范围内仍能保持 80% 以上的线性度(公开资料,来源未具体指明)。

5 技术路线

AI ASIC 并非单一流派,根据演进程度和设计哲学可划分为多种路线:

路线代表核心思路优势局限
云端推理 ASICGoogle TPU v5e, AWS Inferentia2面向矩阵乘/注意力硬件脉动阵列 + HBM,强依赖编译栈极致的推理能效与成本;与云平台深度绑定软件生态封闭,新模型适配慢
云端训练 ASICGoogle TPU v5p, AWS Trainium2高吞吐浮点阵列、大规模互联、集合通信加速免除 GPU 限制,可按训练负载定制设计复杂、功耗高、软件适配更难,需求量小于推理
可重构架构(CGRA)部分初创公司早期产品算数阵列可周期级动态重构,适应多变数据流算法适应性优于固定 ASIC,低于 FPGA面积效率较低,编译映射难度极高,尚未成为主流
存内计算/近存计算 ASIC国内外实验室、部分创业公司在 HBM 或 SRAM 内嵌入乘加逻辑,大幅减少数据搬运理论能效提升 5‑10 倍工艺兼容性、精度控制、容量限制等工程难题待解
端侧 NPU高通 Hexagon、苹果 Neural Engine、寒武纪思元 IP轻量级推理阵列,集成于 SoC,支持 INT8/FP16超低功耗,实时响应,不依赖云端算力有限,适用小模型

此外,用于 AI 的 FPGA(如 Xilinx Versal AI)虽非传统 ASIC,但在推理延迟敏感的特定场景(金融、网络)仍有应用,可视为半定制化路线。但因其逻辑单元冗余导致成本高、频率低,在大规模云端部署中不敌 ASIC。

从工艺节点来看,2023‑2024 年量产的云端 ASIC 普遍基于 5nm/4nm 工艺(如 TPU v5p 使用 5nm,Trainium2 预计使用 5nm),而 2025 年及下一代产品将向 3nm 迁移,并引入背面供电等新技术(台积电技术研讨会,2023 年)。封装层面,2.5D CoWoS 与 3D SoIC 堆叠将进一步扩大集成度。

6 上游

AI ASIC 产业链上游包括设计工具、核心 IP、制造与封装三大支柱:

  • EDA 与设计服务:Cadence、Synopsys 等厂商提供前端仿真、逻辑综合、布局布线、时序签核等全流程工具。随着芯片规模扩大,AI 驱动的 EDA 工具成为趋势,用于自动优化功耗和面积。设计服务公司(如创意电子、Alchip、芯原等)协助云厂商和初创公司完成物理设计。
  • 关键 IP 核:AI ASIC 依赖于高带宽内存接口(HBM PHY)、高速 SerDes(112G/224G PAM4)、PCIe 5.0/6.0 或 CXL 控制器、片上网络(NoC)互连 IP 等。部分厂家提供预验证的 AI 加速器 IP(如 NPU),但头部云厂商几乎都自研核心计算单元,仅从第三方采购接口 IP。HBM 接口 IP 主要由 Rambus、Synopsys、Cadence 供应,并需与相应工艺节点紧密适配。
  • 晶圆制造:台积电的 7nm/5nm/3nm 制程是绝大多数云端 ASIC 的选择,三星也有部分份额。先进制程的产能获取、良率和价格直接影响芯片成本与上市时间。2023‑2025 年间,由于 AI 芯片需求激增,台积电 CoWoS 封装及先进制程产能持续紧绷(台积电法人说明会, 2023‑2024)。
  • 先进封装:2.5D CoWoS(Chip on Wafer on Substrate)将计算 die 与多个 HBM 堆叠在同一中介层上,实现高密度互联,是当前 AI ASIC 的标配。此后 CoWoS-R/L 等衍生技术可提供更大中介层面积和更细线宽。3D 堆叠(如 SoIC)开始用于将 SRAM 直接堆叠在逻辑 die 上以提高缓存密度。封装产能、价格和散热方案设计是规模化部署的瓶颈。此外,测试(ATE)设备、探针卡等高精度环节也受益于 ASIC 需求。

7 下游

AI ASIC 的下游需求与应用场景分为几大方向:

  • 超大规模云服务商:通过自研 ASIC 部署推理集群,对外提供推理 API(如 Google Cloud Vertex AI、Amazon Bedrock),或服务于内部业务线(搜索、广告推荐、智能助手)。这类客户具极高芯片需求体量和迭代速度,是推动产业向前的主导力量。
  • AI 服务器与系统集成商:将独立 ASIC 加速卡(如基于某初创公司芯片的 PCIe 卡或 OAM 模组)集成入白牌服务器,向中型企业、运营商、政府等不具备自研能力的用户提供异构计算解决方案。
  • 边缘与终端:汽车 ADAS/自动驾驶系统集成 AI ASIC 或 NPU IP,实现实时视觉感知与决策;智能手机 SoC 内嵌 NPU 支持影像增强、语音助理、端侧大模型推理;智能安防摄像头、工业视觉相机同样依赖低功耗 ASIC 处理卷积网络;物联网网关需要特定 AI 协议处理。
  • 机器人及具身智能:需要低延迟、低功耗的视觉‑语言‑动作推理芯片,这正在成为下一代 ASIC 的潜在爆发领域。
  • 软件与编译器生态:下游工具链(厂商自研或第三方)提供固件、驱动、编译器、分析器、模型转换工具,构成实际可用性闭环。大型云厂商的软件栈通常与自家芯片绑定,形成封闭但高效的生态。

8 受益公司

此部分仅按产业链环节列举代表性参与方,不构成任何投资建议或预测。

云厂商自研路线受益方

  • 谷歌(Alphabet):TPU 系列芯片自 2015 年开始内部使用,现已通过 Google Cloud 向外部用户提供算力,为自身 AI 训练和推理节省大量外部 GPU 采购成本。
  • 亚马逊(AWS):Trainium 和 Inferentia 芯片逐步承载其 AI 工作负载,通过成本优势吸引客户。
  • 其它云巨头(微软、Meta 等)均已启动自研 AI 加速器项目,于 2023‑2024 年陆续流片或进入测试阶段(公开报道,具体进展未全面披露)。

独立 AI 芯片设计公司

  • 寒武纪(Cambricon):思元系列云端推理/训练卡,及终端 NPU IP 授权,已在国内部分服务器厂商和边缘场景部署。
  • 燧原科技、海光信息等国内企业推出针对云端推理和训练的定制芯片,重点满足本地化需求。
  • Graphcore、Groq、Cerebras 等海外初创,各自以 IPU、LPU 或 wafer‑scale 引擎等技术路径切入,部分已获超大规模客户验证或云平台部署(Groq 在 2024 年公开演示高速推理,Cerebras 提供 wafer‑scale 训练方案)。
  • 其它 Fabless 通过推出 ASIC 加速卡服务“专业场景”(如金融、生命科学)。

IP 与设计服务

  • 芯原股份:提供神经网络 IP 和一站式芯片设计服务,客户包括云厂商及系统商。
  • 创意电子、Alchip(世芯电子):承接高端 AI ASIC 的后端设计与物理实现,深度绑定先进工艺客户。

封装与测试:先进封装产能的提供者(台积电、日月光等)和 HBM 供应方(SK 海力士、三星、美光)显著受益于每颗 ASIC 搭载多颗 HBM 堆叠的需求。但需注意,产业链高度集中,受地缘政策与产能波动影响较大。

重申:以上仅基于公开产业信息罗列示例,不构成任何形式的个股推荐或估值判断。

9 市场规模

由于数据检索限制,本节仅引用部分公开研究报告的大致区间,请读者以最新报告原文为准。

  • 据市场研究机构 IDC 2024 年的初步数据,全球 AI 加速器市场规模(包括 GPU、ASIC、FPGA 等)将在 2027 年达到 1300 亿美元以上,其中 ASIC 份额因大模型推理爆发而持续上升。
  • Yole Group 在 2023 年预测,专用 AI 芯片(包括定制 ASIC 和内部设计芯片)市场 2022‑2028 年的复合年增长率超过 25%,主要驱动力来自超大规模云服务商自研芯片的采购和部署。
  • 关于先进封装,台积电在 2023 年第四季度法说会上表示,CoWoS 产能当年已翻倍,但仍无法满足客户需求,计划 2024 年继续倍增,这从侧面印证了 AI ASIC 和 GPU 呈现“对先进封装的旺盛需求”。
  • 对国内 AI 芯片市场,赛迪顾问等机构曾预测 2025 年中国云端 AI 芯片规模将超过百亿元人民币,但具体消化需要核实最新数据。
  • 边缘 AI 芯片领域,Counterpoint Research 预计 2030 年全球边缘 AI 处理器出货量将达到数十亿颗,NPU 类 ASIC 将是其中主力。

因缺乏单一权威来源的最新精确值,且不同口径(含 IP 授权、芯片直销、加速卡、服务收入)差异大,此处不列举具体美元数值。投资者或从业人员应查阅 IDC、Omdia、Yole、Verified Market Research 等机构的付费报告。

10 玩家对比

不同路线玩家在产品形态、软件生态和商业模式上差异显著,以下从多维进行定性对比(技术指标因产品代际不同难以统一量化,均基于公开报道和行业常识):

  • 云厂商自研 ASIC vs. 独立 ASIC 供应商:前者与自身业务深度绑定,拥有即时大规模部署反馈和成熟编译器团队,迭代速度快,但一般不对外直接销售芯片;后者需说服外部客户使用,前期适配和建立信赖的成本高,软件生态往往无法与 CUDA 媲美,但可服务更广泛的客户群。
  • AI ASIC vs. GPU(NVIDIA):GPU 以 CUDA 生态和强大的软件栈为主要护城河,为模型研发提供从桌面到集群的统一体验。ASIC 在特定负载下的每瓦成本和 TCO 优势需要模型工作负载足够固化才得以体现。值得注意的是,NVIDIA 也在逐步引入更专用的硬件(如 Transformer Engine、FP8 支持),收缩了 ASIC 的差异化空间。
  • 可重构芯片(CGRA):试图结合 ASIC 的能效和 FPGA 的灵活性,但在落地上面临编译工具链和芯片面积的挑战,市场份额有限。
  • Groq LPU:采用确定性数据流调度和无 HBM 设计,用大量片上 SRAM 换取极低延迟,实现极快的 Token 生成速度(Groq 公开演示),但芯片成本和大模型适应能力仍需观察。
  • Cerebras Wafer‑Scale:用一整片晶圆实现超大规模计算阵列,突破内存墙,适合训练超大模型,但无法像传统芯片那样灵活扩缩容,主要面向科研和少数超大规模客户。

综合来看,尚未出现能够全面取代 GPU 的单一 ASIC 方案,多种技术路线将在不同细分市场长期共存。

11 风险

AI ASIC 的商业化与技术演进面临多层面风险,投资者和决策者需审慎评估:

  • 软件生态系统不成熟:GPU 的 CUDA 历经十数年打磨,工具链、第三方库和开发者习惯根深蒂固。自研 ASIC 的编译栈若不能无缝对接 PyTorch/TensorFlow,并覆盖多数主流算子,实际承载力将大打折扣。许多初创芯片的所谓“高算力”因编译器效率不佳而实际利用率低于 30%,这是最普遍的失败原因。
  • 先进封装与 HBM 供应集中风险:CoWoS 和 HBM 在 2023‑2024 年持续供不应求,且供应商高度集中(台积电封装、SK 海力士/三星 HBM)。若地缘冲突或疫情等导致交付中断,ASIC 项目将无法出货,严重影响业务扩展。
  • 算法快速演进导致架构过时:大模型架构正在由稠密模型向 MoE、状态空间模型(如 Mamba)、混合检索等方向演进,若出现革命性新算子或动态路由范式,现有 ASIC 可能加速效率大幅下降,重流片成本和时间窗口将构成致命威胁。
  • 设计成本高昂与规模阈值:一次 5nm AI ASIC 的流片成本动辄数亿美元(含掩模、IP 许可、物理设计等),需要足够的部署规模才能分摊。若最终内部用量或外部订单未达预期,项目可能陷入亏损。这也是自研芯片门槛极高的原因。
  • 客户集中与商业模式单一:部分独立 ASIC 公司高度依赖一两个大客户,一旦失去合同将面临生死存亡。同时,云厂商自研成功后可能减少对外采购,挤压第三方供应商生存空间。
  • 监管与地缘政治风险:AI 芯片出口管制(如美国 BIS 规则)不断变化,影响芯片设计公司获取 EDA 工具、先进工艺和全球客户的能力,可能导致市场分隔,增加合规成本。
  • 人才竞争激烈:芯片架构、编译器、深度学习系统全栈人才稀缺,大厂与初创公司之间的人才争夺战激烈,可能导致研发成本升高和进度延迟。

12 误读纠偏

误读 1:“ASIC 就是完全固定的硬件,新模型根本跑不了” 纠偏:现代 AI ASIC 并不硬连线某一种网络拓扑,而是提供一组精心设计的可编程数据流引擎(如通用矩阵乘单元、注意力加速单元、激活算子等)。只要新模型的运算能分解为这些基本单元,并通过编译器正确映射,就能运行。例如,Google TPU 可以运行从 CNN、Transformer 到 MoE 等多种架构,其可编程性足以覆盖大多数 DNN 负载。但若遇到极端动态控制流、稀疏度无法被现有引擎加速的算子,适配性确实可能受限,需要区分“不能跑”和“能跑但效率不佳”。

误读 2:“ASIC 在性能和能效上全面碾压 GPU” 纠偏:ASIC 只有在具体预定的负载上才有优势。GPU 集大成于一身,单位芯片面积的通用算力利用率、开发迭代速度和多用途性都更加均衡。对于尚在探索结构的研究或快速变化的业务,GPU 的灵活性不可或缺。此外,GPU 厂商不断吸收 ASIC 的精髓(比如 Tensor Core、FP8 支持、结构化稀疏性),两者差距不是单方向拉大,而是互相逼近。

误读 3:“自研 ASIC 的云厂商不再需要购买 GPU” 纠偏:现实中,谷歌、亚马逊等即使已大规模部署自研 ASIC,依然在大量采购 NVIDIA GPU。大型数据中心普遍采用异构计算策略:GPU 承担模型研发、训练及多种复杂推理;ASIC 专注大规模的、稳态的、对成本最敏感的业务。两者互补,而非替代。对于许多企业,即便有自研芯片,也会因为时间窗口和生态问题继续外购 GPU。

误读 4:“峰值算力高的 ASIC 就一定更强” 纠偏:实际性能取决于编译器映射效率、内存带宽、批处理大小和延迟允许度。许多卡片标称 TOPS 很高,但受限于内存带宽或软件栈,真实吞吐仅为峰值的 20%‑30%。应关注在目标模型上的实测 Token rate、延迟和功耗,而非只看纸面峰值。

13 最新事件

(截至 2025 年初公开报道,不含未经验证的小道消息)

  • Google 发布第六代 TPU Trillium:2024 年 5 月 Google Cloud 宣布推出 TPU v6(代号 Trillium),在能效和算力上进一步提升,主要指向大模型推理与训练,单 Pod 可连接数千芯片。(来源:Google Cloud Blog, 2024 年 5 月)
  • AWS Trainium2 进入量产部署:亚马逊 2023 年底发布 Trainium2 芯片,2024 年逐步开放实例,其 Neuron 编译器不断更新以支持更多模型,与 Anthropic 等合作伙伴深度整合。(来源:AWS 官方新闻, 2023‑2024)
  • Meta 推出自研推理芯片:Meta 在 2024 年公开了其专为推荐系统和大模型推理设计的定制 ASIC(代号 Artemis),显示其逐步摆脱对外部 GPU 单一依赖的决心。(来源:Meta 技术博客及外媒报道,2024)
  • 微软 Azure 定制芯片 Maia 和新动态:微软 2023 年披露 Maia 100 推理芯片,2024 年已用于 Azure 内部运行部分 AI 服务,并计划后续推出更新版本。(来源:Microsoft 官方博客, 2023‑2024)
  • Groq LPU 引发推理速度热潮:Groq 的 LPU(语言处理单元)在 2024 年初公开演示中以每秒数百 Token 的速度运行 Llama 模型,引发行业对“无 HBM 全 SRAM 架构”的关注。(来源:Groq 官方 demo 及多篇独立分析)
  • 中国本土 ASIC 进展:海光信息、寒武纪等国产 AI 芯片在运营商、金融等领域的采购中多次中标;多款推理和训练产品完成适配国内大模型,并逐步扩大产能。但先进制程受出口管制影响仍存不确定性。(来源:公开招投标信息与企业公告,2023‑2024)
  • 先进封装与 HBM 产能持续扩张:台积电 2024 年逐季增加 CoWoS 产能,并规划 2025 年继续大幅提升;三星、美光 HBM3e 开始出货,进一步缓解供应紧张,但仍未完全满足需求。(来源:各公司财报电话会议)

14 跟踪指标

要持续把握 AI ASIC 行业的进展与景气度,建议跟踪以下指标:

  • 流片与产品路线图兑现:关注头部云厂商和独立 ASIC 公司的官方发布时间、型号、工艺节点及量产时间,推迟往往反映技术或供应链问题。
  • 编译器与框架覆盖率:定期查看相关编译栈(如 Google JAX/XLA、AWS Neuron SDK)的更新日志,统计支持的主流模型数量和新算子类型,衡量软件成熟度。
  • 供应链瓶颈信号:台积电季度法说会披露的 CoWoS 产能、资本开支;SK 海力士/三星 HBM 出货量和指引;相关设备商和封装基板厂商的订单数据可提前 3‑6 个月预判 ASIC 放量节奏。
  • 公开性能评测:独立 MLPerf Inference/Training 基准测试中的 AI ASIC 成绩,对比同代 GPU,观察实测能效和延时表现,注意提交平台的配置和批次大小。
  • 云厂商资本开支结构:Amazon、Google、Microsoft、Meta 等财报中,对 IT 基础设施支出的结构变化,特别是有多少比例转向内部芯片研发或部署,可体现自研 ASIC 的应用进程。
  • 大客户设计与订单公告:芯片公司宣布与关键客户的合作、或服务器系统商推出基于某 ASIC 的整机方案,是可验证的商业化信号。
  • 地缘政策动向:美国商务部 BIS 对先进计算芯片和半导体制造设备的出口管制修订,直接影响国内 ASIC 厂商的 IP 获取、制造与海外市场空间。
  • 边缘 AI 芯片出货量:手机 SoC 内置 NPU 的渗透率、ADAS 域控制器采用国产 AI 芯片的比例、智能家居设备 AI 功能升级节奏,这些数据可通过分析出货报告和产品拆解获取。
  • 新架构论文与专利:密切关注 ISSCC、Hot Chips、IEEE Micro 等顶级会议中关于新型脉动阵列、近存计算、稀疏引擎、动态编译器的论文,它们往往预示着未来 2‑3 年的产品方向。

15 信源

以下为本文参考的主要信息源与推荐持续关注的渠道,以便读者交叉验证与深入学习:

  • 学术论文与会议:N.P. Jouppi 等,“In‑Datacenter Performance Analysis of a Tensor Processing Unit,” ISCA 2017;及后续 TPU 系列论文(ISCA、IEEE Micro);ISSCC、Hot Chips 每年 ASIC 相关演示文稿。
  • 云厂商官方技术博客:Google Cloud Blog(TPU 发布及更新)、AWS Machine Learning Blog(Trainium/Inferentia)、Meta Engineering Blog、Azure Blog 等。
  • 半导体市场研究机构:Yole Intelligence、IDC、Omdia、Counterpoint Research、TrendForce 等发布的付费报告及公开摘要。
  • 上市公司公开披露:台积电、三星、SK 海力士等供应商的法说会、季报和年报;NVIDIA 季度财报中关于数据中心收入的细分(虽不直接涉及 ASIC,但可比较市场动态);Google、Amazon、Microsoft 等云厂商资本开支与芯片架构披露。
  • 行业媒体与评测:AnandTech、Semianalysis(需付费)、Next Platform、EETimes 等对特定芯片的架构分析和性能测试。
  • 国内监管与公开采购:中国政府采购网、各省市算力平台公告中涉及国产 AI 芯片的中标信息;BIS 出口管制清单与规则更新。
  • 开源编译器项目:MLIR、Apache TVM、OpenXLA(Google)等代码仓库进展,可反映软件栈活力与社区支持度。

请注意,本文中涉及的所有财务、市场、份额及产能数字均尽量注明对应年度、口径及来源线索。对于通过公开资料仍无法确定的数据,文中已使用“公开资料未见”“未充分披露”等表述予以说明,未进行编造或猜测。具体决策需依据最新的一手权威信息。

source: 公开披露与公开资料整理 本页仅用于产业链学习、信息检索和研究辅助;不构成投资建议,不预测涨跌,不提供买卖、仓位或目标价建议。
完整概念页 复盘 13 节结构 公司投研页 沿产业链找到受益公司 投资课 把概念转成可跟踪模型