芯片层 开放阅读

NoC IP

Network-on-Chip IP

概念 ID
network-on-chip-ip
更新时间
2026-05-29
来源数量
待补

NoC IP(Network-on-Chip IP,片上网络 IP)

3 秒看懂

NoC IP 是 SoC 内部各模块之间的”高速公路系统”。 CPU 核、GPU 核、NPU、内存控制器、I/O 等 IP 模块要互相搬数据,靠的不是一根共享总线,而是一套包交换的路由网络——这就是 Network-on-Chip。把这个网络做成可复用、可授权的 IP 核,就是 NoC IP。它是芯片内部的”神经系统”,决定了数据搬运的带宽、延迟和功耗。

3 分钟产业解释

为什么需要 NoC IP?

早期 SoC 用共享总线(如 ARM AHB/APB)连接各 IP 模块。当芯片集成度从几个模块增长到几十个乃至上百个异构 IP 时,共享总线变成了交通堵塞的单车道公路:

  • 带宽瓶颈:总线同一时刻只能服务一对主从设备,仲裁开销大;
  • 不可扩展:每增加一个模块,时序收敛和物理布线难度指数增长;
  • 功耗爆炸:长距离线驱动全总线翻转,无效功耗高。

NoC 用包交换+分布式路由替代集中式仲裁,将”总线”升级为”网络”——类似于从单条电话线升级到互联网。每个 IP 通过网络接口(NI/NIU)接入,数据被打包成 flit(flow control unit)逐跳路由到目的地。

产业格局概览

NoC IP 市场呈**“两超多强”**格局:

阵营代表定位
处理器 IP 巨头内嵌ARM(AMBA CHI/AXI 互联、CMN 系列)随 ARM CPU/GPU IP 一起授权,生态绑定
独立 NoC IP 厂商Arteris(纳斯达克:AIP)纯 NoC IP,支持异构 SoC,与 ARM 竞争/互补
EDA 巨头延伸Synopsys(DesignWare NoC)NoC 作为验证/实现工具链的一部分
自研NVIDIA、Apple、Google、Tesla、华为等顶级芯片公司自研 NoC,追求极致定制

AI 芯片时代,NoC 的重要性被重新定价:当算力容易堆叠、数据搬运成为瓶颈时,片内网络就是架构胜负手。

15 分钟专家深入

一、NoC IP 的核心价值主张

芯片设计公司面临一个经典的”Make vs. Buy”决策:

  • 自研 NoC:需要 20-50 人年投入,需要对物理设计、协议、验证全面把控,换来极致定制化。Apple、NVIDIA、Google 等顶级 fabless 选择此路。
  • 购买 NoC IP 授权:支付一次性授权费 + 按量产收取版税(royalty),获得经过流片验证的成熟方案,大幅缩短 TTM。绝大多数中型 SoC 公司(如联发科、紫光展锐、地平线等)选择此路。

据 Arteris 招股书/财报披露的商业模式,NoC IP 授权费通常为数百万至千万美元量级(视工艺节点和设计复杂度),版税率通常为芯片售价的低个位数百分比[Arteris SEC Filings]。

二、NoC 在 AI 芯片中的关键作用

AI 芯片的核心矛盾是**“算力密度增长远快于片上/片间带宽增长”**。NoC 在其中扮演的角色:

1. 训练芯片:片内 AllReduce / 数据搬运 大规模矩阵乘的拆分(张量并行、数据并行)要求多个计算簇之间高频交换中间结果。NoC 的拓扑(mesh/torus/ring)和路由算法直接决定了:

  • 片内 AllReduce 延迟
  • 计算单元利用率(带宽不足→计算单元等数据→利用率下降)

2. 推理芯片:带宽-功耗权衡 边缘推理芯片对功耗极度敏感,NoC 功耗可占 SoC 总功耗的 20-40%[行业估算,因设计而异]。在低功耗约束下实现足够带宽是核心挑战。

3. Chiplet 时代:NoC + Die-to-Die 接口 Chiplet 架构(如 AMD MI300 系列)将 die 间互联(如 UCIe、BoW)与 die 内 NoC 打通,形成统一的跨 die 通信平面。NoC IP 需要与 die-to-die PHY 协同设计。

三、技术架构层次

┌─────────────────────────────────────────────┐
│              应用层(DMA, 计算核)             │
├─────────────────────────────────────────────┤
│         协议层(AXI, ACE, CHI 事务)          │
├─────────────────────────────────────────────┤
│      网络接口层 NIU(协议转换, 包化/解包)     │
├─────────────────────────────────────────────┤
│     传输层(flit 切片, 流控, 信用管理)        │
├─────────────────────────────────────────────┤
│   路由层(XY路由/自适应路由, 虚通道VC管理)    │
├─────────────────────────────────────────────┤
│   拓扑层(Mesh / Ring / Torus / Tree / Crossbar)│
├─────────────────────────────────────────────┤
│         物理层(线网, 时钟, 电源域)           │
└─────────────────────────────────────────────┘

技术原理

1. 基本组成单元

一个典型的 NoC 由以下组件构成:

  [IP_A]──NIU──[Router]──[Router]──[Router]──NIU──[IP_B]
                  │          │          │
               [Router]   [Router]   [Router]
                  │          │          │
               NIU──[IP_C]  NIU──[IP_D]  NIU──[IP_E]

  4×3 Mesh 拓扑示例(12 个 Router,5 个 IP 接入点)
组件功能关键参数
NIU (Network Interface Unit)协议转换:将 AXI/CHI 事务拆解为 NoC flit 包,反之亦然;地址映射;QoS 标记支持的协议代(AXI4/AXI5/CHI-E等)、最大 outstanding 事务数
Router包交换:根据目标地址查路由表,将输入 flit 转发到正确输出端口端口数(通常 5 端口:N/S/E/W/Local)、虚通道(VC)深度、流水线级数
LinkRouter 之间的物理连线,承载 flit位宽(常见 128/256/512 bit)、频率
Transport/Flow Control信用(credit)或握手机制,防止缓冲区溢出信用深度、反压延迟

2. 关键技术机制

① Flit 切片与包化 AXI 事务(如一次 burst length 16 的 512-bit 传输)被 NIU 切成若干 flit:

  • Head flit:携带路由信息(目标地址、事务类型、QoS 标记)
  • Body flit:携带数据负载
  • Tail flit:标识包结束

Flit 位宽由物理设计权衡:更宽→更高带宽但面积/布线代价更大。

② 路由算法

算法特点适用场景
XY 确定性路由先沿 X 方向走,再沿 Y 方向走;无死锁,简单均匀流量的通用 SoC
自适应路由根据链路负载动态选路;降低拥塞但需防死锁流量模式不均匀的 AI 芯片
源路由(Source Routing)源端预计算完整路径,包头携带每跳方向低延迟、可预测延迟的场景

③ 虚通道(Virtual Channel, VC) 物理链路被时分复用为多条逻辑通道,每条 VC 有独立缓冲区。VC 的作用:

  • 解决 HoL 阻塞:一个包被阻塞不堵住同一物理链路上的其他包
  • QoS 实现:不同流量类分配不同 VC,保证关键流量延迟
  • 死锁避免:不同 VC 类使用不同路由规则

VC 深度(每条 VC 的 flit 缓冲数)是面积和性能的关键权衡点:更深→吞吐更高但 SRAM 面积大。

④ QoS 机制

  • 带宽分配(Bandwidth Regulation):令牌桶/漏桶整形,保证关键 master 的最低带宽
  • 延迟优先级(Latency Priority):高优先级 flit 通过分级仲裁优先获得输出端口使用权,而非打断正在传输的低优先级 flit
  • 仲裁策略:Round-robin、加权轮询、严格优先级混合

⑤ 一致性(Coherency) 对于多核 CPU + 共享缓存架构,NoC 需要承载一致性协议消息:

  • ARM CHI(Coherent Hub Interface) 协议:请求(REQ)、侦听(SNP)、响应(RSP)、数据(DAT) 四个独立通道,通过 NoC 传输
  • Arteris Ncore:支持硬件一致性域,可扩展到数百个 coherent agent
  • 一致性域的规模(参与 coherency 的 agent 数量)是关键规格

3. 物理实现挑战(先进工艺节点)

挑战说明
RC 延迟先进节点互连线电阻上升(铜/钴阻挡层占比增大),长距离 wire delay 增大,NoC 中继(repeater/寄存器切片)增多
布线资源竞争NoC 占用大量金属层资源,与信号布线、电源网络争夺 routing track
电压降(IR Drop)NoC 是”常开”逻辑,翻转率高,对供电网络提出要求
时钟域交叉(CDC)异构 SoC 多时钟域常见,NoC 需要优雅处理 CDC

据行业估算,NoC 互联网络可占 SoC 总 die 面积的 5-15%,在极端互联密集的设计中可能更高[行业估算]。

4. 带宽-延迟参数量级参考

参数典型量级说明
Flit 位宽128 – 512 bit取决于目标带宽和面积预算
单跳延迟1 – 4 cycle(流水线化 router)浅流水线(speculative cut-through)可低至 1 cycle
端到端延迟(4-hop mesh)~10 – 30 cycle取决于流水线深度、拥塞程度、是否跨时钟域
单链路带宽数十 GB/s – 数百 GB/s= flit_width × frequency,如 256b × 2GHz ≈ 64 GB/s
聚合带宽(全网)数百 GB/s – 数 TB/s所有链路带宽之和,实际有效带宽受流量模式限制

以上为行业中高端 SoC 的量级参考,具体值因设计目标差异极大,不作精确归属。


技术演进史

年代事件意义
~2000 年前共享总线时代(AHB、AXI)简单 SoC 足够,扩展性有限
~2000-2005学术界 NoC 概念提出(斯坦福 SPIN、ARM AMBA 多层互联)“将计算机网络理念搬到芯片上”
~2003ARM 发布 AMBA 3 AXI 协议多通道、乱序完成,为复杂互联奠基
~2006-2010Arteris 成立(2004 年,法国),推出 FlexNoC;Sonics 推出 SonicsMX独立 NoC IP 商业化起步
~2011ARM 发布 AMBA 4 ACE(AXI Coherency Extensions)硬件一致性协议标准化
~2013ARM 发布 AMBA 5 CHI 协议分层协议,面向大规模一致性域
~2014-2017Arteris 推出 Ncore(缓存一致性 NoC);Synopsys 推出 DesignWare NoCNoC IP 赛道竞争加剧
~2018Intel 收购 NetSpeed Systems(NoC 自动化设计工具)大厂开始重视 NoC 的设计自动化
~2019-2021AI 芑片爆发,数据中心 SoC die 面积增大、异构集成增多NoC 成为 SoC 架构的关键差异化因素
~2021Arteris 在纳斯达克上市(AIP)NoC IP 作为独立赛道获资本市场验证
~2022-2024Chiplet 架构兴起(AMD MI300、Intel Ponte Vecchio 后继),UCIe 标准化NoC + die-to-die 融合,“片上网络”扩展为”封装内网络”
~2024+ARM CMN-S3/S4(面向 Neoverse V3 等),Arteris FlexNoC 5/Ncore 5面向 AI/HPC 的 NoC 进一步演进:更高带宽、更大一致性域、chiplet 原生支持

技术路线对比

主流 NoC IP 方案对比

维度ARM CMN 系列Arteris FlexNoC / NcoreSynopsys DesignWare NoC自研(NVIDIA/Apple 等)
定位随 ARM CPU 生态绑定异构 SoC 通用 NoC IPEDA 工具链配套 IP极致定制
协议AMBA CHI / AXI支持 AXI/ACE/CHI/OCP 等多协议AXI/AHB/OCP私有协议
一致性CMN 内建 snoop filter,原生 CHINcore 独立一致性 IP,可搭配任意处理器需搭配第三方一致性方案完全自定义
拓扑灵活性主要 Mesh(CMN 系列)灵活(mesh/ring/star/torus 等)可配置完全定制
目标客户ARM CPU 为主的 SoC(高通、联发科、AWS Graviton 等)异构 SoC(汽车、AI、通信,如地平线、大唐等)使用 Synopsys 全流程的设计团队自研芯片巨头
工艺适配跟随 ARM CPU 路线图,先进节点优先支持多代工艺(从成熟到先进)跟随 Synopsys IP 路线与自家芯片同步
优势与 ARM 生态深度协同,一致性域成熟协议灵活,异构集成能力强工具链整合(VCS/Verdi 验证)无折中的极致性能
局限非 ARM 处理器接入受限需自行与处理器 IP 集成验证NoC 不是其核心竞争力投入巨大,仅顶级玩家可承受

总线 vs Crossbar vs NoC

特性共享总线CrossbarNoC
可扩展性差(master 数增加→仲裁复杂度暴增)中(N×N 端口数增长→面积 O(N²))优(分布式路由,面积/延迟近似线性增长)
带宽低(共享介质)高(并行连接)高(多路径并行)
面积中等
适用规模≤ 4-8 master≤ 16-32 端口数十至数百 agent
典型场景低端 MCU、IoT中等规模 SoC复杂 SoC、AI 芯片、数据中心

上下游

上游:NoC IP 依赖什么

环节依赖项
EDA 工具综合(Synopsys DC / Cadence Genus)、布局布线(Innovus/ICC2)、时序签核(PrimeTime)
工艺 PDK每个代工厂数每代工艺节点都需要 NoC IP 的工艺适配和物理表征
验证 IP协议验证(VIP)、形式验证工具
半导体代工NoC 的物理实现质量受代工厂工艺影响(互联 RC 特性、金属层资源)

下游:谁在使用 NoC IP

下游领域使用方式代表公司
手机 SoC集成于 AP 中,连接 CPU/GPU/NPU/ISP/Modem高通、联发科、三星 LSI
汽车 SoC连接 CPU/DSP/NPU/安全岛,需满足功能安全(ISO 26262)地平线、Mobileye、NXP、瑞萨
数据中心/AI 芯片连接计算阵列、HBM 控制器、PCIe/CXL 控制器AWS (Graviton/Trainium)、微软 Maia 等
通信基带连接 DSP 阵列、前/后端处理部分通信芯片厂商
IoT/边缘轻量级 NoC 替代总线中低端 IoT SoC

关键供应链关系

EDA 工具  ──→  NoC IP 厂商  ──→  SoC 设计公司  ──→  代工厂(TSMC/Samsung/SMIC)
  (Synopsys,      (Arteris,          (高通,         ──→  终端设备
   Cadence)        ARM,              联发科,
                   Synopsys IP)      地平线...)

关键指标

评估 NoC IP 优劣的核心技术指标:

指标定义重要性
聚合带宽(Aggregate BW)全网所有链路的有效带宽之和★★★★★ 直接决定数据搬运能力
尾延迟(Tail Latency)高负载下 flit 从源到目的的 P99 延迟★★★★★ AI 训练中 straggler 效应放大尾延迟影响
面积开销(Area Overhead)NoC 逻辑 + 缓冲区占用的 die 面积占比★★★★ 面积 = 成本
功耗效率每传输 1 bit 数据消耗的能量(pJ/bit)★★★★ 边缘/移动场景极关键
可扩展性支持的最大 agent 数量、最大聚合带宽★★★★ 数据中心芯片增长快
QoS 能力带宽保证、延迟隔离、优先级管理的精细度★★★★ 多租户/异构负载必需
一致性域规模可支持 coherent agent 的最大数量★★★ ARM CHI 生态核心规格
工艺覆盖支持的代工厂 + 工艺节点范围★★★ 影响 IP 生态广度
功能安全(FuSa)是否通过 ASIL-B/D 认证★★★ 汽车场景刚需
设计自动化程度拓扑/参数自动生成、性能分析、验证覆盖率★★★ 影响集成效率

供需与市场数据

市场规模(估算)

NoC IP 的精确市场规模较难独立统计,通常包含在”半导体 IP 市场”的子类中。

数据点数字来源
全球半导体 IP 市场(2023)约 70-75 亿美元IPnest / Gartner 行业报告 [行业报告]
接口类 IP(含 NoC、PHY、总线)占半导体 IP 市场约 20-25%IPnest 估算 [行业报告]
NoC IP 在接口 IP 中的占比定性判断:属于接口 IP 中增长较快的细分[未充分披露独立细分数据]
Arteris 年营收(2023)约 5000-6000 万美元量级Arteris 财报 [Arteris SEC Filings]
ARM 授权收入中 NoC 份额随 ARM CPU 一起打包,难以单独剥离[未充分披露]

需求驱动因素

  1. AI 芯片 die 面积增大:数据中心训练芯片 die 面积普遍 > 500mm²,互联复杂度剧增
  2. Chiplet 架构普及:die 间互联接口标准化(UCIe),需要 NoC 与 D2D 协同
  3. 汽车电子功能安全需求:ISO 26262 要求 NoC 具备诊断和冗余能力
  4. 先进工艺布线约束:7nm 以下金属层 pitch 缩小,互联 RC 剧增,需要更智能的 NoC 物理规划

供给约束

  • 先进节点适配:每代新工艺(N5→N3→N2)需要 NoC IP 重新物理优化,适配周期长
  • 验证复杂度:NoC 的正确性验证(死锁、活锁、QoS 合规)是重大工程挑战
  • 人才稀缺:精通 NoC 架构+物理设计+协议的复合人才极少

代表公司与资本映射

公司股票代码NoC 相关业务备注
ArterisAIP (Nasdaq)纯 NoC IP 厂商:FlexNoC(非一致性)、Ncore(一致性)、FlexWay稀缺的纯 NoC 标的;市值较小、流动性较低
ARM HoldingsARM (Nasdaq)AMBA 互联 IP(CMN、NIC 系列),随 CPU 生态授权NoC 收入嵌入整体授权模型,不可单独估值
SynopsysSNPS (Nasdaq)DesignWare 系列含 NoC IP;IP 业务占营收约 30%+NoC 为其 IP 业务的小子集
CadenceCDNS (Nasdaq)互联 IP + 验证 IP 能力重点在 EDA,NoC IP 非核心
NVIDIANVDA (Nasdaq)自研 NoC(NVLink on-die 部分、SM 间互联等)自用,不对外授权
高通QCOM (Nasdaq)自研 + ARM CMN 用于骁龙系列SoC 厂商视角
地平线机器人9660.HK (港股)汽车 AI 芯片使用第三方 NoC IP中国 AI 芯片公司代表

投资映射逻辑

  • 直接标的:Arteris(AIP)——目前公开市场唯一的纯 NoC IP 标的
  • 间接受益:ARM(NoC 生态繁荣带动授权增长)、Synopsys/Cadence(IP+EDA 协同)
  • 产业链映射:设计服务公司(如世芯、创意电子)做 SoC 集成时需采购 NoC IP

投资逻辑

看多逻辑

  1. “神经系统”不可或缺:任何复杂 SoC 都需要 NoC,不存在”不需要 NoC 的先进 AI 芯片”这种场景
  2. Chiplet 催化:Chiplet 架构下,die 间互联需要 NoC 前端连接 UCIe/D2D 接口,NoC 需求量倍增
  3. AI 芯片设计潮:全球涌现数十家 AI 芯片初创公司(Groq、Cerebras、SambaNova、壁仞、寒武纪等),多数不具备自研 NoC 能力,是 IP 授权的增量客户
  4. 汽车芯片功能安全:车规 SoC 对 NoC 有额外的功能安全验证需求,提升 IP 价值量
  5. 高壁垒:NoC IP 需要经过多轮流片验证积累,新进入者追赶周期长

看空/风险逻辑

  1. 市场天花板:NoC IP 毕竟是 SoC 成本的一小部分(IP 授权费 vs 芯片总成本),市场空间有上限
  2. 大客户自研风险:顶级客户(Apple、Google、NVIDIA)自研 NoC,不贡献 IP 授权收入
  3. ARM 绑定效应:ARM CPU 占主导的 SoC 通常优先选 ARM CMN,压缩独立 IP 厂商空间
  4. 行业周期性:半导体下行周期中,新芯片设计项目减少,IP 授权收入滞后受影响
  5. 标的稀缺:Arteris 市值较小,流动性不足,机构配置难度大

常见误读纠偏

误读 1:“NoC 就是总线的升级版,技术门槛不高”

纠偏:NoC ≠ 多层总线。总线是集中式仲裁,NoC 是分布式包交换网络。两者在死锁/活锁避免、QoS 保障、可扩展性、物理实现上有本质区别。设计一个能在先进工艺节点下达到目标带宽/延迟/功耗的 NoC,需要深厚的架构+物理设计协同优化能力。验证一个无死锁、无活锁、QoS 合规的 NoC,验证工作量可达数千万至数亿验证周期。

误读 2:“AI 芯片瓶颈只在算力(TOPS),NoC 不重要”

纠偏:AI 芯片的”Roofline”瓶颈往往不在计算端而在数据搬运端。以典型的大模型训练为例,矩阵乘(GEMM)的计算密度高,但 AllReduce 通信、权重/激活加载、梯度聚合 都依赖片内互联带宽。如果 NoC 带宽不足,计算单元利用率会从理论峰值大幅下降。实际芯片的”有效算力”(realized TOPS)与 NoC 性能强相关。

误读 3:“NoC IP 是标准化产品,各家方案差异不大”

纠偏:NoC IP 的差异化体现在多个维度——拓扑灵活性、QoS 精细度、一致性域规模、物理实现效率(每 bit 功耗/面积)、工艺覆盖广度、设计自动化能力。不同应用场景(手机 vs 汽车 vs 数据中心)对这些维度的侧重完全不同。例如,汽车场景要求 ASIL-B/D 功能安全认证,这是很多通用 NoC IP 不具备的。

误读 4:“先进工艺节点对 NoC 没有影响”

纠偏:恰恰相反,工艺微缩对 NoC 是双刃剑——晶体管密度提升允许更多路由逻辑和缓冲区,但金属线 RC 延迟增加线宽缩小导致单位长度电阻上升,使得 NoC 的物理实现(中继插入、时钟树、布线拥塞管理)变得更加困难。从 7nm 到 3nm,NoC 物理设计的复杂度显著提升,这也抬高了 IP 适配的工程成本。


学习路径

入门(建立直觉)

  1. ARM AMBA 规范概述(ARM 官网免费下载)——理解 AXI/ACE/CHI 协议基础
  2. 《Networks on Chips: Theory and Practice》(Jantsch & Tenhunen)——NoC 学术经典
  3. Arteris 技术白皮书(arteris.com/resources)——商业 NoC IP 的工程视角

进阶(理解机制)

  1. ARM CMN 技术参考手册(TRM)——了解业界最广泛使用的 NoC 实现细节
  2. “A Primer on Network-on-Chip”——IEEE 相关综述论文
  3. UCIe 规范(uciexpress.org)——理解 chiplet 时代 die-to-die 互联如何与 NoC 对接

高阶(架构决策)

  1. 研读 Hot Chips、ISSCC、VLSI Symposium 中 AI 芯片的互联架构论文
  2. 关注 Arteris 投资者日/Presentations——从商业视角理解 NoC IP 市场演变
  3. 对比研究 NVIDIA NVLink、Google TPU ICI(Inter-Chip Interconnect)——了解自研互联的设计权衡

一句话总结

NoC IP 是 SoC 内部数据流动的”神经网络”——在 AI 芯片算力容易堆叠、数据搬运成为核心瓶颈的时代,片上网络的带宽、延迟和功耗效率,直接决定了芯片的”有效算力”上限。


延伸阅读与来源

来源内容类型
ARM AMBA 规范(ARM 官网)AXI/ACE/CHI 协议详细定义官方规范
Arteris SEC Filings / Investor Relations商业模式、营收、客户案例公开财务数据
IPnest “Interface IP Survey”接口 IP 市场规模与份额分析行业报告
IEEE/ACM NoC 相关会议(NOCS, DAC, DATE)学术前沿学术论文
Hot Chips / ISSCC 会议论文顶级 AI 芯片的互联架构公开细节技术会议
UCIe Consortium 规范Chiplet die-to-die 接口标准行业标准
Benini & Micheli, “Networks on Chips”NoC 领域经典教材学术教材

本文硬规格均按”可查证来源或明确定性/估算表述”原则撰写。未注明具体数字的参数为行业中高端 SoC 的量级参考,具体值因设计目标差异极大。[行业估算]

source: 公开披露与公开资料整理 本页仅用于产业链学习、信息检索和研究辅助;不构成投资建议,不预测涨跌,不提供买卖、仓位或目标价建议。
完整概念页 复盘 13 节结构 公司投研页 沿产业链找到受益公司 投资课 把概念转成可跟踪模型