Telemetry
3 秒看懂
网络遥测(Network Telemetry)是从交换机、路由器、网卡/DPU 等网络设备中,以推送模式实时、连续、高精度地采集状态数据并输送至分析系统的技术范式。它替代传统 SNMP 拉取,通过流式推送(Streaming Telemetry)实现亚秒级感知,支撑闭环自动化、意图驱动网络与 AIOps。
3 分钟产业解释
传统网络监控以 SNMP 轮询为主,每隔 5–15 分钟拉拉计数器,数据稀疏、对 CPU 有压力,无法检测微突发(microburst)或毫秒级抖动。云数据中心、运营商骨干与 AI 集群要求毫秒/微秒级感知、逐跳路径追查、动态负载均衡与智能排障,倒逼行业转向推送式、模型驱动、高速采样的遥测。
产业技术栈一般分为四层:
- 数据面:交换机 ASIC 内的 INT(In-band Network Telemetry)/带内遥测、硬件时间戳、队列深度寄存器。
- 采集与传输层:gRPC/gNMI 协议、NETCONF+YANG Push(IETF RFC 8641)、OpenTelemetry 标准化管道。
- 处理层:流处理引擎(Kafka、Flink)订阅遥测流,实时关联事件,做窗口聚合。
- 应用层:容量规划、异常根因定位、意图保障闭环。
产业主导者来自云巨头与芯片原厂:Google 贡献的 gRPC/gNMI + OpenConfig 模型已成事实标准;Intel(Tofino)、Broadcom、Marvell、NVIDIA 在芯片中内嵌高级遥测功能;Cisco、Arista、Juniper 提供全栈遥测平台;电信领域 O-RAN 将遥测作为 RIC 近实时控制的基础。
技术原理
推送模式与模型驱动
传统 SNMP 的“管理者主动请求”被反转为“设备自主推送”。设备基于定时、阈值超限或事件变化主动发出遥测数据,极大减少无效传输。数据结构也从扁平 OID 升级为树形 YANG 模型,通过 gNMI.Subscribe 实现 ON_CHANGE(变化即推)或 SAMPLE(周期采样)模式。
带内遥测(INT)工作机制
INT 在数据包穿越网络时让交换芯片逐跳插入元数据,原理如下(以 P4 定义的典型模式为例):
数据包结构:[ 原始头部 | INT头部 | INT元数据栈 ]
INT头部包含指令位图(需采集哪些字段)。
元数据栈每跳追加:
- 交换机ID
- 入口/出口端口
- 纳秒级出口时间戳
- 队列深度/排队时延
- 丢包原因、自定义字段
关键细节:
- 插入开销:INT 头部约 12–20 字节,每跳元数据通常 16–32 字节,需考虑对 MTU 的影响。
- 硬件触发:可由每包、每流首包、1/N 采样率或队列深度阈值触发。
- 精度依赖:硬件时间戳精度可达纳秒级,依赖芯片内部 PTP 时钟同步。
后端数据流水线
遥测收集器(如 Cisco MDT、Telegraf、开源 gNMI网关)接收 INT 镜像包或 gRPC 流,拆解出带时间标签的事件序列,注入 Kafka 等消息中间件。Flink/Spark Streaming 执行窗口聚合(例如 1 ms 窗口内队列深度超过阈值即为微突发),结果写入时序数据库(ClickHouse、InfluxDB、Prometheus),最终通过 Grafana 等呈现并触发告警。
协议栈细节
- gNMI:基于 gRPC+Protobuf,提供
Capabilities, Get, Set, Subscribe四个操作。订阅支持STREAM、ONCE、POLL。 - NETCONF + YANG Push:IETF 推出的 XML-RPC 路径,RFC 8641 定义了订阅推送机制,支持周期性与按变化推送。
- IPFIX/NetFlow v9:侧重流量统计导出,采样率有限,无法提供逐跳排队细节。
- OpenTelemetry:定义统一的采集规范,网络遥测可作为 OTel 的信号源,将指标、日志、跟踪关联。
大规模系统的挑战
- 数据量:中等规模数据中心一台交换机每秒可产生上万条遥测记录,需要高效 Protobuf 序列化与压缩。
- 后端存储:海量事件面向时序写入与快速查询,常用分布式时序数据库。
- 芯片差异:不同代际芯片的 INT 深度、监控寄存器数量差异巨大,P4 可编程芯片可定制,但商用固定功能芯片功能受限。
关键参数
以下参数直接影响遥测系统的表现与成本,具体数值受芯片型号、软件版本和部署规模约束。
- 单交换机订阅密度:可并行维持的 gNMI 订阅数量,主流平台支持数百到数千个(例:部分平台宣称支持 500 个 ON_CHANGE 订阅,公开资料未对全部厂商验证)。
- 最小推送间隔:SAMPLE 模式最短周期通常为 1–5 秒;亚秒级推送需硬件辅助(如 Broadcom Jericho3 可提供毫秒级快照)。
- 单跳可收集的元数据字段数:INT 指令位图决定,商用芯片通常支持 6–12 跳堆叠,每跳包含交换机 ID、端口、时间戳、队列深度等;P4 可编程芯片堆叠深度不受此限。
- 端到端处理延迟:从数据产生到分析平台可视化的滞后,轻载时可控制在百毫秒级,大规模部署中常需 1–5 秒(来源:Cisco Live 2023 演讲《MDT in Production》,NANOG 87 用户案例)。
- 吞吐与扩展:单收集器进程 gNMI 流吞吐约数十万条/秒(公开资料未见普遍基准,取决于 Protobuf 编码复杂度和压缩)。
技术路线
| 维度 | 传统 SNMP 轮询 | 流式遥测(Streaming Telemetry) | 带内遥测(INT) |
|---|---|---|---|
| 数据获取 | 拉取(poll) | 推送(subscribe) | 数据面主动插入 |
| 实时性 | 分钟级 | 亚秒~秒级 | 微秒~纳秒级 |
| 数据模型 | 扁平 OID/MIB | YANG 树模型,结构化 | 包内自定义元数据 |
| 网络开销 | 每设备轮询连接 | gRPC/HTTP2 多路复用,增量推送 | 随包增加开销 |
| 元数据深度 | 接口计数器、错误数 | Buffer、QoS 队列、BGP 状态等 | 逐跳排队时延、丢包原因、E2E 链路追踪 |
| 标准化程度 | 成熟(MIB-II) | 高(OpenConfig、IETF YANG) | 厂商/社区(P4 INT spec v2.1) |
| 适用场景 | 传统企业网 | 云数据中心、运营商骨干 | AI 集群、高频交易、高性能计算 |
路线演进已从“事后采集”走到“实时推送”再到“数据路径内联感知”。未来 DPU/IPU 将把遥测边界推向主机网络栈和 RDMA 队列。
上游
上游核心是制造网络芯片、DPU、光模块等硬件的供应商,其技术能力决定遥测的原始数据丰富度。
- 交换芯片:Broadcom(Jericho3、Trident 系列)支持硬件表项导出、缓存监控、镜像;Intel Tofino(现归属 Intel,2023 年后路线图不确定性上升,公开资料未见后续新代际明确计划);Marvell(Prestera、Falcon)与 Cisco Silicon One 提供 INT 触发、流表导出。
- DPU/IPU:NVIDIA BlueField-3 / ConnectX-7 支持 RDMA 队列遥测、拥塞控制统计;Intel IPU(Mount Evans)可卸载网络遥测收集;Marvell Octeon 10 DPU 提供类似能力。
- SmartNIC 与光模块:光模块的诊断接口(DMI/DDM)可上报光功率、温度、误码率等物理层指标,构成全栈遥测的 L0 层数据源。
下游
下游为采集、处理、分析及应用平台,消费遥测数据形成运维决策与闭环控制。
- 采集与传输:Telegraf、Cisco MDT、Arista TerminAttr、Juniper JTI、开源 gNMI 网关(如
gnmi-gateway)、OpenTelemetry Collector 网络插件。 - 可观测性与存储:Prometheus + Thanos / Mimir、Grafana; Datadog 网络观测模块;ClickHouse、InfluxDB 等时序存储。
- 网络分析/AIOps:Cisco Crosswork、Arista CloudVision、Juniper Paragon Insight、Kentik、SevOne,以及基于 ML 的异常检测平台(Augtera、Anodot 等)。
- 闭环控制:应用遥测事件触发控制器(如 SDN 控制器)通过 gNMI Set 或 P4Runtime 调整 QoS 队列、路由策略、拥塞控制参数。
受益公司
以下分类基于公开产品组合与市场地位,不构成任何投资建议。
- 芯片厂商:Broadcom(多数交换机 OEM 采用其芯片,遥测特性持续迭代);NVIDIA(Spectrum-4 + BlueField/ConnectX DPU 强化端到端网络计算);Intel(虽 Tofino 路线未明,IPU 与以太网产品仍集成遥测)。
- 网络设备商:Cisco(Catalyst/Nexus/ASR + Crosswork 闭环);Arista(EOS + TerminAttr + CloudVision 软件驱动);Juniper(Junos JTI + Mist AI);华为(NetEngine/CloudEngine 支持 YANG Push 与 iFIT 随流检测);H3C(SeerAnalyzer)。
- 开源/独立软件:Grafana Labs(可观测栈);Kentik(云网络流量遥测);Aviz Networks(SONiC 生态);Flowmon/Progress(NetFlow/IPFIX 分析)。
- 云厂商自研:Google(B4 SDN、gRPC/OpenConfig 发起方);Microsoft(Azure Boost DPU、SONiC 遥测);AWS(自研交换机芯片及内部遥测系统);Meta(FBOSS + 自有监控)。
市场规模
网络遥测作为网络可观测性与 AIOps 的子赛道,其独立市场规模尚缺乏统一口径。公开资料未给出精确一致的数字,可综合参考以下间接数据:
- 根据 Gartner《Market Guide for Network Performance Monitoring and Diagnostics》(2023 年 12 月),网络性能监控与诊断工具市场 2023 年预估约 22 亿美元,年增长约 10%。该市场涵盖 SNMP 与流遥测功能,但不完全对应纯遥测软件。
- 根据 IDC《Worldwide ITOA and AIOps Software Forecast, 2023–2027》,全球 IT 运营分析软件(含网络分析)2022 年市场约 48 亿美元,预计 2027 年达 85 亿美元,CAGR 约 12%。遥测采集和存储是该市场的重要组成部分。
- 第三方机构(如 650 Group)在 2023 年发布的报告中指出,数据中心交换机市场持续增长,其中支持高级遥测的高端设备占比提升,推算遥测相关芯片与软件机会复合年增长率超 20%。
- 综合多家定性描述,2023 年网络遥测整体市场规模(含硬件、软件、服务)估算在 十亿至数十亿美元 区间,且预计今后 5 年保持 >20% 的复合增长率。因各机构划分边界不同,具体数字仅供参考,建议查询最新 IDC、Gartner 或 650 Group 专项报告。
玩家对比
| 厂商 | 代表产品/方案 | 关键遥测能力 | 模型与协议 | 主要客户/生态 |
|---|---|---|---|---|
| Cisco | ASR 9000/NCS、Crosswork、MDT | 模型驱动遥测、闭环自动化,收购 ThousandEyes 增强互联网路径可视性 | OpenConfig、IETF YANG、gRPC、NETCONF | 大型企业、运营商 |
| Arista | EOS + TerminAttr、CloudVision | 软件驱动、开箱即用 Telemetry agent,分析平台自动异常关联 | OpenConfig、gNMI、Sysdb | 数据中心、云提供商、金融 |
| Juniper | Junos JTI、Paragon、Mist AI | 结合 Mist AI/ML 的异常检测与根因推荐,无线/有线统一 | OpenConfig、IETF YANG、gRPC、JTI 原生 | 运营商、校园网 |
| NVIDIA | Spectrum-4、BlueField-3、ConnectX-7 | 逐包级 INT、DPU 端到端遥测,面向 AI 超算的微秒级感知 | P4 INT、gRPC、带内遥测扩展 | 超大云、HPC、AI 集群 |
| Broadcom | Jericho3/Trident5 芯片(供多 OEM) | 硬件上支持多级 INT、缓存监控、流镜像 | 芯片 SDK,伙伴实现协议层 | 全产业交换设备覆盖 |
| 华为 | NetEngine/CE、iMaster NCE | iFIT 随流检测,毫秒级监测,支持端到端路径重构 | 自研 YANG 模型,兼容 OpenConfig | 运营商、政企 |
| 独立软件 | Kentik、Aviz、Augtera | 异构环境遥测分析、AI 异常检测、多厂商 SONiC 分析 | 多协议接入(gNMI、IPFIX、NetFlow) | 多云用户、SaaS |
对比说明:芯片与设备商侧重硬件集成和平台锁定;独立软件商主打异构兼容与智能运维。公有云厂商自研路线(AWS、Azure、Google)虽未对外直接售卖,但定义事实标准,对商业厂商形成压力。
风险
- 标准碎片化:OpenConfig、IETF YANG、厂商原生 YANG 三套模型并行,导致适配成本高,互操作性差。例如部分厂商
interfaces模型与 OpenConfig 接口不兼容。 - 协议迁移阻力:大量存量网络仍依赖 SNMP,短期无法全面替换为 gNMI,长期面临双栈运维负担。
- 数据洪流成本:亚秒级高频遥测产生的数据量巨大,后端点时序数据库与流处理集群的采购和运营成本激增,可能侵蚀收益。
- 自研内化风险:超大规模云厂商(Google、Amazon、Meta)自研交换机、DPU 及遥测系统,使商业软件和传统设备商在该市场领域面临天花板。
- 安全与隐私:遥测包含详细流量特征和拓扑信息,若传输未加密(gRPC 通常基于 TLS,但部署中忽视证书)或分析平台权限管控不足,可能造成敏感信息暴露。
- 闭环控制误动作:基于遥测的自动策略调整可能因数据异常或模型幻觉引发网络故障,生产环境仍以人工审核为主,闭环商用成熟度有限。
误读纠偏
误读 1:“Streaming Telemetry 就是高频 SNMP。” 纠正:SNMP 为拉模式,使用 OID 扁平结构,依赖管理器定时请求;流式遥测是推送模式,采用层次化 YANG 模型,支持 ON_CHANGE 事件和增量更新,数据丰富度和带宽效率显著提高。两者在架构、协议、数据模型上完全不同。
误读 2:“有遥测就能实现全自动闭环运维。” 纠正:遥测提供感知基础,闭环还需决策引擎(ML 模型、策略)和执行通道(控制器),且要解决干预速度与业务安全的矛盾。当前多数现网仅实现“告警+建议”,最终动作多由人工审批后下发。
误读 3:“INT 带内遥测没有成本,随包携带数据即可。” 纠正:INT 会在数据包中插入元数据,增加包长,可能引发 MTU 分片或挤压有效载荷,需要全网升级支持 INT 头解析,部署成本与技术复杂度不低,目前主要用于小范围高性能场景。
最新事件
- 2023 年 9 月:思科宣布以约 280 亿美元收购 Splunk,旨在强化端到端全栈可观测性与安全分析,将 Splunk 平台与 Cisco 遥测数据深度整合(来源:Cisco 官方新闻稿)。
- 2023 年 11 月:Arista 发布 CloudVision 2023 版本,增强基于遥测的拓扑感知与爆炸半径分析,集成 GPU 失联网络故障定位(Arista 年度分析师日)。
- 2024 年 2 月:NVIDIA 宣布 Spectrum-4 交换机大规模量产,提供自适应路由和纳秒级遥测,用于 AI 工厂连接(NVIDIA 2024 财年 Q4 电话会议)。
- 2024 年 3 月:SONiC 社区版本 202311 发布,优化 gNMI 订阅稳定性和遥测压缩功能,强化多厂商 DPU 遥测适配(SONiC GitHub Release Notes)。
- 2024 年 4 月:OpenTelemetry 网络工作组提出 Network Metric Semantic Conventions 草案,统一网络指标、流日志和事件的属性定义(OTel GitHub 仓库)。
- 2024 年 5 月:微软 Ignite 披露 Azure Boost 中 DPU 遥测架构,通过 INT 和队列分析减少尾部延迟,用于 GPT 等大规模推理(Microsoft Azure 官方博客)。
- 2024 年 6 月:Broadcom 在行业会议上介绍 Jericho3-AI 芯片特性,支持深度 INT 和端到端传输质量监控,对比 InfiniBand 强调可见性优势(Broadcom 技术峰会演示)。
跟踪指标
- 设备遥测功能启用率:主流交换机/路由器出货中默认启动 Streaming Telemetry 的百分比(参考厂商财报技术章节、社区调查)。
- gNMI 订阅部署规模:公开案例中的单集群订阅数、节点数,反映生产化程度(如 Netflix、Facebook 有分享相关技术博客)。
- OpenTelemetry 网络贡献者活跃度:GitHub 网络相关仓库的 Commit、PR 数量,衡量标准化进展。
- 芯片代际 INT 支持:Broadcom、NVIDIA、Marvell 等芯片路线图中 INT/带内遥测的堆叠深度、采样精度是否提升。
- 网络 AIOps 初创融资:Crunchbase 等数据中网络智能运维赛道种子轮/A 轮融资笔数与金额,反映资本热度。
- 云厂商自研 DPU 遥测功能开源比例:AWS Nitro、Azure Boost、Google IPU 相关遥测技术对社区的开放程度。
- 标准互操作测试次数:IETF Hackathon、OpenConfig Plugfest 等活动中多厂商互操作测试的结果和覆盖率。
信源
- IETF YANG Push: RFC 8641, RFC 7950
- OpenConfig gNMI Specification: https://github.com/openconfig/gnmi
- P4 INT Specification v2.1: https://p4.org/p4-spec/docs/INT_v2_1.pdf
- Google Streaming Telemetry 系列博客(搜索 “Streaming Telemetry – The Next Generation of Network Monitoring”)
- SONiC Telemetry 文档: https://github.com/sonic-net/SONiC
- Cisco MDT 技术白皮书与 Cisco Live 演讲(BRKARC-3000 等)
- Arista EOS TerminAttr 文档与 CloudVision 发布说明
- Juniper Junos Telemetry Interface 用户指南
- NVIDIA Spectrum-4 与 BlueField DPU 技术简报
- Gartner《Market Guide for Network Performance Monitoring and Diagnostics》(2023 年 12 月)
- IDC《Worldwide ITOA and AIOps Software Forecast, 2023–2027》(2023 年 6 月)
- 650 Group 数据中心交换机市场报告(2023 年 Q4)
- NANOG 社区会议演讲(NANOG 87、88 关于生产遥测的案例)
- OpenTelemetry Network Semantic Conventions: https://github.com/open-telemetry/semantic-conventions