因果注意力

3 秒看懂

因果注意力是 Transformer 解码器的核心运算规则：通过强制每个位置只能“看见”当前及之前的输入，杜绝了“偷看未来答案”的可能性，从而确保自回归生成任务在训练与推理两个阶段行为完全一致。简单讲，就是模型在每一步生成时，只能依据已经写出来的内容决定下一个词。

3 分钟产业解释

可以把因果注意力理解为一个人按顺序写句子：每次落笔时，只能参考已经写好的部分，不能翻到后面去看还没写的内容。在 GPT 这类自回归语言模型中，训练阶段严格遵守同一规则——模型必须从前文预测下一个词，不能提前获取标准答案。进入 2024 年后，千亿乃至万亿参数大模型的训练与推理几乎全部建立在因果注意力之上，它直接决定对话的连贯性、代码补全的准确性以及整个生成式 AI 产品的可用性。

产业界对因果注意力的优化，已成为降低大模型推理成本的关键战场。以 FlashAttention 系列算法为代表的分块计算方案、以 vLLM 的 PagedAttention 为代表的 KV 缓存管理技术，均是在“遵守因果约束”这一前提下挖掘计算效率。OpenAI 在 2024 年底发布的 o3 模型推理链中，Anthropic 的 Claude 系列在处理超长上下文时，其底层均严格依赖因果注意力构建逐 token 生成的逻辑一致性。可以认为，只要自回归生成范式仍是主流，因果注意力就是连接算法、芯片、推理框架和终端体验的基础契约。

技术原理

数学定义与掩码机制

因果注意力的数学实质，是在标准自注意力权重矩阵上叠加一个下三角掩码，使矩阵上三角区域的值被置为负无穷，经 softmax 归一化后权重归零。给定序列长度 n、查询矩阵 Q、键矩阵 K、值矩阵 V，以及键向量维度 d_k，因果注意力的计算为：

text(Attention)(Q, K, V) = text(softmax)\left( frac(QK^T)&#123;sqrt(d_k)&#125; + M \right) V

其中 M 是因果掩码矩阵，元素 M_{ij} = 0 当且仅当 j \leq i，否则 M_{ij} = -\infty。经过 softmax 后，所有“未来”位置的注意力权重严格为零，从而保证位置 i 的输出仅依赖于位置 1 至 i 的信息。

掩码的具体形式

以一个长度为 4 的序列为例，因果掩码的允许注意力图如下（1 表示允许注意，0 表示被屏蔽）：

i\j  0  1  2  3
 0   1  0  0  0
 1   1  1  0  0
 2   1  1  1  0
 3   1  1  1  1

在实际深度学习框架（如 PyTorch）中，通常构造一个下三角矩阵，将上三角位置填充为极大的负数（如 -1e9 或 -65504），相加后经 softmax 即可自动归零；也可直接实现一个仅计算下三角注意力的算子，从根本上节省约 50% 的浮点运算量。

与自回归任务的理论联系

因果注意力本质上等价于自回归分解 p(x) = \prod_{t=1}^{N} p(x_t \mid x_{<t}) 的并行化训练实现。训练时，整个序列被一次性输入模型，因果掩码确保每个位置 t 只能以 x_1,\ldots,x_{t-1} 为条件来预测 x_t；推理时，模型逐 token 生成，每步仅需计算新 token 对所有历史 token 的注意力。训练与推理的行为严格一致，这是因果注意力相较双向注意力不可替代的优势。

高效计算：分块与内核融合

标准实现中，因果注意力的 O(n^2) 空间复杂度来自中间注意力矩阵的显式实例化。FlashAttention 系列算法通过“分块+重计算”策略，将整个注意力矩阵切分为若干小块，在高速缓存内完成局部计算，从而避免了完整注意力矩阵的访存。在其因果模式中，算法进一步利用掩码的三角特性：仅计算下三角块，上三角块自动跳过。据公开数据，FlashAttention-2 因果模式在大规模序列上可实现接近 2 倍的加速，同时对显存的占用大幅下降。

关键参数

序列长度 `N`

序列长度直接决定因果注意力的计算与存储开销。标准实现的浮点运算量为 O(N^2 d)，显存占用为 O(N^2)（多头叠加后更显著）。因果掩码虽在理论上只使用约一半的注意力分数，但朴素实现并不能减少矩阵乘运算量；只有在专门优化的实现（如 FlashAttention 因果模式、xFormers 等）中才能兑现这一节约。2024 年，主流大模型支持的上下文长度已从数万 token 扩展至 128K（如 GPT-4 Turbo）、200K（Claude 3 系列），甚至部分模型宣称支持 1M token，其背后都依赖 FlashAttention 等对长序列因果注意力的极致工程优化。

注意力头数 `h` 与头维度 `d_k`

多头注意力将 Q, K, V 拆分为 h 个头，每个头独立计算因果注意力。各头间因果掩码完全相同，因此多头机制并未改变因果性质。头数 h 与头维度 d_k 的乘积决定了每层的总计算开销。2023-2024 年，产业界较有共识的经验是：在模型参数量固定下，适度增加头数（如从 32 扩展至 64）可提升长尾模式捕获能力，但也会增加 KV 缓存的存储压力。

KV 缓存长度 `L`

推理阶段，已生成 token 的键 K 和值 V 被存入显存，新 token 仅需与缓存中的 K, V 交互。KV 缓存的长度 L 随生成步骤线性增长，成为推理显存的主要占用来源。以 7B 参数模型、8K 上下文为例，KV 缓存在 16 位精度下可占用数 GB 显存。产业界围绕 KV 缓存展开了一系列压缩方案，如分组查询注意力（GQA）、多查询注意力（MQA）、PagedAttention 等，均是为了在保持因果注意力的数学等价性前提下削减缓存体积。

批量大小与吞吐

训练时，批量大小与序列长度共同决定显存占用；推理时，服务端通常通过动态批量（continuous batching）将多个请求拼合，使底层因果注意力计算达到更高利用率。由于不同请求的序列长度不同，因果掩码必须按请求独立构建，这要求推理框架具备细粒度的掩码管理能力。vLLM（开源，UC Berkeley 团队维护，截至 2024 年底已广泛应用）在调度层面对此做了系统优化。

技术路线

纯解码器因果注意力

以 GPT 系列（OpenAI）、Llama 系列（Meta）为代表：彻底舍弃编码器，仅堆叠带有因果掩码的自注意力层。这是 2024 年最主流的技术路线，已被证明在语言建模、对话、代码生成等任务上高度可扩展。纯解码器架构的训练目标是标准的自回归语言建模，其损失函数天然适配因果注意力。

编码器-解码器交叉注意力中的因果掩码

以 Google 的 T5、DeepMind 的 Gopher 等为代表：编码器使用双向全注意力，负责理解源序列；解码器在自注意力层使用因果掩码，在交叉注意力层关注编码器的所有位置。该路线在翻译、摘要等“输入-输出”对明确的任务上仍有竞争力，但因训练管线复杂度高、难以统一预训练目标，在通用大模型竞赛中占比逐渐下降。

稀疏/块状因果注意力

为了进一步降低复杂度，出现了一批对因果掩码做结构化稀疏的方案。例如，Sparse Transformer（OpenAI, 2019）在序列长度方向引入固定步长的局部注意力与全局注意力的组合；Blockwise Attention 将序列分为若干块，块内进行全连接双向注意力，块之间使用因果连接。这些方法可将计算量降至 O(Nsqrt(N)) 或更低，但因长程依赖可能受损、训练实现复杂，至今未成为主流大模型的默认选择。

混合架构中的因果注意力

2024 年，部分前沿模型开始在部分层替换因果注意力为状态空间模型（SSM）或线性注意力，形成混合架构。代表如 Jamba（AI21 Labs）、Mamba-2（Albert Gu, Princeton & CMU），它们在部分层使用选择性扫描或线性注意力，以获取接近线性的复杂度。然而，在最关键的语言建模层，因果注意力仍承担主要角色。该路线的核心逻辑是：在保持因果约束的前提下，用更轻量的层替代一部分注意力层以压缩成本。该路线仍在快速发展中，其最终效果的边界尚未完全清晰。

上游

基础模型架构供应

因果注意力直接嵌入于 Transformer 解码器块中，是 GPT、Llama、Gemini、Claude、Mistral 等所有自回归大模型的“心脏部件”。这些模型的架构设计（层数、头数、维度）决定了因果注意力的具体计算规模与瓶颈位置。Meta 的 Llama 3.1 系列（2024 年 7 月发布）、OpenAI 的 GPT-4o（2024 年 5 月发布）等均采用因果注意力为核心机制，其模型结构与权重文件对全球 AI 生态有基础性影响。

预训练数据供给

自回归预训练以海量文本序列作为输入，因果注意力隐式地从数据中学习语言的方向性分布。数据的清洗、配比、去重直接决定模型质量。截至 2024 年，Common Crawl 经 FineWeb 过滤（HuggingFace 维护）后成为主流开源预训练数据集之一，训练数据规模动辄达 15 万亿 token 级别（如 Llama 3.1 的训练数据量约为 15.6T token，来源：Meta 官方技术报告, 2024 年 7 月）。数据的序列化顺序本身就是因果注意力依附的“时间箭头”。

训练框架与编译器

PyTorch（Meta AI）、JAX（Google）等框架内置了 masking API，允许用户通过 torch.nn.functional.scaled_dot_product_attention 等接口直接传入因果掩码或指定 is_causal=True。JAX 的 flax.linen.self_attention 同样原生支持。底层，NVIDIA 的 cuDNN 和 CUDA 生态提供了高度优化的矩阵乘内核，为因果掩码下的高效计算打下基础。

硬件芯片

NVIDIA 的 H100、H200、B200 等 GPU（2023-2024 年陆续量产）凭借 Tensor Core 和 Transformer Engine，能高效执行基于 FP16/BF16/FP8 的因果注意力运算。截至 2024 年底，H100 仍是大模型训练的主力芯片，单卡 80GB HBM3 显存足以承载中等规模的模型因果注意力前向/反向运算。AMD 的 MI300X 与 Intel 的 Gaudi 3 也在 2024 年加入支持，但生态成熟度仍有差距。自研芯片方面，Google TPU v5p（公开发布于 2023 年底）针对因果注意力中的矩阵乘—softmax—矩阵乘模式做了专用流水线优化；Groq 的 LPU 架构使用确定性流式调度，因果掩码可在编译器层面完成裁剪。

下游

对话式大模型推理

ChatGPT、Claude、Gemini、文心一言、通义千问等对话产品，每一次回答的生成过程均完全依赖因果注意力的逐 token 逻辑。推理时，系统将对话历史编码为 KV 缓存，在生成新 token 时通过因果注意力读取历史。因果注意力保证了多轮对话的逐轮新增信息不“污染”历史应答的因果方向。

代码生成与补全

GitHub Copilot（Microsoft/OpenAI）、Cursor、Codeium 等代码辅助工具将代码视作严格从左到右的文本序列，因果注意力天然契合这一方向性：补全时，模型只能看到光标之前的文本及光标所在行的前几个字符，完全对应因果注意力的单向特性。截至 2024 年，GitHub Copilot 已服务超过 150 万开发者（据微软 2024 年财报电话会议披露，付费用户数较 2023 年显著增长，具体同比增量未拆分），其底层大模型推理的因果注意力计算量在代码生成这个细分市场中占据重要份额。

多模态生成中的自回归解码

自回归图像生成（如 DALL·E 系列的部分变体、Parti）、自回归语音合成（如 VALL-E 系列）、视频预测模型中，像素/音频 token 的逐帧预测同样使用因果注意力作为时序建模手段。例如，VQGAN 的 Transformer 解码器在生成图像 token 序列时，按光栅扫描顺序逐 token 预测，因果掩码保证了从左到右、从上到下的序列依赖。

具身智能与决策推理

在强化学习、具身智能（如 RT-2、Octo）和规划系统中，智能体的行为是一系列动作构成的时序序列，因果注意力被直接用来自回归地建模动作分布，或作为 World Model 内部的状态转移推断器。因果约束使模型在预测下一步动作时不能“看到”尚未执行的动作或反馈，这是物理时间箭头在算法中的投影。

受益公司

基础模型厂商

OpenAI：GPT-3.5/4/4o/o1/o3 系列全线基于因果注意力。高效的推理部署与低延迟生成是其商业化关键，截至 2024 年 10 月，OpenAI 完成新一轮融资，估值达 1570 亿美元（来源：Bloomberg 2024 年 10 月报道）。因果注意力相关工程优化被视作其推理降本的核心能力之一。
Anthropic：Claude 3 系列（2024 年 3 月发布）以 200K 上下文窗口为卖点，长上下文的因果注意力优化是技术护城河。截至 2024 年底，Anthropic 估值约 400 亿美元级（据 The Information 2024 年 11 月报道，亚马逊追加投资 40 亿美元后估算）。
Google DeepMind：Gemini 系列使用因果注意力配合多查询注意力，充分适配 TPU 硬件特性。Gemini 1.5 Pro（2024 年 2 月发布，同年 12 月更新至 1.5 Flash/Pro 新版）的 1M token 上下文窗口是因果注意力高效实现的前沿展示。
Meta：Llama 3.1 系列（2024 年 7 月发布，8B/70B/405B 三个尺寸）将因果注意力与分组查询注意力结合开源，直接推动下游推理生态（如 Groq、Fireworks、Together AI）的技术栈统一。

推理框架与中间件厂商

Anyscale / vLLM 社区：vLLM 是应用最广泛的开源大模型推理框架之一（GitHub Star 数 2024 年超 30K），其对 PagedAttention 的工程实现高度依赖因果注意力的 KV 缓存特性，成为高性能推理部署的事实标准之一。
Fireworks AI、Together AI：2024 年获得较高融资估值的推理平台（据 Crunchbase 数据，Together AI 2024 年估值超 20 亿美元，Fireworks AI 未公开披露），其延迟与成本的竞争力很大程度上来自于对因果注意力内核的定制优化。

芯片厂商

NVIDIA：通过 TensorRT-LLM、cuDNN 对因果注意力内核的深度整合，保持其在大模型推理卡市场 80% 以上的份额（据 Mercury Research 估算 2024 年数据中心 AI 加速器出货，但独立第三方口径公开数据未统一）。CUDA 生态下因果注意力的优化程度直接影响客户部署成本。
Groq：自研 LPU 芯片凭借确定性流式架构，在因果注意力层面实现了极高的 token/s 吞吐，2024 年因公开演示极速大模型推理而受广泛关注，但营收尚未公开披露。

市场规模

截至 2024 年底，因果注意力并未作为一个独立品类被第三方机构（如 Gartner、IDC）统计市场规模。其商业价值完全内嵌于大语言模型训练与推理基础设施市场。以下为相近口径的城市场规模估算：

大模型训练市场：据 Fortune Business Insights 2024 年报告，全球生成式 AI 市场 2023 年规模约 438.7 亿美元，预计 2024 年达约 670 亿美元，2024-2032 CAGR 约 39%。训练侧因果注意力的计算需求与模型参数规模和训练 token 数成正比。
大模型推理市场：据 SemiAnalysis 2024 年估算，2024 年全球 AI 推理支出（含芯片与云计算）或超 600 亿美元。因果注意力的优化程度直接决定推理成本的盈亏线，是推理服务商获客边际成本的核心变量。
AI 加速芯片市场：据 Mercury Research 2024 年报告，2024 年数据中心 AI 加速器出货按收入预计超 1100 亿美元（不含消费级），NVIDIA H100/H200/B200 系列是主力，均配备因果注意力专用优化单元。因果注意力在训练负载中约占 30%-45% 的计算时间（公开技术博客估算，来源：FlashAttention 论文及 NVIDIA 技术博客），在推理负载中（尤其长上下文场景）占比可达 50% 甚至更高，优化其效率等于节省对应比例的芯片采购与电力成本。

玩家对比

闭源商业模型与因果注意力实现路线差异

维度	OpenAI（GPT-4/4o）	Google DeepMind（Gemini 1.5）	Anthropic（Claude 3.5）	Meta（Llama 3.1）
上下文长度（2024 年）	128K token（GPT-4 Turbo）	1M token（Gemini 1.5 Pro）	200K token	128K token
注意力变体	未公开（推测 GQA 或类似机制）	MQA（多查询注意力）	未公开	GQA（分组查询注意力）
KV 缓存策略	内部闭源实现	针对 TPU 定制	闭源，深度绑定内存管理	开源，vLLM 等框架广泛适配
因果注意力推动的特色能力	复杂推理、结构化输出	极小文件检索、长文档分析	长上下文代码分析	开源长上下文选项丰富生态
推理成本（公开价格，2024Q4）	输入 $2.5/百万 token 起	输入 $1.25/百万 token 起	输入 $3/百万 token 起	（需第三方推理服务定价）

注：表格价格来源——OpenAI 公开 API 定价页（2024 年底）；Google AI for Developers 公开定价页（2024 年 12 月）；Anthropic 官方定价页（2024 年 11 月）；Meta 模型本身不提供推理服务。具体技术细节（如是否完全使用原始因果注意力或变体）各厂商未详尽披露，以上基于公开技术报告与合理推断。

开源推理框架在因果注意力优化上的对比

框架	核心因果注意力优化技术	主要支持硬件
vLLM	PagedAttention，动态批量，因果掩码按块处理	NVIDIA GPU（CUDA），部分支持 AMD ROCm
TensorRT-LLM	GQA/MQA 融合内核，因果掩码自动融合	NVIDIA GPU
llama.cpp	混合精度量化 + 因果掩码下三角化	CPU + GPU（Metal/CUDA/Vulkan）
HuggingFace TGI	FlashAttention 因果模式原生支持，支持动态批量	NVIDIA GPU, AWS Inferentia2

公开资料对 2024 年各框架的市场份额无统一精确统计，但 vLLM 和 llama.cpp 分别在高吞吐服务端和消费端具有明显影响力。

风险

新架构替代风险

状态空间模型（Mamba-2）及线性注意力变体在部分基准上展示了与因果注意力可比的语言建模困惑度，计算复杂度可降至 O(N) 或 O(N\log N)。若此类架构在 2025-2026 年在长上下文、指令遵循等关键任务上全面超越因果注意力，则现阶段围绕因果注意力的基础设施投资将面临重组压力。截至 2024 年底，Mamba 系列尚未在 70B+ 规模模型上稳定超越同参数 Transformer 的因果注意力架构（公开 benchmark 未见确凿压倒性证据）。

推理成本与硬件锁定的不确定性

因果注意力的 KV 缓存随序列长度线性增长，是长上下文推理成本的主要来源。即便有 GQA/MQA 压缩，10 万 token 以上级别的推理成本仍可能制约部分场景的大规模部署。若未来出现“生成后再修改”等非严格自回归范式替代纯粹因果约束，当前的因果注意力推理管线将需要系统性调整。

专利与合规

因果注意力及其高效实现对 FlashAttention、PagedAttention 等开源方案依赖度高，但相关算法在某些司法管辖区可能面临专利主张（截至 2024 年底公开专利数据库中未见明确针对因果注意力掩码的授权专利，但不排除防御性专利布局）。若未来关键实现（如特定的分块计算方式）被专利覆盖，将影响开源推理框架的演进自由。

竞争国出口管制

2024 年美国持续加强高性能 AI 芯片对特定地区的出口管制（BIS 规则多次更新，10 月发布了针对 H100/B200 等的新规）。因果注意力高度依赖 HBM 带宽，若芯片供给受限，相关地区的推理服务将面临效率悬崖，因果注意力的计算优化空间将被硬件能力所压抑。

误读纠偏

误读 1：“因果注意力就是自注意力”

自注意力是一种通过查询-键-值交互捕捉序列内依赖关系的计算形式，因果注意力是在此基础上施加单向掩码约束的特定子版本。不加掩码的自注意力是双向的（如 BERT 的编码器），可同时利用左右两侧上下文。因果注意力则刻意去除右侧上下文，以实现训练-推理一致性。这是机制设计差别，非上层语义差别。

误读 2：“因果注意力只能用于文本生成”

它在时序预测（如电力负荷预测）、语音合成（逐帧建模）、强化学习的动作序列建模、蛋白质序列设计等任何“不能偷看未来”的场景中均直接适用。部分扩散模型的 Transformer 骨干也可施加时间顺序的因果掩码，用于自回归式去噪。因果注意力是一类通用的序列建模方法。

误读 3：“因果注意力必然无法处理长距离依赖”

因果注意力对左侧的长距离依赖是完整保留的（无稀疏裁剪时）。长程建模能力减弱的常见原因在于位置编码（如原始正弦位置编码在超长序列下的表示力下降）或训练数据配比不佳，而非因果掩码本身。改进位置编码（如 RoPE 及其变体 YaRN）已在 128K 及以上上下文上展示了因果注意力良好的长程利用能力。

误读 4：“施加因果掩码后计算量会自动减半”

在标准矩阵乘实现中，整个 QK^T 矩阵仍被完整计算，随后才通过掩码将上三角值置为负无穷并 softmax。这一流程并未降低峰值浮点运算量，仅为 softmax 后的有效权重束减半。只有经过专门设计的算子（FlashAttention 因果模式等）才能利用掩码跳过计算，将运算量实际降至约 50%。

跟踪指标

学术/基准层

长上下文召回率：如 RULER、Needle-in-a-HayStack 测试中（128K 及以上上下文）的准确率，直接反映因果注意力在极端长程下的信息检索能力。关注 OpenAI、Anthropic、Google 等定期公布的 benchmark 结果。
因果注意力相关顶会论文接收量：NeurIPS、ICML、ICLR 中关于高效注意力、长上下文位置编码与因果掩码机制融合的论文数量，是衡量学术热度与突破概率的前置指标。

工程/产业层

主流推理框架的因果注意力算子更新：vLLM、TensorRT-LLM、llama.cpp 的 release note 中对因果注意力内核升级的说明，直接可推导推理成本变化。例如，FlashAttention 新版本发布到 vLLM 集成的时间间隔，可衡量产业落地速度。
云服务大模型 API 的输入/输出定价：AWS Bedrock、Azure OpenAI Service、Google Vertex AI 的 per-token 定价变化，隐含推理成本曲线和因果注意力优化收益。持续降价同时服务等级提升，往往意味着底层注意力机制的工程突破已规模化落地。

竞争技术层

状态空间模型/线性注意力基线提升速度：如 Mamba-2（或其后续版本）在语言建模、长上下文任务上与同规模因果注意力 Transformer 的 PPL 差距缩小速率。若差距在 2 年内收敛至 1% 以内，替代风险将显著上升。
混合架构模型的市场占比：关注主流模型发布是否引入非因果注意力层，以此判断因果注意力的“完全统治”状态是否松动。此类信息可通过大模型排行榜（如 LMSYS Chatbot Arena、Open LLM Leaderboard）中模型架构说明追踪。

信源

Vaswani A, Shazeer N, Parmar N, et al. Attention Is All You Need. NeurIPS, 2017. （首次提出带掩码的多头注意力解码器）
Radford A, Narasimhan K, Salimans T, et al. Improving Language Understanding by Generative Pre-Training. OpenAI, 2018. （GPT-1 实践纯因果注意力语言建模）
Dao T, Fu D Y, Ermon S, et al. FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness. NeurIPS, 2022. （提出基于分块的高效因果注意力算法）
Dao T. FlashAttention-2: Faster Attention with Better Parallelism and Work Partitioning. arXiv, 2023. （进一步优化因果模式性能）
Dao T, et al. FlashAttention-3: Fast and Accurate Attention on Hopper GPUs. arXiv, 2024. （针对 H100 架构的因果注意力加速）
Kwon W, Li Z, Zhuang S, et al. Efficient Memory Management for Large Language Model Serving with PagedAttention. SOSP, 2023. （基于因果注意力特性的 KV 缓存管理）
Meta AI. Llama 3.1 Technical Report. 2024. （架构细节，含 GQA 因果注意力实现）
Google DeepMind. Gemini 1.5 Technical Report. 2024. （MQA 因果注意力与 1M 上下文实现）
Anthropic. The Claude 3 Model Family Technical Report. 2024. （长上下文因果注意力设计哲学）
AI21 Labs. Jamba Technical Report. 2024. （混合因果注意力与状态空间层的架构探索）
Gu A, Dao T. Mamba-2: State Space Duality. arXiv, 2024. （对因果注意力替代路线的最新全面阐述）
Fortune Business Insights. Generative AI Market Report. 2024. （用于缩放市场规模口径）
SemiAnalysis. AI Inference Cost Model. 2024. （推理市场成本结构估算参考）
Bureau of Industry and Security (BIS). Export Control Rules for Advanced Computing and AI Chips. October 2024 update. （硬件供应链合规相关）

注：以上来源均为已公开的学术论文、技术报告、官方定价页面与可查证的行业分析，所述性能数据均有明确出处；对于各公司未公开的内部实现细节，文中一律注明“未公开”“公开资料未见”或“推测”，不自行填补未知信息。