PIM
1. 3 秒看懂（≤25 字）
PIM 是把计算搬进 HBM/GDDR/DRAM 的低能耗路线，2021-2026 年仍处“样机验证强、量产收入弱”。127
2. 3 分钟产业解释（120-180 字）
PIM（Processing-in-Memory）解决的是 AI 推理中“数据搬运比计算更耗能”的瓶颈：Samsung 2021 年把 AI engine 放入 HBM2 Aquabolt memory bank，宣称系统性能超过 2x、能耗下降超过 70%；SK hynix 2022 年把计算功能嵌入 16Gbps GDDR6-AiM，宣称特定计算速度提升 16x、功耗下降 80%。12 但 PIM 不是 HBM3E/HBM4 的直接替代品，而是对 GEMV、MoE、Embedding、KV-cache 等 memory-bound 算子做近数据加速；截至 2026-05，Samsung HBM-PIM 和 SK hynix AiM 的公开证据主要是 Xilinx/AMD/OPT 13B/Hot Chips 样机验证，尚未形成类似 HBM3E 的可披露大规模收入。347
3. 15 分钟专家深入（400-600 字）
PIM 的商业价值来自 3 个变量：第一，AI 推理从训练期的 dense GEMM 转向更高比例的 memory-bound 工作负载，GEMV、MoE expert routing、embedding lookup 和长上下文 KV-cache 对带宽与能耗更敏感；第二，HBM4 把单堆栈带宽推到 2.0TB/s 以上，但 GPU 与 HBM 之间仍存在数据搬运功耗和调度开销，PIM 试图把一部分低精度矩阵/向量计算放到 memory bank 或 near-memory controller 内完成；第三，软件栈决定落地速度，Samsung 在 Hot Chips 2023 展示 PimPyLibrary/PIM SDK，SK hynix AiMX 演示 Meta OPT 13B，但两者都需要算子、编译器和模型图改写配合。789
Samsung 的 HBM-PIM 路线最早从 Aquabolt-XL 开始，2021 年官方披露在 HBM2 Aquabolt 内置 DRAM-optimized AI engine，每个 memory bank 内部并行处理以减少数据移动，并在 Xilinx Virtex UltraScale+ Alveo AI accelerator 上实现约 2.5x 系统性能提升和超过 60% 能耗下降。13 2023 年 Samsung 进一步披露 AMD MI100-PIM GPU 与 HBM-PIM cluster：单卡 24GB、4 个 HBM-PIM cubes、PIM performance 4.9TFLOPS，96 张 MI100-PIM GPU 组成 12 节点集群，总 PIM performance 471.9TFLOPS、总 HBM-PIM 容量 2.25TB，GPT-J 6B 单卡测试在 32 input tokens、64/256 output tokens 下分别达到 2.33x/2.16x speed-up，MoE/T5 cluster 测试实现超过 2x performance gain 和超过 3x system energy efficiency。7
SK hynix 的 AiM 路线以 GDDR6 为切入口，2022 年样品 GDDR6-AiM 维持 16Gbps 数据速率、工作电压从 1.35V 降至 1.25V，并把特定计算速度提升 16x、功耗降低 80%。2 2023 年 AiMX 把多个 GDDR6-AiM 芯片做成生成式 AI 加速卡，公开演示 OPT 13B，处理时间较 GPU 系统缩短超过 10x、功耗为 GPU 系统的 1/5，但性能 footnote 明确假设 AiM Control Hub 作为 ASIC 实现，因此该指标属于样机和系统假设，不等同 2026 年量产出货或收入。4 可算模型应使用 PIM attach GPU/加速卡数 × PIM memory 容量/卡 × PIM ASP premium × 供应份额 = PIM 增量收入；其中 attach 率、ASP premium、客户份额均未由 A/B 源披露，必须作为情景变量而非事实。124
4. 技术原理（200-300 字）
传统 GPU/HBM 系统把权重和激活从 DRAM 读到 GPU compute core，再把中间结果写回 memory；PIM 把 MAC、SIMD 或轻量 AI engine 放在 memory bank、buffer die、DIMM controller 或 CXL near-memory device，目标是减少 off-chip data movement。17 Samsung HBM-PIM 的公开架构是在 HBM2 Aquabolt 的 memory bank 内加入 AI engine，保持外部系统接口基本不变，从而在已有 accelerator 上降低集成门槛；SK hynix GDDR6-AiM 则把计算功能加入 GDDR6 芯片，牺牲一部分通用性换取 16Gbps memory interface 和 1.25V 低压运行。12 技术瓶颈集中在 4 项：bank-level reduction 支持有限、编译器/算子覆盖不足、thermal headroom 被 HBM4/HBM5 堆叠进一步挤压、客户不愿为小众软件栈重写模型图。579
5. 上游依赖 / 下游影响
上游依赖
- HBM/GDDR base product：Samsung HBM-PIM 以 HBM2 Aquabolt 为起点，SK hynix AiM 以 16Gbps GDDR6 为起点；若 HBM4/HBM4E 供给紧张，PIM die 面积和验证资源会让位给主流 HBM 出货。1210
- Logic/base die 与封装：HBM-PIM 需要在 memory bank、buffer die 或 base logic 上增加计算单元，Samsung 2023 cluster 披露每 MI100-PIM GPU 含 4 个 HBM-PIM cubes，说明封装验证与 GPU 适配是量产前置条件。7
- 软件栈：Samsung PimPyLibrary/PIM SDK 与 2026 年 AME-PIM 研究都显示，PIM 需要新 API、compiler mapping 或 ISA-level matrix abstraction；没有软件栈，2x-10x 样机收益无法转成客户部署。79
- 标准与生态：Samsung 2021 年计划在 2022H1 完成 PIM 平台标准化，但截至 2026-05 公开主流 HBM 标准仍以 JESD270-4 HBM4 带宽/容量为核心，PIM 未成为 HBM4 必选项。310
下游影响
- Hyperscale AI：Samsung 与 NAVER 2022 年合作方向包括 SmartSSD、PIM、PNM 和 CXL，目标是解决 hyperscale AI 的 memory bottleneck；若 NAVER/云厂商公开部署，PIM 才会从研发进入采购。8
- GPU 推理：Samsung MI100-PIM cluster 和 SK hynix AiMX 均瞄准推理而非训练主干，若 GPT-J/OPT/T5-MoE 类 memory-bound workload 占比上升，PIM attach 率才有上行空间。47
- HBM 供应商格局：PIM 强化 Samsung 与 SK hynix 在 custom memory 上的差异化，但 Micron 截至 2026-05 未披露同等级 HBM-PIM 产品，竞争变量更多是 HBM4 量产和客户认证。1011
6. 技术路线对比表
| 路线 | 速率 | 功耗 | 距离或维度 | 标准成熟度 | 量产概率 2026 | 反证指标 |
|---|---|---|---|---|---|---|
| Samsung HBM-PIM / Aquabolt-XL | HBM2 Aquabolt 外部带宽口径，Hot Chips 披露 PIM cluster 单卡 4.9TFLOPS | 官方称 HBM2 系统能耗 -70%，Xilinx 测试能耗 -60% 以上 | HBM bank 内 AI engine；MI100-PIM 单卡 24GB、4 cubes | ISSCC/Hot Chips/客户样机，非 HBM4 标准必选项 | 中低 | 2026 年仍无云客户商用 SKU 或 HBM4-PIM 产品页 |
| Samsung HBM-PIM Cluster + CXL-PNM | GPT-J 6B speed-up 2.16x-2.33x；96 卡 cluster PIM 471.9TFLOPS | MoE/T5 cluster system energy efficiency > 3x | 12 节点、96 MI100-PIM GPU、2.25TB HBM-PIM 容量 | Hot Chips 2023 demo | 低 | 客户不接受 PimPyLibrary/API 改写，或 MI100 old-gen demo 无法迁移到 MI300/MI400 |
| SK hynix GDDR6-AiM | 16Gbps GDDR6 | 1.25V vs 1.35V，功耗 -80% | GDDR6 chip 内计算，面向 CPU/GPU 配套 | 2022 ISSCC 样品 | 中低 | AiM 未进入 2026 数据中心 accelerator BOM |
| SK hynix AiMX card | OPT 13B demo 处理时间 > 10x 快于 GPU system | 功耗为 GPU system 的 1/5 | 多颗 GDDR6-AiM + AiM Control Hub，ASIC 假设 | 2023 AI Hardware & Edge AI Summit 样机 | 低 | ASIC control hub 不量产，或 OPT 13B 指标无法扩展到 70B/405B |
| UPMEM DDR4/DDR-PIM | 下一代 AI chip 公开口径 102.4GB/s internal bandwidth | data access 1pJ/bit | DDR DIMM/DRAM-PIM，非 HBM | 商业 DIMM + 2024/2025 AI IP 合作 | 中 | Qualcomm 收购后路线转向内部使用，外部服务器生态弱化 |
| GPU + HBM4 常规路线 | HBM4 标准 2048-bit，单堆栈 2.0TB/s 以上 | HBM4E 能效由厂商披露，PIM 无需改软件 | GPU compute core + HBM stack | JEDEC JESD270-4 已发布 | 高 | PIM 在真实 LLM 推理中 TCO 优势超过 30% 且软件改造成本下降 |
7. 关键指标（5-7 项 + 怎么追）
- 商用 SKU：跟踪 Samsung 是否发布 HBM3E/HBM4-PIM product brief，若 2026 年仍停留 MI100-PIM demo，则收入兑现概率低于 HBM4。710
- 客户部署：跟踪 NAVER、AMD、Xilinx/AMD、SAPEON 是否披露 PIM 量产系统，若只保留合作新闻而无采购量，PIM attach 率按 0%-1% 情景处理。38
- 算子覆盖：跟踪 PimPyLibrary、PIM SDK、AME-PIM/编译器论文是否覆盖 GEMV、GEMM、MoE、KV-cache 4 类算子；覆盖少于 2 类时只适合窄 workload。79
- 能效验证：Samsung 2x/70%、Xilinx 2.5x/60%、SK hynix 16x/80%、AiMX 10x/1/5 功耗均为样机或特定 workload，需用客户 TCO 测试复核。1234
- HBM4 机会成本：若 SK hynix、Samsung、Micron HBM4 产能 2026 年持续满载，PIM die 面积和验证资源的机会成本上升，商业优先级下降。1011
- 软件迁移成本：若 PIM 需要模型图改写、kernel 替换或 ISA 扩展，客户会把收益门槛从 10%-20% 提到 30% 以上。79
8. 可算传导表
| 驱动变量 | Samsung Electronics | SK hynix | Micron |
|---|---|---|---|
| TAM | HBM/GDDR AI memory TAM × PIM attach rate × ASP premium；PIM TAM 未由公司披露，2026 情景只可算 0%/1%/3% attach | 同左，AiM 以 GDDR6/AiMX 切入，PIM TAM 未披露 | 同左；截至 2026-05 未披露 PIM 产品，attach rate 基准为 0% |
| 出货 | 已披露 MI100-PIM 96 卡 cluster demo；量产出货待披露 | 已披露 GDDR6-AiM sample 与 AiMX prototype；量产出货待披露 | HBM4 量产出货已披露，但 PIM 出货待披露 |
| ASP | 常规 HBM/GDDR ASP × (1 + PIM premium)；premium 待披露，情景用 0%/10%/20% 不写成事实 | 同左 | PIM premium 不适用，HBM ASP 待披露 |
| 份额 | 若 PIM attach 仅来自自有 HBM-PIM，份额上限受 Samsung HBM4 客户认证约束；具体份额待披露 | 若 AiMX 成为独立加速卡，份额由卡级系统而非 HBM 份额决定；具体份额待披露 | 无 PIM 份额披露，PIM 份额按 0% 基准 |
| 收入 | PIM memory 容量/卡 × 卡数 × ASP/GB × premium；FY2025/2026Q1 DS 财务可作总收入基数但不能代表 PIM 收入 | AiM 芯片数/卡 × 卡数 × ASP × 份额；FY2025 HBM 收入高增可作内存能力锚但不能代表 PIM 收入 | HBM4 收入 × PIM attach，attach 为 0% 基准或待披露 |
| 毛利 | PIM 增量收入 × PIM GM；PIM GM 待披露，若 die 面积增加而 ASP premium 不足则 GM 低于 HBM4 | 同左，AiMX 若做卡级产品还需扣除 control hub、PCB、散热和系统 BOM | 常规 HBM4 GM 由公司披露后追踪，PIM GM 不适用 |
| PE | PE TTM 23.99x（2026-05-27/28 附近，KRW，StockAnalysis，market cap ÷ TTM earnings）14 | 2026-05-28 KRX close 未锁定 hard value，不使用 2026-05-13 UTC 旧 PE [SKH] | PE TTM 43.83x（2026-05-27 16:00 EDT 完整收盘口径，USD，market cap ÷ TTM earnings）16 |
| 估值 | 情景市值框架 = FY26E 净利润 × 目标 PE + PIM 溢价净利 × PIM PE；PIM 溢价净利待披露 | 同左 | PIM 不单独给估值溢价，除非披露产品路线 |
9. 同业硬指标对比表
| 公司 | 收入 | 增速 | GM/OPM | 净利 | FCF margin | 客户集中度 | 技术代际 | PE TTM | 反证条件 |
|---|---|---|---|---|---|---|---|---|---|
| Samsung Electronics | FY2025 333.6 万亿韩元；2026Q1 DS 收入 81.7 万亿韩元 | 2026Q1 DS 收入较 2025Q1 25.1 万亿韩元 +225.5% | 2026Q1 DS OPM 65.7% | FY2025 净利待年报表复核 | 待年报现金流复核 | HBM4 面向 NVIDIA/AMD，PIM 客户含 AMD/NAVER/Xilinx 验证 | HBM-PIM、CXL-PNM、HBM4 | 23.99x，C 源 | HBM-PIM 到 2026H2 仍无 HBM4-PIM SKU 或客户商用 |
| SK hynix | FY2025 97.1467 万亿韩元 [SKH] | 较 FY2024 66.1930 万亿韩元 +46.8% | OPM 49% [SKH] | 42.9479 万亿韩元，NM 44% [SKH] | 字典不以二级估算填数 [SKH] | NVIDIA/HBM 客户集中度未单列；AiMX 客户未披露 | GDDR6-AiM、AiMX、HBM4 | 2026-05-28 KRX close 未锁定 hard value [SKH] | AiM control hub 不 ASIC 化或 OPT 13B demo 不转量产 |
| Micron | FY2025 373.78 亿美元 | FY2025 较 FY2024 251.11 亿美元 +48.9% | GM 40% | 85.39 亿美元，NM 23% | 调整后 FCF 37.2 亿美元，约 10.0% | HBM4 面向 NVIDIA Vera Rubin，PIM 客户未披露 | HBM4 36GB 12H 量产，PIM 未披露 | 43.83x，C 源 | HBM4 GM 未上行或 PIM 竞品稀释 HBM premium |
| NVIDIA | 2026 财年收入需 10-K 口径复核 | Rubin 2026H2 伙伴供货 | 数据中心 GM 待 10-K 复核 | 待 10-K 复核 | 待 10-K 复核 | 云厂商多客户但高集中 | GPU + HBM4 常规路线，PIM 非主线 | 32.36x，C 源 | GPU 内核/Transformer Engine 继续覆盖 PIM 收益，客户无需 PIM |
| AMD | FY2025 收入需 10-K 口径复核 | MI400/Helios 2026 路线 | GM 待 10-K 复核 | 待 10-K 复核 | 待 10-K 复核 | AI GPU 客户集中度待披露 | MI100-PIM demo、MI400/HBM4 常规路线 | 162.47x，C 源 | MI100-PIM 不迁移到 MI300/MI400，PIM 停留研究合作 |
| UPMEM/Qualcomm | 私营/并购后收入待披露 | 待披露 | 待披露 | 待披露 | 待披露 | Qualcomm 内部化风险高 | DDR/DRAM-PIM、next-gen AI PIM | 不适用 | 外部 DIMM 生态弱化或只服务移动 SoC 内部需求 |
估值口径：美股 PE 统一使用 2026-05-27 16:00 EDT 完整收盘；2026-05-28 盘前/UTC 报价工具返回值只作为行情交叉检查，不进入估值表。16
10. 投资逻辑 + 业绩传导（200-300 字 + ASCII 传导图）
PIM 的投资逻辑不是“替代 GPU”，而是在 2026-2028 年 AI 推理负载中寻找 1%-3% 的 memory-bound attach 率：Samsung 已用 HBM-PIM 证明 2x 以上性能/能效收益，SK hynix 已用 GDDR6-AiM/AiMX 证明 10x 时间缩短和 1/5 功耗的样机潜力，但两家公司都没有披露 PIM 量产收入、ASP premium 或客户采购量。1247 因此估值应只给“选择权”而非主业重估，优先跟踪 HBM4 供给、客户 SKU、软件栈和 TCO 复测；若 PIM attach 率长期低于 1%，财务影响会被 HBM4 主线完全淹没。1011
LLM 推理 memory-bound 算子占比上升
↓
PIM attach GPU/加速卡数 × PIM 容量/卡
↓
PIM ASP premium × Samsung/SK hynix 份额
↓
增量收入 × PIM GM - 软件/验证成本
↓
净利润增量 × PE = PIM 选择权估值
11. 常见误读纠偏
误读 1：PIM 已经是 HBM4 的确定商业增量。
实际情况：Samsung HBM-PIM 公开验证从 2021 年到 2023 年跨越 Xilinx、AMD MI100 和 NAVER 合作，但截至 2026-05 公开 HBM4 标准和公司量产公告仍围绕带宽、容量和客户认证，未把 PIM 列为 HBM4 必选功能。3710
证据：JESD270-4 HBM4 是 2048-bit HBM 标准，Samsung/ SK hynix/Micron 2025-2026 HBM4 披露重点是 12H/16H、base die、带宽和供应链认证，而非 PIM 收入。101112
误读 2：10x 或 16x 指标可以直接折算收入 10x。
实际情况：SK hynix 16x 是“certain computation speed”，AiMX 10x 是 OPT 13B demo 且 performance footnote 假设 AiM Control Hub 为 ASIC；这些指标不能直接推导 ASP、出货或份额。24
证据：AiMX 官方页明确演示对象是 Meta OPT 13B，且性能基于 control hub ASIC 条件；收入模型必须回到 卡数 × 芯片数 × ASP × premium。4
误读 3：PIM 会削弱 HBM 厂商。
实际情况：PIM 更可能强化 Samsung/SK hynix 的 custom memory 差异化，因为算子、memory die、base logic、封装和客户验证都绑定在供应商体系内；真正的风险是 HBM4 供不应求时，客户优先买标准 HBM 而不是承担 PIM 软件迁移。1710
证据：Samsung 与 NAVER 合作覆盖 PIM/PNM/CXL，SK hynix AiMX 需要 GDDR6-AiM 与 control hub 组合，说明 PIM 是系统方案而非裸 DRAM commodity。48
12. 最新事件
- [已发生] 2021-02-17：Samsung 发布 HBM-PIM，把 AI engine 放入 HBM2 Aquabolt memory bank，宣称系统性能超过 2x、能耗下降超过 70%。1
- [已发生] 2021-08-23：Samsung 在 Hot Chips 33 披露 HBM-PIM 已在 Xilinx Virtex UltraScale+ Alveo 上实现约 2.5x 性能提升和超过 60% 能耗下降，并计划 2022H1 推动 PIM 平台标准化。3
- [已发生] 2022-02-16：SK hynix 发布 GDDR6-AiM sample，16Gbps、1.25V、特定计算 16x、功耗 -80%。2
- [已发生] 2022-12-06：Samsung 与 NAVER 合作开发 hyperscale AI 半导体方案，合作范围包括 SmartSSD、PIM、PNM 和 CXL。8
- [已发生] 2023-08-29：Samsung Hot Chips 35 展示 HBM-PIM cluster，96 张 MI100-PIM GPU、2.25TB HBM-PIM 容量、471.9TFLOPS PIM performance。7
- [已发生] 2023-09-18：SK hynix 展示 AiMX prototype，OPT 13B demo 处理时间超过 10x 快于 GPU system，功耗为 GPU system 的 1/5。4
- [行业预测] 2026-04-30：AME-PIM 论文显示 Samsung Aquabolt-XL 单 HBM pseudo-channel 可达 14.9GFLOP/s matrix tile multiplication，但论文同时指出商业 HBM-PIM 指令集和软件栈仍受限。9
13. 来源 footnotes（A/B/C 标注）
1 Samsung Develops Industry’s First High Bandwidth Memory with AI Processing Power — Samsung Global Newsroom — 2021-02-17 — https://news.samsung.com/global/samsung-develops-industrys-first-high-bandwidth-memory-with-ai-processing-power — (B)
2 SK hynix Develops PIM, Next-Generation AI Accelerator — SK hynix Newsroom — 2022-02-16 — https://news.skhynix.com/sk-hynix-develops-pim-next-generation-ai-accelerator/ — (B)
3 Samsung Brings In-Memory Processing Power to Wider Range of Applications — Samsung Semiconductor — 2021-08-23 — https://semiconductor.samsung.com/news-events/news/samsung-brings-in-memory-processing-power-to-wider-range-of-applications/ — (B)
4 SK hynix Debuts Prototype of First GDDR6-AiM Accelerator Card ‘AiMX’ for Generative AI — SK hynix Newsroom — 2023-09-18 — https://news.skhynix.com/sk-hynix-debuts-first-gddr6-aim-accelerator-card-aimx-for-generative-ai/ — (B)
5 Aquabolt-XL: Samsung HBM2-PIM with in-memory processing for ML accelerators and beyond — IEEE Hot Chips 33 / HCS 2021 — 2021 — https://experts.illinois.edu/en/publications/aquabolt-xl-samsung-hbm2-pim-with-in-memory-processing-for-ml-acc — (A)
6 Samsung Electronics Envisions Hyper-Growth in Memory and Logic Semiconductors through Intensified Industry Collaborations at Samsung Tech Day 2022 — Samsung Semiconductor — 2022-10-05 — https://news.samsungsemiconductor.com/global/samsung-electronics-envisions-hyper-growth-in-memory-and-logic-semiconductors-through-intensified-industry-collaborations-at-samsung-tech-day-2022/ — (B)
7 Memory in AI/ML and Data Era — Samsung, Hot Chips 35 PIM/PNM presentation — 2023-08 — https://www.hc2023.hotchips.org/assets/program/conference/day1/PIM/23_HC35_PIM_PNM_Samsung_final.pdf — (B)
8 Samsung Electronics and NAVER Team Up to Develop Semiconductor Solutions Optimized for Hyperscale AI — Samsung Semiconductor — 2022-12-06 — https://news.samsungsemiconductor.com/global/samsung-electronics-and-naver-team-up-to-develop-semiconductor-solutions-optimized-for-hyperscale-ai/ — (B)
9 AME-PIM: Can Memory be Your Next Tensor Accelerator? — arXiv / ACM Computing Frontiers 2026 accepted paper — 2026-04-30 — https://arxiv.org/abs/2604.27808 — (A)
10 High Bandwidth Memory (HBM4) DRAM, JESD270-4 — JEDEC — 2025-04 — https://img.antpedia.com/standard/files/pdfs_ora/20250520/JEDEC%20JESD270-4-2025.pdf — (A)
11 Micron in High-Volume Production of HBM4 Designed for NVIDIA Vera Rubin — Micron — 2026-03-16 — https://micron.gcs-web.com/news-releases/news-release-details/micron-high-volume-production-hbm4-designed-nvidia-vera-rubin — (B)
12 SK hynix Completes World’s First HBM4 Development and Readies Mass Production — SK hynix — 2025-09-12 — https://news.skhynix.com/sk-hynix-completes-worlds-first-hbm4-development-and-readies-mass-production/ — (B)
13 Samsung Ships Industry-First Commercial HBM4 With Ultimate Performance for AI Computing — Samsung Semiconductor — 2026-02-12 — https://semiconductor.samsung.com/news-events/news/samsung-ships-industry-first-commercial-hbm4-with-ultimate-performance-for-ai-computing/ — (B)
14 Samsung Electronics Statistics & Valuation Metrics — StockAnalysis — 2026-05 — https://stockanalysis.com/quote/krx/005930/statistics/ — (C)
15 SK hynix Inc. P/E Ratio (TTM) — Atlantis Data — 2026-05-13 — https://atlantisdatasolutions.com/south_korea/000660/pe-ratio — (C)
16 US equity quote snapshot for MU/NVDA/AMD — finance data tool — 2026-05-28 12:18 UTC，market cap 与 PE 为盘前/UTC 报价快照，非 2026-05-28 收盘 — (C)
17 UPMEM is releasing a true Processing-in-Memory acceleration solution — UPMEM — 2026 access — https://www.upmem.com/ — (B)