晶片層 開放閱讀

PIM

存內計算

概念 ID
pim
更新時間
2026-05-28
來源數量
17

PIM

1. 3 秒看懂(≤25 字)

PIM 是把計算搬進 HBM/GDDR/DRAM 的低能耗路線,2021-2026 年仍處“樣機驗證強、量產營收弱”。127

2. 3 分鐘產業解釋(120-180 字)

PIM(Processing-in-Memory)解決的是 AI 推論中“資料搬運比計算更耗能”的瓶頸:Samsung 2021 年把 AI engine 放入 HBM2 Aquabolt memory bank,宣稱系統性能超過 2x、能耗下降超過 70%;SK hynix 2022 年把計算功能嵌入 16Gbps GDDR6-AiM,宣稱特定計算速度提升 16x、功耗下降 80%。12 但 PIM 不是 HBM3E/HBM4 的直接替代品,而是對 GEMV、MoE、Embedding、KV-cache 等 memory-bound 運算元做近資料加速;截至 2026-05,Samsung HBM-PIM 和 SK hynix AiM 的公開證據主要是 Xilinx/AMD/OPT 13B/Hot Chips 樣機驗證,尚未形成類似 HBM3E 的可揭露大規模營收。347

3. 15 分鐘專家深入(400-600 字)

PIM 的商業價值來自 3 個變數:第一,AI 推論從訓練期的 dense GEMM 轉向更高比例的 memory-bound 工作負載,GEMV、MoE expert routing、embedding lookup 和長上下文 KV-cache 對頻寬與能耗更敏感;第二,HBM4 把單堆疊頻寬推到 2.0TB/s 以上,但 GPU 與 HBM 之間仍存在資料搬運功耗和排程開銷,PIM 試圖把一部分低精度矩陣/向量計算放到 memory bank 或 near-memory controller 內完成;第三,軟體棧決定落地速度,Samsung 在 Hot Chips 2023 展示 PimPyLibrary/PIM SDK,SK hynix AiMX 演示 Meta OPT 13B,但兩者都需要運算元、編譯器和模型圖改寫配合。789

Samsung 的 HBM-PIM 路線最早從 Aquabolt-XL 開始,2021 年官方揭露在 HBM2 Aquabolt 內建 DRAM-optimized AI engine,每個 memory bank 內部並行處理以減少資料移動,並在 Xilinx Virtex UltraScale+ Alveo AI accelerator 上實現約 2.5x 系統性能提升和超過 60% 能耗下降。13 2023 年 Samsung 進一步揭露 AMD MI100-PIM GPU 與 HBM-PIM cluster:單卡 24GB、4 個 HBM-PIM cubes、PIM performance 4.9TFLOPS,96 張 MI100-PIM GPU 組成 12 節點叢集,總 PIM performance 471.9TFLOPS、總 HBM-PIM 容量 2.25TB,GPT-J 6B 單卡測試在 32 input tokens、64/256 output tokens 下分別達到 2.33x/2.16x speed-up,MoE/T5 cluster 測試實現超過 2x performance gain 和超過 3x system energy efficiency。7

SK hynix 的 AiM 路線以 GDDR6 為切入口,2022 年樣品 GDDR6-AiM 維持 16Gbps 資料速率、工作電壓從 1.35V 降至 1.25V,並把特定計算速度提升 16x、功耗降低 80%。2 2023 年 AiMX 把多個 GDDR6-AiM 晶片做成生成式 AI 加速卡,公開演示 OPT 13B,處理時間較 GPU 系統縮短超過 10x、功耗為 GPU 系統的 1/5,但效能 footnote 明確假設 AiM Control Hub 作為 ASIC 實現,因此該指標屬於樣機和系統假設,不等同 2026 年量產出貨或營收。4 可算模型應使用 PIM attach GPU/加速卡數 × PIM memory 容量/卡 × PIM ASP premium × 供應份額 = PIM 增量營收;其中 attach 率、ASP premium、客戶份額均未由 A/B 源揭露,必須作為情景變數而非事實。124

4. 技術原理(200-300 字)

傳統 GPU/HBM 系統把權重和啟用從 DRAM 讀到 GPU compute core,再把中間結果寫回 memory;PIM 把 MAC、SIMD 或輕量 AI engine 放在 memory bank、buffer die、DIMM controller 或 CXL near-memory device,目標是減少 off-chip data movement。17 Samsung HBM-PIM 的公開架構是在 HBM2 Aquabolt 的 memory bank 內加入 AI engine,保持外部系統介面基本不變,從而在已有 accelerator 上降低整合門檻;SK hynix GDDR6-AiM 則把計算功能加入 GDDR6 晶片,犧牲一部分通用性換取 16Gbps memory interface 和 1.25V 低壓執行。12 技術瓶頸集中在 4 項:bank-level reduction 支援有限、編譯器/運算元覆蓋不足、thermal headroom 被 HBM4/HBM5 堆疊進一步擠壓、客戶不願為小眾軟體棧重寫模型圖。579

5. 上游依賴 / 下游影響

上游依賴

  • HBM/GDDR base product:Samsung HBM-PIM 以 HBM2 Aquabolt 為起點,SK hynix AiM 以 16Gbps GDDR6 為起點;若 HBM4/HBM4E 供給緊張,PIM die 面積和驗證資源會讓位給主流 HBM 出貨。1210
  • Logic/base die 與封裝:HBM-PIM 需要在 memory bank、buffer die 或 base logic 上增加計算單元,Samsung 2023 cluster 揭露每 MI100-PIM GPU 含 4 個 HBM-PIM cubes,說明封裝驗證與 GPU 適配是量產前置條件。7
  • 軟體棧:Samsung PimPyLibrary/PIM SDK 與 2026 年 AME-PIM 研究都顯示,PIM 需要新 API、compiler mapping 或 ISA-level matrix abstraction;沒有軟體棧,2x-10x 樣機收益無法轉成客戶部署。79
  • 標準與生態:Samsung 2021 年計劃在 2022H1 完成 PIM 平台標準化,但截至 2026-05 公開主流 HBM 標準仍以 JESD270-4 HBM4 頻寬/容量為核心,PIM 未成為 HBM4 必選項。310

下游影響

  • Hyperscale AI:Samsung 與 NAVER 2022 年合作方向包括 SmartSSD、PIM、PNM 和 CXL,目標是解決 hyperscale AI 的 memory bottleneck;若 NAVER/雲端廠商公開部署,PIM 才會從研發進入採購。8
  • GPU 推論:Samsung MI100-PIM cluster 和 SK hynix AiMX 均瞄準推論而非訓練主幹,若 GPT-J/OPT/T5-MoE 類 memory-bound workload 佔比上升,PIM attach 率才有上行空間。47
  • HBM 供應商格局:PIM 強化 Samsung 與 SK hynix 在 custom memory 上的差異化,但 Micron 截至 2026-05 未揭露同等級 HBM-PIM 產品,競爭變數更多是 HBM4 量產和客戶認證。1011

6. 技術路線對比表

路線速率功耗距離或維度標準成熟度量產機率 2026反證指標
Samsung HBM-PIM / Aquabolt-XLHBM2 Aquabolt 外部頻寬口徑,Hot Chips 揭露 PIM cluster 單卡 4.9TFLOPS官方稱 HBM2 系統能耗 -70%,Xilinx 測試能耗 -60% 以上HBM bank 內 AI engine;MI100-PIM 單卡 24GB、4 cubesISSCC/Hot Chips/客戶樣機,非 HBM4 標準必選項中低2026 年仍無雲端客戶商用 SKU 或 HBM4-PIM 產品頁
Samsung HBM-PIM Cluster + CXL-PNMGPT-J 6B speed-up 2.16x-2.33x;96 卡 cluster PIM 471.9TFLOPSMoE/T5 cluster system energy efficiency > 3x12 節點、96 MI100-PIM GPU、2.25TB HBM-PIM 容量Hot Chips 2023 demo客戶不接受 PimPyLibrary/API 改寫,或 MI100 old-gen demo 無法遷移到 MI300/MI400
SK hynix GDDR6-AiM16Gbps GDDR61.25V vs 1.35V,功耗 -80%GDDR6 chip 內計算,面向 CPU/GPU 配套2022 ISSCC 樣品中低AiM 未進入 2026 資料中心 accelerator BOM
SK hynix AiMX cardOPT 13B demo 處理時間 > 10x 快於 GPU system功耗為 GPU system 的 1/5多顆 GDDR6-AiM + AiM Control Hub,ASIC 假設2023 AI Hardware & Edge AI Summit 樣機ASIC control hub 不量產,或 OPT 13B 指標無法擴充套件到 70B/405B
UPMEM DDR4/DDR-PIM下一代 AI chip 公開口徑 102.4GB/s internal bandwidthdata access 1pJ/bitDDR DIMM/DRAM-PIM,非 HBM商業 DIMM + 2024/2025 AI IP 合作Qualcomm 收購後路線轉向內部使用,外部伺服器生態弱化
GPU + HBM4 常規路線HBM4 標準 2048-bit,單堆疊 2.0TB/s 以上HBM4E 能效由廠商揭露,PIM 無需改軟體GPU compute core + HBM stackJEDEC JESD270-4 已釋出PIM 在真實 LLM 推論中 TCO 優勢超過 30% 且軟體改造成本下降

7. 關鍵指標(5-7 項 + 怎麼追)

  • 商用 SKU:追蹤 Samsung 是否釋出 HBM3E/HBM4-PIM product brief,若 2026 年仍停留 MI100-PIM demo,則營收兌現機率低於 HBM4。710
  • 客戶部署:追蹤 NAVER、AMD、Xilinx/AMD、SAPEON 是否揭露 PIM 量產系統,若只保留合作新聞而無採購量,PIM attach 率按 0%-1% 情景處理。38
  • 運算元覆蓋:追蹤 PimPyLibrary、PIM SDK、AME-PIM/編譯器論文是否覆蓋 GEMV、GEMM、MoE、KV-cache 4 類運算元;覆蓋少於 2 類時只適合窄 workload。79
  • 能效驗證:Samsung 2x/70%、Xilinx 2.5x/60%、SK hynix 16x/80%、AiMX 10x/1/5 功耗均為樣機或特定 workload,需用客戶 TCO 測試複核。1234
  • HBM4 機會成本:若 SK hynix、Samsung、Micron HBM4 產能 2026 年持續滿載,PIM die 面積和驗證資源的機會成本上升,商業優先順序下降。1011
  • 軟體遷移成本:若 PIM 需要模型圖改寫、kernel 替換或 ISA 擴充套件,客戶會把收益門檻從 10%-20% 提到 30% 以上。79

8. 可算傳導表

驅動變數Samsung ElectronicsSK hynixMicron
TAMHBM/GDDR AI memory TAM × PIM attach rate × ASP premium;PIM TAM 未由公司揭露,2026 情景只可算 0%/1%/3% attach同左,AiM 以 GDDR6/AiMX 切入,PIM TAM 未揭露同左;截至 2026-05 未揭露 PIM 產品,attach rate 基準為 0%
出貨已揭露 MI100-PIM 96 卡 cluster demo;量產出貨待揭露已揭露 GDDR6-AiM sample 與 AiMX prototype;量產出貨待揭露HBM4 量產出貨已揭露,但 PIM 出貨待揭露
ASP常規 HBM/GDDR ASP × (1 + PIM premium);premium 待揭露,情景用 0%/10%/20% 不寫成事實同左PIM premium 不適用,HBM ASP 待揭露
份額若 PIM attach 僅來自自有 HBM-PIM,份額上限受 Samsung HBM4 客戶認證約束;具體份額待揭露若 AiMX 成為獨立加速卡,份額由卡級系統而非 HBM 份額決定;具體份額待揭露無 PIM 份額揭露,PIM 份額按 0% 基準
營收PIM memory 容量/卡 × 卡數 × ASP/GB × premium;FY2025/2026Q1 DS 財務可作總營收基數但不能代表 PIM 營收AiM 晶片數/卡 × 卡數 × ASP × 份額;FY2025 HBM 營收高增可作記憶體能力錨但不能代表 PIM 營收HBM4 營收 × PIM attach,attach 為 0% 基準或待揭露
毛利PIM 增量營收 × PIM GM;PIM GM 待揭露,若 die 面積增加而 ASP premium 不足則 GM 低於 HBM4同左,AiMX 若做卡級產品還需扣除 control hub、PCB、散熱和系統 BOM常規 HBM4 GM 由公司揭露後追蹤,PIM GM 不適用
PEPE TTM 23.99x(2026-05-27/28 附近,KRW,StockAnalysis,market cap ÷ TTM earnings)142026-05-28 KRX close 未鎖定 hard value,不使用 2026-05-13 UTC 舊 PE [SKH]PE TTM 43.83x(2026-05-27 16:00 EDT 完整收盤口徑,USD,market cap ÷ TTM earnings)16
估值情景市值架構 = FY26E 淨利 × 目標 PE + PIM 溢價淨利 × PIM PE;PIM 溢價淨利待揭露同左PIM 不單獨給估值溢價,除非揭露產品路線

9. 同業硬指標對比表

公司營收增速GM/OPM淨利FCF margin客戶集中度技術代際PE TTM反證條件
Samsung ElectronicsFY2025 333.6 萬億韓元;2026Q1 DS 營收 81.7 萬億韓元2026Q1 DS 營收較 2025Q1 25.1 萬億韓元 +225.5%2026Q1 DS OPM 65.7%FY2025 淨利待年報表複核待年報現金流量複核HBM4 面向 NVIDIA/AMD,PIM 客戶含 AMD/NAVER/Xilinx 驗證HBM-PIM、CXL-PNM、HBM423.99x,C 源HBM-PIM 到 2026H2 仍無 HBM4-PIM SKU 或客戶商用
SK hynixFY2025 97.1467 萬億韓元 [SKH]較 FY2024 66.1930 萬億韓元 +46.8%OPM 49% [SKH]42.9479 萬億韓元,NM 44% [SKH]字典不以二級估算填數 [SKH]NVIDIA/HBM 客戶集中度未單列;AiMX 客戶未揭露GDDR6-AiM、AiMX、HBM42026-05-28 KRX close 未鎖定 hard value [SKH]AiM control hub 不 ASIC 化或 OPT 13B demo 不轉量產
MicronFY2025 373.78 億美元FY2025 較 FY2024 251.11 億美元 +48.9%GM 40%85.39 億美元,NM 23%調整後 FCF 37.2 億美元,約 10.0%HBM4 面向 NVIDIA Vera Rubin,PIM 客戶未揭露HBM4 36GB 12H 量產,PIM 未揭露43.83x,C 源HBM4 GM 未上行或 PIM 競品稀釋 HBM premium
NVIDIA2026 財年營收需 10-K 口徑複核Rubin 2026H2 夥伴供貨資料中心 GM 待 10-K 複核待 10-K 複核待 10-K 複核雲端廠商多客戶但高集中GPU + HBM4 常規路線,PIM 非主線32.36x,C 源GPU 核心/Transformer Engine 繼續覆蓋 PIM 收益,客戶無需 PIM
AMDFY2025 營收需 10-K 口徑複核MI400/Helios 2026 路線GM 待 10-K 複核待 10-K 複核待 10-K 複核AI GPU 客戶集中度待揭露MI100-PIM demo、MI400/HBM4 常規路線162.47x,C 源MI100-PIM 不遷移到 MI300/MI400,PIM 停留研究合作
UPMEM/Qualcomm私營/併購後營收待揭露待揭露待揭露待揭露待揭露Qualcomm 內部化風險高DDR/DRAM-PIM、next-gen AI PIM不適用外部 DIMM 生態弱化或只服務移動 SoC 內部需求

估值口徑:美股 PE 統一使用 2026-05-27 16:00 EDT 完整收盤;2026-05-28 盤前/UTC 報價工具返回值只作為行情交叉檢查,不進入估值表。16

10. 投資邏輯 + 業績傳導(200-300 字 + ASCII 傳導圖)

PIM 的投資邏輯不是“替代 GPU”,而是在 2026-2028 年 AI 推論負載中尋找 1%-3% 的 memory-bound attach 率:Samsung 已用 HBM-PIM 證明 2x 以上效能/能效收益,SK hynix 已用 GDDR6-AiM/AiMX 證明 10x 時間縮短和 1/5 功耗的樣機潛力,但兩家公司都沒有揭露 PIM 量產營收、ASP premium 或客戶採購量。1247 因此估值應只給“選擇權”而非主業重估,優先追蹤 HBM4 供給、客戶 SKU、軟體棧和 TCO 複測;若 PIM attach 率長期低於 1%,財務影響會被 HBM4 主線完全淹沒。1011

LLM 推論 memory-bound 運算元佔比上升

PIM attach GPU/加速卡數 × PIM 容量/卡

PIM ASP premium × Samsung/SK hynix 份額

增量營收 × PIM GM - 軟體/驗證成本

淨利增量 × PE = PIM 選擇權估值

11. 常見誤讀糾偏

誤讀 1:PIM 已經是 HBM4 的確定商業增量。

實際情況:Samsung HBM-PIM 公開驗證從 2021 年到 2023 年跨越 Xilinx、AMD MI100 和 NAVER 合作,但截至 2026-05 公開 HBM4 標準和公司量產公告仍圍繞頻寬、容量和客戶認證,未把 PIM 列為 HBM4 必選功能。3710

證據:JESD270-4 HBM4 是 2048-bit HBM 標準,Samsung/ SK hynix/Micron 2025-2026 HBM4 揭露重點是 12H/16H、base die、頻寬和供應鏈認證,而非 PIM 營收。101112

誤讀 2:10x 或 16x 指標可以直接折算營收 10x。

實際情況:SK hynix 16x 是“certain computation speed”,AiMX 10x 是 OPT 13B demo 且 performance footnote 假設 AiM Control Hub 為 ASIC;這些指標不能直接推導 ASP、出貨或份額。24

證據:AiMX 官方頁明確演示物件是 Meta OPT 13B,且效能基於 control hub ASIC 條件;營收模型必須回到 卡數 × 晶片數 × ASP × premium4

誤讀 3:PIM 會削弱 HBM 廠商。

實際情況:PIM 更可能強化 Samsung/SK hynix 的 custom memory 差異化,因為運算元、memory die、base logic、封裝和客戶驗證都繫結在供應商體系內;真正的風險是 HBM4 供不應求時,客戶優先買標準 HBM 而不是承擔 PIM 軟體遷移。1710

證據:Samsung 與 NAVER 合作覆蓋 PIM/PNM/CXL,SK hynix AiMX 需要 GDDR6-AiM 與 control hub 組合,說明 PIM 是系統方案而非裸 DRAM commodity。48

12. 最新事件

  • [已發生] 2021-02-17:Samsung 釋出 HBM-PIM,把 AI engine 放入 HBM2 Aquabolt memory bank,宣稱系統性能超過 2x、能耗下降超過 70%。1
  • [已發生] 2021-08-23:Samsung 在 Hot Chips 33 揭露 HBM-PIM 已在 Xilinx Virtex UltraScale+ Alveo 上實現約 2.5x 效能提升和超過 60% 能耗下降,並計劃 2022H1 推動 PIM 平台標準化。3
  • [已發生] 2022-02-16:SK hynix 釋出 GDDR6-AiM sample,16Gbps、1.25V、特定計算 16x、功耗 -80%。2
  • [已發生] 2022-12-06:Samsung 與 NAVER 合作開發 hyperscale AI 半導體方案,合作範圍包括 SmartSSD、PIM、PNM 和 CXL。8
  • [已發生] 2023-08-29:Samsung Hot Chips 35 展示 HBM-PIM cluster,96 張 MI100-PIM GPU、2.25TB HBM-PIM 容量、471.9TFLOPS PIM performance。7
  • [已發生] 2023-09-18:SK hynix 展示 AiMX prototype,OPT 13B demo 處理時間超過 10x 快於 GPU system,功耗為 GPU system 的 1/5。4
  • [行業預測] 2026-04-30:AME-PIM 論文顯示 Samsung Aquabolt-XL 單 HBM pseudo-channel 可達 14.9GFLOP/s matrix tile multiplication,但論文同時指出商業 HBM-PIM 指令集和軟體棧仍受限。9

13. 來源 footnotes(A/B/C 標註)

1 Samsung Develops Industry’s First High Bandwidth Memory with AI Processing Power — Samsung Global Newsroom — 2021-02-17 — https://news.samsung.com/global/samsung-develops-industrys-first-high-bandwidth-memory-with-ai-processing-power — (B)

2 SK hynix Develops PIM, Next-Generation AI Accelerator — SK hynix Newsroom — 2022-02-16 — https://news.skhynix.com/sk-hynix-develops-pim-next-generation-ai-accelerator/ — (B)

3 Samsung Brings In-Memory Processing Power to Wider Range of Applications — Samsung Semiconductor — 2021-08-23 — https://semiconductor.samsung.com/news-events/news/samsung-brings-in-memory-processing-power-to-wider-range-of-applications/ — (B)

4 SK hynix Debuts Prototype of First GDDR6-AiM Accelerator Card ‘AiMX’ for Generative AI — SK hynix Newsroom — 2023-09-18 — https://news.skhynix.com/sk-hynix-debuts-first-gddr6-aim-accelerator-card-aimx-for-generative-ai/ — (B)

5 Aquabolt-XL: Samsung HBM2-PIM with in-memory processing for ML accelerators and beyond — IEEE Hot Chips 33 / HCS 2021 — 2021 — https://experts.illinois.edu/en/publications/aquabolt-xl-samsung-hbm2-pim-with-in-memory-processing-for-ml-acc — (A)

6 Samsung Electronics Envisions Hyper-Growth in Memory and Logic Semiconductors through Intensified Industry Collaborations at Samsung Tech Day 2022 — Samsung Semiconductor — 2022-10-05 — https://news.samsungsemiconductor.com/global/samsung-electronics-envisions-hyper-growth-in-memory-and-logic-semiconductors-through-intensified-industry-collaborations-at-samsung-tech-day-2022/ — (B)

7 Memory in AI/ML and Data Era — Samsung, Hot Chips 35 PIM/PNM presentation — 2023-08 — https://www.hc2023.hotchips.org/assets/program/conference/day1/PIM/23_HC35_PIM_PNM_Samsung_final.pdf — (B)

8 Samsung Electronics and NAVER Team Up to Develop Semiconductor Solutions Optimized for Hyperscale AI — Samsung Semiconductor — 2022-12-06 — https://news.samsungsemiconductor.com/global/samsung-electronics-and-naver-team-up-to-develop-semiconductor-solutions-optimized-for-hyperscale-ai/ — (B)

9 AME-PIM: Can Memory be Your Next Tensor Accelerator? — arXiv / ACM Computing Frontiers 2026 accepted paper — 2026-04-30 — https://arxiv.org/abs/2604.27808 — (A)

10 High Bandwidth Memory (HBM4) DRAM, JESD270-4 — JEDEC — 2025-04 — https://img.antpedia.com/standard/files/pdfs_ora/20250520/JEDEC%20JESD270-4-2025.pdf — (A)

11 Micron in High-Volume Production of HBM4 Designed for NVIDIA Vera Rubin — Micron — 2026-03-16 — https://micron.gcs-web.com/news-releases/news-release-details/micron-high-volume-production-hbm4-designed-nvidia-vera-rubin — (B)

12 SK hynix Completes World’s First HBM4 Development and Readies Mass Production — SK hynix — 2025-09-12 — https://news.skhynix.com/sk-hynix-completes-worlds-first-hbm4-development-and-readies-mass-production/ — (B)

13 Samsung Ships Industry-First Commercial HBM4 With Ultimate Performance for AI Computing — Samsung Semiconductor — 2026-02-12 — https://semiconductor.samsung.com/news-events/news/samsung-ships-industry-first-commercial-hbm4-with-ultimate-performance-for-ai-computing/ — (B)

14 Samsung Electronics Statistics & Valuation Metrics — StockAnalysis — 2026-05 — https://stockanalysis.com/quote/krx/005930/statistics/ — (C)

15 SK hynix Inc. P/E Ratio (TTM) — Atlantis Data — 2026-05-13 — https://atlantisdatasolutions.com/south_korea/000660/pe-ratio — (C)

16 US equity quote snapshot for MU/NVDA/AMD — finance data tool — 2026-05-28 12:18 UTC,market cap 與 PE 為盤前/UTC 報價快照,非 2026-05-28 收盤 — (C)

17 UPMEM is releasing a true Processing-in-Memory acceleration solution — UPMEM — 2026 access — https://www.upmem.com/ — (B)

source: 公開揭露與公開資料整理 本頁僅用於產業鏈學習、資訊檢索和研究輔助;不構成投資建議,不預測漲跌,不提供買賣、部位或目標價建議。
完整概念頁 複盤 13 節結構 公司投研頁 沿產業鏈找到受益公司 投資課 把概念轉成可跟蹤模型