Raptor：首款面向生成式推理的 3D-DRAM 加速器

DeepFocus AI 研报速读 · 来源：海外投行 · 2026-08-25

一句话看懂：中性偏多：3D-DRAM新架构可实现SRAM级带宽与HBM级容量，但量产与生态尚未验证。

核心逻辑

d-Matrix在Hot Chips 2026发布Raptor，主打3D-DRAM堆叠算存一体，目标解决LLM Decode阶段显存带宽瓶颈。关键数字：单卡32GB、72卡Scale-up可承载Kimi K3@1M上下文；3D IO能效0.3–0.4pJ/bit，约为HBM4系统2.5+3pJ/bit的1/10；SRAM加速卡300TB/s但容量仅4GB且成本100×DRAM。

关键利好

3D IO能效0.3–0.4pJ/bit，约为HBM4系统能效的1/10，相同带宽下功耗显著降低
72卡×32GB可在4-bit权重+8-bit KV下承载Kimi K3 1M上下文，单机柜即可装下大模型
解码阶段为memory-bound，Raptor瞄准decode优化可显著压低Agentic推理时延

风险与需要留意的地方

1-Hi堆叠+Logic-on-Top要求功率密度≤0.5W/mm²才能液冷，可扩展性受热设计严格约束
100s瓦功率需经DRAM TSV供电，IR-drop风险高，量产可靠性未在文本中验证
需协调8K虚拟设备、远超典型GPU系统72设备规模，软件栈与生态成熟度未知

本文为 DeepFocus 对海外投行公开研报的 AI 解读与整理 · 解读置信度 32%，不含研报原文；完整跟踪与实时行情请在 DeepFocus 终端查看。

Raptor：首款面向生成式推理的 3D-DRAM 加速器

核心逻辑

关键利好

风险与需要留意的地方

更多研报解读