6 月 13 日消息,KAIST 韩国科学技术院下属 Teralab 的学者 Kim Joungho 被部分业内人士称为“HBM 之父”,他在本月 11 日的讲座中介绍了从 HBM4 直到 HBM8 的长期路线图。
这位教授认为,HBM 内存的 I/O 数目将在 HBM5、HBM7、HBM8 三次倍增,堆叠层数、单层容量、引脚速率也将步步提高,键合技术将从现有的微凸块向无凸块铜对铜直接键合(混合键合)过渡。而在这一代际演进中,HBM 堆栈的发热同样会逐步增长,带来更高的散热需求。
Kim Joungho 还分享了他认为的未来几代 HBM 内存技术重点:
HBM4
传统的 HBM 堆栈仅包含定制 DRAM 芯片,而在 HBM 系统中 HBM base Die 有望集成 LPDDR 控制器,为 HBM 存储系统添加一个新的层次,有效利用传统模式下闲置的容量和带宽资源。
HBM5
来到 HBM5,此时的存储堆栈有望包含 NMC 近内存计算区块,这意味着能减小 HBM 同 AI xPU 间的传输带宽,提升计算操作的本地化程度,改进系统性能与能效。
HBM6
目前的 HBM 都是 1 个 base Die 对应 1 个 DRAM 堆栈的单塔结构,而到 HBM6 有望以单一大型 base Die 配套 2 个 DRAM 堆栈,形成双塔的物理造型;同时 NMC 单元也会来到堆栈的下方。
另一方面,现有的 xPU-HBM 2.5D 封装采用的是硅中介层 / 硅桥连接,而这限制了超大型芯片复合体的扩展能力,以玻璃基板构造硅-玻璃复合中介层可实现多个 GPU 模块的一体化。
HBM7
对于 HBM7 而言,两大重点则是由 HBM 和 HBF 等构成的多级存储系统,以及通过在 DRAM 堆栈中嵌入多功能桥片改善信号和添加额外功能。
此外,HBM7 也将引入嵌入式冷却系统以解决高性能带来的发热问题。
HBM8
在 Kim Joungho 的最遥远展望 HBM8 上,他认为此时芯片复合体将不仅利用整个封装的一面去容纳 HBM 内存,背面也将用于存储扩展,同时散热也会紧密集成。