在人工智能（AI）和高性能计算（HPC）的影响下，近两年 HBM 产品发展逐渐加速，也推动着存储器厂商的收入增长，而新一代 HBM3E 也逐渐成为了各种新款芯片的搭配首选。今年英伟达带来了基于 Blackwell 架构的新产品，首发的 B200 和 GB200 都选用了 HBM3E。有消息称，AMD 今年将推出改用 4nm 工艺制造的 Instinct MI350 系列，搭配的显存也将换成 HBM3E。

据 TrendForce报道，AMD 和英伟达都加快了主力人工智能（AI）应用芯片的开发步伐，而且都在规划采用更高规格的 HBM 产品，以进一步提升性能。从目前情况来看，2024 年将会有三大趋势：

HBM3 将进阶到 HBM3E - 预计英伟达下半年开始扩大搭载 HBM3E 的 H200 出货，取代 H100 成为主流，B200 和 GB200 也会采用 HBM3E。AMD 年底前会带来 Instinct MI350 系列，在此之前还会有 Instinct MI32x 系列，均选定了 HBM3E。

HBM 容量持续增大 - 目前市场主流的 H100 搭载的是 80GB 的 HBM3，至 2024 年底改用 HBM3E 的新品，容量将提升至 192GB 到 288GB。

HBM3E 将从 8 层往 12 层堆叠发展 - 英伟达首批 Blackwell 架构产品都采用了 8 层堆叠的 HBM3E，到了明年将引入 12 层堆叠的 HBM3E。AMD 今年的 Instinct MI350 系列，以及明年的 Instinct MI375 系列，都将采用 12 层堆叠的 HBM3E，将容量提升至 288GB。

此前三星已官宣了业界首款拥有 12 层堆叠的 HBM3E，传闻 SK 海力士在今年 2 月已经向英伟达发送了新款 12 层堆叠 HBM3E 样品，以进行产品验证测试。另外有趣的是，报道中还提及了之前没有出现的 AMD Instinct MI375 系列。