此前有报道称,英伟达已经与存储器制造商交换 SOCAMM(Small Outline Compression Attached Memory Module)原型进行测试。其使用低功耗 LPDDR5X 内存,并采用了可拆卸模块设计,在性能和能效方面优于小型个人电脑和笔记本电脑使用的传统 DRAM。在 GTC 2025 上,SK 海力士和美光都公布了自家的 SOCAMM 内存模块,英伟达计划用于 Blackwell Ultra GB300 产品线。
据 TomsHardware报道,英伟达已经推迟了采用 SOCAMM 内存模块的计划,现在该为与下一代代号 "Rubin" 的 GPU 一起推出。传闻推迟的部分原因是英伟达改变了 GB300 的主板设计,从最初的 Cordelia 改成了 Bianca 设计。
Bianca 设计是单主板上拥有 2 颗 B300 GPU 和 1 颗 Grace CPU,可以支持 SOCAMM 内存模块,而 Cordelia 设计则是 4 颗 GPU 和 2 颗 Grace CPU,利用 SXM 插槽接口相连,而且只能使用 LPDDR 内存模块。按照之前的说法,Cordelia 设计存在信号丢失的问题。此外,SOCAMM 也存在可靠性和发热问题。
与 RDIMM 相比,SOCAMM 在相同容量下提供超过 2.5 倍的带宽,允许更快地访问更大的训练数据集和更复杂的模型,以及提高推理工作负载的吞吐量;
SOCAMM 的尺寸为 14 x 90 mm,仅为行业标准 RDIMM 尺寸的三分之一,可实现紧凑、高效的服务器设计;
利用 LPDDR5X,SOCAMM 产品的功耗仅为标准 DDR5 RDIMM 的三分之一,直接影响 AI 架构中的功耗性能曲线;
SOCAMM 解决方案使用了 4 颗 16-die 堆叠的 16Gb LPDDR5X 颗粒,从而实现了 128GB 容量,结合 128-bit 位宽和 8533 MT/s 速率,对于更快的 AI 模型训练和增加推理工作负载的并发用户来说至关重要;
SOCAMM 内存模块还有这优秀的可扩展性和可维护性,增强的纠错功能具有以数据中心为中心的测试流程,为数据中心提供了优化的内存解决方案。
与 LPCAMM2 类似,SOCAMM 也是单面四颗粒,通过三固定螺丝孔固定。不过与 LPCAMM2 不同的是,SOCAMM 顶部没有凸出的梯形结构,进一步降低了整体高度,更适合服务器的安装和液体散热环境。
登录后才可以发布评论哦
打开小程序可以发布评论哦