全天候科技 17小时前
Marvell推出第二代CXL内存扩展器,最高支持9TB DDR4内存
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

Marvell 正通过更大容量、更高带宽的内存扩展方案,瞄准 AI 推理基础设施升级带来的需求增长。

据彭博报道,10 月 12 日,Marvell 正式发布第二代 Structera X 3406 和 3506 CXL 内存扩展器。公司称,这是业界首款六通道 CXL 3.2 内存扩展器,单控制器最高支持 9TB DDR4 或 6TB DDR5 内存,内存通道数量较上一代增加 50%。两款产品预计于 2027 年第一季度开始向客户提供样品。

此次发布旨在应对 AI 推理工作负载日益突出的内存瓶颈。随着大型语言模型(LLM)规模扩大、上下文窗口延长以及 KV 缓存需求快速增长,传统服务器架构的内存容量与带宽正面临更大压力,内存逐渐成为制约 AI 性能和基础设施效率的关键因素。

AMD、Arm、阿里巴巴、三星和 SK 海力士等企业均对新产品及相关生态合作表示支持。

核心技术升级:更多通道,更大容量

Structera X 3406 和 3506 在上一代产品基础上实现了内存通道、扩展容量及压缩性能等方面的升级。

在内存配置方面,两款产品均支持六通道内存。其中,3406 支持 18 个 DDR4 RDIMM 插槽,最高容量达 9TB;3506 支持 12 个 DDR5 RDIMM 插槽,最高容量为 6TB。在主机互联方面,两款产品均支持最多四台主机共享内存资源,主机互联带宽最高可达 256GB/s,采用 PCIe 6.0 x16 接口。

在压缩性能方面,新产品内置 LZ4 压缩引擎,压缩和解压缩吞吐量最高达 250GB/s,较上一代提升 5 倍,可将有效内存容量扩大至原来的 2 至 3 倍。

Marvell 表示,在大型语言模型推理场景中,新产品可在相同上下文长度下,将首字节响应时间(TTFT)缩短 40% 至 50%;在深度学习推荐模型(DLRM)场景中,单控制器每秒查询量最高可提升至原来的 2 倍,嵌入表有效容量则可扩大至原来的 2 至 3 倍。

瞄准超大规模数据中心,生态合作持续扩展

Marvell 表示,第二代 Structera X 沿用已向超大规模数据中心客户出货的第一代 2404/2504 产品的软件栈和生态集成方案,旨在加快新产品的客户导入进程。

多家行业伙伴公开表达了支持。AMD 企业副总裁 Raghu Nambiar 表示,双方的合作依托 EPYC 处理器的性能与可扩展性,帮助企业在 AI 和数据密集型应用需求增长的背景下扩展内存容量、提高资源利用效率。

Arm 云端 AI go-to-market 副总裁 Eddie Ramirez 表示,Structera X 将 CXL 3.2、内存扩展和压缩能力引入 Arm 生态,为超大规模数据中心高效运行复杂 AI 工作负载提供更多选择。

三星电子内存产品规划副总裁 Jangseok Choi 和 SK 海力士下一代产品规划与使能负责人 Uksong Kang 则表示,双方已分别与 Marvell 完成 Structera 产品与各自 DDR 内存的验证。

完善 CXL 产品组合,布局内存池化与分解架构

Marvell 客制化云端解决方案执行副总裁兼总经理 Will Chu 表示,公司是业内唯一提供完整端到端 CXL 产品组合的供应商,产品覆盖多个层级:用于内存扩展的 Structera X、用于近内存加速的 Structera A,以及面向机柜级 CXL 内存共享的 PFMA(Photonic Fabric ™ Memory Appliance),覆盖从直连内存扩展到内存池化与分解的不同应用场景。

市场研究机构 Objective Analysis 总经理 Jim Handy 指出,CXL 正逐步应用于 AI 系统,其高带宽、大容量特性有望带来显著收益。他还表示,在内存供应紧张、价格高企的背景下,IT 管理者正考虑利用 CXL 在 DDR5 系统中复用 DDR4 内存模组,以降低成本;具备内存压缩功能的控制器则有望进一步增强这类方案的吸引力。

Structera X 3406 和 3506 将于 10 月 12 日至 15 日在加州圣何塞举行的 OCP 全球峰会上亮相,正式样品预计于 2027 年第一季度推出。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

marvell ai 数据中心 基础设施 amd
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论