GMIF创新观察 23小时前
瞄准AI推理扩容,三星与AMD展示CXL内存扩展方案
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

随着大语言模型和 AI Agent 应用持续演进,不同模型、任务及并发规模对内存容量的需求呈现差异化特征。传统服务器通常依据预设硬件配置部署内存,当业务负载波动时,易出现部分服务器内存紧张、部分服务器内存利用率不足的情况。如何在满足推理需求的同时提升内存资源配置灵活性,正成为 AI 基础设施亟待解决的重要议题。

当地时间 10 月 12 日,三星与 AMD 在 OCP Global Summit 2026 上联合展示基于 CXL(Compute Express Link)的内存扩展方案。该方案依托 CMM-D 内存池化技术,在相应系统架构和软件支持下,探索实现多系统内存资源共享与容量弹性分配。相较于单纯增加服务器本地内存,CXL 尝试将部分内存资源从单机固定配置中解耦,并依据不同工作负载需求进行分配。

三星 CMM-D ( M321R)平台展示

三星表示,在 GPU 服务器运行多个 LLM 实例的 AI Agent 演示中,相较静态分配,弹性分配使首 Token 时延最高降低 38%,有效吞吐最高提升 3.3 倍。

此次三星与 AMD 联合展示的意义,在于将内存扩展设备与处理器平台结合起来,呈现相关方案在 AI 推理场景中的应用方式。

01

从容量扩展到内存池化:CXL 改变了什么?

要理解 CXL 的价值,首先需要区分内存扩展与内存池化。

传统服务器的内存通常通过主板上的内存插槽连接 CPU,容量受到服务器硬件配置的限制。当单台服务器的内存无法满足业务需求时,企业往往需要增加本地内存,或者更换支持更大容量的服务器。这种方式能够解决容量不足的问题,但内存资源通常绑定在具体服务器上,即使其他服务器存在闲置内存,也不一定能够直接调配给有需要的系统。

CXL 为改变这一配置方式提供了新的技术路径。作为连接处理器、加速器与内存等设备的高速互连技术,CXL 支持主机访问连接在 CXL 链路上的内存设备,使服务器能够在本地内存之外获得额外容量。不过,增加一层可访问的内存,并不意味着多台服务器已经能够共享内存资源。内存扩展解决的是 " 单台服务器还能获得多少内存 ",内存池化进一步解决的是 " 内存资源能否在不同系统之间更灵活地组织和分配 "。

三星基于 CXL 标准的 DRAM 内存模块 CMM-D 正反面

(图片来源:三星电子)

实现内存池化,需要将 CXL 内存设备、主机平台、互连拓扑与软件管理机制结合起来。在支持相应功能的系统中,多个内存设备可以被组织成统一管理的资源池,再根据主机或业务的需求分配容量。这样,数据中心就有机会减少内存资源与单台服务器之间的固定绑定关系,在不同工作负载之间更灵活地配置内存。

对于 AI 推理而言,这种能力的意义在于,不同模型实例的内存需求会随模型规模、上下文长度和并发请求等因素变化。如果所有服务器都必须提前为峰值需求配置足够的本地内存,就可能出现部分机器容量不足、部分机器资源闲置的情况。内存池化提供了一种重新组织资源的方式:将部分内存容量作为可统一管理的扩展资源,在满足系统访问与性能要求的前提下,按需分配给不同负载。

当然,资源池化并不意味着所有内存都可以无条件共享,也不意味着扩展内存能够达到本地 DRAM 相同的访问性能。实际效果取决于 CXL 协议与设备能力、系统拓扑、访问延迟、软件调度以及业务负载特征。因此,CXL 内存池化更适合被理解为对传统内存架构的补充,而不是对本地内存的简单替代。

从这个角度看,CXL 带来的变化不只是增加内存容量,还包括尝试将内存从相对固定的服务器配置,转变为能够统一管理、按需分配的资源。它能否真正提升数据中心的内存利用率,最终仍需要通过具体业务场景中的性能表现与总体成本来验证。

02

CXL 加速推进产品化与生态协同

三星正推进 CXL 内存扩展走向产品化。据韩媒报道,三星计划于 2026 年年底量产基于 CXL3.2 规范的新一代 CMM-D 模块。在系统层面,三星披露,基于 CXL2.0 的 Pangea v2 内存池化系统已通过 22 个 CMM-D 模块构建出总容量 5.5TB 的共享内存池,数据迁移性能据称达到传统 RDMA 方式的 10.2 倍。

SK 海力士也在推进 CXL 内存扩展相关产品与应用探索。今年 6 月,该公司展示了第二代 256GB CMM-DDR5 样品,支持 CXL 3.2 规范;8 月,进一步展示了基于 CXL 池化的 AI Agent 服务方案,探索利用内存池转移或复用 KV Cache,以支持 AI 推理场景下的内存资源管理。此外,SK 海力士还提出 ITME(Inference Tiered Memory Expansion)分层内存架构,探索在 HBM、DDR 与 SSD 等存储层级之间引入 CXL 内存,以适应不同推理负载对容量与访问性能的需求。

SK 海力士展出 CMM-DDR5 CXL 内存模组

(图片来源:SK hynix)

在控制器环节,澜起科技在 2026 年 7 月宣布,其 CXL 3.2 内存扩展控制器(MXC)进入试产阶段。该芯片基于 PCIe 6.x 协议,最高支持 64 GT/s 传输速率,并集成 DDR5 内存控制器。澜起科技表示,该产品已导入三星、SK 海力士等主要内存模组厂商的下一代 CXL 产品,并完成初步验证。

在云平台与计算平台方面,微软于 2025 年 11 月推出 Azure M 系列虚拟机的 CXL 内存私有预览,拱客户评估相关技术在内存密集型工作负载中的应用价值。与此同时,Meta 也公布了 CXL 内存扩展平台 Vistara 的部署进展。根据 CXL 联盟披露的信息,该平台已应用于大规模生产服务器;在特定的分布式机器学习推理场景中,服务器数量最多减少 25%,分布式缓存平均时延降低 29%。

从内存模块、控制器到云端和数据中心系统,CXL 内存扩展正在多个环节推进。三星此次与 AMD 联合展示的意义,在于将内存扩展设备与处理器平台结合起来,呈现相关方案在 AI 推理场景中的应用方式。对 CXL 池化而言,内存设备本身只是其中一环,还要依赖主机平台、互连拓扑以及软件调度共同工作。因此,CPU、GPU、交换机与软件生态的同步跟进,是 CXL 从展台走向量产的前提,联合演示的看点正是在于展示跨环节协同的可能性。

03

应用前景

对于 AI 推理和云计算等内存需求波动较大的场景,CXL 内存扩展为数据中心提供了本地内存之外的容量补充方式。在适配的系统架构中,本地 DRAM 仍可承担对访问延迟敏感的任务,CXL 扩展内存则为大容量需求和弹性资源配置提供更多选择。不过,其实际应用效果仍取决于设备性能、系统拓扑、软件调度及整体成本,扩展带来的容量优势能否转化为实际的性能或成本收益,仍需结合具体场景验证。

三星与 AMD 此次联合展示的方案,呈现了 CXL 内存扩展在 AI 推理场景中的一种应用路径。随着相关产品和平台持续推进,后续产品量产、软硬件适配及实际部署表现值得持续关注,CXL 能否进一步改善数据中心的内存资源利用效率,也将由更多真实应用逐步检验。

* 声明:本文内容仅代表作者个人观点,基于公开信息整理与分析,不构成任何投资建议、要约或承诺。

关于 GMIF 创新观察

GMIF 创新观察,聚焦存储产业趋势和技术演进,以行业观察、深度报道等形式,持续连接前沿趋势与产业现场;用更鲜活、更深入、更具传播力的内容表达,记录产业变化,放大创新价值,让有代表性的企业、产品与观点被更精准的看见

撰文 / 校对 | Ethan

配图 / 排版 | Max

审 核 | Carina、Alan

近期回顾

长鑫科技 4F ² 架构重大突破:新一代 DDR5 RDIMM 预计年底亮相

GMIF2026 创新峰会:AI 推理引爆 "Token 工厂 ",存储产业开启系统级重构

Arm" 边缘 AI 架构观 ":计算、内存与存储实现高效协同

GMIF2026|闪迪:做 AI 推理时代的 "Token 电池 "

  ---   END   ---

求点赞

求分享

求喜欢

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai amd 三星 基础设施
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论