
AMD 最新销售策略显示,企业在购置全新 Epyc 服务器并搭配 Mext 软件许可后,仅需配置一半容量的 DRAM,即可实现高达 99% 的性能表现。
这一突破得益于 AI 模型的应用。Mext 能在操作系统或应用程序察觉需求前,智能地将内存页加载至更廉价的 NVMe 存储中,或在闲置时将其移出。该机制类似传统 SWAP 交换空间或 Windows 页面文件,但效率更为显著。
AMD 于今年 6 月收购了该项技术。AMD 企业开发高级副总裁、Mext 前首席执行官 Gary Smerdon 指出,通过以闪存替代昂贵的 RDIMM(注册双列直插内存模块),企业服务器成本最多可降低 83%。他透露,在目前已部署该软件的 145 个系统中,客户已避免约 500 万美元的 DRAM 采购支出。
AI 重构内存管理逻辑
Smerdon 解释称,即便在内存利用率显示为 95% 的高负载系统中,仍有大量内存页未被活跃使用。引用 Meta 的研究数据,50% 至 80% 的内存页在过去五分钟甚至更长时间内未被访问。" 对于 Epyc 处理器而言,五分钟是一段漫长的时间。"
Mext 的目标正是将这些非活跃内存页卸载至闪存。尽管闪存每比特价格低 50 倍、功耗低 30 倍,但其速度比 DRAM 慢 500 倍。传统观念中,磁盘交换会严重损害应用性能并导致服务等级协议(SLA)违约,因此常被规避。
为确保 Mext 有效运行,系统必须在内存页被需要前将其重新加载回 DRAM。Smerdon 表示:" 我们利用 AI 监控系统,主动将页面推回 DRAM,从应用或操作系统视角看,它们似乎始终存在于内存中。" 换言之,Mext 透明地让闪存呈现出 DRAM 的特性。
" 与其为基于 Epyc 的服务器购买 2TB DRAM,用户可仅购买 1TB,其余 1TB 由 Mext 通过闪存提供。"Smerdon 称。
为实现这一目标,AMD Mext 采用多种机器学习算法。其核心模型是一种 Transformer 衍生模型,类似于 ChatGPT 或 Claude,但预测对象并非文本中的下一个单词,而是下一个所需的内存页面。Smerdon 强调,只要页面在被需要前位于 DRAM 中,其加载顺序并不关键。
由于准确预测内存访问模式极具挑战,预训练模型并不切实际。相反,Mext 利用单个 Epyc 核心在 " 不到一秒内 " 完成模型初始训练,随后随时间推移不断细化与重训,直至能精准预测页面需求。所有训练均在 CPU 核心上完成,无需 GPU 支持,这意味着几乎所有 Epyc 客户均可使用该平台。
值得注意的是,在虚拟化环境中,该软件要求每个虚拟机(VM)或 VPC 占用一个核心,开销随虚拟化程度增加而上升;容器运行时预计不受此限。AMD 方面尚未就此提供进一步澄清。
性能损耗与成本权衡
AMD 数据显示,该技术在实际应用中效果显著。初期目标受众为电子设计自动化(EDA)和内容创作等内存密集型应用,目前已扩展至数据库和代理式 AI 管道等对延迟敏感的场景。
" 当内存页面处于冷状态时,将其推送至闪存对性能几乎无影响。"Smerdon 称。但他也承认,具体性能损失取决于应用程序类型及卸载至闪存的内存比例。
在与 Synopsys PrimeTime EDA 套件的测试中,使用 Mext 将一半内存卸载至闪存后,系统仍保持 DRAM 基准性能的 95%。而在 AMD 内部测试中,当 DRAM 占比 25%、闪存占比 75% 时,性能降至基准线的 80%。
EDA 工具虽极度消耗内存,但内核瞬时处理数据量通常仅为兆字节级别,这也是 Epyc X 系列芯片在 EDA 领域广受欢迎,以及 Mext 首选该领域切入的原因。在其他场景如 Apache Spark 中,即使将一半 DRAM 替换为闪存,系统仍能维持 99% 的性能表现。
尽管存在轻微性能妥协,但在 AI 数据中心建设导致内存供应紧张的背景下,AMD 赌定客户愿意以少量性能换取显著的 DRAM 成本节省。
目前,AMD 正致力于将 Mext 整合至其企业产品组合。该软件将专用于 AMD 硬件,并通过 OEM 合作伙伴以许可证形式出售。Linux 系统只需安装内核驱动程序即可启用,AMD 还提供独立的 RAM View 应用程序,协助企业识别适合启用该功能的系统与负载。
AMD 表示,Mext 推广正处于第一阶段,即与 HPE 等 OEM 厂商合作,确保系统符合 "Mext 就绪 " 标准。第二阶段计划开始销售软件许可证,并出货预装 RAM View 的 Epyc 平台。
【星途科讯 图文丨 Patrick 首发于 ZAKER 科技,转载请注明出处】


