快科技 11 月 12 日消息,AMD 推出基于闪存的 "MEXT 预测内存软件(MEXT Predictive Memory Software)",可将搭载 EPYC 系列处理器的服务器 DRAM 需求降低 20% 至 75%,从而降低成本、减轻供应压力,同时保持相当性能。
AMD 计算与企业 AI 业务拓展副总裁 Gary Smerdon 表示,服务器内存普遍存在浪费情况,企业通常会过度配置内存以防止性能下降,这部分容量约占总容量的 50%。
"MEXT 预测内存软件 " 由 AI 模型驱动, 以更好地管理 DRAM 与 SSD 间的数据配置:将较少使用的数据暂时存放到闪存,通过 AI 预测后续需求,再提前放回 DRAM,从而降低应用程序等待数据的时间。
这一做法是将更便宜、更省电的闪存引入内存层。虽然闪存比内存慢得多,但 AMD 在不改变软硬件配置的情况下,通过 AI 技术抵消这部分延迟,使上层看来仍是连续内存。整个过程可在本地完成 AI 训练和推理,仅需一颗 EPYC 处理器核心即可完成。
AMD 表示,在保持性能相当的前提下,该软件可减少 20% 至 75% 的内存使用,将可用内存最大扩展至三倍,为数据中心提供更经济的扩展路径。
多项验证测试表明,该方案对代理 AI 工作负载作用更明显:在内存与闪存各占一半的配置下,每美元性能提升 90%;在内存密集型代理应用中,性能可提升 70%。



登录后才可以发布评论哦
打开小程序可以发布评论哦