驱动之家 18小时前
AI产业遭遇内存瓶颈 谷歌拆解旧服务器回收DDR4救急
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 9 月 3 日消息,据 Wccftech 报道,谷歌供应链基础设施高级总监尼基尔 · 切里安(Nikhil Cherian)近日在行业峰会上透露,由于 DRAM 供应持续紧张,公司已开始拆解退役服务器,回收其中仍可使用的 DDR4 内存模组,以应对 AI 算力扩张带来的内存短缺压力。

切里安指出,人工智能产业的核心瓶颈已由 " 算力不足 " 转变为 " 内存受限 "。

在典型的 AI 服务器中,高性能内存的物料清单(BOM)成本占比已高达约 75%,内存已成为制约系统性能和成本结构的关键因素。

为突破内存瓶颈,谷歌正同时从软件和硬件两端发力。在硬件层面,谷歌采取了颇为直接的应对方式——有计划地将退役服务器重新调回机房,拆解并回收其中可用的 DDR4 内存模组,构建起一套内部循环利用的供应链体系。

在某些应用场景中,谷歌甚至已被迫采用相对保守的方案:用 DDR4 内存模组替代新型 AI 服务器原计划搭载的 DDR5 模组。

为此,公司专门设计了硬件转接卡,使 DDR4 等上一代内存方案能够接入新一代 AI 服务器系统,以缓解高端内存供应的短缺压力。

在面向推理任务优化的 TPUv8i 芯片方面,谷歌采用了专用分层存储体系。整机层面依托高速 DDR5 内存进行数据预处理等任务,每颗 TPUv8i 芯片还配备 288GB HBM3e 高带宽内存,兼顾容量与带宽需求。

软件层面的优化同样在同步推进。谷歌持续调整底层函数库、模型架构及 KV 缓存压缩算法,以尽可能降低单位算力下的内存开销,从系统层面缓解对物理内存的过度依赖,提升整体资源利用效率。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

谷歌 ai 供应链 芯片 物理
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论