
财联社 9 月 3 日讯(编辑 马兰)内存的持续短缺,正在让大型数据中心运营商不得不采取一些非常手段。
据谷歌供应链基础设施高级总监 Nikhil Cherian 透露,为了突破内存瓶颈,谷歌正在同时开发软件和硬件解决方案,甚至拆解退役服务器以回收可回收的组件,从而建立内部回收供应链。
谷歌据悉已设计了特殊的硬件适配器,允许将上一代内存,例如 DDR4 连接到其新一代人工智能服务器上。Cherian 还承认,谷歌正在进口退役的服务器,以拆除它们的 DDR4 模块进行回收利用。
他还表示,人工智能行业已迅速从计算受限转向内存受限,高性能内存已占给定人工智能服务器物料清单成本的约 75%。
内存短缺的信号
上周,高盛在一份报告中指出,内存价格将在第三季度继续增长,预计个人电脑 DRAM 价格将上涨 18% 至 23%,服务器 DRAM 价格上涨 13% 至 18%。
Trendforce 数据显示,8 月现货市场上,DDR4 8GB 和 DDR5 8GB 的价格分别上涨至 142 美元和 133 美元。DDR5 相对于 DDR4 的折扣仍为 6%,与 7 月份持平。
内存价格的不断上涨已经迫使人工智能行业采取降低单位算力所需内存容量的措施。谷歌在今年推出的两种 TPU ASIC 就对内存进行了优化设计,称有望将内存需求降低至原来的六分之一。
谷歌的 TPU8i 芯片采用了专用分层内存设计,依靠高速 DDR5 内存架构来执行主机级任务。此外,每颗 TPU8i 芯片均搭载 288GB 的 HBM3e 高带宽内存。
但从谷歌开始回收 DDR4 的举动来看,DDR5 和 HBM3e 并不足以满足该公司人工智能芯片的内存需求,迫使其利用上一代的内存解决方案。内存仍然是限制该公司算力增长的关键瓶颈。


登录后才可以发布评论哦
打开小程序可以发布评论哦