驱动之家 4小时前
AI技术重大突破:内存涨价将遇狙击 内存用量大降
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 7 月 1 日消息,如今的内存涨价已经失控,一年来价格涨了 5-10 倍,主要推动力就来自 AI 数据中心需求,但这波涨价缺货很可能也会遇到狙击,技术突破也是来自 AI 优化。

大家都知道 AI 大模型对内存的容量及带宽都有极高的需求,所以高性能 AI 芯片大多上了 HBM 内存,其用量是 DDR5 内存的 2-3 倍,导致了这一次的内存缺货涨价。

内存缺货因 AI 而起,最终解决还得靠 AI 本身,想要减少内存用量就得优化内存架构,OpenAI 分拆出来的一个团队在这方面已经取得了重大突破,主要是内存效率方面的,技术很快会宣布。

虽然这个技术具体是啥没公布,但已经有 AI 领域的网友提到了这可能跟 KVCache 缓存有关,熟悉 DeepSeek 的网友对这个词应该不会陌生,V4 价格能这么低的原因就是 KVCache 利用到了极致。

OpenAI 的这个技术突破有可能也是在这方面作文章,既然内存又贵还缺货,那就减少对内存的需要,将数据放到容量更大、价格更低的 NAND 闪存芯片上。

如果再联系到业界此前在研究的 HBF 闪存,OpenAI 很有可能这次会把这种高性能闪存推向实际部署,虽然延迟、写入速度上还无法跟 HBM 内存相比,但 1638GB/s 的读写带宽跟 HBM4 是一样的。

这个技术最终大规模部署的话,那么 AI 算力中心对内存的用量肯定会大幅减少,内存缺货、涨价的动力就严重受限了。

但是坏消息是这可能会加速闪存的涨价,只不过闪存本身的价格比内存低很多,权衡之下肯定还是优先减少内存用量。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 闪存 nand闪存 芯片 ai芯片
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论