驱动之家 昨天
每个GPU多用16TB NVIDIA再对SSD市场重击:这下真不够用了
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 1 月 8 日消息,前两天的 CES 主题演讲中,NVIDIA 没有发布消费级产品,传闻中的 RTX 50 Super 系列还是没影了,发布的主要还是各种 AI 基础设施产品。

针对当前的推理市场,NVIDIA 推出了 BlueField-4 DPU 平台,这是为了解决 AI 记忆力的问题,建立了推理上下文内存存储平台。

NVIDIA 的做法就是给 GPU 额外配备超大容量的 SSD 作为缓存,每颗 GPU 可以有 16TB 的上下文空间,通过 200Gb/s 带宽连接,极大程度解决长文本 " 显存墙 " 问题。

这种设计带来了什么?敏锐的网友应该意识到这是对 SSD 市场的一次重击,因为 AI 硬件将会再一次消耗大量闪存,GB200 的 NVL72 机柜此前配置的闪存容量大约是 830TB,现在每个 GPU 增加 16TB 容量后,新增了 1152TB 的容量需求。

如果结合之前的爆料来看,新增的这些闪存也不是常规产品,而是 NVIDIA 联合铠侠、SK 海力士等公司研发的高性能 AI SSD,随机性能达到 1 亿 IOPS 级别,差不多是当前的 10 倍性能,同时延迟将是传统 TLC 闪存硬盘的 1/10-1/20,只有 5-10us。

要达到这样的性能,所用的闪存要回到成本最贵的 SLC 闪存,这意味着同样的产能下,厂商生产出来的闪存数量只有之前的 1/3 到 1/4 了。

即便不考虑 SLC、TLC 闪存类型的容量区别,光是每套 NVL72 多增加的 1152TB 容量都够闪存供应链喝一壶的,IDC 数据显示 2024 年全球出货 3.55 亿个 SSD,市场价值 410 亿美元,而 SSD 硬盘每 GB 价格大约是 0.1 美元,算下来去年出货的 SSD 容量也就 4100 亿 GB,也是 4.1 亿 TB,而每套 NVL72 就要多消耗 1152TB 了。

这么一算,NVIDIA 只要出货 40 多万套 NVL72 机柜,就足以把一年的 SSD 容量耗光,这波影响到底有多大,大家可以自己算算。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ssd nvidia 闪存 gpu ai
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论