快科技 1 月 8 日消息,前两天的 CES 主题演讲中,NVIDIA 没有发布消费级产品,传闻中的 RTX 50 Super 系列还是没影了,发布的主要还是各种 AI 基础设施产品。
针对当前的推理市场,NVIDIA 推出了 BlueField-4 DPU 平台,这是为了解决 AI 记忆力的问题,建立了推理上下文内存存储平台。
NVIDIA 的做法就是给 GPU 额外配备超大容量的 SSD 作为缓存,每颗 GPU 可以有 16TB 的上下文空间,通过 200Gb/s 带宽连接,极大程度解决长文本 " 显存墙 " 问题。
这种设计带来了什么?敏锐的网友应该意识到这是对 SSD 市场的一次重击,因为 AI 硬件将会再一次消耗大量闪存,GB200 的 NVL72 机柜此前配置的闪存容量大约是 830TB,现在每个 GPU 增加 16TB 容量后,新增了 1152TB 的容量需求。

如果结合之前的爆料来看,新增的这些闪存也不是常规产品,而是 NVIDIA 联合铠侠、SK 海力士等公司研发的高性能 AI SSD,随机性能达到 1 亿 IOPS 级别,差不多是当前的 10 倍性能,同时延迟将是传统 TLC 闪存硬盘的 1/10-1/20,只有 5-10us。
要达到这样的性能,所用的闪存要回到成本最贵的 SLC 闪存,这意味着同样的产能下,厂商生产出来的闪存数量只有之前的 1/3 到 1/4 了。
即便不考虑 SLC、TLC 闪存类型的容量区别,光是每套 NVL72 多增加的 1152TB 容量都够闪存供应链喝一壶的,IDC 数据显示 2024 年全球出货 3.55 亿个 SSD,市场价值 410 亿美元,而 SSD 硬盘每 GB 价格大约是 0.1 美元,算下来去年出货的 SSD 容量也就 4100 亿 GB,也是 4.1 亿 TB,而每套 NVL72 就要多消耗 1152TB 了。
这么一算,NVIDIA 只要出货 40 多万套 NVL72 机柜,就足以把一年的 SSD 容量耗光,这波影响到底有多大,大家可以自己算算。



登录后才可以发布评论哦
打开小程序可以发布评论哦