快科技 3 月 19 日消息,在 NVIDIA 年度开发者大会上,黄仁勋向全球推出最强 AI 芯片 GB300。
GB300 基于 NVIDIA Blackwell Ultra 架构,提升了训练和测试时扩展推理能力,即通过在推理过程中增加计算量来提升准确率的技术,以帮助企业加速 AI 推理、代理式 AI 及物理 AI 等应用的开发与部署。
该架构包括 NVIDIA GB300 NVL72 机架级解决方案和 NVIDIA HGX B300 NVL16 系统,其中 GB300 NVL72 的 AI 性能比 GB200 NVL72 高出 1.5 倍,使得建造 AI 工厂的收入机会与基于 Hopper 构建的系统相比增加了 50 倍。
GB300 NVL72 每个节点配备两颗升级版的 Blackwell GPU、一颗 Grace CPU,搭配多达 288GB HBM3e 高带宽内存,Dense FP4 性能高达 15PFlops(每秒 1.5 亿亿次)。
整台服务器一共 72 个节点,也就是 144 颗 GPU、72 颗 CPU、20TB HBM3e、40TB DDR5 内存,比上代增加 50%,CX8 互连带宽 14.4TB/s,增加 100%。
而 HGX B300 NVL16 相比 Hopper 代产品,LLM 推理速度提速了 11 倍,计算性能提升了 7 倍,内存容量扩大了 4 倍,可为最复杂的工作负载(如 AI 推理)提供突破性性能。
不仅如此,Blackwell Ultra 平台特别适用于以下应用:
代理式 AI,利用复杂推理和迭代规划自主解决复杂的多步骤问题,AI 智能体系统超越了简单的指令执行,能够推理、规划并采取行动以实现特定目标。
物理 AI,使企业能够实时生成合成的、具有高度真实感的视频,用于大规模训练机器人和自动驾驶汽车等应用。
NVIDIA 表示,联想、戴尔和超微等合作伙伴预计将从 2025 年下半年开始推出基于 Blackwell Ultra 的各类服务器。
登录后才可以发布评论哦
打开小程序可以发布评论哦