驱动之家 18小时前
告别GPU资源浪费!CUDA 13.5为Vera Rubin提供生产级支持:计算分区可灵活借调
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 11 月 5 日消息,NVIDIA 于 11 月 4 日正式发布 CUDA Toolkit 13.5,为下一代 AI 计算平台 Vera Rubin 提供生产级通用可用支持。这标志着 Vera Rubin 从早期预览阶段正式进入企业生产部署阶段。

本次更新针对 Rubin 架构的低精度矩阵运算优化了底层内核。NVIDIA 称无需针对每种计算形状逐一调校即可提升吞吐量。值得注意的是,从 Rubin 架构起,CUDA 不再支持 TCC 模式,仅提供 WDDM 和 MCDM 两种 Windows 驱动模型。

GPU 调度方面,多实例服务架构 v3 引入加权时间切片,允许为重负载服务器设置更长的基础计算时间片,并独立调节 GPU 在任务间的切换频率。多租户场景下的 GPU 共享控制更加精细,有效减少了资源抢占。

局部域也获得增强。系统现在支持两种流式多处理器分区策略:一是各局部域使用统一数量保证可预测性;二是将域外补充流式处理器纳入分区以用满全部资源。计算分区支持资源的动态借调与回收,但无论资源如何流转,应用所获得的基础资源配额始终保持稳定。

计算内核层级迎来多 GPU 通信能力。内核可通过高速互连网络直接访问其他 GPU 的内存,并支持跨显卡的数据归约,将通信与计算融合在同一个内核中完成,大幅降低多卡协同的通信开销。

此外,性能分析工具以公开预览形式亮相,为长时间运行的训练与推理提供常开式监控,帮助排查难以复现的间歇性问题。从硬件生产就绪到调度优化,CUDA 13.5 为下一代算力集群补齐了底层工具链。

此次更新同步搭配 NVIDIA 620.70.06 Linux 驱动发布。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

gpu nvidia linux ai 吞吐量
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…