钛媒体快报 09-11
中科曙光发布scaleFabric Token加速技术体系
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

钛媒体 App 9 月 11 日,中科曙光近日发布 scaleFabric Token 加速技术体系。该体系以原生无损 RDMA 高速网络为核心,构建 " 算存传 " 三级紧耦合的 Token 加速通道,并推动 IBGDA 技术在国内首次实现规模化应用。IBGDA 主要面向 MoE 模型中的高频小消息通信。传统模式下,通信任务的发起及相关处理仍需 CPU 参与;IBGDA 支持 GPU 直接发起和管理网卡通信,可消除传统路径中 CPU 调度带来的开销。目前,scaleFabric 已完成 DeepEP 等通信框架适配,IBGDA 可作用于 MoE 模型的专家并行通信,提升 Token 在不同专家之间的分发与汇聚效率。(广角观察)

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

中科曙光 钛媒体 广角 gpu
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论