驱动之家 09-30
对标英伟达CUDA!DeepSeek开源昇腾基础组件 性能逼近硬件上限
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 9 月 30 日消息,据 DeepSeek 官方公众号消息,今天,DeepSeek 正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、计算库、分布式通信库。所有组件与此前面向英伟达平台的开源组件一一对应。

据官方介绍,相对于英伟达的 CUDA 语言,TileLang 的编程更简单,能显著提高开发效率、简化代码逻辑。

同时对比其它同类高级语言,TileLang 的编程模型可以充分发挥芯片的特性,达到硬件的性能上限。

据悉,这套技术方案已在英伟达平台完成落地验证,DeepSeek V4 系列模型训练的绝大多数算子均基于 TileLang 实现,也是 DeepSeek 研发高性能算子、探索 AGI 新范式的核心工具。

此次开源的 TileLang 昇腾版,对昇腾 Ascend-C 底层指令做封装,提供高级语言开发能力的同时,不会损耗硬件性能,契合 TileLang 最初的设计目标。

目前 DeepSeek 训练所用的全部 TileLang 算子,均已在昇腾平台完成高性能适配。

官方表示,TileLang 昇腾版开源,也希望为国内多款 AI 芯片搭建高可用软件生态提供参考示范。

除编译语言之外,本次同步开放昇腾平台多款核心计算、通信基础组件:负责矩阵运算加速的 DeepGEMM;

支撑大规模跨设备高速通信的 DeepEP;处理向量计算与内存访问的 TileKernels;

优化长上下文效率的稀疏注意力算子 FlashMLA,以及实现高效数据筛选的 DeepSelect。

多项测试结果显示,这批组件的计算、通信性能均接近硬件理论上限。

值得一提的是,本次适配研发过程得到华为团队全力支持,双方深度协同,完成昇腾 950 的 128 卡超节点方案落地,并针对计算、通信链路开展深度调优。

下附开源项目链接:

TileLang:

https://github.com/tile-ai/tilelang

DeepGEMM Ascend:  

https://github.com/deepseek-ai/DeepGEMM-Ascend

DeepEP Ascend:  

https://github.com/deepseek-ai/DeepEP-Ascend

TileKernels:  

https://github.com/deepseek-ai/TileKernels

FlashMLA:  

https://github.com/deepseek-ai/FlashMLA

DeepSelect:  

https://github.com/deepseek-ai/DeepSelect

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

开源 英伟达 华为 编程 基础设施
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论