快科技 9 月 30 日消息,据 DeepSeek 官方公众号消息,今天,DeepSeek 正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、计算库、分布式通信库。所有组件与此前面向英伟达平台的开源组件一一对应。
据官方介绍,相对于英伟达的 CUDA 语言,TileLang 的编程更简单,能显著提高开发效率、简化代码逻辑。
同时对比其它同类高级语言,TileLang 的编程模型可以充分发挥芯片的特性,达到硬件的性能上限。
据悉,这套技术方案已在英伟达平台完成落地验证,DeepSeek V4 系列模型训练的绝大多数算子均基于 TileLang 实现,也是 DeepSeek 研发高性能算子、探索 AGI 新范式的核心工具。
此次开源的 TileLang 昇腾版,对昇腾 Ascend-C 底层指令做封装,提供高级语言开发能力的同时,不会损耗硬件性能,契合 TileLang 最初的设计目标。
目前 DeepSeek 训练所用的全部 TileLang 算子,均已在昇腾平台完成高性能适配。
官方表示,TileLang 昇腾版开源,也希望为国内多款 AI 芯片搭建高可用软件生态提供参考示范。
除编译语言之外,本次同步开放昇腾平台多款核心计算、通信基础组件:负责矩阵运算加速的 DeepGEMM;
支撑大规模跨设备高速通信的 DeepEP;处理向量计算与内存访问的 TileKernels;
优化长上下文效率的稀疏注意力算子 FlashMLA,以及实现高效数据筛选的 DeepSelect。
多项测试结果显示,这批组件的计算、通信性能均接近硬件理论上限。
值得一提的是,本次适配研发过程得到华为团队全力支持,双方深度协同,完成昇腾 950 的 128 卡超节点方案落地,并针对计算、通信链路开展深度调优。
下附开源项目链接:
TileLang:
https://github.com/tile-ai/tilelang
DeepGEMM Ascend:
https://github.com/deepseek-ai/DeepGEMM-Ascend
DeepEP Ascend:
https://github.com/deepseek-ai/DeepEP-Ascend
TileKernels:
https://github.com/deepseek-ai/TileKernels
FlashMLA:
https://github.com/deepseek-ai/FlashMLA
DeepSelect:
https://github.com/deepseek-ai/DeepSelect



登录后才可以发布评论哦
打开小程序可以发布评论哦