IT之家 09-30
DeepSeek开源面向华为昇腾算力平台的基础设施组件
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

IT 之家 9 月 30 日消息,DeepSeek 今天(30 日)上午通过官方公众号宣布,正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、计算库、分布式通信库。所有组件与此前面向英伟达平台的开源组件一一对应。

根据介绍,相对于英伟达的 CUDA 语言,TileLang 的编程更简单,能显著提高开发效率、简化代码逻辑。相对于其它同类高级语言,TileLang 的编程模型可以充分发挥芯片的特性,达到硬件的性能上限。TileLang 路线首先在英伟达成熟平台上得到了验证,目前已承载 DeepSeek V4 系列模型训练中大部分算子的实现,是探索 AGI 新范式、开发高性能算子的核心工具。

本次开源的 TileLang 昇腾版本,对昇腾 Ascend C 底层指令进行封装、提供高级语言的编程方式、同时不损失硬件性能。目前,DeepSeek 训练中用到的每一个 TileLang 算子,在昇腾上都有对应的高性能实现。

本次开源还包括昇腾平台核心计算与通信组件,为不同使用场景提供可复用的基础能力:

DeepGEMM 加速通用矩阵运算;

DeepEP 提供高效的大规模跨设备通信;

TileKernels 提供数据处理所需的常规向量计算和访存算子;

FlashMLA 提供稀疏注意力算子,提升长上下文处理效率;

DeepSelect 则实现了高效的数据筛选。

在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。

IT 之家汇总开源项目链接:

TileLang: https://github.com/tile-ai/tilelang

DeepGEMM Ascend: https://github.com/deepseek-ai/DeepGEMM-Ascend

DeepEP Ascend: https://github.com/deepseek-ai/DeepEP-Ascend

TileKernels: https://github.com/deepseek-ai/TileKernels

FlashMLA: https://github.com/deepseek-ai/FlashMLA

DeepSelect: https://github.com/deepseek-ai/DeepSelect

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

英伟达 华为 开源 基础设施 编程
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论