驱动之家 10小时前
月之暗面开源最强模型Kimi K3!摩尔线程国产GPU完成Day-0极速适配
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 7 月 29 日消息,日前,月之暗面正式开源 2.8 万亿参数模型 Kimi K3,并同步发布模型权重与技术报告。

同日,摩尔线程基于 AI 训推一体智算卡 MTT S5000 及 MUSA 软件栈,率先完成 Kimi K3 的快速适配与稳定运行。

摩尔线程表示,此次适配不仅展现了 MUSA 软件生态面对前沿大模型的快速响应和全栈协同能力,也再次验证了国产全功能 GPU 支撑万亿级大模型创新的工程实力。

据介绍,在 Kimi K3 开源后,摩尔线程第一时间完成模型结构解析、权重加载、核心算子、缓存管理以及分布式运行链路适配。

同时,摩尔线程还打通了从 SGLang-MUSA 推理框架,到 MATE 算子库、Triton MUSA、TileLang MUSA 的完整适配路径。

在底层能力方面,MTCC 编译器和 MUSA 运行时可高效支持 SGLang JIT 及 DSL 算子在 MTT S5000 上快速部署运行,为 Kimi K3 的稳定推理提供支撑。

摩尔线程称,此次实现 Kimi K3 极速支持,标志着摩尔线程在极短时间内完成了对前沿架构的精准解构、全链路打通与稳定验证。

据了解,Kimi K3 是全球首个开源的 3 万亿级模型,也是目前 Kimi 能力最强的模型。

该模型拥有 2.8 万亿参数,原生支持视觉理解,并具备 100 万 token 上下文窗口,主要面向长程编程、知识工作和复杂推理等前沿智能场景。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

kimi 摩尔 ai 开源 gpu
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论