快科技 7 月 29 日消息,日前,月之暗面正式开源 2.8 万亿参数模型 Kimi K3,并同步发布模型权重与技术报告。
同日,摩尔线程基于 AI 训推一体智算卡 MTT S5000 及 MUSA 软件栈,率先完成 Kimi K3 的快速适配与稳定运行。
摩尔线程表示,此次适配不仅展现了 MUSA 软件生态面对前沿大模型的快速响应和全栈协同能力,也再次验证了国产全功能 GPU 支撑万亿级大模型创新的工程实力。
据介绍,在 Kimi K3 开源后,摩尔线程第一时间完成模型结构解析、权重加载、核心算子、缓存管理以及分布式运行链路适配。
同时,摩尔线程还打通了从 SGLang-MUSA 推理框架,到 MATE 算子库、Triton MUSA、TileLang MUSA 的完整适配路径。
在底层能力方面,MTCC 编译器和 MUSA 运行时可高效支持 SGLang JIT 及 DSL 算子在 MTT S5000 上快速部署运行,为 Kimi K3 的稳定推理提供支撑。
摩尔线程称,此次实现 Kimi K3 极速支持,标志着摩尔线程在极短时间内完成了对前沿架构的精准解构、全链路打通与稳定验证。
据了解,Kimi K3 是全球首个开源的 3 万亿级模型,也是目前 Kimi 能力最强的模型。
该模型拥有 2.8 万亿参数,原生支持视觉理解,并具备 100 万 token 上下文窗口,主要面向长程编程、知识工作和复杂推理等前沿智能场景。



登录后才可以发布评论哦
打开小程序可以发布评论哦