中国电子报 20小时前
月之暗面重磅宣布,产业界纷纷回应
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

7 月 27 日晚上十一点,月之暗面发布 Kimi K3 的模型权重、技术报告,并开源支撑 Kimi K3 模型训练的关键 Infra 技术:MoonEP、FlashKDA 和 AgentEnv。这意味着,每个人都可以下载并部署 Kimi K3 模型——无论是用于内部研发,还是嵌入到面向终端用户的产品中,均可自由使用。

月之暗面表示,Kimi K3 是其能力最强的模型。Kimi K3 参数规模是 Kimi K2.5 的 3 倍左右,但是规模化并不仅仅是参数的堆叠,在并不宽裕的算力条件下,技术团队凭借 Kimi Delta Attention、Attention Residuals 以及 MoonEP 等一系列技术创新,规模化效率提升了 2.5 倍,也就是在算力最优的意义下,单位算力产出智能约等于原来的 2.5 倍。

Kimi K3 开源后,国产算力也积极适配。

华为计算发文表示,此次 Kimi K3 一经开源发布,昇腾即实现 0day(指在产品正式发布或系统上线当天 " 第 0 天 " 就能完全兼容和正常运行的能力)适配:在训练侧,基于 MindSpeed MM 在 Atlas 800 A3、Atlas 900 A3 SuperPoD 上完成训练复现,在算子、并行加速、显存优化等方面进行专项优化;在推理侧,通过 vLLM Ascend 与 SGLang 开源推理引擎实现快速部署,同时,昇腾 950 超节点支持 FP8、MXFP8、MXFP4 等全系列数值精度格式,原生支持 Kimi K3 的 mxFP4 量化权重。

与此同时,阿里云也发文称,阿里云真武 M890 超节点实例已 Day0 适配 Kimi K3,并称其是国内首个跑通近 3 万亿参数模型的超节点。千问 AI 平台和阿里云百炼也将提供 Kimi K3 的模型 API。

美编丨马利亚

监制丨连晓东

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

kimi 阿里云 华为 开源 技术创新
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论