北晚在线 3小时前
月之暗面正式开源Kimi K3
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

7 月 27 日深夜,总部位于北京海淀的月之暗面公司发文,发布 Kimi K3 的模型权重、技术报告,并开源支撑 Kimi K3 模型训练的关键 Infra(关键底层基础设施)技术。" 现在,每个人都可以下载并部署 Kimi K3 模型——无论是用于内部研发,还是嵌入到面向终端用户的产品中,均可自由使用。"

月之暗面表示,Kimi K3 是其能力最强的模型。Kimi K3 参数规模是 Kimi K2.5 的 3 倍左右,但是规模化并不仅仅是参数的堆叠,在并不宽裕的算力条件下,技术团队凭借 Kimi Delta Attention、Attention Residuals 以及 MoonEP 等一系列技术创新,规模化效率提升了 2.5 倍,也就是在算力最优的意义下,单位算力产出智能约等于原来 2.5 倍。

与 Kimi K3 模型权重一起公开的,还有月之暗面的模型训练方法—— Kimi K3 技术报告已同步上线。

提及为何选择将最强模型开放,月之暗面表示,其坚信开放权重模型的价值,它们能降低获取智能的门槛,推动创新,并赋予用户对数据更大的控制权、隐私保护和所有权。在过去几周里,他们听到了许多来自 AI 社区以及有共同愿景的技术领袖的支持声音。" 我们相信,对于 AGI 这样具有深远影响的技术,一个广泛、开放的生态系统是最适合承载它的土壤。为此,我们将继续贡献自己的力量。"

(流程编辑:U072)

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

kimi 开源 技术创新 海淀 基础设施
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论