2026-07-28 09:58 出处 / 作者:PConline 原创整合编辑:科仔播报
【太平洋科技快讯】7 月 27 日晚间,月之暗面 Kimi K3 大模型正式开源,官方一并放出了模型权重、技术报告,以及开源支撑 Kimi K3 模型训练的关键 Infra 技术:MoonEP、FlashKDA 和 AgentEnv。

7 月 16 日,月之暗面在 WAIC 2026 前夕正式发布了全新大模型 Kimi K3 ( 详情可查看此前太平洋科技的报道内容:《月之暗面发布全球首个 3 万亿级开源大模型 Kimi K3》 ) 。据官方介绍,Kimi K3 是首款参数规模突破 2.8 万亿的开源大模型,参数规模是 Kimi K2.5 的 3 倍左右,具备原生视觉理解能力,并支持 100 万token的上下文窗口。过去十二个月里,Kimi 系列模型有九个月持续维持全球开源模型参数规模峰值。
该模型并不是单纯地依靠堆砌参数提升性能,在算力资源有限的前提下,依托 Kimi Delta Attention、Attention Residuals、MoonEP 等技术,叠加训练策略、训练数据集优化调整,相比前代 K2 模型,整体算力拓展效率提升约 2.5 倍,算力资源利用转化效率得到明显优化。
官方称,该模型为 Kimi 迄今能力最强的模型。根据官方发布的技术报告, Kimi K3 进一步提升了 MoE 混合专家模型稀疏性能,依托 Stable LatentMoE 架构可在 896 个专家模块中动态激活 16 个参与运算;视觉编码器 MoonViT-V2 从零采用 next-token prediction 方式训练,省去对比预训练流程,在对标 SigLIP 基准效果的同时,训练收敛过程更稳定。

Kimi K3 的开源不只是单一模型权重开放,更是一套包含模型能力、训练算法、底层工程框架的全栈技术体系对外释放,将进一步丰富国内开源大模型生态。月之暗面表示,每个人都可以下载并部署 Kimi K3 模型——无论是用于内部研发,还是嵌入到面向终端用户的产品中,均可自由使用。
另外,官方还介绍了支撑 Kimi K3 训练的三项 Infra 技术:MoonEP、FlashKDA 和 AgentEnv,覆盖从高性能通信、高性能算子到分布式 RL 环境的关键链路。

月之暗面表示,开源权重能够降低大模型开发准入门槛,同时让使用者拥有数据自主、隐私管控、模型所有权等自主权限;通用人工智能技术影响深远,开放共享的产业生态更利于行业长期发展。


登录后才可以发布评论哦
打开小程序可以发布评论哦