2.8 万亿参数,单次推理只激活约 1040 亿——月之暗面把这样一个模型,直接放上了 Hugging Face。
11 月 5 日,月之暗面(Moonshot AI)在 Hugging Face 平台开放 Kimi K3.1 Pro 模型权重。开发者可以获取模型,并依据其专用许可证进行部署与使用。开放权重意味着模型本体交到开发者手里,而不是只留一个调用接口。
根据第三方评测平台 Arena 的 Agent Arena 排行榜统计,Kimi K3.1 Pro(Max)在开放权重模型中位列第一,在全部参评模型中位列第 14 名。在工作、编程和聊天三个类别中,它均排名开放模型首位。一个开放权重模型能挤进总榜前 15,这个位置本身就值得看一眼。
架构上做了什么
Kimi K3.1 Pro 采用混合专家(MoE)架构,总参数量达到 2.8 万亿,单次推理激活约 1040 亿参数,支持约 100 万 Token 上下文窗口。总参数和激活参数之间的落差,是 MoE 的典型特征:模型整体很大,但每次推理只调用其中一部分。
相较于 Kimi K3,新模型做了两处关键调整。一是通过覆盖数百个下游领域的大规模联合强化学习进行后训练;二是将部分全注意力层替换为门控稀疏注意力层,以降低长上下文处理开销。长上下文一直是推理成本的大头,稀疏化注意力是压这部分开销的直接手段。
开放权重这件事
权重开放后,部署方式的选择权交到了使用者手上。配合专用许可证,开发者可以按自己的场景决定怎么跑、跑在哪。对于需要私有化部署或深度定制的团队,这和调用闭源 API 是两条完全不同的路径。
从榜单结果看,开放权重模型和闭源模型之间的差距仍在被压缩。Kimi K3.1 Pro 在开放模型里拿了三个类别第一,总榜排到第 14 ——这个名次不算顶尖,但足以说明开放权重不再是 " 退而求其次 " 的选项。
模型已经可以获取,剩下的问题是:100 万 Token 的上下文窗口,加上稀疏注意力带来的成本下降,实际部署时的性价比会落在什么位置。这需要开发者自己跑一遍才知道。

