腾讯科技 16小时前
Kimi K3不是中国的Fable 5
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

月之暗面发布新旗舰大模型。图片经由 AI 处理

文|苏扬

编辑|徐青阳

7 月 17 日凌晨,月之暗面发布旗舰大模型 Kimi K3,总参数量达到 2.8 万亿,成为全球首个开放权重的 3T 级模型。

Kimi K3 拥有 100 万 token 上下文窗口和原生视觉能力,可直接处理文本、图像和视频,发布时默认开启最大思考强度模式。

在大模型编程能力测试中,开源的 Kimi K3,以 76% 的胜率超过两个最顶尖的闭源模型:Claude Fable5(63%)和 GPT-5.6 Sol(58%),登顶最有影响力的 CodeArena 榜单。

K3 在 Frontend Code Arena 中以 1679 分位居 #1,超越 Fable 5

这给人一种感觉:昨天之前大家都觉得只会出现在爽文里的故事,真的发生了。

CodeArena 不是一般的评测榜单,它采用匿名的双盲对战机制,你输入一个 Prompt,然后 CodeArena 会给你两个没人知道是什么模型生成的回答,让你选你觉得哪个好。等你投完票,就会立刻揭晓模型身份,身份揭晓之后的票就不再计入榜单了。

据说 Code Arena 官方花了几个小时确认数据没问题之后,才把结果发了出来。然后,就引爆了硅谷 AI 圈。

Kimi K3 真的超过了 Fable?

官方凌晨的新闻稿里写的是:虽然 Kimi K3 的整体表现仍落后于最强的闭源模型 Claude Fable 5 和 GPT-5.6 Sol,但它在我们的整套评测中展现出前沿水平的能力,并稳定超过了其他所有模型。

要知道,业内普遍推测 Fable 5 的参数在 5T-10T 之间,属于大模型中的大模型。"3 万亿级的参数 "Kimi K3,能与海外前沿模型在不同基准测试中互有胜负,性能可见一斑。

第三方机构 Artifacial Analysis 的智能排行指数中,Kimi K3 从排行第 17 位的 Kimi K2.6 直接跃居第 3,紧随 Fable 5 和 GPT-5.6 Sol 之后,跟官方评测数据很接近。

首批反馈

上诉评测数据迅速在业界引发反应。

从技术领袖到一线用户,首批反馈集中在三个关键词上:速度、突破、实用。

针对 Artifacial Analysis 的测评,埃隆 · 马斯克第二次为月之暗面 Kimi 模型点赞,称 K3 模型的基准性能令人印象深刻。

马斯克称 K3 的性能令人印象深刻

大模型测试者 @kimmonismus 在社交平台上表示,这可能是 "DeepSeek 2.0 时刻 "。

他解释称,Claude Opus 4.8 于 5 月 26 日发布,Kimi K3 发布距其仅一个半月,但在整体上已经优于前者。这个时间差直接反驳了 " 中国开源模型始终落后美国闭源模型六到八个月 " 的长期说法。

大模型测试者 @kimmonismus 称 K3 反超 Opus 4.8 为 "DeepSeek 2.0 时刻 "

另一个重要信号来自网络工程基准测试 nextjs.org/evals。

Vercel 创始人兼 CEO 吉列尔莫 · 拉奇称,Kimi K3 在该测试中表现最佳,领先 Fable,在更短时间内达到相当的成功率。

这是开源模型首次在这一全面基准中领先所有闭源模型。目前尚无模型能 100% 完成该评估,峰值完成率在 92% 至 96% 之间,Kimi K3 的领先因此更具分量。

拉奇称 K3 首度在 nextjs.org/evals 超越所有专有模型,是开源的突破性时刻

沃顿商学院教授伊桑 · 莫利克测试后评价,Kimi K3 是 " 非常好的模型,尽管还达不到 Sol Max 或 Fable(级别),仍是很棒的开源权重模型 "。

莫利克测试,Kimi K3 生成 " 新哥特式塔楼城市淹没风暴洋 " 着色器任务中表现良好

他同时观察到 Kimi K3 倾向于反复循环任务:在最高级别持续调整和修改,像一个 " 神经质的模型 ",但不代表模型不好。这一观察也与月之暗面官方声明的局限性吻合。

官方也发布了提示,Kimi K3 训练特别侧重长程高难度任务,遇到小问题或用户意图不明时可能替用户做意外决策,需在系统提示中加明确约束。

半导体与 AI 基础设施分析师尼古拉斯 · 穆加利从成本结构角度,解读了这套实测表现背后的策略:Kimi K3 的竞争逻辑不是拼 " 最聪明 ",而是将硬件劣势转化为效率和上下文处理的专长。

分析师穆加利认为,K3 以低成本长上下文定位,开源逼近闭源性能,美国实验室面临 " 双线战争 "

他解释称,Kimi K3 定位为成本足够低的底层架构,用户可将整个代码库或研究资料放入上下文运行长程任务。当开源模型以免费权重逼近闭源性能时,闭源模型的在溢价能力将从内部被侵蚀,所以美国实验室面临封闭对开源、溢价对免费的 " 双线战争 "。

研究机构 ADHD Capital 的分析与此呼应,指出月之暗面从未将 " 最聪明 " 作为核心竞争维度,其基因是上下文长度和效率。早在竞争对手上下文限制为 32000 token 时,该公司已推出长上下文方案。

ADHD Capital 发现,Kimi K3 以长上下文 + Agent Swarm 构建低成本智能体平台,不争单轮推理最优

Kimi K3 将百万 token 窗口与线性注意力机制结合,配合 Agent Swarm 协调多子智能体能力,形成了一套不同于单纯追求推理基准冠军的定位。

ADHD Capital 还提到,月之暗面是唯一采用 API 优先、开发者平台策略的中国 AI 实验室,收入增长三倍同时还在提价。

AI 分析师 @Kenjatina_og 则评论称,进步的速度才是更重要的信号,差距开始以超出预期的速度缩小。

AI 分析师 @Kenjatina_og 认为,K3 表现超过 Opus 4.8,中美差距或在加速缩小

Towards AI 联合创始人路易斯 - 弗朗索瓦 · 布沙尔也发帖,Kimi K3 在内部写作基准中从第 21 名跃升至第 1(Elo 2840),超越 Claude Fable 5,为首个登顶的开源权重模型。

在写作基准 Elo 测试中,K3 从第 21 名跃升至第 1 名,超越 Fable 5

在衡量金融与编程综合能力的 Vals 指数上,Kimi K3 排名第二,仅次于 Claude Fable 5

我本人也做了个小测试,跟它说我是复古游戏爱好者,请它帮我做一个复刻的 "VR 战警 ",它还真用不到半个小时的时间,做了一个 HTML 版本,而且还会提醒有版权风险,并且顺手去合成了一些图像、音效素材以前置规避问题。

一句提示词生成复古风射击游戏

当时我就在想,你要让它现在就干 3A 不现实,但是复刻一个网页版小游戏集合站,可就轻轻松松了。而且,所谓的版权素材问题,就直接用模型生成替换。

速度背后是架构的突破。月之暗面用两项自研技术换来了效率跃升。

自研架构

Kimi K3 能够在多项基准测试中逼近甚至部分超越一线闭源模型,核心支撑来自月之暗面自研的两项架构创新:Kimi Delta Attention(KDA)和 Attention Residuals(AttnRes)。

Kimi K3 架构:Stable LatentMoE 和 KDA 模块(左)、AttnRes 操作 α(右上)以及 Block Attention Residuals 主干网络(右)

KDA 是一种混合线性注意力机制,专门解决长序列处理的计算效率问题。

相比标准注意力机制在处理百万级 token 时计算复杂度急剧攀升,KDA 通过线性化设计,大幅降低长上下文场景下的计算支出。这使得 Kimi K3 既能提供 100 万 token 的上下文窗口,又能将推理成本控制在可用范围。

早在 2025 年底,杨植麟在 Reddit AMA(在线问答)中就曾透露,KDA 是当时最新的实验性架构,并表示 " 相关想法很可能会在 K3 中使用 "。如今 K3 发布,这一预告得到了兑现。

AttnRes 是传统残差连接的替代方案,也是 Kimi" 降本增效 " 的老艺能。

相比标准残差连接在每一层均匀累积信息,AttnRes 让模型学会有选择性地跨深度检索信息,不再无差别地流经所有层。官方数据显示,这一改动带来了持续的扩展收益。

今年 3 月,马斯克曾公开称赞 Kimi 团队的 Attention Residuals 方法 " 令人印象深刻 "。

两项架构创新,再加上 Kimi K3 所采用 Stable LatentMoE 框架,共同建立了新模型在提升性能的同时,成本没有暴涨的基础。

Stable LatentMoE 架构今年 1 月由英伟达提出,并率先在 Nemotron 3 Super 中采用。Kimi K3 的 Stable LatentMoE 架构总计 896 个专家模块,每次推理只激活其中 16 个 ( 不到 2% ) 。在这种高稀疏度设置下,将每个 token 准确路由到最合适的专家模块是最大难题。

月之暗面用两项技术加以解决:Quantile Balancing 根据路由器得分的分位数直接推导专家分配,省去了传统方法中需要人工调节的平衡参数;Per-Head Muon 扩展了 Muon 优化方法,独立处理每个注意力头,使大规模训练过程中的学习更加稳定。

Quantile Balancing + Per-Head Muon 提升大规模训练稳定性

KDA 让序列计算更便宜,AttnRes 让深度信息流更智能,Stable LatentMoE 让参数容量更庞大——三者共同构成了 Kimi K3 的架构骨架。算得更省、流得更顺、装得更多成就了 2.8 万亿参数的 Kimi K3。

针对大规模并行推理时专家负载不均可能拖低吞吐量的问题,团队设计了完全平衡的专家并行训练方法,具备静态形状且在关键路径上无需主机同步。官方建议在 64 个及以上加速卡的超节点配置上部署 Kimi K3,这也给国产算力发出了芯的 " 暗示 "。

缩小差距

Kimi K3 把国产开源模型带入 "3 万亿 " 参数时代,也证明了持续通过参数 Scaling 路线的可持续性。

但同时,参数量的扩展也对数据提出了新的要求。

一位研究员强调合成数据在这个过程中应用的价值,包括用户使用数据:" 现在为了利用一切能利用的数据,大家越来越卷。现在大家都从用户的失败轨迹中训练 Agent,体量大的公司,就有更多用户轨迹。"

从整个开源生态的模型参数规模来看,Kimi K3 的 2.8 万亿参数在开源模型中形成断层。作为对比,DeepSeek V4 Pro 约 1.6 万亿,小米 MiMo V2.5 Pro 为 1.02 万亿,智谱 GLM-5 约 7440 亿,阿里巴巴 Qwen 3.5 约 3970 亿。

过去 12 个月中有 9 个月,Kimi 保持着开放模型规模的最高纪录。这种参数量的螺旋上升,代表的是中国开源模型能力的追赶,以及持续开源的开放态度。

在此之前,来自美国的 Fable 5、Mythos 5 这种级别的前沿模型已经面临出口管制。恰恰是中国的开源生态,为市场提供了第二选项。

蔡崇信不久之前在欧洲的一场活动上提出,开源是实现某种程度主权的一条现实途径。" 为什么不选择第二个篮子,把鸡蛋分开放呢?即使欧洲长远看可能发展出自己的篮子,但至少眼下你有了两个篮子。"

前面提到沃顿商学院教授莫利克的测试,他在测试后提出了一个值得注意的问题:开源权重模型再次接近前沿水平,美国是否会允许 Anthropic 和 OpenAI 加快发布节奏。他指出 Mythos 在 4 月发布,Fable 5 到现在已是 " 较旧 " 的模型。

特斯拉创始人马斯克 6 月 18 日曾被问及中国大模型何时能达到 Fable 级别,预测 " 或许明年一季度 "。

现在,Kimi K3 已经把这个时间表大幅推前。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论