快科技 11 月 7 日消息,AI 的性能上限依然要看参数规模,国产大模型目前只追到了 3 万亿级别,而公认最强的 Mythos/Fable 被认为是 5 万亿以上参数量,月之暗面下一代的 K4 明年能做到 5.4 万亿规模。
月之暗面今年的大模型路线图中,旗舰级产品中已经出了 Kimi K3 及 K3.1 Pro,都是 2.8 万亿参数量的,后续还有 Kimi K3.5,参数量略微提升到 3 万亿,K3.5 的后训练数据量会提升到 10 万亿规模,预计 2027 年问世,有可能是明年春节前后。
再往后的旗舰产品就是 Kimi K4 了,参数量进一步扩大,5.4 万亿的规模差不多是之前 K3 的 2 倍大了,这个爆料也跟之前野村证券公布的 5-6 万亿参数量相符。

到了这个级别,国产 AI 的性能上限应该有机会真正碰一碰 Mythos/Fable 级别了,发布时间是 2027 年 Q2 季度,晚一点就是 Q3 季度,时间点上晚了大约一年,毕竟国产 AI 训练面临的算力瓶颈及数据量都有更高的挑战。
在 K4 及 K3.5 之前,月之暗面还会继续扩展轻量级大模型,有 Kimi K3 Flash 在年内上市,应该会接替当前的 Kimi K2.8,就是不知道性能、价格是否可以跟 DeepSeek V4.1 Flash 相媲美,毕竟年底的时候 V4.2 甚至 V5.0 Flash 都有可能问世了。
从爆料来看,月之暗面目前的算力是够用的,能支撑当前研发,只是上限有些不足,可以通过压缩技术来应对,当前的重心放在了自蒸馏及后训练上,把模型能力提升上去。



登录后才可以发布评论哦
打开小程序可以发布评论哦