比比超 2小时前
2.8 万亿参数的中国开源模型,第一次上了亚马逊云的货架
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

随手先关注,不错过每日 AI 热讯速递

9 月 19 日,亚马逊云科技在官方博客宣布,月之暗面的Kimi K3Amazon Bedrock正式可用 [ 1 ] 。

按官方表述,K3 是首个参数规模达到2.8 万亿的开源模型;上架 Bedrock 意味着开发者不必自建 GPU 集群,按托管服务直接调用 [ 1 ] 。

它原生支持视觉,上下文窗口(模型一次能读入的最大文本长度)为100 万 token,相对上一代 Kimi K2 的扩展效率提升约2.5 倍 [ 1 ] [ 2 ] 。

月之暗面把 K3 定位为「开放前沿智能」,同时写明整体性能仍落后于Claude Fable 5GPT 5.6 Sol两个闭源模型 [ 2 ] 。

图来源:月之暗面 Kimi 官方博客 [ 2 ]

架构上,K3 用稀疏混合专家(每次计算只调用一部分参数、其余参数保持静默的结构):896 个专家中每个 token 只激活16 个,配合自研的Stable LatentMoE框架 [ 2 ] 。

注意力层换成Kimi Delta AttentionAttention Residuals两项改动,官方给出的结果是约 2.5 倍扩展效率提升——同样的能力,训练侧算力开销更低 [ 2 ] 。

落到调用这一侧,最有辨识度的是缓存:K3 是 Bedrock 上首个支持显式提示缓存的开源权重模型 [ 1 ] 。

用法是在可复用的提示前缀后打一个缓存断点,前缀至少1024 token,写入缓存后至少保留 30 分钟,命中之后的输入 token 按折扣计费 [ 1 ] 。

月之暗面官方 API 的定价是:缓存命中输入0.30 美元 / 百万 token、未命中3.00 美元、输出15.00 美元 [ 2 ] 。

图来源:亚马逊云科技官方博客 [ 1 ]

Bedrock 的开放节奏也在加快:自2025 年以来,这一平台陆续上架了DeepSeekGoogleMiniMaxMistral AI、月之暗面、NVIDIAOpenAIQwen等多家开源权重模型 [ 1 ] 。

平台能力同样按年迭代——2026 年加入工具调用、结构化输出、推理与响应流式,且这些能力与具体模型解耦,新模型上架即可继承 [ 1 ] 。

调用方式给了两条路:面向无地区限制的场景用 `global.moonshotai.kimi-k3` 全局跨区域配置,官方称比地理配置便宜约 10%;有数据驻留要求的用美国地理配置 [ 1 ] 。

采购方更在意的可能是安全口径:客户数据在 AWS 数据边界内处理,不共享给模型方、不用于训练底层模型,推理请求默认零数据保留,零操作员访问则避免 AWS 运维人员接触提示词与补全内容 [ 1 ] 。

「2.5 倍扩展效率」出自月之暗面自身口径,目前没有第三方独立复现结果 [ 2 ] 。

月之暗面在同一篇博客里列了使用边界:模型在保留思考历史的模式下训练,若智能体框架不回传历史思考内容,生成质量可能不稳定 [ 2 ] 。

长程任务导向也带来另一面——指令含糊时,模型可能做出用户预期之外的决策,官方建议在系统提示里写更明确的行为约束 [ 2 ] 。

缓存这条能力也不是白来的:KDA 架构对传统前缀缓存提出新挑战,团队为此向vLLM社区提交了对应实现,随模型一同释放 [ 2 ] 。

K3 本身并不是新模型。它7 月已通过月之暗面自有应用与 API 发布,官方承诺的权重在7 月 27 日前释放 [ 2 ] 。

这次变化发生在分发渠道上:从厂商自有接口,转为全球最大云平台的托管调用。你会为「上云」这件事改变模型选型吗?欢迎在评论区聊聊。

参考来源:

[ 1 ] Introducing Kimi K3 on Amazon Bedrockhttps://aws.amazon.com/blogs/machine-learning/introducing-kimi-k3-on-amazon-bedrock/

[ 2 ] Kimi K3: Open Frontier Intelligencehttps://www.kimi.com/blog/kimi-k3

欢迎点赞、分享、推荐

一起拥抱 AI

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

开源 亚马逊云 地理 美国 托管
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论