港股研究社 3小时前
MiniMax M3.1 Flash开源:上线72小时处理Token超过100万亿
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_caijing1.html

 

港股研究社讯,10 月 23 日,MiniMax 正式开源 MiniMax M3.1 Flash 模型权重,总参数 428B,激活参数 23B。此时距该模型 10 月 19 日上线仅四天,官方披露:上线 72 小时内,真实用户处理的 Token 量突破 100 万亿。

支撑这一吞吐表现的核心是推理效率的系统性优化。新版本将前三个全注意力层替换为稀疏注意力,路由 MoE 专家迁移至 W4A4 量化,稀疏注意力索引器和主分支从 Q8KV8 降至 Q8KV4,大幅压缩显存占用;配合 Power-aware scheduling 精细分配功耗,硬件持续运行在高算力区间。官方数据显示,线上推理速度提升近 3 倍,使用成本降低 70%。

开源生态落地同样迅速。MiniMax 同步宣布与华为昇腾、平头哥、昆仑芯、摩尔线程、壁仞、海光、沐曦、天数、英伟达、AMD 等芯片厂商,以及 Together AI、Fireworks、Nebius 等推理云平台完成开源首日接入,vLLM、SGLang、智源 FlagOS、Hugging Face 与魔搭等框架社区同步跟进。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

flash 英伟达 华为 摩尔 开源
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论