36 氪获悉，阿里发布了下一代基础模型架构 Qwen3-Next，并开源了基于该架构的 Qwen3-Next-80B-A3B 系列模型。据介绍，该结构相比 Qwen3 的 MoE 模型结构，进行了以下核心改进：混合注意力机制、高稀疏度 MoE 结构、一系列训练稳定友好的优化，以及提升推理效率的多 token 预测机制。Qwen3-Next-80B-A3B-Base 模型拥有 800 亿参数，激活参数 30 亿，实现了与 Qwen3-32B dense 模型相近甚至略好的性能，而训练成本仅为 Qwen3-32B 的十分之一不到。