艾瑞网 昨天
蚂蚁百灵开源 Ling-3.1-flash-1019:560B 总参、25B 激活、1M 上下文
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

导语:蚂蚁百灵(InclusionAI)开源开放权重大模型 Ling-3.1-flash-1019。

摘要

蚂蚁百灵(InclusionAI)开源开放权重大模型 Ling-3.1-flash-1019,总参数 560B、每 token 激活 25B、上下文窗口达 100 万 token,采用最宽松的 MIT 许可。模型采用混合线性 MoE 架构(63 层 KDA 线性注意力 + 9 层 Gated MLA 门控多头潜在注意力),在保持长上下文能力的同时压低推理算力开销。团队同步放出未经完整指令对齐的 Base 版(BF16 精度),开发者可继续预训练、做行业微调或强化学习。在公开评测中,其 Artificial Analysis 智能指数由 41 升至 44,软件操作评测 AutomationBench-AA 由 62% 升至 68%,物理推理 CritPt 由 18% 升至 26%。这是国产大模型在超长上下文与开放权重方向的重要进展,降低了开发者在本地或自有基础设施部署旗舰级模型的门槛。

正文(译文)

Ling-3.1-flash-1019 是蚂蚁百灵(InclusionAI)开源的开放权重大模型,总参数 560B、每 token 激活 25B、上下文窗口 100 万 token,采用 MIT 许可。模型采用混合线性 MoE 架构,由 63 层 KDA 线性注意力与 9 层 Gated MLA 门控多头潜在注意力组成,在保持长上下文能力的同时压低推理算力开销。团队同步放出未经完整指令对齐的 Base 版(BF16 精度),开发者可在此基础上继续预训练、做行业微调或强化学习,把后训练与领域适配的起点交还给开发者。在公开评测中,其 Artificial Analysis 智能指数由 41 升至 44;软件操作评测 AutomationBench-AA 由 62% 升至 68%;复杂办公任务 AA-Briefcase 由约 1400 升至 1524 Elo;物理推理 CritPt 由 18% 升至 26%。Hugging Face 工程师 Adina Yakup 同日发帖确认权重放出,智源社区、BlockBeats 等亦印证其规格与 MIT 许可。

(文章为作者独立观点,不代表艾瑞网立场)

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

开源 物理 mit 基础设施 工程师
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论