智东西 23小时前
蚂蚁版Muse背后模型开源!Agent测评赶超Deepseek-V4-Pro
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

智东西

作者 | 孙小雯

编辑 | 程茜

智东西 10 月 29 日消息,昨日,蚂蚁百灵开源面向 Personal Agent 场景进一步训练Ling-3.1-flash-1019,并同步开放基础模型Ling-3.1-flash-base。1019 版支持最高 100 万 Token 上下文窗口,主要面向复杂推理和智能体任务。Base 版则提供后训练前的基础权重,供开发者继续训练。

其中,1019 版在第三方大模型评测机构 Artificial Analysis(以下简称 AA)的智能指数 v4.3.2 评测中获得 44 分,较 Ling-3.1-flash 提高 3 分。截至 10 月 27 日,该模型在同规模开放权重模型中排名第 4。

上一代 Ling-3.1-flash 于 9 月 30 日发布。时隔不到一个月,蚂蚁百灵便推出 1019 升级版,通过后训练,进一步提升模型处理复杂工作流和多步骤任务的能力。

这次升级也与蚂蚁旗下个人 AI 助理灵光的使用需求有关。10 月 27 日,蚂蚁集团发布灵光 2.0,新增跨会话记忆、长程任务调度和独立云主机等能力。据百灵披露,此前发布的 Ling-3.1-flash 已结合灵光等应用的需求和反馈开展对齐训练。

性能提升带来了更高的 Token 消耗。据 AA 统计,1019 版每项智能指数评测任务平均输出约 14.5 万个 Token,较 Ling-3.1-flash 增加超 40%,单任务平均成本由 1.01 美元升至 1.49 美元(约合人民币 9.94 元)。

两款模型均免费开放权重。API 定价方面,1019 版每百万 Token 的输入价格为 0.30 美元(约合人民币 2 元),输出价格为 0.90 美元(约合人民币 6 元),缓存读取价格为 0.06 美元(约合人民币 0.40 元)。

模型部署方面,1019 版官方模型卡列有 SGLang、vLLM 推理部署说明。两款模型均采用 MIT 许可证,开发者可从 Hugging Face、魔搭社区下载权重、自行部署。

Ling-3.1-flash-1019 及 Base 开源主页(图源:Hugging Face)

Ling-3.1-flash-1019 开源地址:

Hugging Face:

https://huggingface.co/inclusionAI/Ling-3.1-flash-1019

魔搭社区:

https://modelscope.cn/models/inclusionAI/Ling-3.1-flash-1019

Ling-3.1-flash-base 开源地址:

Hugging Face:

https://huggingface.co/inclusionAI/Ling-3.1-flash-base

魔搭社区:

https://modelscope.cn/models/inclusionAI/Ling-3.1-flash-base

一、1019 版复杂任务成绩提升,Base 模型 32 项测试领先

此次开源的两款模型总参数均为 5600 亿,每个 Token 激活约 250 亿参数,但二者定位不同。

Ling-3.1-flash-1019是在 9 月 30 日发布的Ling-3.1-flash基础上进一步后训练的模型,面向复杂推理和智能体任务。以行业调研为例,AI 需要查找资料、分析数据,再整理成报告;处理办公流程时,还可能需要调用工具、在多个软件之间完成操作。

AA 评测数据显示,在复杂知识工作测试 AA-Briefcase v1.1 中,1019 版成绩从 1398 Elo 升至 1521 Elo;在流程自动化测试 AutomationBench-AA 中,该模型成绩从 62% 升至 68%。此外,在科学推理测试 Humanity ’ s Last Exam 中,其成绩从 39% 升至 43%;在物理推理测试 CritPt 中,从 18% 升至 26%。

Ling-3.1-flash-1019 与上一代模型的部分评测成绩对比(图源:蚂蚁百灵)

与经过后训练的 1019 版不同,Base 保留的是后训练前的基础权重,此次百灵主要公布了知识、数学、代码、推理和长文本理解等基础能力的测试成绩。

据百灵披露,在与 DeepSeek-V4-Pro-Base、MiMo-V2.5-Pro-Base 的对比中,Ling-3.1-flash-base 在 8 个领域共 47 项基准测试里,有 32 项取得三款模型中的最高分。

这两款参评模型的参数规模均大于 Ling-3.1-flash-base。DeepSeek-V4-Pro-Base 总参数为 1.6 万亿、激活参数 490 亿;MiMo-V2.5-Pro-Base 总参数为 1.02 万亿、激活参数 420 亿,而 Ling-3.1-flash-base 的总参数仅 5600 亿、激活参数 250 亿。

具体来看,在数学测试 MATH500 中,Ling-3.1-flash-base 获得 79.40 分,高于 DeepSeek-V4-Pro-Base 的 68.20 分和 MiMo-V2.5-Pro-Base 的 57.20 分;在长文本理解测试 LongBench 中,Ling-3.1-flash-base 获得 51.90 分,DeepSeek-V4-Pro-Base 和 MiMo-V2.5-Pro-Base 分别获得 17.70 分和 15.66 分。

Ling-3.1-flash-base 与 DeepSeek-V4-Pro-Base、MiMo-V2.5-Pro-Base 的基准测试成绩对比(图源:蚂蚁百灵)

二、百灵视觉模型已用于灵光,上传作业照片可生成学习计划

除了对 Ling-3.1-flash 进行后训练升级,百灵还在视觉方向训练了新模型。视觉语言模型 Ling-3.1-flash-VL 基于 9 月发布的 Ling-3.1-flash 训练,在原有推理、规划和工具使用能力基础上,增加了对照片、截图和软件界面的理解能力。目前,该模型已先行应用于灵光,后续将对外发布。

百灵同时展示了灵光的作业辅导案例。家长上传一张作业照片后,灵光可以核对题目和解题过程,梳理相关知识点。用户接着提出 " 用两周时间巩固 ",灵光便进一步制定了两周学习计划,并生成每日学习任务和记录页面。

灵光根据作业照片制定两周学习计划(图源:蚂蚁百灵)

三、采用混合线性 MoE 架构,每个 Token 激活 250 亿参数

前述视觉模型涉及图片理解、任务规划和后续跟进。对于需要持续处理信息、执行多个步骤的个人 Agent,模型的计算开销也需要控制。

此次开源的 1019 版和 Base沿用了 Ling-3.1-flash 系列的混合线性 MoE 架构,主要从长文本处理和参数激活两个方面减少计算量。

在注意力机制上,模型包含 63 层 KDA 线性注意力和 9 层门控 MLA,比例为 7:1。其中,KDA 主要用于降低长文本处理的计算开销,门控 MLA 则保留更精细的注意力计算能力,两种注意力机制结合,能够兼顾处理效率和信息理解能力。

此外,MoE 架构还通过稀疏激活减少单次计算量。模型共设有512 个路由专家,每个 Token 激活其中 8 个,并使用1 个共享专家,使模型无需在每次推理都调用全部 5600 亿参数参与计算。

Ling-3.1-flash 系列模型架构(图源:蚂蚁百灵)

训练方面,Base 采用 FP8 精度训练,此次开放的是经过权重合并处理后的 BF16 基础权重。开发者可以在此基础上继续预训练,也可以通过监督微调、强化学习等方式,让模型适应特定领域的任务。

结语:两款模型同步开源,Agent 应用仍面临成本考验

从最近一个月的动作来看,百灵正在结合灵光等产品的需求,推进模型的后训练和视觉能力开发。此次同步开放 1019 版和 Base 权重,也让外部开发者能够直接部署升级模型,或基于基础权重继续训练。

但更高的复杂任务成绩也对应着更高的推理消耗。目前,1019 版单任务平均成本涨幅接近 48%。灵光 2.0 已经开始提供价格监测、持续提醒等长程任务功能,这类服务需要多次调用模型、持续跟进信息。随着 Agent 从单次对话走向长期运行,完成一项任务消耗多少 Token,将直接影响服务成本。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

开源 智东西 mit 蚂蚁集团
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论