星途科讯 昨天
Meta发布Muse Wonder智能体:强化安全对齐与长期任务执行
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

Meta 正式公布 Muse Wonder 及 Muse Wonder Full 模型,专为处理保险理赔、租赁合同审查及软件开发等复杂任务的 AI 智能体打造。这两款模型融合文档分析与工具调用能力,能在对话中保留关键细节并克服障碍以达成用户目标。

Muse Wonder 系列面向商业和研究用途,支持写作、推理、编码、规划及研究等功能。模型具备多模态处理能力,可解析文本、图像、视频和音频,并生成文本回复,适用于解读专业信息及起草待审阅文档。

安全对齐与风险控制

鉴于智能体可能接触消息、日历及私人文档,Meta 对模型进行了专项训练,确保其在未经同意时不泄露隐私,并拒绝协助有害行为。该模型还支持防御性网络安全工作,如识别代码漏洞。

Meta 表示,Muse Wonder 是其迄今为止对齐标准最高的模型,对齐技术是构建个人超级智能的核心。详细的安全评估报告即将发布。模型卡片评估了网络滥用、化学和生物滥用以及人类失控风险。Meta 指出,若无防护措施,化学和生物滥用风险极高;实施保护后,剩余风险降至中等或更低水平。

公司承认模型仍存在回复不准确、偏见、多步推理错误及空间理解弱点等问题,性能受语言和部署环境影响。Meta 建议在执行不可逆操作前进行人工确认。

主动记忆与持续执行

针对跨轮次长任务,Meta 引入 " 主动记忆 "(Active Memory)功能,使智能体能在对话间携带上下文,并在必要时检索相关细节。" 主动聚焦 "(Active Focus)则赋予智能体在遇到困难时尝试替代方案、从错误中恢复及适应新信息的能力,并在采取重要行动前向用户核实。

Meta 通过 FocusBench 测试其在变化环境中的持久性,并通过 SWE-Marathon 评估其在长期软件项目中的工作能力。

专业能力与编码优势

评估涵盖法律、金融和健康领域,包括生成法律文书、研究财务信息及回答专业健康问题。Meta 强调,编码能力综合了上述技能,需跟踪需求、修改代码库并经历反复测试修订。两款模型均在 Meta Prometheus 数据中心针对长期运行任务进行训练。

基准测试显示,Muse Wonder Full 在法律、金融、健康及编码任务中均取得领先成果。与 Muse Spark 1.3 相比,Wonder Full 表现超出预期趋势。Meta 将其归因于更强大的底层模型,认为这种多功能性在处理未预期的目标、工具和约束组合时至关重要。

可用性与发展规划

目前,Muse Wonder 可通过 Meta Model API 和 Muse Code 获取,Muse Wonder Full 面向 Muse Code 订阅用户开放。Meta 计划将 Muse Wonder 引入 Muse 平台,优先向订阅用户提供,用于工件生成及高难度任务,并打算开发专用模型以在 Muse 生态内更广泛地提供服务。

【星途科讯 图文丨赵晶 首发于 ZAKER 科技,转载请注明出处】

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论