Meta 正式发布 Muse Spark Open 权重，这是一款专为编码、软件工程及多步推理打造的 8160 亿参数开源模型。该模型拥有 420 亿活跃参数和 100 万 token 的上下文窗口。Meta 在公告中称，这是迄今为止最强大的美国开源权重模型。

Muse Spark Open 原生支持多模态与智能体工作流，可执行涉及多步骤和工具的复杂任务。开发者可通过 Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden 和 Microsoft Foundry Models 下载权重，并通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 等推理平台使用。此外，模型支持使用 PyTorch 定制，并兼容 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers 和 llama.cpp 等推理引擎。

端侧部署与性能优化

借助 Apple MLX 机器学习框架，Meta 对 Muse Spark Open 进行了深度优化，使其能在配备 M5 Ultra 芯片的两台 Apple Mac Studio 上本地运行。每台 Mac Studio 提供高达 512GB 统一内存，双机合计约 1TB 容量足以容纳模型权重。

Meta 基于该模型开发了编码工具 Muse Code，并在多种设备端工作流中进行测试，包括修复错误、添加功能，以及利用开源 Mastodon 客户端 Ice Cubes 构建 iOS 应用。演示场景还涵盖操作 DaVinci Resolve，模型能逐帧审查素材识别合适片段，并将其裁剪为竖屏视频。Meta 表示，这些工作流可完全在设备端运行，无需依赖云端推理。

在性能方面，Muse Spark Open 包含针对 SGLang 推理优化的自定义 GPU 内核。内核级测试显示，在 NVIDIA 和 AMD GPU 上速度提升 1.03 倍至 3.95 倍；在 AMD MI350 GPU 上，端到端性能提升 3%。该模型广泛支持 AMD、Apple、Intel 和 NVIDIA 芯片，开发者还可利用 PyTorch 的 TorchTitan 框架进行微调。

Muse Spark Open 依据 Muse Model 许可发布，包含有限商业条款。虽然允许许多开发者免费使用，但用户在用于商业用途前需仔细审阅相关条件。

【星途科讯 图文丨小林 首发于 ZAKER 科技，转载请注明出处】