
Meta 周一正式发布专为消费级设备打造的 300 亿参数模型 Muse Glimmer。同日,公司 CEO 重申,人工智能的未来必须走向开放。
Muse Glimmer 基于 Muse Spark 进行蒸馏,采用 Apache 2.0 许可协议,默认上下文窗口达 128K 令牌。Meta 在技术文档中指出,该模型针对本地部署深度优化,旨在不牺牲质量的前提下,以实用速度在消费级硬件上运行。
为适配近期型号 PC 或 Mac 的内存限制,确保 KV 缓存、图像编码器及解码草稿器能同时运作,Glimmer 被压缩至 20GB 以下,量化精度约为 4 位。Meta 证实,这一压缩过程并未削弱模型在代理任务(agentic task)中的表现,这也构成了其作为部分离线推理替代方案的核心价值。
" 将现有工具指向本地 Muse Glimmer 服务器并继续构建——你拥有权重、运行时和数据。"Meta 表示。
【星途科讯 图文丨周鑫雨 首发于 ZAKER 科技,转载请注明出处】


登录后才可以发布评论哦
打开小程序可以发布评论哦