星途科讯 1小时前
Meta发布300亿参数开源模型,主打本地消费级部署
index.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

Meta 周一正式发布专为消费级设备打造的 300 亿参数模型 Muse Glimmer。同日,公司 CEO 重申,人工智能的未来必须走向开放。

Muse Glimmer 基于 Muse Spark 进行蒸馏,采用 Apache 2.0 许可协议,默认上下文窗口达 128K 令牌。Meta 在技术文档中指出,该模型针对本地部署深度优化,旨在不牺牲质量的前提下,以实用速度在消费级硬件上运行。

为适配近期型号 PC 或 Mac 的内存限制,确保 KV 缓存、图像编码器及解码草稿器能同时运作,Glimmer 被压缩至 20GB 以下,量化精度约为 4 位。Meta 证实,这一压缩过程并未削弱模型在代理任务(agentic task)中的表现,这也构成了其作为部分离线推理替代方案的核心价值。

" 将现有工具指向本地 Muse Glimmer 服务器并继续构建——你拥有权重、运行时和数据。"Meta 表示。

【星途科讯 图文丨周鑫雨 首发于 ZAKER 科技,转载请注明出处】

评论
大家都在看