
今天的 Meta,多少有点冰火两重天。
旗下社交媒体平台因为被控成瘾性设计对未成年人造成伤害,遭到猛烈追责,相关索赔金额甚至被喊到了几乎与 Meta 总市值持平的 1.4 万亿美元。
或许意识到需要刷刷口碑,那个曾经靠 Llama 把全球开源 AI 圈搅得风生水起、后来却一度让开发者等到悬着的心终于死了的 Meta,突然又举起了开源大旗。
就在刚刚,Meta Superintelligence Labs 正式发布 Muse Glimmer,一个 300 亿参数的开源权重 Agent 模型,并直接挂上相当宽松的 Apache 2.0 许可证。

Muse Spark 1.2 的权重也会开放
具体而言,Muse Glimmer 只有 30B,却专门为 always-on local agent(常驻本地 Agent)打造,可以在 Mac 上运行,也可以在配备单张消费级 GPU 的 PC 上运行。
不用一直连着云端,不用每做一步都调用 API。甚至断网之后,它照样能调用本地工具、整理文件、写代码、看截图、处理任务。
一个足足 300 亿参数、还得会推理、看图、调用工具、连续执行任务的 Agent,那么 Meta 到底是如何把这个 AI 小钢炮塞进普通电脑里的?
30B 的黄金尺寸:不大不小,刚刚好能塞进你的 Mac
在 AI 模型的鄙视链里,尺寸一直是个尴尬的问题。
7B 到 8B 的模型虽然能在手机上跑,但智商往往捉襟见肘,稍微复杂一点的逻辑推理就开始胡言乱语;而 70B 以上的模型虽然聪明,但对内存的胃口大得惊人,普通人根本养不起。
Muse Glimmer 巧妙地切中了 30B 这个黄金甜点位。
但 30B 在全精度下依然需要吃掉超过 55GB 的内存,这显然超出了哪怕是 RTX 5090 的承受极限。为了让它真正「落地」,Meta 动用了一套优化组合拳。
首先是极其暴力的模型压缩。
通过最新的量化技术,Meta 将模型权重硬生生压缩到了 4-bit 精度,把体积缩减到了 20GB 以下。这就给你的电脑留出了宝贵的显存空间,用来装载上下文记忆(KV cache)和处理图像的多模态编码器。
但光是能跑还不够,它必须得快。
一个思考五分钟才憋出一句话的本地 AI,只会让人想砸键盘。为了解决本地推理慢的顽疾,Muse Glimmer 为投机解码配了一个基于 DFlash 的轻量 drafter。
具体而言,模型自带了一个极小的「实习生(DFlash 起草模型)」,它负责一口气快速瞎猜并写出一大段 token;然后由 Muse Glimmer 这个「总监(主模型)」进行并行校验,对的保留,错的修改。
这种机制让 Muse Glimmer 彻底摆脱了传统大模型像挤牙膏一样一个词一个词往外蹦」的窘境。在配备 M4-Max、M5-Max 芯片的 MacBook,或是插着 RTX 5090 的 PC 上,它的生成速度快到足以支撑毫无延迟感的实时交互。

说白了,Meta 用很强的工程能力,把一个原本需要 60GB 级内存才能舒服运行的模型,压到了 24GB、32GB 级设备可以承载的范围。
不做聊天机器人,只做替你干活的「数字打工人」
关于 Muse Glimmer,Meta 官方给它的定义是:Open Agentic Model(开源智能体模型)。
为了让 Muse Glimmer 具备打工人的素质,Meta 在训练过程中采用了一种基于 logit 的蒸馏技术。
他们让一个极其庞大的老师模型(Muse Spark)去生成复杂的推理链路和 Agent 交互数据,然后手把手教给 Glimmer。
这也让 Muse Glimmer 掌握了几项优异的能力:
比如 Muse Glimmer 能深入你的操作系统,直接读取你的本地文件、帮你管理日程、甚至直接打开 IDE 帮你写代码(在 SWE-Bench 等硬核测试中表现惊人)。
多模态与视觉感知方面,Muse Glimmer 自带一个独立的视觉感知编码器。这意味着你可以直接丢给它一张充满复杂图表的截图,或者让它看着你的屏幕操作,它能无缝理解多模态信息。
此外,Glimmer 还被专门训练了「容错机制」。当工具调用失败或返回奇怪的结果时,它会像一个真实的人类程序员一样,自己去诊断报错信息,调整参数,然后重新尝试,直到把问题解决。
属于个人的 AI 时代,才刚刚拉开序幕
一个真正有用的个人 Agent,迟早要接触你的文件、日历、照片、代码、聊天记录,甚至长期理解你的工作习惯。
这些东西全部依赖云端,意味着隐私、网络、成本和延迟始终会成为限制。
因此,未来的 Agent 很可能不会只有一种形态。最复杂的任务继续交给云端大模型处理,本地模型则负责那些高频、私密、需要长期驻留设备的工作,二者各自发挥优势。
Muse Glimmer(微光),这个名字起得恰如其分。AI 的下一场竞争,除了谁能把模型做得更大,也包括谁能让足够强的智能,以更低成本跑在更多人的设备上。
未来几天,llama.cpp、Ollama、MLX 这些开发者熟悉的框架,就会陆续支持 Muse Glimmer。

Muse Glimmer 发布期间,扎克伯格刚刚也发了一篇长文,基本是在给 Meta 的 AI 路线定调,声称超级智能交到每个人手里,而不是集中在少数公司。
他设想未来每个人都会有一个个人 Agent,24 小时工作,理解你的目标、工作、健康和生活,并提供强隐私保护,甚至连 Meta 自己都无法查看数据。
从这个角度看,Muse Glimmer 的意义就很清楚了:一个能在本地电脑运行、长期驻留、还能调用工具的 30B Agent,就是「个人超级智能」的现实拼图。
他还再次强调开源的重要性,称这是避免 AI 权力过度集中的关键,并表示 Meta Superintelligence Labs 会重新加大开源力度。
Muse Glimmer,正是这一批模型之一。

Hugging Face https://huggingface.co/meta-models/Muse-Glimmer-30B
当然,Meta 此时重新把 open-weight 摆到台前,很难让人忽略另一个背景:过去两年,全球大模型开源生态里,中国模型的存在感正在快速上升。
一批批国产模型持续进入 Hugging Face、GitHub 以及全球开发者的工具链,中国团队已经不只是开源模型的参与者,很多时候甚至在不断抬高这场竞争的强度。
Muse Glimmer 只是刚刚加入这场比赛的新选手,而真正越来越热闹的,是它背后正在加速成型的整个开源本地 AI 生态。
属于个人的开源 AI 时代,才刚刚拉开序幕。
我们正在招募伙伴
✉️ 邮件标题「姓名 + 岗位名称」(请随简历附上项目 / 作品或相关链接)
更多岗位信息请点击这里



登录后才可以发布评论哦
打开小程序可以发布评论哦