驱动之家 08-10
Meta突然重新拥抱开源AI 扎克伯格表态:蒸馏无罪
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 8 月 10 日消息,Meta 公司曾经是全球开源 AI 大模型中的扛把子,之后又选择了闭源,现在他们又变了,重新拥抱开源,扎克伯格还给蒸馏一事定调,强调蒸馏无罪。

最近 Meta 发布了多个大模型,最新的 Muse 系列性能有明显提升,甚至用户选择接受把数据交给 Meta,价格还能降低多达 95%,比 DS V4 Flash 都要便宜了,美国大模型也要走性价比之路。

今晚 Meta 更是兑现了承诺,正式开放了 Muse 系列模型权重,首先拿出的是 Muse Glimmer,一款 30B 参数的 Agent 模型,由 Muse Spark 蒸馏而来,可以在 Mac 或单显卡 PC 上本地运行。

扎克伯格也正式确认主力大模型 Muse Spark 1.2 的权重也会在未来几周开放。

虽然这次开放模型权重跟承诺的时间间隔了 4 个月,但 Meta 这波总算没有食言,而且扎克伯格在开源的同时还发了一封公开信,开始强烈站队开源大模型,尤其是针对备受争议的蒸馏一事做出表态。

扎克伯格表示,模型向其他模型学习本来就是开源生态的一部分,美国想继续领跑开源 AI,必须放松对蒸馏和训练数据的限制。

他反对蒸馏有害的说法,强调蒸馏是无罪的,认为能观察到的东西就应该允许学习,美国如果先把自己束缚了手脚,最终只会让其他国家的开源模型追得更快。

他对蒸馏的观点跟 OpenAI 及 Anthropic 两家是不同的,后两者为了维护自己的地位,强烈反对其他家蒸馏自己的大模型,并多次游说美国国会要求将蒸馏定性为一种犯罪,对蒸馏的态度极为敌视,而且疯狂,完全不提他们的大模型本身就从全人类的知识及互联网中的积累蒸馏而来的,也包括庞大的中文资料。

当然,扎克伯格虽然对蒸馏的态度跟这两家不同,但他们的利益点其实是一样的,依然是维护美国在 AI 上的领先,只不过 Meta 支持用蒸馏的方式提升模型能力,OA 两家反对别人蒸馏他们的模型,完全不反对自己蒸馏别人的数据。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

扎克伯格 ai 开源 美国
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论