智东西
作者 | 陈骏达
编辑 | 云鹏
Meta 和 OpenAI 全面开战了!
智东西 4 月 30 日报道,今天,在首届 LlamaCon 开发者大会上,Meta 正式发布了对标 ChatGPT 的智能助手 Meta AI App,并宣布面向开发者提供官方 Llama API 服务的预览版本。
Meta AI App 是一款智能助手,基于 Llama 模型打造,可通过社交媒体账号了解用户偏好、记住上下文。与 ChatGPT 一样,Meta AI App 支持语音和文本交互,并额外支持了全双工语音交互(Full-duplex,允许在接收语音的同时并行处理和响应,支持边听边说、实时打断等功能)。
Meta AI App 可作为 Meta RayBan AI 眼镜的配套应用程序,用户能通过该眼镜直接与 Meta AI App 对话。
同场发布的 Llama API 提供了包括 Llama 4 在内的多款模型,这一 API 与 OpenAI SDK 兼容,使用 OpenAI API 服务的产品可无缝切换至 Llama API。
同时,Meta 在新 API 中提供了用于微调和评估的工具,开发者可以打造符合自身需求的定制化模型,还可使用由 AI 芯片创企 Cerebras 和 Groq 提供的快速推理服务。
值得一提的是,过去数年中,Llama 相关发布仅作为 Meta Connect 开发者大会上的一个环节,此次专门办会足见他们对 AI 业务的重视。Meta CEO 扎克伯格并未出现在发布会现场,会后其将参与 2 场对谈。
关于价格,开发者可通过申请获取 Llama API 免费预览版的使用权限。未来,这一 API 或将采取收费模式,具体价格表尚未发布。Meta AI App 及 Web 版本均已上线,免费可用。
Meta AI Web 端:https://www.meta.ai/
Llama API 文档:
https://llama.developer.meta.com/docs/overview
一、Llama 模型下载量已超 12 亿,Meta AI App 主打语音交互
Meta 首席产品官 Chris Cox 在 LlamaCon 大会上分享了 Meta 开源 AI 的最新进展。Cox 称,2 年前,Meta 内部对开源的商业化前景和优先级问题都持有怀疑态度,但如今开源 AI 已成为行业大势所趋。
2 个半月前,Meta 宣布 Llama 及其衍生模型已经实现了 10 亿的下载量,今天,这一数字已迅速增长至 12 亿。
在开源平台 Hugging Face 上,Llama 的大部分下载量均来自衍生模型,有数千名开发者参与贡献,数万个衍生模型被下载,每月被使用数十万次。
目前,Llama 模型已被运用至 Meta 旗下的诸多 App,包括 WhatsApp、Instagram 等等。在这些场景中,Llama 模型经过了定制处理,以满足特定用例需求,例如对话性、简洁性(尤其是移动场景)和幽默感。
为提供更丰富的 AI 体验,Llama 推出了独立智能助手 App —— Meta AI。
Meta AI App 十分重视语音交互体验,可提供低延迟、富有表现力的语音。Meta AI 还可连接用户的 Facebook 和 Instagram 账户,根据用户互动历史大致了解其兴趣,并记忆用户的相关信息。
这一 App 内置全双工语音实验模式。相关模型使用人与人之间的自然对话数据进行训练,能提供更为自然的音频输出。全双工意味着通道是双向开放的,用户可以听到自然的打断、笑声等,就像真正的电话对话一样。
全双工语音实验模式还处于早期阶段,没有工具使用、网络搜索等能力,无法了解新近发生的时事。
Meta AI App 中融入了社交元素,用户可在发现页面分享提示词、生成结果等。这一 App 能与 Meta Ray Ban 智能眼镜配合使用。用户将能在眼镜上开始对话,然后从应用程序或网络的 " 历史记录 " 选项卡中访问它,以从上次中断的地方继续。
二、一行代码就能调用,可在线完成模型微调
会上,Meta 负责 Llama 业务的副总裁 Manohar Paluri 与 Llama 研究团队成员 Angela Fan 共同发布了由 Meta 托管的 Llama API 服务。
Llama API 提供简单的一键式 API 密钥创建,一行代码就能调用。支持轻量级的 Python 和 Typescript SDK 开发者以及 OpenAI SDK。
在 API 服务网页中,Meta 提供了交互式游乐场。开发者可在其中尝试不同的模型,更改模型设置,比如系统指令或温度,以测试不同的配置。
Llama API 界面
此外,开发者还可以使用多项预览功能,包括基于 JSON 的结构化响应、工具调用等。
Paluri 认为,定制化才是开源模型真正应该领先的地方。Llama API 提供了便捷的微调服务,目前支持对 Llama 3.3 8B 进行自定义。
开发者可在微调标签页上传用于微调的数据,或是使用 Meta 提供的合成数据工具包生成后训练数据。
Llama API 模型微调界面
数据上传完成后,开发者可将数据的一部分切分出来,用于评估定制模型的表现。在 Llama API 平台上,可随时查看训练进展情况,微调完成后的模型可供下载,开发者可在任何场景中运行这一模型。
大会上,Meta 宣布了与 Cerebras 和 Groq 的合作。这两家企业可提供 Llama 4 API 服务所需的算力支持,其算力能实现更快的推理速度。
结语:Llama 探索商业化新道路
自 2023 年 Llama 1 发布以来,Llama 系列模型已历经四个主要版本,开源了数十款不同参数规模、不同架构的模型。不过,动辄数千亿乃至万亿参数量的模型,意味着巨大的投入——外媒爆料称,过去一年内,Meta 已经主动与微软、亚马逊等公司接洽,希望建立合作关系,共同分担开发成本。
本次,Llama API 与 Meta AI App 的发布,标志着 Meta 开始积极探索 Llama 系列开源模型商业化的新道路。虽然目前的相关服务均处于免费状态,但未来,Meta 有望以开源模型为入口,引导企业和用户使用关联的云服务,或是利用 App 实现商业化变现。在讲完技术普惠和创新的故事之后,商业化或许是所有开源模型厂商们都需要共同面对的问题。
登录后才可以发布评论哦
打开小程序可以发布评论哦