三星、英特尔、长安汽车…… 9 月 25 日召开的 2024 百度云智大会,将大部分的时间交给了合作伙伴,视频大模型 Vidu、长安启源 E07 的背后都有百度智能云的支持,由客户向市场安利。当天,百度集团执行副总裁、百度智能云事业群总裁沈抖拿出百舸 AI 计算平台 4.0、千帆大模型平台 3.0 两个 AI 基础设施,同时升级了代码助手等 AI 原生应用,把 3D 超写实数字人价格从万元降至 199 元。2024 年二季度,百度总营收同比持平,智能云营收增长 14%。和上年同期相比,百度智能云营收增幅多了 9 个百分点。据不完全统计,2024 年二季度海内外云大厂的营收增幅从个位数到 30% 不等,入局者不进则退。
" 大模型有个著名的定律 Scaling Law,是说模型性能会随着参数、算力、数据集的规模增加而提高,这个定律仍在继续。马斯克(特斯拉 CEO)说他们刚建设了 10 万卡的集群,未来还会扩张到 20 万卡,这不是个例 ",说完,沈抖给了个更具象的概念:要部署 10 万卡集群,在物理层面要占据约 10 万平方米的空间,相当于 14 个标准足球场的面积,这些服务器一天要消耗约 300 千瓦时的电力,相当于北京市东城区一天的居民用电量。
挑战在于跨地域部署、有效训练时长占比低 。" 用 1.6 万卡训练 Llama3 时,每 3 小时就会出一次故障,推演到 10 万卡,意味着每 30 分钟就要中断一次。" 沈抖说," 百舸 4.0,正是为部署 10 万卡大规模集群而设计的。"
百舸 4.0 实现了在万卡规模集群上 95% 的多芯混合训练效能 ; 能够实现工具层面的秒级部署,将万卡集群运行准备时间从数周最快缩减至 1 小时 ; 实现了超过 99.5% 的有效训练时长 ; 长文本推理效率提升了 1 倍以上。
千帆是企业级一站式大模型与 AI 原生应用开发及服务平台。目前在千帆大模型平台上,文心大模型日均调用量超 7 亿次,累计帮助用户精调 3 万个大模型,开发出 70 多万个企业级应用。过去一年,文心旗舰大模型降价幅度超 90%。
千帆 3.0 的升级主要体现在模型开发层、模型服务层、应用开发层上。具体到应用开发,千帆升级了企业级 RAG 和企业级 Agent 开发,发布了低代码 AI 应用开发平台 "AI 速搭 ",通过自然语言对话就能进行企业级应用开发。
" 云计算属于 AI 基建,开发者和企业客户不光需要好用、易用的算力,也倾向于开发门槛更低的平台,这是趋势,升级是无止境的。比的是价格、易用度和升级速度 ",比达分析师李锦清向北京商报记者表示。
这些基础设施的目的是开发出 AI 原生应用,百度当天给打样的数字人、智能客服、代码提效类产品做了升级。曦灵数字人 4.0 支持根据文字快速生成不同妆造、不同行业特色的 3D 数字人形象和视频,将 3D 超写实数字人的价格从万元降至 199 元。新版智能客服应用 " 客悦 " 的问题自助解决率升至 92%。文心快码服务超 1 万家企业客户。
在业绩层面,百度并未独立披露智能云板块营收,仅公布了 2024 年二季度百度智能云营收同比增长 14%。和同行相比,海外的亚马逊云科技、微软云和谷歌云二季度营收同比增长分别是 19%、29%、28%,阿里云同期是 6%。
北京商报记者 魏蔚
登录后才可以发布评论哦
打开小程序可以发布评论哦