2024 百度云智大会

紫金财经 9 月 25 日消息 2024 百度云智大会在北京召开。会上，百度智能云分别针对算力、模型、AI 应用，全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.0 两大 AI 基础设施，并升级代码助手、智能客服、数字人三大 AI 原生应用产品。

百度集团执行副总裁、百度智能云事业群总裁沈抖表示，大模型以及配套的算力管理平台、模型和应用开发平台，正在迅速成为新一基础设施。过去一年，文心旗舰大模型降价幅度超过 90%，主力模型全面免费，最大限度降低了企业创新试错的成本。

千帆大模型平台全面升级至 3.0 版本

百度智能云宣布，千帆大模型平台全面升级至 3.0 版本，并公布了最新 " 成绩单 "：在千帆大模型平台上，文心大模型日均调用量超过 7 亿次，累计帮助用户精调了 3 万个大模型，开发出 70 多万个企业级应用。

在应用开发上，本次千帆平台全面升级了企业级 RAG 和企业级 Agent 开发。同时，大会还发布了低代码 AI 应用开发平台 "AI 速搭 "，通过自然语言对话就能进行企业级应用开发，实现一句话创建 AI 应用。

在模型调用服务上，目前，文心大模型已经形成旗舰大模型、主力大模型、轻量大模型、垂直场景大模型等丰富的大模型家族，满足企业个性化的模型需求。升级后的千帆 3.0，不但可以调用包括文心系列大模型在内的近百个国内外大模型，还支持调用语音、视觉等各种传统的小模型。成本方面，过去一年，文心旗舰大模型降价幅度超过 90%、主力模型全面免费，最大限度降低企业创新试错的成本。

在模型开发上，今年企业定制、微调专属模型的需求不断增加。千帆 3.0 不仅提供了最完善的大模型工具链，还支持 CV、NLP、语音等传统模型的开发，并实现数据、模型、算力等资源的统一纳管和调度，为企业提供一站式的大、小模型开发服务。

在应用开发方面，针对企业落地大模型的高频应用场景，千帆 3.0 从检索效果、检索性能、存储扩展、调配灵活性四方面对企业级检索增强生成（RAG）进行了全面升级；针对企业级 Agent 的开发，千帆 3.0 增加了业务自主编排、人工编排、知识注入、记忆能力以及百度搜索等 80 多个官方组件支持。

百舸 AI 异构计算平台 4.0 发布

大算力是大模型落地的基础条件。为满足企业落地大模型从集群创建、开发实验，到模型训练、推理的全旅程算力需求，应对超大规模 GPU 集群高成本、难运营两大挑战，百度智能云升级发布百舸 AI 异构计算平台 4.0，面向万卡、十万卡集群全面升级算力管理能力。

沈抖表示，百舸 4.0 正是为部署十万卡大规模集群而设计的。今天的百舸 4.0，已经具备了成熟的十万卡集群部署和管理能力，就是要突破这些新挑战，为整个产业提供持续领先的算力平台。

在集群创建阶段，企业通常需要进行大量复杂、琐碎的算力配置和调试工作。百舸 4.0 预置了主流的大模型训练工具，能够实现工具层面的秒级部署，并将万卡集群运行准备时间从几周缩减至 1 小时，极大地提升部署效率，缩短业务上线周期。

在开发实验阶段，百舸 4.0 全新升级的可观测大盘，能够对多芯适配、集群效能、任务自动容错等方面进行全方位监测，提供直观决策依据，帮助用户更好地把控整体项目。

在稳定性方面，百舸 4.0 能够自动筛查集群状态，并基于对 GPU 故障的精准预测，及时转移工作负载，降低故障发生频次。此外，百舸独有的故障秒级感知定位、Flash Checkpoint 模型任务状态回滚等技术，能够大幅减少集群故障处置时间，实现接近无损的集群容错。

目前，百舸在万卡集群上实现了有效训练时长占比 99.5% 以上，业界领先，极大地节约了客户算力与时间成本。此外，百舸 4.0 通过在集群设计、任务调度、并行策略、显存优化等一系列创新，大幅提升了集群的模型训练效率，整体性能相比业界平均水平提升高达 30%。

三大 AI 原生应用产品实现升级

此外，随着大模型产业落地逐渐走向深水区，AI 原生应用也将迎来爆发式增长，为了满足企业直接选购成熟 AI 应用的需求，百度智能云面向数字人、智能客服、代码提效三大领域，升级了三大 AI 原生应用产品。

基于文心大模型重构的 AI 原生智能客服应用 " 客悦 "，在用户复杂意图理解、多模态信息交流等方面实现了大幅提升，让智能客服变得更聪明、更拟人。基于大模型能力，新升级的曦灵数字人 4.0 支持根据文字快速生成不同妆造、不同行业特色的 3D 数字人形象和视频，并且曦灵平台宣布：将 3D 超写实数字人的价格从万元大幅降价至 199 元，达业内最低价。

全新升级的全流程 AI 代码提效工具 " 文心快码 "，聚焦研发全生命周期的业务流，实现了从项目接手到最终交付，全流程编码开发效率与质量的双重提升。文心快码业界首发了「企业级代码架构解释」、「企业级代码审查」，两项全新功能。