盖世汽车讯 5 月 28 日,人工智能(AI)公司赛轮思(Cerence AI)宣布与 Arm 建立战略合作伙伴关系,Cerence AI 将利用 Arm 的综合软件库 Arm ® Kleidi ™,提升其嵌入式小语言模型(SLM)CaLLM ™ Edge 的功能和性能。
图片来源:赛轮思
随着汽车制造商竞相赋能人工智能,他们面临着诸多挑战,包括构建足够的计算能力来满足大型语言模型(LLM)等密集型工作负载的需求。汽车制造商及其合作伙伴需要轻松优化 CPU 性能并最大化计算能力,从而更轻松地将生成式人工智能的优势带给驾驶员。Cerence AI 和 Arm 正在携手弥合这一差距。
全球 94% 的汽车制造商在其最新车型中采用 Arm 技术,Arm 汽车解决方案为整个车辆的人工智能功能提供了基础计算架构。Kleidi 旨在加速机器学习并优化基于 Arm 的设备上的神经网络运算,从而在边缘实现更高效、更强大的实时语言处理。
Cerence AI 与 Arm 强强联手,在 CPU 和 GPU 之间灵活地分配和并行化生成式 AI 计算负载,从而提升 CaLLM Edge 的速度和性能,同时增强隐私和数据安全。CaLLM Edge 可在基于 Arm 的芯片组(该芯片组已针对 Kleidi 进行了优化)以及其他 SoC 上完全代理运行,尽管计算能力有限、规模庞大且车载语言模型的处理需求繁重,但仍展现出业界领先的性能。因此,即使没有云端连接,汽车制造商也能为驾驶员提供快速、智能的用户体验。
Cerence AI 产品与技术执行副总裁 Nils Schanz 表示:" 我们很高兴与 Arm 合作,将 CaLLM Edge 提升到新的水平,为汽车边缘计算的性能和效率树立新的标杆。通过将我们在 AI 语言模型方面的专业知识与 Arm 的创新库相结合,我们将继续在汽车领域开创语音优先体验和下一代 AI 应用的新时代,为消费者提供更智能、更快速、响应更灵敏的车载助手。"
Arm 汽车业务线汽车产品和软件解决方案副总裁 Suraj Gajendra 表示:"AI 正在定义下一代复杂的车载功能,我们必须利用一切可能的优化,确保 AI 能够在边缘无缝运行。Cerence AI 通过利用 Arm Kleidi 取得了显著的改进,我们期待继续努力,快速在汽车中实现全新、创新的特定应用 AI 模型。"
登录后才可以发布评论哦
打开小程序可以发布评论哦