作者 | ZeR0
编辑 | 漠影
智东西 11 月 3 日报道,在本周举行的 2024 红帽论坛上,企业级开源解决方案提供商红帽公司展示了其如何用开放混合的 AI 和开源方法加速企业 AI 应用。
今年是红帽在中国的第二十年。红帽全球副总裁兼大中华区总裁曹衡康谈道,用混合开放的模式来开发 AI 已成为一个必然趋势,红帽在基础架构上采用混合云模式,支持本地数据中心、公有云和边缘计算环境的运行,并支持开源和闭源模型,从而为企业提供灵活选择。
2024 红帽亚太创新奖以 " 解锁下一步 " 为主题,表彰了通过开源技术推动转型和创新的客户。在当日论坛期间,2024 红帽亚太创新奖中国区获奖名单正式公布,奖项授予安利(中国)有限公司和西门子工业自动化产品(成都)有限公司,以表彰他们在创新运用红帽解决方案应对不断变化的业务需求方面的卓越表现。
《2024 年红帽全球技术趋势报告》显示,亚太地区企业的首要投资方向集中在构建云原生应用、提升数字用户体验以及加速应用和服务的交付。这些数据突显了创新解决方案在数字化转型、混合云基础架构、云原生开发、自动化以及企业敏捷性五大关键领域中的重要性。
会后,西门子工业自动化(成都)有限公司信息技术部经理杨健、多位红帽大中华区高管与智东西等媒体进行了深入交流。据曹衡康分享,去年红帽业绩创下历史新高,今年也继续呈双位数增长,其增长来自于越来越多的企业接受开源技术、认识到开源的优势。在他看来,AI 发展的关键在于应用场景,这也是红帽专注探索的方向,红帽在传统的数字创新和数字转型领域同样将产生更多的应用案例。
一、稳定、安全的 " 小模型 ":减少所需算力与成本,符合企业特定需求
红帽全球副总裁兼大中华区总裁曹衡康谈道,红帽的理念不仅是创建和使用开源模型,更在帮助企业构建个性化模型。
过去两年,全球资本大举投入基础建设,但未见显著成效,许多企业应用仍未落地。此前,不少企业尝试用大模型提升效能,但发现大模型不适合生产场景,因为一点小错就可能带来风险。因此,红帽在过去几年提出了 " 小模型 " 概念,即专属模型(faithful purpose),让企业的数据驱动 AI 模型的生成,确保模型稳定、安全,并符合企业的特定需求。
通过 " 小模型 " 概念,红帽可以快速将客户的知识库输入到模型中,无论采用何种模型架构,都能通过深度数据的方式生成企业的专属模型,从而快速搭建适合客户的特有模型。
红帽还引入了 " 社区版 " 小模型,通过合成数据大幅减少对真实数据的需求,将数据量降至原来的千分之一。这种方式不仅降低了算力需求,节约了成本,能耗也大幅减少,对环境更加友好。
围绕推动开源 AI 发展,曹衡康分享了 " 三步走 " 策略:
第一步,通过各种市场渠道,推广 AI 的独特功能和优势。一个新技术要进入市场,需找到成功的应用案例并加以推广。
第二步,通过合作伙伴生态,赋能合作伙伴的技术和顾问团队,使他们更深入地了解红帽的 AI 技术,从而更好地支持客户。
第三步,通过开放实验室,与客户的顾问团队合作,针对企业的研发、生产、市场行销和客户支持等环节,与客户共同探讨如何将 AI 技术应用到实际场景中,一起找出最具效能的应用场景,从一个小应用成功起步,逐步扩展至更大的场景。
红帽的 AI 产品包括语言和代码模型。红帽大中华区方案架构部总经理王慧慧介绍了红帽 AI 平台方案。她谈道,从产品发布到原型验证、试点到正式生产部署需要一定时间。红帽的 AI 产品从美国发布到现在仅 5 个月,已有多个客户开始复制该成功经验。
据她分享,一家保险业客户已使用红帽的 AI 技术来加速代码审查和代码合并请求的处理。他们之前使用旧工具时存在准确率低的问题(当准确率低于 95% 甚至 96%,尤其在生产环境中,效果不理想),在引入红帽的新 AI 工具后,代码合并和审查的准确率大大提升,达到了这家客户的高标准。
曹衡康补充说,红帽内部也在使用 AI 来优化客户支持。例如在客户查询知识库时,红帽通过 AI 提供最佳解决方案,其工程师在项目交接或技术总结时也使用 AI 生成报告,有效减少了重复沟通,提高了效率。
二、加速与本土开发商共创,助攻西门子制造业架构转型
红帽大中华区资深市场总监赵文斌谈道,场景应用是 ISV(独立软件开发商)和 AV(应用供应商)最擅长的领域。由于许多企业和行业都有各自的特点,红帽加速了与本土 ISV 及方案开发商的合作。在市场拓展中,红帽也特别关注共创模式(co-creation)。通过与 ISV 共创,结合各行业的独特场景和联合解决方案,红帽可以帮助企业更快地实现 AI 应用落地。
西门子工业自动化产品(成都)有限公司是 2024 红帽亚太创新奖获奖机构之一,是西门子德国安贝格(Amberg)的姐妹工厂。它通过部署红帽 OpenShift,打造了新一代集成、灵活且弹性的生产支持系统 MEMO(制造运营模块化生态系统)。该系统显著提升了生产线工人的用户体验和工作效率。
西门子工业自动化产品(成都)有限公司信息技术部经理杨健分享了与红帽合作的感受,在采用红帽的解决方案后,他们实现了从单体架构向微服务分布式架构的转型。杨健认为,这种转型是制造业未来发展的一个趋势。
许多制造业企业的应用系统原本采用单体架构,这种架构在维护时可能需要停机,对于满负荷生产的工厂来说,停机一小时可能损失几十万甚至上百万。此外,单体架构在功能增加和编译上也很麻烦,整体测试需要耗费大量时间和资源。
而微服务架构可将功能拆分成许多小模块,变更起来更灵活。这带来了几个优势:一是可以在不停机的情况下进行维护、升级和变更;二是每次变更可以针对更小的范围,便于精准控制和资源调度。
杨健回顾说,与红帽的合作非常顺畅,相比其他供应商,红帽在响应速度和责任感方面表现突出。这种共创的模式和合作环境非常宝贵,也是他们选择并继续合作红帽平台的重要原因之一。此外,红帽论坛期间展示许多平台、解决方案和产品也给他带来了启发。
西门子在 AI 领域已经看到了很多优质的解决方案和思路。比如西门子很早就开始应用小模型,尤其是在生产领域,比如机器视觉。以垃圾分拣为例,原材料加工后产生的垃圾有金属、塑料和纸张等,以前的机器人视觉识别准确率只有大约 85%,西门子通过小模型训练将准确率从 85% 提升到 95% 以上,大幅提升了分拣效率。
小模型非常适用于生产,是因为应用和场景单一,错误率低,能保证质量和过程的可控性。而大模型有时会出现的幻觉问题在生产应用中存在风险,因此西门子当前对大模型的应用保持探索并较为谨慎,希望通过持续优化,使大模型更可靠、可信且全面。
杨健称,下一步,除了继续在微服务平台上探索外,双方计划在虚拟化领域展开更多合作,希望借助红帽的虚拟化技术替代部分现有方案,未来也将研究如何将红帽 AI 平台更好地整合到西门子的资源体系中,进一步优化制造流程。
三、向企业提供 " 三步走 "AI 部署路径,鼓励跨云混合部署
在帮助客户更加快速经济地实现应用落地方面,曹衡康谈道,从成本的角度,红帽的混合云理念鼓励客户在合适的场所部署算力,比如企业内部数据中心、公有云乃至跨多云环境。
去年红帽推出了 "Unlock" 理念,旨在避免客户被锁定在特定云上,开源架构为客户提供更多弹性和自由度。因此,红帽始终鼓励客户使用红帽的开放平台,以便在任意云和本地环境中灵活切换,满足各种算力需求。
王慧慧提到许多客户反馈说希望先了解成本和收益,再决定项目的可行性。红帽对此需求非常重视,提出了 " 分步实施 " 的策略,即 " 企业 AI 应用三步曲 "。
第一步,客户可在最小资源配置下试用开源模型和工具,比如在笔记本电脑上用 CPU 试跑,而不需要额外的 GPU 卡。
如果测试效果满意,客户可以进入第二步,通过云租用算力进行进一步扩展。红帽平台几乎可在任何云上运行,客户可以选择公司数据中心或外部公有云资源,在确认模型适合需求后,才进入第三步的大规模部署。
第三步,红帽架构支持跨云混合部署。例如,客户可以在中国使用阿里云,在美国使用 AWS,这种多云方案既灵活又经济。红帽的目标是帮助客户实现最佳的投资回报率(ROI),并在每一步提供适配的支持。
红帽 InstructLab 是一个用于生成式 AI 模型开发的开源社区项目,由红帽和 IBM 联合发起,支持市面上各种模型,被称作 " 连接社区和客户的桥梁 "。王慧慧说,InstructLab 和 Granite 是一个相辅相成的体系。
设计 InstructLab 有两个主要目的:一是让客户基于 Granite 基础模型,使用 InstructLab 和自身数据训练出符合需求的模型。InstructLab 的输出分为 " 知识 " 和 " 技能 ",可在企业内部自用。此外,InstructLab 还能将知识和技能反馈至上游的管理机构。当管理机构收到客户反馈的更新后,可将其整合到社区版本的 Granite 模型中,并发布新版本。
红帽的开源平台上几乎所有产品都遵循这种模式。在开源模型领域,这种方法是红帽和 IBM 首次探索的方向,旨在通过开源社区推动开源模型的持续进步,而不仅仅是开放某个版本的模型。
结语:引领开源路线,将增加本地化支持
随着 AI 应用日益成熟与普及,越来越多企业面临 AI 技术路线的选择,而开源方式能够帮助企业有效降低应用门槛和成本。据王慧慧分享,自 2019 年 IBM 成为红帽母公司以来,IBM 在开源方面的投入愈发积极,在工作方式和平台选择上越来越倾向开源。IBM 将其最初的 Watson 平台(现称 Watson X)逐步开源,接下来 IBM 和红帽将共同致力于维护开源模型的持续迭代。
IBM 和红帽接受来自用户和合作伙伴的反馈和贡献,不断改进模型。IBM 不仅限于语言模型,还推出了代码模型等其他模型,持续拓展应用领域,走向更广泛的开源之路。IBM 的咨询部门也与红帽保持紧密合作,共同探讨如何通过开源平台帮助客户实现 AI 应用。
赵文斌补充道,IBM 非常尊重红帽的开放性,在合作项目中,IBM 是红帽众多选择之一,红帽仍然与其他解决方案保持平等合作。具体来说,许多联合项目都是基于红帽的开源平台,客户需求始终是红帽创新的核心,红帽通过开源方法进行持续集成和迭代。同时,红帽坚持平台的中立和独立性。
在曹衡康看来,地缘政治更加凸显了拥抱开源的重要性。与闭源公司不同,开源技术较少受到地缘政治限制,用户可以随时下载和使用所需的工具。据他透露,红帽下一步将继续扩大与国内企业的合作,已与本土 ISV 公司建立了多项合作,这些合作涵盖芯片和软件等方面,确保其开源路线在国内有更多本地化支持。
登录后才可以发布评论哦
打开小程序可以发布评论哦