钛媒体 App 10 月 15 日消息,红帽公司发布红帽 AI 3(Red Hat AI 3),升级其企业级人工智能(AI)平台。该平台融合了红帽 AI 推理服务器、红帽企业 Linux AI(RHEL AI)和红帽 OpenShift AI 的最新创新成果,可简化大规模高性能 AI 推理的复杂性,帮助企业更轻松地将工作负载从概念验证推进至生产阶段,并提升 AI 应用相关协作效率。据悉,红帽 AI 3 是基于 vLLM 和 llm-d 社区项目,结合红帽的模型优化能力,提供生产级大语言模型(LLM)服务,强调可扩展且经济高效的推理能力。(广角观察)
登录后才可以发布评论哦
打开小程序可以发布评论哦