新浪财经 20小时前
GPUStack CEO秦小康:AI基础设施涉及多个环节,一家公司不可能包揽所有
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

新浪科技讯 9 月 9 日晚间消息,在 GPUStack AI Infra 生态与技术创新大会上,GPUStack CEO 秦小康指出,国产 GPU 和模型生态快速发展的同时,兼容适配、性能调优、版本迭代等环节仍较为复杂。GPUStack 希望与合作伙伴、社区用户和开发者共同努力,让国产算力变得更加简单易用,并通过持续优化释放每一块 GPU 的性能与价值。

据悉,自 2024 年开源以来,目前 GPUStack 已服务全球 121 个国家和地区的超过 11 万用户,形成了广泛的全球用户基础,也为国产算力适配、模型部署和产品迭代积累了丰富的真实场景验证。秦小康认为,AI 基础设施涉及芯片、服务器、存储、模型和应用等多个环节,一家公司不可能包揽所有能力。GPUStack 将聚焦自身擅长的方向,同时与产业伙伴共同完善产品和解决方案,让复杂的算力适配与平台建设变得更加简单。

GPUStack 联合创始人、CTO 梁胜结合全球 GPU 产业演进进一步指出,GPU 市场的竞争从来不只是硬件性能的竞争,成熟的 GPU 生态背后,是一套贯穿底层计算、网络和存储,并延伸至模型推理与服务交付的完整软件体系。随着国产 GPU 不断提升产能、质量和性能,软件栈能否同步成熟,将直接影响其规模化应用和全球市场拓展。GPUStack 希望通过开放的软件平台,将繁琐的部署和调优过程沉淀为标准化能力。

大会期间,GPUStack 分别与帝欧水华集团、亚信科技、容芯致远和 XSKY 签署战略合作协议,进一步深化 AI 基础设施产业链协同。

在算力供给与运营侧,GPUStack 与帝欧水华集团围绕算力建设、算力租赁和模型 API 服务展开合作,共同完善 " 水华 Do.top" 在线算力服务平台,推动算力资源向标准化服务转化。

面向企业级 AI 平台建设,GPUStack 与亚信科技将异构算力管理、模型部署、服务运营和计量计费等能力进行整合,提升企业 AI 基础设施的运营与规模化交付能力。

为进一步向智算硬件延伸,GPUStack 将作为 AIOS 集成到容芯致远 AGC 智算设备中,打通硬件设备、算力调度与模型服务,为企业提供更加便捷的软硬一体化部署方案。

在推理加速环节,GPUStack 与 XSKY 围绕共享 KV Cache 展开合作。通过集成 XSKY MeshFusion,双方将进一步提升长上下文、多轮对话和智能体等场景下的推理效率。

四项战略合作连接了算力供给、平台运营、智算硬件和数据存储等关键能力,是 GPUStack 生态聚合能力的一次集中体现,也标志着其与产业伙伴的合作正从产品适配走向联合方案与深度共建。(文猛)

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

基础设施 ai 亚信科技 战略合作 芯片
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论