随着年初国产大模型 DeepSeek 的爆火,大模型技术正加速渗透千行百业。然而,算力资源的结构性矛盾也日益凸显。企业落地 AI 应用过程中, GPU 等高性能算力成本高昂,且系统互不兼容,造成显卡资源浪费,成为中小企业应用大模型的重要困境。
在近期京东云深圳城市大会,京东云推出八大智算产品,其中 vGPU AI 算力平台,能够实现异构算力的智能调度:一边自动分配多元算力,实时响应业务需求,把 GPU 利率用提上来;另一边创建全生命周期 AI 开发环境,开箱即用,大幅压缩大模型训练周期。目前,这个平台支持企业智能驾驶、人形机器人等 20 多个场景,精细化管理千卡 AI 算力集群,预计 1 年内,省下的算力相当一两座数据中心的算力。
京东云 DeepSeek 大模型一体机的推出,也是对这一提案的有力实践。该一体机通过自研的算力池化能力、智能推理加速引擎,充分融合软硬件,实现了性能的全面提升,推理速度提升 50%,通过集群算力池化调度提升集群利用率 70%,全面适配十余家国产化算力资源。企业可以根据自己的需求灵活选择不同版本,开箱即用。
目前,京东云已经在河南鹤壁、江苏宿迁、山东滨州、广西北海、山西大同等多地政府,基于现有基础设施本地化部署 DeepSeek,既满足本地政务业务需求,又让当地企业不用投入资源,即可通过政务云调用 DeepSeek。
为持续推动算力从 " 稀缺资源 " 变为 " 普惠服务 ",曹鹏进一步提出 " 链主企业 + 云平台 " 的共享模式:链主企业和云平台开放智算配额,向中小企业提供低成本、高质量的智算服务,将紧跟时代的先进技术通过产品化、平台化,普惠化地对外开放,降低应用和部署门槛,打造开箱即用的产品服务,让更多企业和个人无差别地享受技术创新的红利,引导技术创新走出实验室和大公司的围墙,在产业场景发挥价值。
京东云的探索与实践,不仅为中小企业让中小企业用得起大模型,更为算力普惠的未来开辟了新的道路!
登录后才可以发布评论哦
打开小程序可以发布评论哦