大京新闻网 1小时前
深信服AI算力网关入选工信部人工智能应用典型案例!
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

(原标题:深信服 AI 算力网关入选工信部人工智能应用典型案例!)

前不久,工业和信息化部正式发布《2025 年人工智能应用典型案例名单》,集中展示人工智能在各领域的应用成果,覆盖技术底座、行业赋能、产品应用、支撑保障、专题等五大方向。深信服 AI 算力网关(AI 创新平台)成功入选!

随着各行各业的 Agent 走向规模化建设,算力构成形态逐渐丰富,用户关注的重点也在发生变化:不只是让 AI 用起来,还要进一步看清混合算力时代下,Token 花在哪里、算力是否被充分利用,以及持续增长的 AI 成本该如何优化。

深信服 AI 算力网关正是围绕这些实际问题,从 Token 治理和成本治理两个方面,让用户的每一份算力都看得清、管得住、用得稳、省得下、更安全!

一、从现在开始,Token 使用一目了然AI 创新快人一步!

研发团队用 AI Coding 提升开发效率,业务团队调用智能助手辅助工作,越来越多 AI 应用正在融入企业流程。

但 AI 用得越多,用户越需要回答几个问题:哪些部门使用最频繁?哪些应用消耗了更多 Token?哪些投入真正带来了业务价值?

过去,这些信息分散在不同模型、平台和业务中,很难放在一起看。

现在,深信服 AI 算力网关搭建起一个统一视图,帮助用户从模型接入、资源纳管到 Token 用量,全盘掌握内部 AI 资源的使用情况——

(1)各类云端模型可通过统一入口接入,兼容各类协议,大幅降低调用不同模型的门槛。

(2)各类本地和租赁算力平台可以统一 overlay 管控,不被算力平台厂商绑定,便于用户更好地进行混合算力治理。

(3)一个模型广场纳管所有模型资源,管理员只需一键配置,员工即可快速使用。既提升员工使用大模型的效率,又便于企业进行集约化管理。

(4)提供包含资源、体验、成本的统一视图,同时提供组织架构维度、应用维度等细粒度统计视图,让算力使用情况一览无遗,更易于推动各部门 AI 转型。

AI 投入不再只是凭感觉判断,而是有了清晰的依据,AI 创新在组织内的落地速度可以得到数倍提升。

与此同时,AI 算力网关提供精细化管控 Token 的方式,能让每一份算力都转化为真正的业务价值。

(1)实现 Token 级的智能限流及配额管理,按组织架构和 API Key 进行配额管理,通过高效的限流策略配置,将算力留给真正有价值的业务。

(2)对模型服务、API Key 和使用权限进行统一管理,实现一人一 Key,一 Agent 一 Key。不同部门可以按需获取本地模型能力,既让模型使用更加便捷,也能进一步提升显卡资源利用率。

在实际运行过程中,AI 算力网关还能为 AI 业务稳定运行提供保障:通过启用不同模型聚合路由策略,即可应对单点故障、业务流量高峰等不同风险。

二、用对方法,AI 算力也能越用越省钱!

AI 用起来之后,另一个现实问题随之而来:效果可以越来越好,但成本也越来越高怎么办?

深信服 AI 算力网关通过自研创新技术,直捣成本失控的关键点——外部 Token 调度费用太高 & 本地算力浪费严重!

首先,我们如何解决外部 Token 调度成本太高的问题?

很多人在使用 AI 的时候,都会遇到大量 AI 请求集中使用高成本资源的情况,即不少 AI 任务并不复杂,却仍然调用顶尖模型,使得外部 Token 调用成本很难降下来。

如果只依靠简单的规则做路由,或是用开源模型 + 置信度判断,都无法很好地适配各种复杂场景,而且也会让用户在成本和体验之间左右为难——费用就算省下来,但一旦上生产,AI 就变 " 笨 " 了,随之而来的就是糟糕的效果和业务部门的投诉。

深信服 AI 算力网关通过自研智能路由引擎,识别不同请求的特点,让每个任务找到更合适的模型。

简单任务,可以交给更经济的模型完成。

复杂任务,再调用更强的模型保障效果!

应用在 AI Coding 场景中,可以降低 50% 的 Token 成本,同时不影响回答质量,可以说真正做到了 " 降本不降智 "!

其次,我们还能帮用户将本地算力彻 s 底盘活。

面对 OpenClaw、智能客服等需要运行多种大小模型的场景,传统显卡切分粒度较粗,容易出现资源没有用满、模型却跑不下的情况。

AI 算力网关通过 vGPU 切分技术,让显卡资源按需分配,单卡承载模型数量可提升 8 倍以上。同样的硬件可以承载更多任务,也就不必通过增加显卡来满足需求了。

再者,在 AI 实际业务场景中,像 GPU 并发上不去、响应慢、吞吐低、推理缓存命中率低这种情况的发生,会影响实际的并发性能和业务承载效率,进一步推高建设成本。为此,AI 算力网关自研智能融合架构 SFA ——

通过自适应架构感知 AI 应用特点,精准定位实际场景中的性能瓶颈,再结合推理优化、智能调度等能力进行针对性调优,提升应用的并发性能和端到端承载效率,让企业已有的本地算力发挥更大价值,实现本地算力 ROI 的持续提升。

算力正在成为支撑各行业创新的重要生产要素。真正决定 AI 落地深度的,不只是模型能力有多强、算力投入有多大,更在于能否让算力资源持续转化为可衡量、可延续的业务价值。

未来,深信服将继续深入各行各业的 AI 应用场景,直面用户的真实需求,让技术能力真正沉淀为业务的生产力,让每一份算力都成为推动 AI 创新向前的一份力量。

本文来源:大京新闻网 责任编辑: 贺谊烁 _NB5132

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 人工智能 深信服 工信部 工业和信息化部
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论