亿通电子游戏 12小时前
趋境科技携手商汤,共建日均十万亿级高品质AI Token工厂
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

近日,趋境科技(Approaching.AI)与商汤科技大装置签署战略合作协议。双方将围绕 AI 产业基础设施展开深度合作,联合打造日均十万亿级 " 高品质 AI Token 工厂 "。目前,双方共建产线已具备万亿级 AI Token 的日均生产与稳定消纳能力,并将面向日均十万亿级目标持续推进建设。

趋境科技副总裁关嘉伟、商汤科技大装置事业群产品总经理卢国强代表双方签署协议。清华大学计算机科学与技术系教授、趋境科技首席科学家武永卫,趋境科技创始人兼 CEO 艾智远、总裁兼 CFO 武文洁、Token 事业部总经理刘显赫,商汤科技联合创始人、大装置事业群总裁杨帆、商汤科技大装置事业群 CTO 宣善明、商汤科技大装置事业群技术总监鲁琲、品牌中心总经理马婷婷出席签约仪式。

签约现场,万亿级 " 高品质 AI Token 工厂 " 正式点亮并上线运营。目前,共建产线已具备日均生产并稳定消纳万亿级高品质 AI Token 的运营能力,形成了从规模化 Token 生产、模型服务到真实业务应用的完整闭环。

趋境科技 X 商汤科技大装置

日均万亿级高品质 AI Token 工厂正式上线

在趋境科技看来,一座 AI Token 工厂不仅要回答 " 能够生产多少 ",还要回答 " 交付质量如何 " 以及 " 能否被真实业务持续消纳 "。对此,趋境科技创始人兼 CEO 艾智远提到,衡量 Token 的交付质量,需要关注首字延迟(TTFT)、生成速度(TPS)、系统吞吐量和服务等级目标(SLO)四项指标。基于这一标准,高品质 AI Token 并非追求某一项指标的峰值,而是让模型能力、交付效率、服务稳定性与综合成本共同满足真实业务要求。

目前,趋境科技已形成覆盖国产芯片适配、推理系统优化、Token 生产与运营的技术能力。此次合作将结合趋境科技的 AI Token 生产体系,以及商汤科技大装置在大模型、AI 基础设施和产业应用方面的积累,进一步连接基础设施、模型与真实业务。

而要把 " 基础设施—模型—业务 " 的协同真正落到 Token 产线上,异构 PD 是双方此次合作的重要技术落点。不同于将多种硬件简单接入同一个集群,异构 PD 根据 Prefill 和 Decode 的任务特征重新组织硬件:Prefill 侧重计算吞吐,Decode 更依赖显存带宽和时延稳定性,KV Cache 负责承接两个阶段之间的中间状态。双方将把这一方案应用于共建的 Token 产线,让不同类型的硬件分别承担与自身特性相匹配的推理阶段任务,并围绕 KV Cache 的传输与复用、软硬件适配和系统运行持续优化。

通过异构 PD,国产芯片可在与其特性相匹配的推理阶段承担明确任务,与其他类型硬件协同完成高品质 AI Token 交付。双方将围绕真实生产负载开展软硬件协同优化,持续提升国产芯片的适配水平、资源利用效率和应用经济性,探索兼顾自主性与成本竞争力的 AI 基础设施方案。

未来,双方还将面向企业服务、智能体、行业模型、内容生成和数据智能等场景开展联合探索,推动 AI Token 生产、模型服务与产业应用有效衔接,加快 AI 能力在产业场景中落地。

趋境科技是全球领先的高效能 AI Token 生产服务商,专注于为企业提供高效能 AI Token 及全场景专属 AI 推理解决方案,是企业高效部署 AI 能力和实现智能升级的核心战略伙伴。核心团队源自清华大学高性能计算研究所,由中国工程院院士郑纬民担任首席科学顾问,清华大学教授武永卫担任首席科学家。团队立足系统级原始创新,通过全系统异构协同、以存换算等全球首创技术助力国产算力硬件缩小与国际领先水平的差距,为解决大模型算力难题贡献了重要的 " 中国方案 "。趋境科技现已构建覆盖云、边、端全场景的企业级高效能 Token 生产平台,实现同一算力增产数倍 Token,助力 AI 应用普惠落地。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 商汤 基础设施 创始人 ceo
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论