中国经营报 10小时前
国产GPU竞争正从单卡性能转向系统能力
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

中经记者 李玉洋 上海报道

" 快速迭代、还未收敛 ",这是当前算力和大模型技术发展的一个共同表征。

" 现在整个行业还处在算法快速迭代的阶段。哪怕同一家公司、不同版本模型的计算特征、算子结构都会发生改变。" 日前,国内通用 GPU(GPGPU)厂商天数智芯(09903.HK)副总裁邹翾在 " 从模型到世界 " 媒体开放日活动上如是表示。

《中国经营报》记者注意到,这场活动是天数智芯上市以来首次向媒体系统性地开放实机演示,而主角是该公司在今年世界人工智能大会期间发布的新一代通用 GPU 旗舰天垓 300。根据第三方实测,在典型 PD 分离部署下,天垓 300 折算单卡整体端到端吞吐达到某国际主流产品的 1.05 倍,这是国内首个实测性能媲美后者水平的通用 GPU 产品。

此外,天数智芯近日还有一个 " 直给 " 的操作:11 月 2 日,其发布公告称,截至 2026 年 10 月 31 日止十个月,集团芯片累计出货量超 8 万片。可见,公司 " 秀 " 出的不只是技术力,还有持续提速的商业化落地。

在邹翾看来,尽管 Groq LPU 等专用架构和谷歌、亚马逊等企业自研定制芯片有其独特价值,但未来几年通用性依然是绕不开的底层需求。

" 从目前的市场发展情况来看,国产算力芯片的诉求不再是单纯依赖相同架构上的迁移,更需要全栈的能力。" 行业机构 Omdia 人工智能首席分析师苏廉节告诉记者。

天数智芯副总裁宋煜也有类似观点。他认为,客户最终评价的是芯片、软件与系统协同后的实际业务表现,可从客户业务发展及未来算力需求出发进行产品设计和优化。" 在通用 GPU 架构基础上,针对重点业务负载中的计算、访存和通信瓶颈开展软硬件协同优化。"

"GPU 只是一个部件,最后让客户用起来是与主机内存、存储、网络和 GPU 互连等环节密切相关。" 宋煜表示,天数智芯不仅关注单颗芯片,也会在系统设计和软件层面做很多工作,客户最终关心的是相同投入、相同业务质量要求下,能够产出多少 Token、生成多少秒视频。

而对于如何满足多样化推理需求,邹翾指出:" 我们可以把通用模块和专用加速单元做灵活耦合,既可以放在单颗芯片内集成,也可以借助 PD、AFD 这类算力分离架构做分布式异构编排。"

他还指出,并不是 GPU 架构天然偏向 Prefill 或者 Decode,而恰是 GPU 与生俱来的通用性,使得 GPU 架构更像是一套乐高积木。" 不管业务、算法出现什么新变化,都可以快速适配、灵活组合。" 而英伟达现在的路线,本质上也是这个方向。

天数智芯 AI 与加速计算负责人单天逸表示,天垓 300 可提供三个层次的异构协同思路,除了 PD 分离,还有混合训练与 AFD 分离。以 AFD 分离为例,天垓 300 承担 Prefill 全流程计算与解码阶段的 Attention,合作厂商的 XPU 承担 FFN 专家网络,两类芯片在统一调度下异构协同,实测 Decoding 推理延迟可降低 60%,该方案已实际跑通,是国内第一个基于 GPU+XPU 的异构部署 AFD 分离方案。

" 未来的 AI 算力系统,不一定由一种芯片包打天下。" 单天逸表示," 关键是如何把它们高效组织起来,让整个系统发挥更大的价值。我们希望通过开放的异构计算能力,让客户充分利用已有算力资产,以更灵活的方式构建适合自身业务的计算系统。"

天数智芯副总裁石加圣则从软件的视角来看 GPGPU 的能力来自软硬件协同设计。" 例如,PD 分离带来的需求,需要经过负载分析、性能建模和架构权衡,进一步转化为对计算、存储、通信等基础能力的要求,再反映到芯片设计之中。这样形成的硬件能力并不只服务于某一种应用场景。" 他指出,硬件架构能力还需要通过编译器、运行时、算子库和上层框架等软件环节衔接,才能持续转化为客户实际应用中的性能与使用体验。

业务需求倒逼算力分层

上述第三方实测显示,天垓 300 在真实业务测试水平意味着国产 GPU 正在进入新阶段——从解决 " 能不能用 " 的问题,转向比拼实际产出、运行效率和经济价值。

天数智芯将这一阶段概括为高质量算力—— " 高效率、可预期、可持续 ",即相同投入能产出多少有效结果,长时间运行能否稳定,面对不同模型、业务和部署方式能否持续发挥作用。

据公司方面透露,天垓 300 已形成从加速卡、一机 8 卡服务器到超节点的完整系统方案。其中,天垓 300 IXL144 超节点方案已在今年工博会亮相,其在单个标准机柜内集成 144 颗 GPU、聚合约 10.1TB 显存,是目前业界密度最高的单机柜 GPU 超节点,据测算每百万有效 Token 成本较国际主流方案可降低约 40%。

" 主要是市场对类 GPU 的诉求还没进入井喷式增长的状况。" 苏廉节表示,天数智芯目前的表现中规中矩,要继续保持竞争,就得继续把生态做起来,争取多点开花。" 光是聚焦在大型数据中心的训推场景,恐怕机会有限。"

而在此次活动上,天数智芯除了展示云端高效生产智能、软件加速适配外,还特地介绍了端侧产品布局(即彤央系列),并提出了算力分层的理念。该公司方面认为,物理世界的数据量持续增长,对感知、规划与执行提出毫秒级响应要求,合同、科研等涉及数据安全的任务要求算力必须 " 贴着数据跑 ",业务需求让算力必须分层。

" 云端 GPU 厂商做端侧,不是把芯片做小,而是把能力下沉。" 天数智芯彤央产品市场负责人宋远盈表示,彤央以 " 一套生态、两种形态、五款产品 " 覆盖从客户自主集成到即用型部署的需求;" 把云的能力折叠进方寸之间 ",也让客户的边端投入具备长期延续性。

其中,彤央 TY1200 端侧算力终端标称 300 TOPS 稠密算力,而非行业惯用的稀疏峰值;在 Qwen3.8-27B、Qwen3.6-35B-A3B 等 LLM 模型实测中,TY1200 性能达到英伟达 Thor T5000 的 1.2 倍。Thor T5000 是英伟达目前性能最强的边端产品。

具身智能芯片尚处于探索阶段

值得一提的是,天数智芯端还将近期英伟达 GTC 柏林大会爆火的机器鸭 MicroDuck 带到现场,虽是 " 同款 ",却为手搓版。

不同于英伟达将训练任务送往云端,再把策略带回本地,天数智芯则把仿真训练、仿真验证和实物部署全部放进一台 TY1200 里完成。

也就是说,TY1200 是这只 MicroDuck 设备的大脑。天数智芯方面表示,这次展示是 TY1200 首次在国产端侧产品上实现基于 MuJoCo-Warp 的 GPU 加速物理仿真,在世界模型 Cosmos-R2-2B 和 Cosmos-R2-8B 本地运行测试中,TY1200 的实测性能分别达到 Thor T5000 的 158% 和 180%。

当前,面向物理 AI 场景的具身智能端侧芯片正成为国内外算力芯片厂商新的方向。" 具身智能不仅需要足够的算力,还要考虑能效和实时性。尤其是在真实环境中,机器人需要及时感知、决策和执行,这与很多传统计算场景不一样。目前大家都在围绕这些方向定义下一代芯片,行业还处于探索阶段。" 天数智芯副总裁郭为表示。

据了解,天数智芯 TY1200 已进入储能电芯研究、应急视觉识别、陪诊机器人等真实任务中。比如,在储能电芯研究案例中,TY1200 支持科研智能体自动采集、治理实验数据,并可在 2 分钟内生成报告。另外,天数智芯方面表示下一代端侧产品彤央 TY2000 将推出,标称算力将达 600T。

(编辑:吴清 审核:李正豪 校对:颜京宁)

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

gpu 芯片 天数智芯 亚马逊 上海
相关文章
打开 ZAKER 参与讨论