"GPU 三十年的仗，TPU 十年就想打完？
大数据产业创新服务媒体
——聚焦数据 · 改变商业
2026 年，中国 AI 产业最焦虑的事情，可能不是模型能力不够——智谱 5.2、DeepSeek V4、MiniMAX 轮番上场，模型越来越强。
真正的焦虑是：算力快用不起了。
一个 AI 智能体处理一次用户请求，输入的上下文 Token 量，可能是输出 Token 的上万倍。你只问了一句 " 帮我总结这份财报 "，后台打包发送的却是几十万字的完整对话历史。
有开发者私下吐槽：" 本来指望 AI 帮我省钱，结果用 AI 本身变成了一笔大开支。"
更严峻的是，当 AI 产业从 " 算力时租 " 转向 " 词元计价 "，算力成本不再是边际递减，而是开始指数膨胀。
当算力成本开始反噬 AI 商业化，芯片行业给出了一套截然不同的解题思路——
通用 GPU 继续堆核、堆频率、堆制程；而一群 "TPU 信徒 " 则在讲另一个故事：专用芯片，才是算力的终极解药。
2026 年 6 月 30 日，国内最早押注 TPU 路线的中昊芯英，正式发布了第二代全自研 TPU 芯片 " 须臾 " 和泰则 2.0 智算平台。896TFLOPS 单卡算力、7.168PFLOPS 单机算力性能、百万 Token 成本腰斩……
这些数字背后，是一场关于 AI 算力底层逻辑的博弈。
算力 " 通胀 "
AI 商业化的真实成本有多高？
2023 年大模型元年，行业还在比拼 " 谁能训出更大的模型 "。到了 2026 年，问题变成了 " 谁用得起 "。
这不是玩笑。
采访中，中昊芯英创始人兼 CEO 杨龚轶凡算了一笔账：" 当下绝大多数 AI 软件服务商毛利率不足 40%，算力硬件开支是核心成本项。如果我们能把单位算力成本减半，客户毛利率可以从 40% 提升至 70%。反之，如果算力成本居高不下，很多 AI 业务会陷入亏损、商业模式无法闭环。"
智能体场景让这个问题雪上加霜。
传统聊天机器人，用户输入多少、输出多少，Token 消耗相对可控。但智能体不同——它每一次调用 API，都会把全部历史对话上下文打包传输。用户只问了 20 个字的简单问题，API 请求的 Token 量可能高达二十万。
输入输出的悬殊比例，让 Token 账单像滚雪球一样膨胀。
早期行业鼓励无限制调用，大模型厂商甚至补贴用户使用。但进入 2026 年，无论大厂还是中小企业都开始严格管控 Token 用量。算力成本，正在从 " 技术问题 " 变成 " 生存问题 "。
更长期的压力来自产业结构的转变。
当 AI 从研发阶段进入规模化商业部署阶段，企业对算力的诉求正在从 " 灵活性优先 " 转向 " 成本优先 "。
而这，恰恰给 TPU 这类专用架构打开了巨大的成长空间。
路线之争
为什么有人不做 GPU？
理解 TPU 的崛起，首先要理解一个看似反直觉的事实：GPU 发展了三十多年，它的最大优势正在变成最大劣势。
杨龚轶凡在采访中给出了一个犀利判断："GPU 技术至今已经发展三十余年，英伟达、AMD 每年合计投入数十亿美元研发。经过长期迭代，GPU 相关硬件架构、软件栈的优化空间基本已经被挖掘殆尽，后续升级基本只依托先进制程和新型存储做微调，底层核心架构很难再做颠覆性革新。"
与此同时，完整 CUDA 软件生态已经成为 GPU 厂商最坚固的护城河——也是全行业切换技术路线最大的门槛。
这意味着什么？
意味着在 GPU 这条赛道上，后来者几乎没有弯道超车的可能。杨龚轶凡直言：" 国内 GPU 厂商底层软件框架最终会走向兼容互通，但想挑战英伟达的地位，几乎不可能。"
正是在这个判断下，中昊芯英 2018 年创业之初就押注了 TPU。
" 当年我们选择 TPU 赛道，本质是做了次行业预判押注：我们笃定 Transformer 架构、大模型深度学习会成为人工智能长期发展核心主线，AGI 商业化落地一定会成为行业主流趋势。"
这个预判在 2023 到 2024 年得到了验证。
TPU 的优势是什么？
第一，架构年轻，创新空间大。
相比于 GPU 三十年的成熟期，TPU 整体研发历史不足十年。谷歌 2015 到 2016 年才启动初代 TPU 研发，Groq 核心团队也脱胎于谷歌 TPU 体系。整个赛道仍存在大量待挖掘的技术空白。
杨龚轶凡认为，TPU 至少还有 5 年的架构创新窗口期：" 当前 TPU 还是在一个早期的技术路线，还有很多创新点等待我们去开发。硬件架构高度依赖产品流片、量产迭代来验证创新思路，每一代芯片都可以新增专属硬件特性，持续拉升算力与能效。"
中昊芯英 AI 大模型软硬件一体化方案架构图
第二，面向大模型的 " 天生优势 "。
TPU 架构天然面向大模型高并发张量计算做深度定制优化。杨龚轶凡给出的数据是：在同等制程、同等硬件成本前提下，运行主流深度学习模型时，TPU 综合性能可达通用 GPU 的 3 到 5 倍。
如果再结合针对特定模型网络的专属算子调优，性价比优势会进一步放大。
第三，PD 分离带来的 " 杀手锏 " 场景。
这是采访中被反复提及的核心技术概念。
Prefill-Decode 分离，简单说就是把推理场景中的 " 预填充 " 和 " 解码 " 两个计算环节拆开，用不同的专用硬件分别承载。两者的计算逻辑差异极大，分开优化后整体性价比可以实现大幅提升。
杨龚轶凡指出：" 这是 GPU 架构很难灵活实现的设计思路。通用 GPU 兼顾全场景通用能力，在这种细分专业化场景下优势会大幅缩水。"
事实上，全球行业趋势已经佐证了这个判断：谷歌持续大规模扩产自家 TPU，大量海外企业批量采购 TPU 算力。专用张量计算芯片的市场需求，正在以远超行业预期的速度增长。
聊一聊 Token 经济学
路线之争说得再热闹，最终都要回到一个核心问题：
客户到底省不省钱？
杨龚轶凡的回应非常干脆：" 对 AI 服务商、政企客户而言，单位百万 Token 算力性价比永远是第一决策标准。"
他甚至重新定义了芯片设计的优先级逻辑。传统芯片厂商追求 PPA 平衡——性能、功耗、面积三者精打细算。但中昊芯英的思路完全不同：" 因为 TPU 架构本身天然比通用 GPU 能耗更低，因此我们 PPA 核心是平衡性能和芯片面积，功耗并非首要优化目标。我们最后要实现的是百万 Token 成本降到最低。"
这不再是芯片厂商的思维，这是云服务商的思维。
那么，中昊芯英交出的成绩单如何？
先从硬件指标看：
单颗 " 须臾 " 芯片混合精度浮点算力达 896TFLOPS，是上一代 " 刹那 " 的 3 倍；8-bit 推理算力 1792TOPS。单卡显存和片间互联速率均有大幅提升，额定功耗 600W，相比性能持平的传统芯片功耗降低 50%。
搭载 8 颗 " 须臾 " 的泰则 2.0 单机算力达 7.168PFLOPS，整机能耗仅为传统 GPU 服务器的 80%。在集群层面，单个超节点可实现 2048 颗芯片直联，并可拓展至万卡集群。
再看 Token 成本：
杨龚轶凡表示，在同规模大模型推理场景下，中昊芯英平台的百万 Token 成本，仅为海外主流 GPU 方案的 35%-50%。
一代到二代，百万 Token 推理性价比实现了 " 两倍以上提升 "。而远期目标是 " 降到原有十分之一 "。
这并非简单的价格战。成本下降来自三个层面的架构创新：
计算层面，二代芯片重构了全链路计算流，消除了传统矩阵乘加运算中的数据依赖空泡，单计算单元硬件利用率大幅提升。脉动阵列的数据流调度经过深度优化，单路计算性能直接提升 20% 到 30%。
存储层面，TPU 片内存储容量对比通用 GPU 有量级优势，" 差距接近数倍 "。超大容量片上内存大幅提升 KV Cache 缓存命中率，省去大量重复矩阵运算，高效释放存储带宽。
通信层面，自研低延迟高并行片间通讯协议，对比一代传输效率显著提升，综合算力实现三倍增长。
杨龚轶凡算了一笔更大的账：" 如果拿智算中心三年周期内的整体能耗开支进行核算对比会发现，当前海外知名 GPU 整机硬件采购成本占到全生命周期运营总成本近 80%，能耗开支占不足 20%；我们产品的采购、能耗成本比例大致为 7:3，硬件采购占 70%，能耗占 30%，能耗支出占相较海外知名 GPU 本身就有已经更有优势。如果我们能把性能提升 1.5 到 2 倍，能耗再降低 20% 到 30%，那么我们的市场竞争力会非常明显。"
而在大型智算中心集群部署场景中，TPU 的优势不止于电费节省。低功耗意味着同等能耗配额下可以部署更多服务器，器件发热更少、老化故障概率更低，长期运维成本同步下降。" 综合来看，集群多年运营总成本降幅远不止 20%。" 杨龚轶凡表示。
从 " 能用 " 到 " 好用 "
国产算力的长征才刚刚开始
当然，纸上谈兵容易，真正落地的坑，中昊芯英一个都没少踩。
2023 年，初代 " 刹那 " 芯片流片成功，成为国内首枚高性能 TPU AI 专用算力芯片。但杨龚轶凡回忆，真正的挑战在流片之后才开始。
最大的难点不是硬件，是软件生态。
" 硬件批量部署相对简单，但完整软件栈、算子适配、工具链打磨需要海量自有算力持续迭代，这是所有国产算力芯片厂商共同的痛点。" 杨龚轶凡坦承，" 仅用一年半搭建软件栈，不可能达到英伟达二三十年持续重金投入的生态成熟度。"
英伟达每年数十亿美元持续投入生态建设，这个差距不可能短期弥合。
但中昊芯英的应对策略很务实——不追求全场景覆盖，而是聚焦国内主流大模型深度适配。
PyTorch、vLLM、SGLang 等主流开发框架原生支持，DeepSpeed、Megatron-LM 分布式套件完成适配。Qwen 全系列、DeepSeek、GLM、MiniMAX 等数十款大语言和多模态模型已经完成深度适配。
杨龚轶凡表示：" 我们资源高度聚焦大语言模型赛道。底层主流开源框架全部原生适配，配套标准化 Docker 镜像，开发者拿到镜像后可直接沿用原有框架代码，不存在大规模底层迁移改造成本。"
更重要的是，中昊芯英明确不走封闭路线。" 我们不会复刻封闭式全套软件体系。我们坚持全面拥抱开源，兼容全球主流开发平台。客户迁移时我们配套专属算子优化，不仅不会出现性能损耗，反而能提升推理算力表现。"
目前，中昊芯英的产品已成功部署于深圳联通、天津移动、太极股份、江西上饶等运营商、政府机构和科技企业建设的多个超大规模智算中心，并在高校、科研机构的科研计算平台与教学环境中投入使用，辐射金融、传媒、教育、医疗等广泛行业领域。
中昊芯英产品落地华东地区千卡集群项目图
从 " 芯片可用 " 到 " 芯片好用 "，再到 " 算得起 "，这可能是所有国产算力芯片厂商未来五年必须跨越的三道门槛。
不做 " 中国英伟达 "
采访最后，杨龚轶凡被问到一个宏观问题：如果站在 2028 到 2030 年的视角回看，你希望中昊芯英在国产算力产业中占据什么位置？是对标 " 中国英伟达 "，还是走一条差异化的路？
他的回答有些出人意料。
" 我们创业之初就确立了目标——不是复刻英伟达路线。我们希望把 TPU 这个架构做成 AI 界的 X86，推动 TPU 成为 AI 领域的通用底层架构。"
意味着中昊芯英想要的不只是一家芯片公司的商业成功，而是定义一个技术标准。
" 未来即便涌现更多 TPU、专用算力创业企业，我们不会恶性竞争，而是开放协同、共建 TPU 软硬件标准，联合全产业链完善技术体系，做 TPU 架构普及与标准化的核心推动者。"
这个目标是否过于宏大？
但放在产业逻辑中看，也并非没有可能。
GPU 赛道已经固化，头部玩家三十年积累的护城河让后来者几乎没有机会。而 TPU 赛道尚处早期，全球范围内还没有形成类似 CUDA 那样的垄断性生态，市场格局远未定型。
与此同时，中国市场有独特的需求变量：关键行业的信息安全合规要求、自主可控的政策导向、以及全球地缘政治带来的供应链不确定性，都给国产 TPU 提供了差异化的生存空间。
当然，挑战同样巨大。软件生态的差距、万卡集群能力的完善、视频等多模态场景的覆盖，都是中昊芯英需要逐步攻克的难题。
TPU 赛道至少还需要 5 年才能进入成熟期，而这 5 年，恰恰是中昊芯英的窗口期。
算力的 " 终局猜想 "
GPU 和 TPU 或许不会走向 " 你死我活 " 的零和博弈。
更可能的终局是——当新的计算场景出现时，GPU 仍然是首选；而大模型规模化商用训练、海量 Token 高并发推理、成熟 AI 业务批量落地等场景将逐步聚焦 TPU/DSA 专用芯片。
这是商业规律的必然：当一个产业从研发阶段走向规模化落地阶段，成本会成为最终的裁判。
杨龚轶凡在采访中讲了一个细节：中昊芯英从第一代芯片起就完整落地了 Chiplet 芯粒架构，" 这套集成方案的复杂程度远高于同行业 "。如果当初选择更简单的方案，产品可能更早推向市场，但天花板会更低。
" 我们团队内部有三条核心准则：公平、坚持、创新。不管是芯片设计、制造工艺还是供应链管理，遇到各类行业难题，都优先依靠创新方式突破瓶颈。"
中昊芯英的 " 须臾 " 只是一块芯片。但它背后代表的专用算力浪潮，正在改写 AI 产业的成本公式。
而这场改写，才刚刚开始。
人类计算史上，每一次通用架构被专用架构局部替代，都遵循同一个剧本。
x86 统治了 PC 时代三十年，但手机芯片最终选择了 ARM。不是因为 ARM 更快，而是因为它更 " 对 " ——对功耗、对空间、对特定场景做了减法。
GPU 统治通用计算的时代同样辉煌，但 AI 推理不需要渲染游戏画面的纹理单元，不需要图形管线的固定功能模块。当一项技术被赋予太多 " 兼顾 "，它在任何一个细分方向上都难以做到极致。
TPU 正是那个敢于做减法的叛逆者，砍掉通用计算的一切冗余，只为张量运算而活。
每一个时代，都有属于自己的计算范式。
如果站在 2030 年回望 2026 年，人们或许会发现，中昊芯英 " 须臾 " 芯片的发布，只是一个信号。
真正的变量是，当 AI 从实验室走入生产线，当算力从 " 能不能 " 变成 " 贵不贵 "，整个行业对芯片的评价标准，正在发生一次静默而不可逆的迁移。
文：喆涵 / 数据猿
责编：凝视深空 / 数据猿
☆往期好文推荐☟
登录后才可以发布评论哦
打开小程序可以发布评论哦