AI 算力需求还在往上顶,但行业讨论的焦点已经悄悄换了位置:大家不再只问哪颗 GPU 峰值算力更高,而是问哪套平台能把算力更高效地用起来、扩出去。在今年的 Advancing AI 2026 大会上,AMD 带来了首个完整的机架级解决方案,针对 AI 数据中心设计的 "Helios" 机架级平台。其中包括了代号 "Venice" 的 EPYC 9006 系列服务器处理器、Instinct MI455X 计算卡、以及 Pensando Vulcano 网卡,这次整套系统的发布,等于把这个转向摆到了台面上。

先看两个基本盘。过去两年,AI 每月消耗的 token 数量增长了约 158 倍;训练算力的规模自 2020 年起以每年约 5 倍的速度膨胀。但比 " 变多 " 更要紧的是结构变了:训练与推理的算力配比正从 60:40 向 40:60 倾斜,推理正在取代训练,成为消耗算力的主体。
这个转向带来的连锁反应是:瓶颈不再只落在 GPU 的浮点算力上。
显存容量 决定模型与 KV Cache 装不装得下,决定并发与上下文长度; 互联带宽 决定几十、上百张卡能不能 " 像一张卡一样 " 协同; CPU 决定智能体的编排、调度与工具调用跟不跟得上; 网络 决定一个机柜能不能扩成几千卡、乃至千兆瓦级集群; 软件 决定上面这些硬件到底能被用出几成。
换句话说,AI 应用进入规模化落地之后,客户真正要买的是 " 更高效、更具扩展性、能够支撑大规模 AI 部署的整体算力平台 ",而不只是一张更快的卡。理解 AMD 这一整年的布局,得从这个变化说起。
这一代 AMD 端出来的东西横向铺得很开:面向前沿 AI 与 AI 工厂的 Instinct MI455X、面向 HPC 与科学计算的 MI430X,把 GPU、CPU、网络、软件拧在一起的 Helios 机架级方案,第 6 代 EPYC 9006,Pensando 的 Salina DPU 与 Vulcano AI NIC,还有主打开发者体验的 ROCm.ai。
值得玩味的是 AMD 选择拿什么来打对比。在 Helios 对阵 NVIDIA Vera Rubin NVL72 的官方对比里,几乎清一色是系统级指标,而不是单卡参数:


竞争规则正在改变:从 FLOPS 之争走向 Token 效率之争
维度 | 过去的焦点 | 现在的焦点 |
算力 | 单卡峰值 FLOPS | 单机柜可用算力与利用率 |
显存 | 容量与带宽的绝对数字 | 能否装下更大的模型与 KV Cache |
互联 | 卡间互联是否够快 | 共享内存域能撑到多大(片内 → 机柜) |
软件 | 能否跑起来 | 迁移成本、开放度与迭代速度 |
计价 | 单卡价格 / 每瓦性能 | 每 token 成本、每机柜投资回报 |
超 能 网 制 作

这代 Instinct MI455X 身上有三件事,恰好对应了前面说的三种瓶颈。
一是把显存拉满。 单卡 432 GB HBM4、23.3 TB/s 带宽,相比上代 MI355X 容量提升 1.5 倍、带宽提升约 2.9 倍。更值得注意的是 scale-up 域从 8 卡节点扩到 72 卡同域:通过 UALoE 把 72 颗 GPU 并成一个共享内存 pod,统一可用 31 TB HBM4。原先塞不进 8 卡节点的模型,现在可以整域推理。
二是把互联做厚。 单卡 scale-up 带宽 3.6 TB/s(36 条链路),scale-out 可挂 3 张 Pensando Vulcano 800 AI NIC、双向 600GB/s。对动辄万亿参数的 MoE 模型来说,互联早就不是配套设施,而是能不能跑起来的前提。
三是让软件真的跑得快。AMD 给出的数据是:在同一代 MI355X 硬件上,最新版 ROCm 相比 ROCm 7,推理平均提速 3.3 倍、训练平均提速 2.4 倍;而 MI455X 相比 MI355X,在 DeepSeek V4 Flash 的 FP4 服务场景下吞吐最高可提升 18 倍。硬件代际的跃迁之外,软件层面的持续优化,正在把纸面算力兑成可用算力。
显存、互联域、软件迭代速度,这三样加在一起指向同一个结论:GPU 已经不再是插在服务器里的加速卡,而是 AI 工厂里可被编排、可被池化、可按 token 计价的基础设施单元。

一台完整的 AMD Helios 机柜,就是把 Instinct MI455X、EPYC 9006、Pensando 网络与 ROCm 软件整合进单一机架级架构,可从单柜扩展到千兆瓦级集群。
CPU 负责重新分工。 AMD 提出 " 三级智能体数据中心 ":跑 agent、执行工具调用的 agent sandbox,喂 GPU 的 AI host node,以及跑企业业务的通用服务器。第 6 代 EPYC 9006 用一套架构覆盖这三类角色,旗舰级的 EPYC 9006 SP7 可提供 256 核 /512 线程的最大性能;EPYC 9006 SP8 讲究高效与恰到好处;EPYC 9006X SP7 搭载了 3D V-Cache 大缓存;EPYC 9006 LP 是 AI 主机节点专用型号。支撑这一判断的,是智能体负载下一个被反复引用的变化:CPU 与 GPU 的数量比正从 1:4 走向 1:1。再叠加 AMD 自己的一组数据:第 5 代 EPYC 已拿下服务器 CPU 约 46% 的收入份额,这也是 Gartner 把 AMD 称为 " 企业级 AI 服务器 CPU 赛道中最难被击败的公司 " 的背景。
网络负责把机柜连成集群。Pensando Salina DPU 管前端(对比 NVIDIA BlueField-3,网关性能 1.4 倍),Vulcano AI NIC 管 scale-out(单 GPU 2.4 Tbps);机柜内的算力则由 UALoE 织成一张 260 TB/s 的 scale-up 网。开放是这套方案里被反复强调的词:用标准以太网替代专有互联,就是不想让客户被迫锁死在某一家手里。
软件负责把迁移成本压下去。 ROCm.ai 是这次软件侧的重点:ROCm CLI 统一安装、验证、部署与排障;AMD Skills 把 AMD 自己的工程经验直接塞进 Claude、Cursor、Codex 这些开发者已经在用的 AI 编程助手;Hyperloom 用代理式流程自动做端到端推理优化,把过去要花几周专家功夫的调优压缩到几小时。Helios 之上还压着一整套栈:Fabric Manager 管 72 卡的 fabric,Rack Infrastructure Manager 把整柜当一台系统来运维,Cluster Controller 对接 Kubernetes / Slurm 做集群编排。
AMD 卖的东西变了:不再是零件,而是把 GPU、CPU、网络、软件拧成一股绳的开放平台。
CUDA 这道护城河,本质上是 " 通用可编程性 + 迁移成本 " 两件事把开发者绑住了:为了可编程和生态成熟,客户愿意为通用 GPU 付出溢价,也容忍它在能效与成本上的低效。AAI 2026 最值得琢磨的,是 AMD 从三个层面同时下手。
软件层:让 CUDA 代码 "drop-in"

AMD 把 ROCm 定位成 CUDA 的 "Drop-In" 替代:主流 ML 框架与 Triton 内核可直接迁移;cuBLAS → rocBLAS、cuSparse → rocSparse、cuFFT → rocFFT、cuDNN → MIOpen 都有对应库;CUDA 到 HIP 的移植由 HIPIFY 工具自动完成,官方口径可覆盖 70 – 80% 的工作量。再叠加 ROCm.ai 把 AMD 经验注入开发者已经在用的编程助手,护城河最厚的那一段(迁移成本)正在被工具链削平。" 从 CUDA 搬过来 " 一旦从数月工程变成几周,生态黏性就开始松动。
互联层:把机柜从专有变成开放
scale-up 用 UALoE(Ultra Accelerator Link over Ethernet),基于标准以太网、支持多厂商互通;scale-out 走 UEC 标准以太网;机柜交换机的网络操作系统基于开源 SONiC。对照 NVLink / InfiniBand 的专有封闭路线,AMD 的意图很清楚:让 72 卡同域、31TB 统一内存这种能力不再是某一家专属,客户不必为互联再签一张锁定协议。互联一旦不再是护城河,竞争就回到算力与成本的正面比较。
架构层:Taalas 让 CUDA" 没那么必要 "
2026 年 8 月 6 日,AMD 宣布达成最终协议,收购专用 AI 推理芯片公司 Taalas。Taalas 的思路极其 " 反通用 ":把模型权重和数据流直接刻进硅片,用 SRAM 替代 HBM,从架构层面绕开 " 内存墙 "。其首款 HC1 芯片采用台积电 N6 工艺、约 530 亿晶体管、只编码 Llama 3.1 8B,官方公布性能约 1.7 万 tokens/ 秒 / 用户。

代价当然也很硬:灵活性几乎为零,换一个模型就要重新流片。但 Taalas 最值钱的,恰恰是它把为某个模型定制一颗芯片压缩到大约两个月、两组掩模(模型权重 + 数据流)的工程动作。这带来三层影响:
让 " 可编程性溢价 " 失效 。当推理成为最大负载,而推理又能被模型专用硅以数量级效率服务时,通用 GPU 最值钱的那部分能力,在推理战场上被系统性削弱。
让 " 专用 " 变得敏捷。 两个月的定制周期,意味着 " 专用 " 不必再和漫长、高风险划等号。专用的门槛降下来," 通用 " 的黏性也就跟着松动。
由 AMD 自己掌控。 AMD 的官方说法是把这套技术整合进加速器路线图,与 Instinct GPU 组成系统级方案。至于两者怎么分工,按其逻辑推测,更可能是 GPU 守住 prefill 这类吃算力的通用环节,专用硅专攻 decode 这类拼延迟的环节。英伟达把 Groq 放进 Rubin 机架也是这个思路,区别在于 Groq 对英伟达是外部授权的能力,Taalas 则是被 AMD 直接收进自己的产品线。
绕开那堵墙,让它慢慢变得无关紧要。这可能是 " 打破护城河 " 里成本最低的一条路。Taalas 短期内更像是 AMD 推理版图里的 " 特种兵 ",而非替代 GPU 的主力。它真正的价值,在于证明 " 绕开通用 GPU" 这条路在工程上走得通。

把 AAI 2026 这一盘棋连起来看,AMD 想讲的已经不是 " 我们的新卡更快 ",而是 " 我们能交付一套从单芯片、到单机柜、再到千兆瓦级 AI 工厂的开放基础设施 "。MI400 与 Helios 提供算力、显存和互联,EPYC 负责编排与喂卡,Pensando 把机柜连成集群,ROCm 与 ROCm.ai 让这些硬件真正被用起来,Taalas 则在最赚钱的推理战场上,给 " 通用 GPU + 封闭生态 " 这套叙事开了一道口子。
AMD 已经不再是 " 新品供应商 ",而是 "AI 基础设施提供者 "。市场已经为这场转变投了票。过去十年,AMD 经历了从传统芯片厂商向 AI 与高性能计算重要参与者的转变,其股价从约 1 美元一度上涨至 580 美元,市值最高达到约 9000 亿美元,曾一度达到英特尔同期市值的 2 倍,并跻身全球市值 Top 20。
行业层面的判断同样明确:随着 AI 应用进入规模化落地阶段,市场对 GPU 的需求已经从更强的单卡性能转向更高效、更具扩展性、能够支撑大规模 AI 部署的整体算力平台。未来 AI 芯片竞争的胜负手,也会从谁的单卡更强变成谁能让客户更省心、更省钱地把算力用起来、扩出去。
这场围绕 " 护城河 " 的竞争,表面上是不同技术路线之间的较量,本质上则是开放平台与封闭生态之间的博弈。面对已经形成深厚积累的生态壁垒,AMD 并没有试图用单一产品正面取代整个体系,而是从软件、互联、系统架构到芯片设计多个层面同时推进:ROCm 降低软件迁移门槛,开放互联削弱专有架构的绑定,Helios 将 GPU、CPU、网络与软件整合为完整的机架级平台,而 Taalas 则进一步打开了专用 AI 推理芯片的技术路径。
这些动作单独来看,或许都不足以改变行业格局,但当它们沿着同一个方向持续叠加,AMD 正在逐步改变 AI 基础设施的竞争方式。它所做的并不是简单地复制一套既有生态,而是在硬件、软件和系统层面不断打开新的切入口,让客户拥有更多选择,也让原本高度集中的生态壁垒出现松动。
从这个角度看,AMD 真正要挑战的,并不只是一张 GPU 或一款芯片,而是 AI 基础设施的整体竞争规则。从软件兼容到开放互联,从整机柜方案到专用推理架构,AMD 正在一步步把这些 " 楔子 " 打入 AI 产业链的不同环节。最终能否撼动现有生态格局仍需要时间验证,但可以确定的是,AMD 已经从单纯的芯片竞争者,走向了 AI 基础设施的领军者。
超能网公众号
扫码关注我们,浏览热门硬件评测
随时查看最新天梯榜


登录后才可以发布评论哦
打开小程序可以发布评论哦