（来源：invest wallstreet）

半导体研究机构 SemiAnalysis 高度评价英伟达在 vLLM 推理引擎上的性能优化，同时指出 AMD 在部分模型支持上仍有明显差距。英伟达凭借二十年 CUDA 积累、主流框架优先适配及 TensorRT 等优化库构建的软件壁垒，在推理时代仍形成持久竞争优势。

一、综述：一次戏剧性的叙事反转

7 月 13 日，半导体研究机构 SemiAnalysis 在社交平台发布推文，高度评价英伟达在 vLLM 推理引擎上的性能优化成果，同时明确指出 AMD 在部分模型的 vLLM 支持上仍有较大追赶空间。

这一评价之所以值得关注，恰恰在于仅仅两周前，同一机构刚刚指出英伟达的 "CUDA 护城河正遭缓慢侵蚀 "，认为超大规模云厂商和 AI 模型公司采用自研 ASIC 的趋势正在动摇英伟达的统治地位。从 "CUDA 神话松动 " 到 " 点赞 vLLM"，SemiAnalysis 在短短两周内完成了对英伟达竞争力的重新评估。

这两则判断共同将 AI 芯片竞争的焦点从 " 谁的硬件更强 " 拉回到一个更根本的问题：在推理时代的规模化部署中，软件生态的深度可能比单代 GPU 的硬件领先更具决定性。

二、深度剖析：从 " 硬件竞赛 " 到 " 软件护城河 "

1. vLLM：衡量 AI 芯片真实性能的关键战场

vLLM 是当前大语言模型推理领域应用最广泛的开源引擎。SemiAnalysis 选择 vLLM 作为评判基准，本身就传递了一个重要判断：开源推理生态正在成为衡量 AI 芯片真实性能的关键战场。

vLLM 本身并非英伟达的私有工具——它是一个开源项目，理论上任何硬件厂商都可以参与优化和支持。然而在实际运行中，英伟达与 AMD 在 vLLM 上的表现差距悬殊，这恰恰揭示了软件生态壁垒的实质。

2. 具体差距：12,000 token/s vs AMD 的 " 力不从心 "

差距在以 Kimi K2.5 为代表的千亿参数级混合专家（MoE）模型上尤为突出。

英伟达方面，GB200 NVL72 通过机架级 NVLink 将 72 张 GPU 高速互联，支持宽专家并行（Wide EP）达 8 至 16 的规模。这一架构使每张 GPU 承载的专家权重大幅减少，HBM 带宽压力随之降低，All-to-All 通信在高速 NVLink 域内完成，而非经由较慢的 InfiniBand 网络。最终每 GPU 吞吐量可达 12,000 token/s 以上。

在软件层面，英伟达推出的 Dynamo 分布式推理框架将 vLLM 深度集成，专门针对 MoE 模型实现了预填充与解码分离（Disaggregated Serving）、高效 KV 缓存传输以及双批次重叠等优化。

AMD 方面，MI355X 在同一测试中表现明显逊色，主要原因在于其难以实现同等规模的专家并行与机架级互联。在软件层面，AMD 目前仍主要依赖标准 vLLM 与 DISAGG 版本，针对超大 MoE 模型与宽并行场景的深度优化尚未跟上。

3. " 部分模型 " 措辞背后的深刻含义

SemiAnalysis 将 AMD 的落后限定在 " 部分模型 " 上，这一措辞包含两层信息：

第一，AMD 并非全面落后。 在通用计算场景中，其 MI 系列 GPU 已具备一定竞争力，Meta 近期签署的巨额采购订单也验证了这一点。

第二，" 部分 " 这一限定恰恰凸显了差距的实质——全面性软件生态覆盖的缺失。在 AI 推理场景中，企业客户追求的是稳定、可预期的部署体验。维护两套软件栈以覆盖不同模型的成本，往往是决策时的决定性因素。

对每天运行数十亿次推理调用的 AI 企业而言，" 部分模型支持良好 " 与 " 所有模型稳定优化 " 之间的鸿沟，在规模效应下会被急剧放大。

4. 英伟达的软件护城河：三层结构

SemiAnalysis 的评估明确指出，英伟达的软件生态建立在三个层面之上：

这些层面形成的切换成本，超过任何单一硬件规格优势。AMD 要完成从 " 部分领先 " 到 " 全面可用 " 的跨越，所需的软件工程投入可能比硬件迭代更为耗时——这不仅是写更多驱动和适配层的问题，而是要在数以千计的模型架构、不断演进的开源框架以及分散的开发者社区中建立广泛的兼容性和信任。

5. 推理时代：软件护城河的结构性重估

当 AI 产业重心从训练向推理迁移，软硬件的战略价值正在发生结构性重估：

训练：任务集中、可控，硬件性能差距可凭资本投入弥补

推理：分布式、持续性，微秒级延迟差异在每天数十亿次调用中被成倍放大，直接转化为成本结构的分化

更重要的是，英伟达面临的真正竞争并非来自 AMD，而是来自超大规模云厂商的自研 ASIC —— Google 的 TPU、Amazon 的 Trainium 等。Broadcom 和 Marvell 设计的定制 AI 加速器，每吉瓦基础设施成本约 60-110 亿美元，而英伟达 GB300 方案约 190 亿美元。摩根士丹利预计，四大超大规模云厂商明年将在 AI 基础设施上投入超 1 万亿美元。

SemiAnalysis 的最新评估表明，尽管硬件竞争日趋激烈，英伟达在推理软件栈上的积累深度并未同步缩小。

三、投资分析：机会、风险与策略启示

1. 英伟达的软件护城河正在被重新定价。 市场此前对英伟达的担忧集中在硬件竞争和 ASIC 侵蚀，但 SemiAnalysis 的最新评估提醒投资者：在推理时代，软件生态可能是比硬件更持久的壁垒。这一认知可能推动英伟达估值的结构性重估。

2. AI 推理需求爆发式增长。 vLLM 性能优化的背后是推理工作量的指数级增长。摩根士丹利预计四大云厂商明年 AI 基础设施投入超 1 万亿美元。英伟达作为推理软件栈的领导者，将直接受益于这一趋势。

3. AMD 的追赶空间也是投资机会。 AMD 股价年初至今已上涨 160% 至 557.89 美元。如果 AMD 能在软件生态上加速追赶，其在推理市场的份额提升将带来显著上行空间。vLLM 社区近期已添加原生 AMD GPU W4A16 量化内核，使 AMD 成为与 NVIDIA CUDA 并列的一级推理目标。

1. ASIC 侵蚀推理份额的结构性趋势未变。 SemiAnalysis 两周前指出的 "CUDA 护城河遭侵蚀 " 逻辑依然成立—— Google、Amazon、Microsoft 等巨头自研芯片的长期趋势不会因为一篇推文而改变。

2. AMD 的追赶是时间问题而非能否问题。 vLLM 是开源项目，理论上 AMD 可以通过持续的工程投入逐步缩小差距。vLLM 的 AMD 测试套件通过率在 2026 年 1 月已达 93%。虽然从 "93% 通过 " 到 " 全面稳定优化 " 仍有距离，但方向是明确的。

3. 英伟达的高估值已包含大量乐观预期。 与苹果类似，英伟达的估值同样处于历史高位。任何软件护城河被侵蚀的边际信号——无论是 ASIC 的进一步渗透，还是 AMD 在 vLLM 上的突破——都可能引发估值回调。

SemiAnalysis 的戏剧性叙事反转——从 "CUDA 神话松动 " 到 " 点赞 vLLM" ——揭示了一个容易被忽视的真相：在 AI 推理时代，英伟达最深的护城河不是硬件，而是软件。

vLLM 的性能差距（12,000 token/s vs AMD 的明显逊色）表面上是技术问题，实质上是生态问题。二十年 CUDA 积累、四百万开发者、全框架优先适配——这些构成的切换成本，远高于任何一代 GPU 的硬件优势。

然而，这并不意味着英伟达可以高枕无忧。真正的威胁来自两个方向：自研 ASIC 对推理份额的长期侵蚀，以及 AMD 在开源生态中的持续追赶。vLLM 的 AMD 测试套件通过率已达 93%，从 "93%" 到 "100%"，再到 " 深度优化 "，只是时间与投入的问题。

对于投资者而言，SemiAnalysis 的这一评价提供了重新审视 AI 芯片竞争格局的契机：在推理时代，软件生态的深度可能比硬件参数更具决定性。理解这一范式转换，比追踪任何单一季度的业绩数据都更为重要。