快科技 8 月 17 日消息,当下,几乎所有软件巨头们都在大力投入 AI 推理业务。近日,大摩(摩根士丹利)的一份重磅报道显示,AI 推理原来是一门利润惊人的生意。而选择不同的 AI GPU 芯片,利润率也差距非常大。
但总体来看,一座标准的 "AI 推理工厂 ",无论采用哪家巨头的芯片,其平均利润率普遍超过 50%。
据悉,摩根士丹利首创了一套标准化分析框架,即 "100MW AI 工厂模型 ",将不同技术路径的 AI 解决方案,置于同一商业维度下进行量化评估。
毫无悬念,NVIDIA 的 GB200 NVL72 以近 78% 的利润率遥遥领先。据悉,这主要得益于其领先的计算性能以及 CUDA 软件生态的深厚壁垒,展现出了绝对的市场一哥的统治力。
谷歌自研的 TPU v6e pod 以 74.9% 的利润率排名第二,AWS(亚马逊云)的 Trn2 UltraServer 取得了 62.5% 的利润率,而华为的昇腾 CloudMatrix 384 平台也取得了 47.9% 的利润率。
AMD 的 MI300X 和 MI355X 意外遭遇滑铁卢,利润率竟然为负,分别为 -28.2% 和 -64%。
报告指出,虽然 AMD 前期投入很大,但其 token 产出效率所能创造的收入,远不足以覆盖其高昂的成本。
登录后才可以发布评论哦
打开小程序可以发布评论哦