公众号记得加星标⭐️,第一时间看推送不会错过。

近期 Google Cloud 执行长 Thomas Kurian 公开表示,Google 在 AI 伺服器的整体投资回收期不到两年,自研芯片的回收期,更是这个数字的一半。换算下来,这意味着 Google TPU,约只需要 1 年的时间,就能打平成本。业界也估计,这让联发科、博通(Broadcom)等特用芯片(ASIC)设计服务业者,后续营运更可以受惠于 Google 加码进攻 TPU 的大方向。
IC 设计业界人士表示,这就是 Google 之所以在自研芯片开发与量产计画上,可以投入的强劲的力道与庞大资源的关键原因。 「快速的成本回收时程」,更是未来 Google 因应市场需求、能够持续加码的重要底气。
相关供应链业界人士指出,事实上包括联发科在前几次法说会中,陆续上调 ASIC 业务的规模,以及博通高速成长的营收表现,都可以看出 Google 的 TPU 相关订单,动能还在持续加温。
从供应链的角度来看,确实也是有产品加单,甚至为了 AI 的技术变化,而开出更多不同规格的情况,TPU 现在已经是在 NVIDIA 之外,需求规模最为庞大的云端 AI 芯片产品了。
Google 的 TPU 能够快速回收成本有几个原因。
一方面自然是因为成本端压得比较低,尤其和采购 NVIDIA 整套系统相比,自行打造 TPU 的机柜系统,更能够控制成本。
另一方面,Google 在 AI 相关服务所能赚取的业务营收规模,也因为 Google 已经相当庞大的网路服务通路,而比其他云端服务(CSP)同业,或是 AI 模型大厂来得更高,而这还是 Google 自己使用 TPU 的部分,现在 Google 在对外销售 TPU 或是 TPU 运算服务上面,也逐步取得更多的成果。
Google TPU 的市场竞争力,很大一部份就来自于这个成本效益。
根据 Google 自己的估算,自家方案的 AI 训练价格效能优于竞品 2.7 倍,推论则有 80% 的优势,CPU 有 30% 的优势。一些第三方机构也算出,相比于 NVIDIA 的 B200 和 B300,Google 的 Ironwood TPU 每美元效能高出 50%,每百万 Tokens 的成本也比 B200 和 B300 来得低。
芯片供应链业者直言,随着市场上 AI 芯片选择越来越多,成本效益对于许多客户来说已经是非常重要的采购考量。
Thomas Kurian 强调,现在 TPU 的建置需求来源,已经不只是 AI 实验室了,包括量化交易与研究的资本市场业者、避险基金与传统银行、生技药厂、公部门的研究专案,以及各类科学研究的传统高效能运算,都开始在往 TPU 的平台转移。
这些全新的市场需求,不仅让 TPU 的用量更加庞大,各种不同的 AI 运算应用窜出,也让 Google 必须开出更多不同的 TPU 专案,并让更多 ASIC 业者参与其中。
从联发科和博通近期对于 TPU 的相关需求说法来看,固然联发科确实持续扩大供应比重,相关营收的规模也有上修,但博通也强调,在 TPU 训练端芯片的订单需求非常强劲,且一些像是 Anthropic 采购 TPU 的专案订单,也都还是博通掌握在手上。
熟悉 IC 设计业界人士表示,对于两家厂商来说,虽然未来会继续竞争市占率,甚至还有更多同业会加入战局,但 Google 的 TPU 整块饼扩大的速度,还是「大到所有人都能继续成长」的程度。
(来源:digitimes)
* 免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第 4529 期内容,欢迎关注。
加星标⭐️第一时间看推送 ~
求推荐


登录后才可以发布评论哦
打开小程序可以发布评论哦