快科技 10 月 23 日消息,据报道,谷歌与亚马逊在 PyTorch Conference 2026 上同步放出软件大招。谷歌开源 TorchTPU,亚马逊推出 TorchNeuron,目标直指英伟达 CUDA 生态最坚固的壁垒:模型迁移成本。

谷歌宣称,超过 98% 的既有 PyTorch 模型,只需将设备设定改为 "model.to ( ‘ tpu ’ ) ",便能在 TPU 上运行。谷歌验证了近 5000 个 Hugging Face 高频模型,其中 4917 个完成端到端验证,Tier-1 无崩溃通过率达 98%。迁移时间压缩至几分钟到数天。
亚马逊的 TorchNeuron 同样采用开源策略(Apache 2.0 授权),让 PyTorch 模型直接运行于 Trainium2 与 Trainium3 芯片。开发者只需修改少量配置,将指向 CUDA 的设定改为 AWS Neuron,无需重写整套应用。
性能层面,TPU 已展现出竞争力。据悉,16 颗谷歌 Ironwood TPU(TPU v7)运行 Kimi K3 模型,开启推测解码后,单用户生成速度达每秒 709 个 token。同等配置的 16 块英伟达 GB200 搭配 vLLM,速度为每秒 452 个 token,TPU 领先约 57%。

需要指出的是,CUDA 的护城河,从来不只是 GPU 算力,而是二十年积累的工具链、开发者习惯与迁移成本。当 TorchTPU 和 TorchNeuron 把 " 换芯片 " 的软件门槛从数月压缩到几分钟,企业就有了按能效和价格重新选择硬件的底气,而英伟达的生态黏性,正被软件工具一点点撬开。



登录后才可以发布评论哦
打开小程序可以发布评论哦