驱动之家 16小时前
OpenAI Astra用了10万张NVIDIA显卡:需100亿美元费用 国产大模型太难追了
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 9 月 5 日消息,这几天 Anthropic 及 OpenAI 分别发布了 Fable 5.1 及 Astra 大模型,后者凭借更具性价比的优势刷屏了,但它作为新一代大模型,烧钱的能力让国产大模型很难追。

Astra 大模型具体的规格参数是没有公开的,但美国媒体报道称它使用了 OpenAI 的 StarGate 计划中的超过 10 万张 NVIDIA 显卡来训练的。

光这一个数字就注定了 Astra 大模型的研发费用不菲,让 OpenAI 自己的大模型算了下,10 万张显卡如果是 NVIDIA 的 B200,那成本就要 60 亿美元去了,一张显卡售价在 5-8 万美元。

GPU 显卡的价格还不是 AI 数据中心的全部成本,服务器、网络、电力、散热及研发等费用算上,这样一套 AI 基建成本在 100-250 亿美元。

哪怕是保守估计也要 100 亿美元起步,这个门槛对国内大部分大模型公司来说太高了,这两天最大的一个新闻才是 DeepSeek 要在内蒙建设一个 AI 数据中心,采购 16 万张华为 AI 显卡,投资额高达 25.6 亿美元。

这个投资目前还是分批进行的,但就算按全部费用算也只相当于 Astra 大模型数据中心投资规模的 1/4。

但是再考虑到 DeepSeek 之前也说过四张华为显卡算力才能顶得上一张 NVIDIA 高端显卡的算力,那 16 万张的规模相比 OpenAI 依然小得多,而且现在还是供应跟不上的状态,因此算力资源上是没法跟 OpenAI 比的。

之前的数据显示 DeepSeek 手里也就 5 万张 H20 级别的显卡算力,OpenAI 这两年采购的算力规模,少说也要 20-30 万张显卡的规模了,而且能采购性能顶级的显卡,不缺算力资源,估计比 Astra 更强的大模型应该也在训练中了。

总之,在算力资源上国产大模型这两年是真的很难追赶 OpenAI 等美国厂商,国产 AI 算力芯片及中芯国际等公司还要抓点紧。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

nvidia astra 数据中心 美国 华为
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论