快科技 5 月 29 日消息,Cerebras Systems 凭借其推出的全球最大尺寸芯片—— Cerebras WSE,在 AI 推理速度上超越了 NVIDIA 集群。
Cerebras WSE 芯片尺寸巨大,每边长 8.5 英寸(约 22 厘米),更是集成了惊人的 40 亿个晶体管,这一庞大的晶体管数量让 WSE 在 AI 推理操作中创下了世界速度纪录,比同等规模的 NVIDIA 集群快约 2.5 倍。
Cerebras 首席信息安全官 Naor Penso 在温哥华的 Web Summit 上表示:" 这是全球最快的推理速度。就在上周,NVIDIA 宣布其在 Llama 4 上达到每秒 1000 个 token 的处理速度,而 Cerebras 今日公布的基准测试结果则高达每秒 2500 个 token。"
但芯片速度的提升不仅取决于晶体管数量,还有芯片的集成设计。WSE 将所有组件集成在一块芯片上,并配备了 44GB 的超高速 RAM。
Penso 表示:"AI 计算需要大量内存,而 Cerebras 无需像 NVIDIA 那样依赖外接芯片。"
独立机构 Artificial Analysis 也表示:" 我们测试了数十家供应商的产品,Cerebras 是唯一在 Meta 旗舰模型上超越 Blackwell 的推理解决方案。"
Cerebras 首席营销官 Julie Shin 表示,WSE 并非 x86 或 ARM 架构,而是一种全新的加速 GPU 的架构,她补充道:" 这不是一项渐进式技术,这是芯片领域的又一次飞跃。"
登录后才可以发布评论哦
打开小程序可以发布评论哦