全栈遛狗员 5小时前
OpenAI首款自研芯片性能首秀:DeepSeek R1每瓦吞吐量是GB300的1.7倍
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

自研芯片首次公开跑分

OpenAI 在 8 月 25 日发布博文,首次展示其自研 Jalape ñ o 芯片的推理性能数据。官方称,无论是单用户 token 处理量,还是每千瓦吞吐量,这款芯片都超过了目前市面上的顶尖推理处理器。

测试使用半导体研究公司 SemiAnalysis 开发的公共基准测试工具 InferenceX,跑的是 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款模型。对比对象是市面上领先的 AI 系统 GB200 和 GB300。

三组数据拉开差距

结果显示,Jalape ñ o 每瓦能够完成的 AI 吞吐量是对比系统的 1.5 至 1.9 倍,端到端延迟约为对比系统的 28% 至 59%。在 GPT-OSS 120B 上,每千瓦峰值吞吐量比 GB200 系统高出约 1.9 倍。

DeepSeek R1 的每瓦性能比 GB300 高出约 1.7 倍,Kimi K2.5 的每瓦性能比 GB300 高出约 1.5 倍。Jalape ñ o 额定功率为 700 瓦,但测试工作负载期间持续功耗保持在 550 瓦或以下。

一颗不外卖的推理专用芯片

Jalape ñ o 是 OpenAI 首款自研 AI 推理芯片,由 OpenAI 与博通合作开发,台积电采用 3nm 制程代工制造,2026 年 6 月 24 日首次对外展示。它是一颗 ASIC,采用脉动阵列架构,配备 HBM 高带宽内存,专为大语言模型推理场景设计,不用于模型训练。

芯片及配套服务器系统均不会对外销售,仅供 OpenAI 内部使用,目标是降低自身 GPU 采购和算力运营成本。OpenAI 硬件负责人 Richard Ho 领导了该芯片研发,他此前在 Google 工作近九年,是 Cloud TPU 项目的核心工程师。

9 个月流片,下一代已在路上

Jalape ñ o 从架构设计到完成流片仅耗时约 9 个月,OpenAI 称这是高性能先进半导体领域有史以来最快的 ASIC 开发周期之一。OpenAI 自身的 AI 模型也深度参与了芯片设计流程,帮助加速设计优化。

目前第二代 Jalape ñ o 芯片已进入后期开发阶段,预计未来数月内完成流片;第三代芯片也已启动概念设计。OpenAI 计划于 2026 年年底前小规模部署 Jalape ñ o,2027 年逐步扩大部署规模。

尚未对标英伟达最新一代

需要注意的是,Jalape ñ o 此次测试对比的对象为英伟达 GB200 和 GB300 系统,尚未与英伟达最新一代 Vera Rubin 芯片进行对比测试。OpenAI 表示英伟达仍是其重要合作伙伴,未来将持续采用多供应商策略以满足庞大的算力需求。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

英伟达 kimi 芯片 吞吐量 半导体
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论