远光灯 2小时前
一边喊算力虚标,一边冲刺量产:智驾供应商淘汰赛打响
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

文|傲然

编辑|杨布丁

智驾芯片的竞争,从算力够不够,变成了算力算得对不对。

10 月 29 日,新芯航途发布 X7 Ultra,公布 700 TOPS 大模型算力和 98.7% 的 NPU 计算利用率。作为兄弟公司,Momenta 参与了芯片的联合定义,曹旭东将这种合作概括为" 大模型定义芯片 "。

发布会后,地平线创始人余凯随即在社交媒体发文称,行业已经卷到 " 无底线的 ppt 算力狂飙 ",一些厂商的 " 标称算力甚至可以吹到 6-7 倍的稠密算力,号称‘等效算力’ "。

地平线副总裁兼首席架构师苏箐则称," 以前大家吹牛还尊重一下物理极限的可达性,有基本的职业底线。现在已经完全放飞自我了。行业沦落至此,真的能长久吗?"

两人没有点名 X7 Ultra,但发言的时间与内容,让外界很容易将其与新芯航途的发布联系起来。

腾讯汽车《远光灯》与多位产业链人士交流发现,行业对这组数字的判断并不一致。有人认为存在虚高之嫌,也有人认为,需要看模型在量产车上的实际效果和整套方案的成本。

参数争议之外,两家公司的业务正在趋同。一位行业人士评价,它们的 " 业务生态位太像了 "。

Momenta 将算法需求提前放进芯片设计,地平线则通过 HSD,在征程芯片之外提供高阶辅助驾驶方案。它们都在扩大交付范围,让客户少做一些适配和开发工作,也让自己的产品更具备不可替代性。

另外,头部车企也在补齐自研能力,供应商需要争取的,既有同行手中的项目,也有客户准备收回内部的项目。一轮轮横向对比下来,算力似乎就成了买卖双方眼里最直观的一杆标尺。

地平线高层直呼 " 不忍了 "!他们在质疑什么?

同一颗芯片,可以有不止一个算力数字。

英伟达在 DRIVE AGX Thor 的官方资料中,分别列出最高 1000 INT8 TOPS 和 2000 FP4 TFLOPS。前者对应 8 位整数稠密运算,后者对应 4 位浮点稀疏运算。后者的纸面数值是前者的两倍,但两者计算前提完全不同,因此不能据此认定同一个智驾模型部署上去,后者运行速度就能快一倍。

TOPS 表示每秒万亿次运算,但单位相同,不代表数字可以直接比较。采用什么精度、是否跳过部分零值运算,以及怎样计算优化带来的收益,都会影响最后公布的数字。

一位芯片行业人士对腾讯汽车《远光灯》表示,算力宣传越来越复杂,一个原因是厂商不只在介绍硬件本身,也开始把模型和硬件配合后的收益折算进去。

余凯此次质疑的,正是各家换算条件之间越来越大的差异。

他在社交媒体上表示,过去各智驾芯片公司 " 基本上采用同一个框架来标称智驾芯片算力 ",如今一些厂商的 " 标称算力甚至可以吹到 6-7 倍的稠密算力,号称‘等效算力’ "。他以 Orin-X 为例称,其稠密算力为 127 TOPS,标称算力为 254 TOPS。

理解两倍的差异,需要先看稀疏计算。稀疏计算可以理解为,模型中的部分数值为零,对应运算可以跳过,把资源留给其他数值。

英伟达在介绍 Ampere 架构的 2 ∶ 4 结构化稀疏时写道,"out of every four elements, at least two must be zero",即每四个元素中,至少两个必须为零。符合要求时,相关计算可以获得更高吞吐量。

地平线采用了附带稀疏条件的标注。在征程 6 系列官网上,560 TOPS 旁带有星号,脚注写着 "Effective TOPS with 1/2 Sparsity",即二分之一稀疏条件下的有效算力。

上述芯片行业人士解释,稀疏比例相同,不代表具体规则相同。总体上一半数值为零,与每组四个数中至少两个为零,对硬件提出的要求不同,零值排列得是否规整,也会影响硬效率。

" 有人在十个权重中保留三个非零值、七个为零,甚至只保留一个非零值、其余九个为零,在硬件能够有效利用的理想条件下,都可能得到更大的等效算力数字。" 上述芯片行业人士同时表示,这几年业内逐渐把注意力放在了怎样让数字更大上,既然跳过零值计算能够增加等效吞吐量,更高的稀疏比例就成了扩大数字的一种办法。

但这些条件能否出现在量产模型中,是另一件事。在他看来,让九成权重为零,同时保持智驾效果,是很苛刻的要求。如果没有相应模型支撑,只宣传理想条件下的能力,数字对客户的参考价值就很有限。

新芯航途对 700 TOPS 的解释,强调了特定智驾模型与硬件共同优化后的能力。其官网将数字标为 "Equivalent TOPS",同时注明 " 仅用于智驾场景 " 和 " 量产模型实测 ",并强调硬件并行与工具链优化。

这类优化可能带来实际收益。工程师可以合并计算步骤,减少中间结果反复写入和读取内存,让计算单元少等待一些时间。硬件的计算单元没有增加,同一项任务仍可能完成得更快。

" 换成客户自己的模型,这些优化还能带来多大提升?这个很重要。" 上述芯片行业人士表示,要理解 700 TOPS 这个数字,需要知道测试用了什么模型、什么精度,以哪套方案为基准,以及怎样换算。说明这些条件后,客户才能进一步判断,相关收益是否适用于自己的方案。

苏箐质疑的是另一项指标。新芯航途公布的 NPU 计算利用率为 98.7%,苏箐称,任何 AI 芯片的 MAC 阵列利用率,在统计意义(一次 inference 计算的全部计算量为统计单位,而不是某一层的计算为统计单位)都不太可能超过 60%,极限也很难达到 70%。

MAC 是乘加运算,可以理解为先相乘、再累加。芯片中大量并行完成这类计算的单元组成 MAC 阵列,类似一组计算工位,数据没有及时送到,或下一步需要等待上一步完成,都会让部分工位闲下来。某一层接近满负荷,不代表整个模型运行时都能保持同样的利用率。

苏箐认为,按完整一次模型推理统计,50%-60% 的 MAC 利用率已经是优秀设计。他写道," 宣称自己达 9x% 的利用率,我不能说你是在撒谎(因为某个特定层是可能达到的),但肯定是没有把真实情况告知大众。"

腾讯汽车《远光灯》接触的多位产业链人士的分歧,实际落在两个问题上。认为数字虚高的人,关心的是背后的换算是否充分说明;主张看量产效果的人,更关心这套组合最终好不好用、值不值这个价格。

算力数字一路狂飙:供应商要订单,车企要卖点

智驾行业比拼 TOPS,已经持续数年。

最初,车企比的是装了多少颗英伟达芯片;之后,比谁更早用上下一代产品;自研芯片陆续上车后,又开始比较谁的一颗能够顶别人几颗。

2022 年发布的理想 L9 采用两颗英伟达 Orin-X 芯片,公布 508 TOPS 算力。同年上市的小鹏 G9,其 650X 性能版车型也采用双 Orin 计算平台,公布 508 TOPS。蔚来的 Adam 计算平台则采用四颗 Orin,合计 1016 TOPS。

接下来的一轮竞争围绕英伟达 Thor 展开。2022 年 9 月,英伟达发布 DRIVE Thor,极氪是首家客户,当时计划 2025 年开始搭载量产车型。2024 年 1 月,英伟达宣布理想选择 Thor;同年 3 月,又公布小鹏、比亚迪、昊铂等企业采用 Thor 的计划。

几年前,车企选择英伟达,购买的不只是一颗芯片,还有围绕它建立的软件工具和开发环境。无论算法由车企还是外部供应商开发,都需要将模型转换、编译并部署到硬件上。

成熟的平台降低了开发门槛,也划定了开发边界。算法团队可以更新模型,但是已经设计完成、甚至装车的芯片很难修改。模型需要更多存储、更高带宽,或者采用新的计算方式时,只能先在现有硬件上想办法。

自研芯片给了部分车企另一种选择。算法团队可以提前与芯片团队讨论,下一代模型准备怎样运行,需要多少计算和存储资源,再把这些需求放进硬件设计。特斯拉此前已经走过这条路,中国车企也开始将芯片与模型纳入同一套研发体系。

自研之后,英伟达仍是常见的对标对象,只是比较从 " 装了多少颗 ",变成了 " 自己的一颗能顶它几颗 "。

蔚来宣称,神玑 NX9031 单颗能够达到四颗业界量产旗舰智驾芯片的性能;2025 年,小鹏 G7 Ultra 公布三颗图灵芯片、2250 TOPS 有效算力,强调一颗可以顶三颗主流芯片;2026 年,李想介绍马赫 100 时称,单颗算力 1280 TOPS,有效算力是 Thor-U 的三倍,双芯方案达到五至六倍。

软硬件都掌握在内部之后,车企能够做的取舍更多。性能不足,可以调整模型,也可以在下一代芯片中增加相应资源;降成本时,可以从整套系统考虑。模型和芯片团队还需要磨合,但车企不必等外部供应商确定下一代产品,才开始考虑自己的需求。

独立供应商也在缩短这条合作链。

Momenta 通过与新芯航途合作,将模型需求提前放进芯片设计;地平线通过 HSD,在征程芯片上开发和验证自己的智驾模型。双方都在增加能够直接交付的内容,减少需要客户自行协调的工作。

对没有自研芯片能力的车企,购买经过适配的组合,可以减少开发环节,也更有机会让新模型与配套硬件同步上车。

因此,车企可以围绕同一款车型,向不同公司提出功能、成本和交付要求,再比较谁能完成。而供应商强调的是,从某颗芯片或某个模型,扩展到两者配合后的收益:相同功能能否用更便宜的硬件实现?同样成本,能否运行更好的模型?量产之后更新软件,还要投入多少人和时间?

" 这里有个时间差,订单要先拿,车要之后才量产,最终效果还得往后看。" 一位智驾领域从业人士对腾讯汽车《远光灯》表示,车企选型当然会做测试,但无法在定点时验证未来几年的全部表现," 最先比较的是报价和参数,反过来车企也愿意宣传更强的芯片和模型,所以大家会把数讲得更漂亮 "。

苏箐在朋友圈评论区补充说:" 大家都不说实话,大家都走向吹牛逼的道路,我们这代人是在干什么?这已经超越了生意,是在毁灭中国科技行业的未来。"

淘汰赛加速,智驾两巨头面临持续迭代考验

对智驾供应商来说,客户的自研团队也是竞争对手。

一位曾在某头部车企从事智驾相关工作的员工说,公司可以先采购外部方案,保证车型按时上市,再从相对简单的功能开始自研。等内部方案通过验证、能够稳定量产,供应商承担的工作就可能被收回去。

每辆车数千元的软件授权费,是车企反复算这笔账的原因之一。这是他接触过的部分项目的价格,并非行业统一报价。但对年销量数百万辆的车企,即使只有部分车型使用,每车节省几百元,积累起来也是一笔可观的支出。

这位前员工还称,离职后与原同事交流时,对方提到,这家车企后来还引入了合作智驾公司的资深算法人员,由他们 " 手把手带团队做开发 "。

这意味着,车企每多掌握一项能力,供应商就需要重新解释,自己的收费对应什么。市场会继续扩大,但新增的开发工作,不一定都会交给外部供应商公司。

Momenta 向硬件延伸,地平线增加智驾软件,都发生在这个阶段。它们希望通过软硬件配合降低整套方案的成本,减少客户的开发工作,让车企觉得,继续采购比自己做更划算。

Momenta 与新芯航途的合作,首先有机会改变报价。

一位智驾公司高层认为,新芯航途围绕 Momenta 的算法做了深度优化,自己使用比较顺手,其他算法公司如果采用,适配工作量会很大。据他透露,这类芯片可以为目标模型做取舍,价格比通用型平台芯片低," 比英伟达便宜太多 "。

另一位行业人士也认为,Momenta 算法加上深度参与定义的芯片," 应该能打包个比较有竞争力的价格 "。

地平线从另一端进入同一个市场。HSD 让地平线能够提供更完整的辅助驾驶方案,用实车表现展示芯片能力,也将部分软件开发和适配工作提前完成。

地平线还有另一种合作方式,客户即使坚持自研,也有可能继续向它采购。

余凯在今年 9 月的公开交流中,将公司的商业模式分为两类。一类参照 Wintel,直接提供芯片和软件;另一类参照 "Arm 加安卓 ",提供芯片和软件的 IP 技术授权。前一种面向需要成熟方案的客户,后一种有机会进入车企自研的研发体系。

据知情人士透露,一家头部新能源车企自研智驾芯片就采用了地平线的 NPU IP(地平线内部命名为 BPU),地平线也在大力推广这类 IP 授权模式。来自同一信源的消息显示,地平线 HSD 智驾系统计划于年内搭载该车企的部分车型。

成熟 IP 可以减少研发和验证工作,供应商则通过授权获得收入。以 Arm 的公开模式为例,客户为技术使用权支付许可费用,芯片出货后,再按约定支付与出货量或售价有关的版税。地平线是否采用相同收费结构、怎样确定价格,需要看具体合同。

如今,Momenta 和地平线都需要面对持续迭代。今天为某个模型做出的硬件取舍,到了下一代未必仍然合适。新模型可能需要更多存储、更高带宽,或者不同的计算方式。第一代芯片开始出货时,下一代可能已经需要投入。

上述智驾公司高层对这类芯片最直接的担心是," 能否有资金持续迭代更强的芯片,很难讲 "。

曹旭东对淘汰赛的判断,建立在规模能够带来研发优势的前提上。他曾对腾讯汽车《远光灯》表示,最终可能留下中国两到三家、全球三到四家智驾供应商,领先者先获得量产收入,再投入研发,进一步拉开差距。

他在《晚点 LatePost》访谈中谈到 Momenta 与华为时说," 我们两家有比较强的定价权,这个价格比第二梯队的价格明显高。" 在曹旭东看来,车企选供应商时,还要考虑对方能否活过车型数年的维护周期,以及技术会继续进步,还是逐渐落后。

定价权也取决于车企有多少选择。地平线和 Momenta 都在通过软硬件协同,降低方案成本、减少客户开发工作。但是这些积累能否成为壁垒,要看车企用同样的成本和时间,能否找到替代方案,或自己做出来。

淘汰赛尚未结束。但可以确定的是,下一轮车型定点时,车企仍会把多家供应商的报价与内部研发进度放在一起,重新算账。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…