快科技 9 月 29 日消息,随着 AI 技术的提升,在大部分编程任务中已经比程序员写的又快又好,剩下要攻坚的就是一些高难度的内核级代码,NVIDIA 已经让 AI 来写 CUDA 优化代码了。
NVIDIA 的研究团队日前发了个报告,介绍了他们用 AI Agent 重写了 Kimi Delta Attention(简称 KDA)GPU 内核的过程,KDA 是 Kimi 的大模型正在使用的核心机制之一,而这种底层高难度代码往往需要资深工程师及芯片架构师反复调优才能做到一定的性能优化。
现在可以用 AI 来直接写这种 GPU 内核级代码了,而且比人类写的还要好—— NVIDIA 用 AI Agent 实现了 2.96 倍的性能,内核也已经开源。
这个 3 倍性能还不是极限,是全部任务的平均值,如果说极限性能,部分场景下比这个还要高,这就要说到 AI 的忽悠能力了,人类设定了目标,AI 去执行的时候也会用巧,这次就给它找到了机会作弊。

从这个报告来看,Agent 会直接把测试数据的统计规律写进代码中,结果轻松跑出 3.74 倍的性能优化,甚至在保留 32 个 token 的情况下做到极限 5.16 倍的性能优化,只不过这些提升只能在测试中实现,遇到真实情况就会出错或者没啥用。
最终的 2.96 倍性能优化就是在排除了 AI 用这些取巧、忽悠的数据之后才得到的,并且是可以验证的,不然人类就被 AI 忽悠成功了。




登录后才可以发布评论哦
打开小程序可以发布评论哦