驱动之家 22小时前
仅有13 TOPS!英特尔桌面NPU难撑本地AI大梁:够不到Copilot+门槛
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 9 月 21 日消息,随着酷睿 Ultra 200S 系列的推出,英特尔首次将 NPU 集成到面向发烧友的传统桌面处理器中。

这一举措标志着传统桌面 PC 正式进入了具备底层 AI 硬件加速的时代,旗舰型号酷睿 Ultra 9 285K 成为了首批搭载该技术的代表性产品。

在具体规格上,酷睿 Ultra 9 285K 除了拥有 8 个性能核和 16 个能效核外,还额外集成了两个神经网络计算引擎模块,这两个模块包含 4096 个乘加单元以及 4MB 的本地内存,支持 INT8 和 FP16 推理。

根据官方数据,该 NPU 的单体算力为 13 TOPS,如果结合 CPU 和核显的算力,整机平台的 AI 总算力最高可达 36 TOPS。

NPU 的定位是高能效推理:它可以承担较小的 AI 工作负载,同时让 CPU 和 GPU 腾出手来处理其他任务。这也是它与大尺寸显卡的本质区别,一块配备 Tensor 核心的 GeForce 显卡在多数情况下能更快地处理合适的模型,但功耗也高得多。

所以说 NPU 的目标不是击败 GPU,而是接手那些可以并行执行、且需要尽可能高效完成的任务。

技术实现层面,英特尔为 NPU 配备了独立的驱动栈,将其作为深度学习加速器,以独立计算设备的身份呈现给操作系统。

NPU 内部的调度器会把任务分配到两个 NCE Tile 上,OpenVINO 则可通过专属插件将 NPU 设为推理目标,例如让 NPU 承担模型的本体计算,而 CPU 或 GPU 继续服务其他工作负载。

不过 13 TOPS 的算力放在当下确实偏低,要知道微软对 Copilot+ PC 的定义之一就是 NPU 性能超过 40 TOPS,而 Core Ultra 9 285K 的 NPU 只有 13 TOPS。这意味着 Arrow Lake-S 虽拥有专用 AI 单元,却够不到微软众多重点宣传的本地 AI 功能所要求的性能门槛。

这也解释了桌面 NPU 至今存在感稀薄的原因:它确实存在、系统能识别、技术上也可以调用,但实际利用完全取决于软件,开发者必须显支持相应的后端或运行时环境,例如通过 OpenVINO 及英特尔提供的 NPU 插件完成模型的编译与执行。

那么 NPU 在桌面端何时真正有用?主要是那些经常发生、或与其他工作负载并行的小型推理任务,典型场景包括视频会议中的降噪与背景特效、语音与图像识别,以及图像、音频软件中的本地滤镜。

此类任务通常由相对较小的模型反复执行矩阵运算,非常适合卸载到专用 NPU 上,在优化得当的程序中,不同任务可以同时分发到各自最合适的计算单元。

但对一台游戏 PC 而言,目前能从中受益的场景仍然寥寥,更何况应用程序必须显式支持 NPU,缺少相应后端时,工作负载依然会落在 CPU 和 GPU 上。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:青山

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 英特尔 微软 酷睿 gpu
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论