其实对于 AI PC 来说，AMD 其实是要比 Intel 更早入场的，去年推出采用 Phoenix 核心的锐龙 7040 系列处理器就配备了 Ryzen AI 单元，而今年推出采用 Hawk Point 核心的锐龙 8040 系列处理器把 AI 单元正式改名为 NPU，同样采用 XDNA 架构，但算了从 10 TOPS 提升到 16 TOPS，而在应用方面，AMD 这段时间在客户端和本地 AI 工作的软件优化方面投入了大量工作，在最新发布的官方测试表明配备 Ryzen AI 的 AMD 处理器在新的 AI 测试中超越了 Intel 的 Core Ultra。

AMD 对比了 15W 的 Ryzen 7 7840U 和 28W 的 Core Ultra 7 155H，两款对比用的笔记本均搭配了 16GB LPDDR5-6400 内存，并更新到了最新的驱动。

测试在本地运行 LLM，包括 LLama 2、Mistral AI_、code llama 和 RAG 等一系列模型，本地运行人工智能模型在私密性方面会比在云端更有保障，而且可以节省订阅费用。AMD 正在进一步进入这一领域，并发布了本地运行大语言模型的指南，详细介绍了如何在本地部署属于自己的 AI 聊天机器人。

首先是 Mistral Instruct 7B LLM，与 Core Ultra 7 155H 相比，Ryzen 7 7840U 仅用了 61% 的时间就完成了 AI 处理。

而在 Llama 2 7B 聊天速度仅用时 54 秒 Ryzen 7 7840U 就完成了任务。

Ryzen 7 7840U 在 LLama v2 Chat 7B ( Q4 KM ) 中性能比对手高了 14%，在 Mistral Instruct 7b ( Q4 KM ) 中性能则高出 17%。LLama v2 Chat 的首次令牌速度快了 79%，在 Mistral Instruct 7B LLM 中的 First token 速度快了 41%。

需要注意的是，Ryzen 7 7840U 的功耗限制是要比 Core Ultra 7 155H 要低的，而且 NPU 速度也稍慢一些，Ryzen 7 7840U 的 NPU 是 10 TOP，而 Core Ultra 7 155H 则是 11 TOP。如此采用同样 28W 功耗而且 NPU 提速到 16 TOP 的锐龙 8040 处理器的话优势会更明显。

由于 AMD 的 Ryzen AI 上市更早，这能让 AMD 收到更多的市场反馈，能让他们对下一代 CPU 的 AI 性能进行优化，下一代采用 Zen 5 内核的 Strix Point 系列会把 NPU 升级到 XDNA 2 架构，算力会进一步提升，以适应日渐成熟的 AI 应用。