快科技 9 月 28 日消息,AMD 近日公布 RDNA 4 架构在 AI 算力上的核心数据:与上一代 RDNA 3 相比,AI 计算能力达到原来的 4 倍以上,每个计算单元配备 2 个 AI 加速器,支持 FP8、INT8 等新数据类型及稀疏性加速,Radeon RX 9000 系列显卡最高算力达 1557 TOPS。

这一算力提升直接改善了本地大模型推理体验,让 Radeon 显卡在运行本地 AI 模型时更流畅,告别卡顿。

架构落到产品上,就是 Radeon RX 9000 系列显卡。该系列 GPU 最多配备 16GB GDDR6 显存,其中 RX 9070 配 16GB 显存,定位 AI 加速入门级产品;工作站端的 Radeon AI PRO R9700 将显存做到 32GB,可容纳更大的模型权重,面向高级 AI 工作流。
软件生态是 AI 落地的关键。AMD 明确 Radeon 显卡可通过编程支持 Microsoft DirectML 等主流机器学习框架,部分 Radeon 显卡还支持 AMD ROCm 开放式软件平台。
AMD 已发布 ROCm 6.0,扩大对客户端机器学习开发的硬件与软件支持;此前 ROCm 5.7 已与 PyTorch 配合,为 Radeon RX 7900 XT、RX 7900 XTX 和 Radeon PRO W7900 GPU 提供支持。
这些软件栈让本地推理有了现成路径。借助锐龙 AI PC 或 Radeon 7000 系列显卡,可在本地运行基于 GPT LLM 的专属 AI 聊天机器人实例。AMD Software 内也加入了 AMD Chat 等 AI 功能,并提供 AMD 噪音抑制,用于智能背景噪音消除。
本地推理之外,应用生态覆盖内容创作和生成式 AI 两条线。创作侧兼容 Adobe Photoshop、DaVinci Resolve、Blender;生成式视觉应用包括 Automatic1111 和 Stable Diffusion WebUI-DirectML。
文本生成方面也有成熟工具。LM Studio 定位为安装方便、全面加速的离线应用;OLLAMA 则针对 AMD Radeon 做了优化,可高效运行 Llama 2。



登录后才可以发布评论哦
打开小程序可以发布评论哦