驱动之家 9小时前
最高1557 TOPS!AMD RDNA 4架构算力暴增4倍:本地跑大模型不卡了
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 9 月 28 日消息,AMD 近日公布 RDNA 4 架构在 AI 算力上的核心数据:与上一代 RDNA 3 相比,AI 计算能力达到原来的 4 倍以上,每个计算单元配备 2 个 AI 加速器,支持 FP8、INT8 等新数据类型及稀疏性加速,Radeon RX 9000 系列显卡最高算力达 1557 TOPS。

这一算力提升直接改善了本地大模型推理体验,让 Radeon 显卡在运行本地 AI 模型时更流畅,告别卡顿。

架构落到产品上,就是 Radeon RX 9000 系列显卡。该系列 GPU 最多配备 16GB GDDR6 显存,其中 RX 9070 配 16GB 显存,定位 AI 加速入门级产品;工作站端的 Radeon AI PRO R9700 将显存做到 32GB,可容纳更大的模型权重,面向高级 AI 工作流。

软件生态是 AI 落地的关键。AMD 明确 Radeon 显卡可通过编程支持 Microsoft DirectML 等主流机器学习框架,部分 Radeon 显卡还支持 AMD ROCm 开放式软件平台。

AMD 已发布 ROCm 6.0,扩大对客户端机器学习开发的硬件与软件支持;此前 ROCm 5.7 已与 PyTorch 配合,为 Radeon RX 7900 XT、RX 7900 XTX 和 Radeon PRO W7900 GPU 提供支持。

这些软件栈让本地推理有了现成路径。借助锐龙 AI PC 或 Radeon 7000 系列显卡,可在本地运行基于 GPT LLM 的专属 AI 聊天机器人实例。AMD Software 内也加入了 AMD Chat 等 AI 功能,并提供 AMD 噪音抑制,用于智能背景噪音消除。

本地推理之外,应用生态覆盖内容创作和生成式 AI 两条线。创作侧兼容 Adobe Photoshop、DaVinci Resolve、Blender;生成式视觉应用包括 Automatic1111 和 Stable Diffusion WebUI-DirectML。

文本生成方面也有成熟工具。LM Studio 定位为安装方便、全面加速的离线应用;OLLAMA 则针对 AMD Radeon 做了优化,可高效运行 Llama 2。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai amd adobe 机器学习 聊天机器人
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论