驱动之家 07-07
1.5万元跑通AI创业!AMD迷你机让本地部署AI不再是天价
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

在上海一间充满设计感的工作室里,佘洪宇盯着屏幕上跳动的代码,长舒了一口气。

他刚刚完成了 " 启问 Spark Query" 最新版本的调试。

这个由他独立开发的 AI 工具,正在以惊人的效率帮助用户梳理模糊需求,生成精准的提示词。

在这一切的背后,一台看似不起眼的 AMD 锐龙 AI Max+ 395 AI 迷你机,正默默扮演着 " 幕后英雄 " 的角色。

一、创业灵感:从痛点中发现机遇

佘洪宇曾在华为等大厂工作,最近的这次创业故事,要从一次跟爸妈的交流说起。

作为一名有着多年 AI 行业经验的资深从业者,他经常需要与各种 AI 模型打交道。

然而,当他教父母使用 AI 时,发现一个普遍存在的问题:

父母在与 AI 交互时,往往会因为无法清晰、准确地表达自己的需求,导致效率低下,甚至产生令人失望的结果。

这个痛点让佘洪宇陷入了思考。他意识到,随着 AI 技术的普及,越来越多的人需要与 AI 进行高效沟通,但缺乏专业的提示词工程知识成为了一大障碍。

为什么不开发一个工具,能够引导用户梳理思路,将模糊的想法转化为精准的指令呢?

说干就干,佘洪宇受父母工作经验中的 " 表单 " 启发,开发了 " 启问 Spark Query" 的雏形,结果在创作者和文字工作者群体中获得极佳的反响,他们认为这极大地提升了工作效率。

二、技术选型:为何选择 AMD 锐龙 AI Max+ 395?

随着 " 启问 Spark Query" 的用户数量不断增加,一个强烈的 " 刚需 " 浮现出来:部分用户的提示词可能涉及商业机密或个人隐私,他们迫切需要一个能够在本地运行、保护数据安全的版本。

有了创业想法,接下来就是技术实现。佘洪宇需要一台能够在本地运行大模型的硬件设备,以满足用户对数据安全和隐私保护的需求。

然而,要让 " 启问 Spark Query" 在本地有效运行,并保持良好的效果,至少需要一个 30B 参数规模的 Q8 量化模型。这对普通用户的本地硬件(尤其是显存)提出了非常高的要求。

正是这个挑战,促使佘洪宇开始寻找市面上最具性价比、能承载大模型运行的 AI 硬件解决方案。

" 我的客户主要使用 Windows,因此我的开发环境也必须是 Windows。" 佘洪宇说," 作为个人开发者,预算必须控制在 2 万元以内。"

这就要求平台必须具备 Windows 系统、30GB 以上的超大显存、强大的 GPU 性能和高带宽。

在当前市场上能同时满足所有这些严苛条件的消费级平台,只有搭载 AMD 锐龙 AI Max 300 系列处理器的 PC。

AMD 锐龙 AI Max+ 395 处理器拥有多达 16 个超大 "Zen 5" 架构 CPU 核心、多达 40 个 AMD RDNA 3.5 图形核心 Radeon 8060S 和一个高达 50 TOPS AI 算力的 AMD XDNA2 架构的 NPU,这使得它能够在本地高效运行大型 AI 模型。

" 最让我惊喜的是它颠覆性的模型测试效率,凭借其超大的统一内存,我可以同时在内存中加载 2 至 3 个 30B 规模的量化大模型。这意味着我可以实现模型间的无缝切换和即时对比,无需任何等待。仅此一项,就将我的开发效率提升了至少 20-30%。" 佘洪宇感叹道。

此外,AMD 锐龙 AI Max+ 395 AI 迷你机的低功耗和小体积也是吸引佘洪宇的重要因素。" 它避免了传统双显卡方案带来的昂贵、高功耗和高噪音等弊端,非常适合在桌面或家庭环境中进行安静高效的开发。"

三、开发过程:AMD 锐龙 AI Max+ 395 迷你机如何赋能 " 启问 Spark Query"?

有了强大的硬件支持,佘洪宇的开发工作进展得非常顺利。

" 启问 Spark Query" 的核心功能,是通过一系列提问式交互,引导用户梳理思路,将模糊的想法转化为精准的指令。

在开发过程中,佘洪宇需要频繁地测试和优化模型。

" 以前使用其他设备(如 RTX 4090)时,加载和卸载模型的过程非常耗时,严重拖慢了开发进度。" 他说," 但 AMD 锐龙 AI Max+ 395 的表现让我非常满意。它能够快速加载和运行多个模型,大大提高了我的开发效率。"

特别是在处理超长上下文时,AMD 锐龙 AI Max+ 395 的优势更加明显。" 当我需要处理如播客转录、长篇文档分析等需要超长上下文的任务时,AMD 锐龙 AI Max 平台能够轻松满足这种需求,这在目前的消费级硬件中几乎是独一无二的能力。" 佘洪宇说道。

四、实际应用:从旅游规划到电脑配置,精准需求一气呵成

" 启问 Spark Query" 正式上线后,很快就展现出极高的效率,向 AI 提问从未如此简单。

让我们来看两个实际应用案例,看看 AMD 锐龙 AI Max+ 395 是如何赋能 " 启问 Spark Query",帮助用户解决实际问题的。

启问 Spark Query 也有一个在线版本,以供无锐龙 AI Max+ 395 本地部署的用户在线体验使用,这里演示使用的就是在线版本。

启问 Sparkquery 在线体验地址:https://yujianaier.xyz/

案例一:丹麦旅游行程规划

一位用户想为两位从上海出发的老人规划十一假期丹麦 7 天旅游行程,但很多需求并未明确。

通过 " 启问 Spark Query",用户被引导输入出发城市、住宿偏好、餐饮标准、景点偏好和交通偏好等信息。

用户经过引导填入关键词需求,包括重点考虑自然风光景点,主要使用火车交通,住宿选择普通酒店,餐饮预算为每餐人均 100 元人民币等等。

点击 " 生成提示词 " 后,在 AMD 锐龙 AI Max+ 395 处理器的支持下," 启问 Spark Query" 快速处理了这些信息,并生成了详细的行程规划提示词,包括国际航班建议、丹麦境内火车路线、住宿推荐、景点安排、餐饮建议和费用估算。

整个过程高效流畅,生成的行程方案详细且符合用户需求,特别是考虑到了老年人的特殊需求,如节奏舒缓、交通衔接顺畅等。

还能一键复制并跳转到 DeepSeek 等平台。

经过优化后的提示词,DeepSeek 可以更准确地理解需求,给出的方案也更具可行性,大家感受下:

案例二:4000 元办公电脑配置清单

另一位用户需要配置一台预算约为 4000 元的电脑,想让 AI 列一下配置清单。

通过 " 启问 Spark Query" 的引导,用户输入了主要用途、外设需求、品牌偏好和预算限制等信息。比如主要用于日常办公,需要一台 27 英寸显示器,处理器要求使用 AMD。

借助 AMD 锐龙 AI Max+ 395 处理器的强大算力,本地版的 " 启问 Spark Query" 也能迅速生成一份详细的配件清单的提示词,包括处理器、显示器,以及用途需求,总价控制在 4000 元左右,并且所有配件确保兼容。

输入 DeepSeek 后迅速获得了一份清单。

该回答既满足了性能需求,又符合预算限制,能够有效提升企业采购计算机时的效率。

作为对比,如果没有 " 启问 Spark Query" 及时提醒 " 显示器 " 需求时,传统方案会默认将预算全部投入主机,导致最终装机成本突破 4000 元,或被迫压缩主机配置至性能不足。

五、未来展望:AMD AI PC 推动 AI 本地化部署浪潮

佘洪宇的创业故事,只是 AMD 锐龙 AI Max+ 395 在 AI 本地化部署领域应用的一个缩影。

随着 AI 技术的不断发展,越来越多的企业和个人开发者意识到,本地部署 AI 模型不仅能够提高效率,还能更好地保护数据安全和隐私。

" 目前 1.5 万元的价位对于个人开发者和小型团队来说还是有一定门槛。如果价格能进一步降低,无疑将极大地推动高性能 AI PC 在更广泛的开发者和用户群体中普及,加速整个生态的成熟。" 佘洪宇说。

AMD 正通过不断的技术创新,为开发者和企业提供更强大、更高效、更经济的 AI 解决方案,助力更多像 " 启问 Spark Query" 这样的创新应用诞生,推动 AI 技术更好地服务于人类社会。

或许,下一个改变世界的 AI 应用,就诞生在一台 AMD AI PC 之上。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai amd 锐龙 windows spark
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论