【ZOL 中关村在线原创访谈】生成式人工智能以及大语言模型领域的突破与创新,为各行各业带来了新的机遇。尤其是对于 PC 领域而言,作为兼顾大众化普及与出色计算能力的平台,PC 已然成为人工智能应用落地与广泛传播的核心媒介。人工智能技术与 PC 逐步融合的过程,快速推动了 PC 行业进入全面智能化的时代。
而在此背景之下,这种融合不仅重构了 PC 软硬件生态,更催生出了从芯片到算法,从硬件到软件,从个体应用到全产业生态的新的价值链。也因此,越来越多致力于通过 AI 改变生产、生活、工作方式的开发者与创业者们,义无反顾地投身其中。
佘洪宇,这位毕业于全球顶尖设计学府伦敦艺术 ? 学中央圣 ? 丁学院产品设计专业,并曾荣获 IF 设计奖的年轻人,正在独 ? 运营着一个名为 " 启问 Spark Query" 的 AI 创业项 ?。在众多 AI 开发者、创业者中,这个项目或许不够宏大,但却直击普通用户如何正确使用 AI 的核心痛点。而这个项目的诞生,源自于一次偶然的思维火花绽放。
· 架起普通用户与 AI 的桥梁:创新的火花常常来自一次偶然的机会
Spark Query 项目的中文名称叫做 " 启问 ",这个项目的诞生并非出自一份严谨又详尽的创业计划书,佘洪宇说," 年初,我在教 ?? 使 ?AI 时,发现他们总是觉得 AI ‘不听话’ , 难以有效沟通。此时我意识到,问题的根源在于他们 ? 法清晰、准确地表达 ?? 的需求。后来,我的父母从他们自己的 ? 作经验中 , 受到通过 " 表单 " 来规范化输入的启发,和我—起沟通,开发了这个小工具。它通过—系列提问式交互,引导 ? 户梳理思路,将模糊的想法转化为精准的,帮助 AI 能够充分理解用户需求的指令。"
当佘洪宇将这个免费工具分享给身边的同事好友之后,它在创作者和文字工作者群体中获得了出乎意料的积极反馈。显著的工作效率提升,使得启问 Spark Query 在发布的第一个月,就累计提供了超过 1500 次服务,并吸引了数百位注册用户。
其实,不少人与 AI 很难成功、有效沟通的根本原因在于没有 " 产品经理 " 式的思维方式。这导致用户无法通过清晰、合理、详细、甚至专业的提示词或指令让 AI 充分了解自身需求,以生成真正符合用户要求,而非大量注水的内容或答案。这是摆在当前 AI 用户面前最为核心的问题。
启问 Spark Query 通过提问式交互,一步步引导用户去完善需求,而不是让用户自己去试着如何去完善需求,这种体验上的差异正是其精髓所在。
此外,启问 Spark Query 也支持企业本地部署,也就是在不联网的状态下也能够顺利运行,这使得一些担心商业机密、个人隐私泄露的用户,也能够放心使用。而要保证启问 Spark Query 在本地运行时也能够保持良好效果,至少需要在本地部署 30B 参数量的 Q8 量化模型。因此,启问 Spark Query 对于用户本地硬件性能,尤其是 GPU 显存提出了较高要求。
而在当前众多硬件解决方案里,佘洪宇选择了更具经济性的 AMD 锐龙 AI Max+ 395 平台。
· 结缘锐龙 AI Max+ 395:消费级硬件中独一无二的能力
当 PC 行业抓住 AI 契机全面进入 AIPC 时代之后,传统 PC 硬件率先迎来创新机遇。但在 AMD 锐龙 AI Max+ 395 平台诞生之前,不少硬件其实只是达到了迈入 AI 应用门槛的级别,并不能真正满足用户对于 AI 应用的需求。
从大语言模型应用的角度来说,硬件平台需要提供容量足够大和速度足够快的内存配置来加快大参数量大模型的加载,同时需要有大显存 GPU 为生成过程提速。AMD 锐龙 AI Max+ 395 通过统一内存技术,可以将 128GB 内存中最高 96GB 内存分配做显存使用,完美解决了移动端平台内存小、显存低的瓶颈,从而让迷你电脑、AIPC 具备了本地运行 32B、70B 参数量稠密大模型,以及 235BMoE 混合专家大模型的能力。
正因如此,佘洪宇与锐龙 AI Max+ 395 结缘,走上了 AI 创业的这条路。
在谈及自己对锐龙 AI Max+ 395 处理器的看法时,佘洪宇坦言," 我的典型 ? 作流是:首先利用最先进的云端大模型 ( 如 DeepSeek 来快速验证—个业务场景的可行性;如果可行,出于成本控制和数据安全这两个核心因素考量,我会转向在本地部署量化模型进行后续开发。这个过程中,—个核心的痛点在于对比测试——不同机构对同—模型的量化方案会产生效果差异,我必须反复对比才能选出最优解。在传统高端显卡(如 RTX5090)上,每次对比都需要重新加载和卸载模型,这个过程非常耗时,严重拖慢了开发迭代的速度。而 AMD 锐龙 AI Max+ 395 平台则完美地解决了我的痛点,无需反复加载。"
确实,在笔者实际测试锐龙 AI Max+ 395 平台时也发现,得益于 128GB 超大统一内存以及内存 - 显存分配机制,传统高端显卡系统上都比较难实现的多模型加载与切换,在锐龙 AI Max+395 上实现起来却非常简单。下图是笔者测试时加载 Qwen3-235B-A22B-IQ2_S 的 MoE 混合大模型的截图,内存峰值占用高达 63.6GB,如果没有 128GB 超大内存支持的话,这基本是不可能完成的任务。
此外,佘洪宇结合自身在创业过程中的实际应用体验,总结并分享了锐龙 AI Max+ 395 处理器的几个核心价值:
首先,它拥有颠覆性的模型测试效率。这得益于 128GB 超大容量的统一内存,这一特性使得佘洪宇能够在内存中同时加载 2 到 3 个 30B 规模的量化大模型,并且轻松实现模型间的无缝切换和即时对比,无需等待,节约大量模型加载时间。佘洪宇说," 仅此—项 , 就将我的开发效率提升了 ? 少 20-30%。"
其次,轻松应对多模型复杂应用。在运行 RAG(检索增强生成)、AI 绘画这类需要语言模型、向量模型、绘图模型等多模型协同 ? 作的场景时,锐龙 AI Max+ 395 平台也能轻松胜任。它避免了传统双显卡方案的高成本、高功耗和高噪音等弊端,非常适合在桌面或家庭环境中进行安静且高效的开发。
其三,攻克超长上下文处理瓶颈。当需要处理如播客转录、长文档分析等需要超长上下文(例如 32K)的任务时,即便是顶级的消费级显卡也往往难以胜任。而锐龙 AI Max+ 395 平台则可以充分满足这种需求。佘洪宇表示," 这在目前的消费级硬件中几乎是独一无二的能力。"
佘洪宇的工作极度依赖基于 GPU 进行的模型开发和推理,同时也需要强大的 CPU 来支撑相关的软件开发、数据预处理以及后端服务,AMD 锐龙 AI Max+ 395 处理器基于 AMD Zen5 架构打造,原生 16 颗超大核心 32 线程设计,最高加速频率 5.1GHz,总缓存高达 80MB,NPU 峰值 AI 算力为 50TOPS。同时它还集成了 40 个图形核心、2560 个流处理器 +64GB LPDDR5 显存的 Radeon 8060S iGPU,加上 128GB 超大统一内存以及其中最高 96GB 容量给显存分配,自然可以同时胜任 AI 开发以及软件开发两种不同的任务,足见锐龙 AI Max+ 395 平台的泛用性与独特性。
· 用锐龙 AI Max+ 395 初步构建个人智能数据中心:真正安全、私密的个人助理
AI 应用可以说是非常典型的入门简单、精通难。这一点相信很多使用过 AIGC 生成图片、或者使用大语言模型生成文档的朋友都深有体会。正如前面所言,精通 AI 应用的本质是让自己的思维从用户思维转变为产品经理思维,这一点说起来容易,但做起来真的非常困难。
佘洪宇和他的 " 启问 Spark Query" 项目其实就是为了打破这种壁垒。" 很多人认为 AI 的上限取决于模型本身,但我认为—个更完整的公式是:(模型算法 + 训练数据 + 外部知识库 ) x 算力 x 优质提示词。在这个公式里,模型和大部分算力由厂商提供,但高质量的外部知识库和优质提示词,则越来越依赖于我们个人实时产生的数据。"
然而,这就面临着老生常谈的 " 数据隐私安全 " 问题。
当用户使用 AI 执行文档阅读、会议纪要、工作总结、记录生活等任务时,是否放心把这些数据交给云端的 AI,就成为摆在用户面前的另一个非常棘手的问题。
在佘洪宇的创业过程中,不免也会遇到这样的问题。佘洪宇认为 AIPC 最终将会成为 " 个人智能数据中心 "。它不仅是一台强大的计算设备,同时更是一个安全、可靠的本地数据堡垒,能够在终端侧完成对高度敏感数据的处理和分析,并确保用户数据安全与隐私。未来,AIPC 将成为真正安全、私密的个人助理。
以前我们常说," 硬件为创新赋能。" 但如何赋能?或许更多时候只是在一代又一代的游戏画面和 GPU 性能螺旋升级中感受得到。
而这一次,锐龙 AI Max+395 平台为佘洪宇这样的 AI 开发者所做的赋能,不仅仅在于 AI 应用本身的验证与开发,更在于未来有可能借助强劲算力平台所构建的 " 个人智能数据中心 " 这样的全新概念,它改变了我们对于 AIPC 的惯有看法,单纯的 AI 应用落地和传播媒介,至少在佘洪宇的概念框架中,已经不足以描述。
当然,为了最终实现 " 个人智能数据中心 " 这一愿景,佘洪宇也对 AMD 平台未来的发展提出了两点期待:首先是生态支持的敏捷性,期待 AMD 能加速对业界前沿 AI 模型的适配与优化,让开发者能第一时间利用最新的技术;其次是更亲民的价格,以降低个人开发者和小型团队的门槛,推动高性能 AIPC 在更广泛的开发者和用户群体中普及,加速生态成熟。
· 结语
佘洪宇的 AI 创业项目 " 启问 Spark Query" 不仅解决了用户在 AI 使用过程中的沟通难题,还通过 AMD 锐龙 AI Max+ 395 平台实现了高效、安全的本地开发,并且基于这一平台勾勒了一个充满无限可能的 " 个人智能数据中心 " 图景,这一刻," 硬件赋能创新 " 得到了更为充分的诠释。而且我们也相信,在像佘洪宇这样的更多的 AI 开发者、创业者、实践者们的推动下,AIPC 行业会有一个更加清晰的未来。
登录后才可以发布评论哦
打开小程序可以发布评论哦