星途科讯 1小时前
英伟达高管力推本地AI
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

英伟达产品副总裁阿德尔 · 哈拉克(Adel el Hallak)家中常备一台 DGX Spark。这台设备会在夜间处理 AI 任务,若睡前未分配工作,他甚至会感到 " 愧疚 "。" 它静音且常年通电,不利用它做点个人层面的事是一种浪费。" 哈拉克表示。

这一细节折射出人工智能的未来方向:本地化。当英伟达 AI 产品战略负责人已将个人 AI 计算机视为家电而非服务器时,预示着普通消费者迈向本地 AI 时代已为期不远。

摆脱云端依赖

目前,主流 AI 交互依赖云端,用户数据需传输至数据中心,不仅产生订阅成本,更涉及隐私风险。哈拉克指出,本地 AI 改变了这一局面:" 在我拥有的硬件上运行模型,数据永不离家,且无需每月支付订阅费。"

算一笔经济账:DGX Spark 零售价 4,699 美元,虽不菲,但相比 ChatGPT Plus 每年 240 美元的订阅费,五年仅订阅支出即达 1,200 美元,且用户并未获得任何资产。相比之下,Spark 提供无限制查询,无令牌计费、无使用上限,亦无需联网。

尽管 GPT-6 等云端模型能力更强,但对于文档总结、邮件起草、本地文件搜索及编程辅助等日常任务,拥有 128GB 内存并接入英伟达完整 CUDA 堆栈的本地模型已绰绰有余。

从极客专属走向大众

DGX Spark 于去年十月发布,号称 " 全球最小 AI 超级计算机 ",初期主要面向开发者与研究人员。该设备运行 Linux 系统,重 2.6 磅,体积媲美 Mac Mini。

如今,其生态系统正加速向消费级靠拢。例如,Perplexity 推出的 Portable Computer 将本地模型、代理工具及应用连接器打包,在 DGX Spark 上运行。任务默认本地执行,仅在遇到无法处理的情况并经用户许可后,才将步骤发送至云端,确保文件始终留存本地。

哈拉克认为,软件层提供商正大幅简化设置流程,摒弃命令行安装,回归图形用户界面(GUI)体验。这正如网络附加存储(NAS)从极客爱好演变为百思买货架上的消费品,硬件普及的关键在于软件的易用性。

RTX Spark 笔记本即将破局

DGX 台式机仅是概念验证,真正的消费级爆发点在于即将上市的 RTX Spark 笔记本电脑。预计今年秋季,戴尔、惠普、联想、华硕、微星、宏碁等厂商将出货搭载 GB10 芯片的笔记本,微软亦将推出基于该芯片的 Surface Laptop Ultra。

这些设备运行 Windows 11,兼顾游戏与传统办公负载,更拥有 128GB 统一内存,足以运行令当前消费级 GPU 崩溃的大型语言模型。这是哈拉克桌上设备的笔记本版本,且打破了仅限 Linux 的限制。

" 本地运行的模型配合易安装的运行时,将真正开启本地 AI 时代。" 哈拉克称。

核心议题:所有权而非性能

哈拉克引用企业界案例指出,用户曾以模型排名和令牌用量为荣,直到 IT 部门收到账单,大家才开始关注成本优化。随着 AI 代理深入个人日历、邮件及财务数据,数据处理地点已从理论问题变为现实关切。

" 本地 AI 带来更多令牌,令牌即智能。当智能与安全运行时配对,你就能高效做事。" 哈拉克将其通俗地定义为:" 家里的数据中心。"

【星途科讯 图文丨 Patrick 首发于 ZAKER 科技,转载请注明出处】

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 英伟达 spark 芯片 破局
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论