雷科技 昨天
端侧AI成WAIC大热门!后摩要用这颗芯把千亿大模型塞进口袋
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

7 月 17 日,第九届世界人工智能大会(WAIC)在上海世博中心正式开幕,作为一年一度的 AI 行业盛会,今年大会依然聚集了国内外大模型公司、AI 应用和硬件厂商,雷科技(ID:leitech)旗下 AI 新媒体「雷科技 AGI(leikejiagi)」也派出报道团,赴上海进行现场报道。

作为以 AI 为主题的展会,WAIC 随处可见 Agent 和具身智能,但有这么一个展台,它没有展出各种人形机器人,也没有 AI 相关的概念产品,只有几台看起来像路由器、像迷你主机的东西。而就是这家叫做后摩智能的厂商,居然将联想、长城、中国移动这些巨头的印在了同一个背景板上。

(图片来源:后摩智能官方)

简单来说,当所有人都在想着怎么拿出思考能力更强的 Agent 时,后摩做的则是背后的那颗芯片。

但很多人没有注意到的是,我们天天说大模型越来越聪明,参数从 7B 涨到 70B,再到 700B,但你手机上跑的 AI,跟你公司数据中心里跑的那个,根本不是一个物种。云端大模型确实强,但每次调用都要把数据传到千里之外的服务器上绕一圈,而这个流程存在诸如延迟、功耗、Token 费用、隐私风险等一系列问题。

这也是为什么,今年行业把 2026 年称为「端侧 AI 元年」,市面上涌现出越来越多的 AI PC、AI 手机、智能机器人、AI 终端等产品,但这些设备都有一个共同的缺点:怎么在巴掌大的空间里塞进跑大模型的算力,还不发烫、不耗光电?

(图片来源:雷科技现场摄制)

而这就是后摩智能一直在做的事情。它们发布的 M50 芯片的核心参数看起来其实不算亮眼:10W 功耗、160 TOPS 算力、能跑 30B 到 120B 参数的大模型。可能有读者发现了,它的功耗做到了 10W,远比市面上同等算力的产品低不少。

这源于后摩 M50 芯片的全新架构,在传统芯片里,计算单元和存储单元是分开的,算一次数据就要来回搬运一次,这个「搬运」本身消耗的能量有时候比真正计算用的还多——业内叫它「存储墙」。后摩的做法叫「存算一体」:把存储和计算做在同一块硅片上,数据不用「来回跑」,功耗自然就降低了。

而搭载这款芯片的产品也很有意思,我们以联想 AI 主机 P7 为例,它只有手掌大小、重 300 克,整机功耗只有 30W,意味着一个普通充电宝就能供电。但它能离线跑 1220 亿参数的大模型,推理速度 50 Tokens/s,翻译成人话就是:哪怕断网了,它照样能跟你正常聊天、写文档、分析表格,表现跟联网状态下没什么区别。最重要的隐私问题也顺带给你解决了,因为所有数据都在这个「盒子」里运作,不存在联网泄露的情况。

长城 N90 Pro 也是一台很有代表性的产品:全栈国产 AI 笔记本,飞腾 CPU 加麒麟系统加 M50 芯片加国产大模型,在断网环境下能跑 35B 大模型,推理速度达到 30 Tokens/s,政务、金融、能源这些行业一看就懂它的价值。还有聊趣智能的 ClawHouse X1 Pro,全息交互个人智算中心,能同时跑 3D 渲染、百亿级大模型推理、低延迟语音交互,等于把智能办公和智慧教育打包成了一个「个人 AI 服务器」。联想 AI Workmate 概念机则走桌面机器人路线,扫描文档就能自动生成 PPT,投影成共享看板,全程断网可用。

从这些展台上的产品我们不难看出后摩的路线跟行业巨头英伟达完全不一样。英伟达做的是通用算力平台,追求统一和全场景覆盖;而后摩做的是一颗专门为端侧推理优化的芯片,让终端厂商「即插即用」。对终端厂商来说,既不用从头研究芯片,也不用忍受云端 API 的时延和成本,只需插一块卡就完成 AI 化升级。在这种模式的协作下,端侧 AI 的普及速度会比我们想象得快得多。

那么端侧 AI 到底为什么重要?很多人觉得好处就是断网也能用,这没错,但只看到了最浅的一层,真正的价值其实有三层。

第一层是成本。云端大模型的 Token 费用不便宜,普通用户一个月都得花费一两百元,重度用户更是轻轻松松四五百元。而在本地推理的状态下,你不需要为芯片和电费付钱,成本自然大幅降低;第二层是隐私,你的聊天记录、工作文件、个人数据不用上传到任何服务器,全程在你手边的设备上处理,这不需要你相信任何公司的「隐私承诺」,因为数据从物理上就没离开过你的设备;第三层是体验,云端 AI 延迟几十毫秒到几百毫秒是免不了的,网络波动更是家常便饭,端侧推理可以做到毫秒级,交互丝滑得多,而且你的 AI 不用跟几百万用户抢算力,换句话说它就是你一个人的专属助理,随叫随到。

M50 是目前国内端侧 AI 芯片里,从技术到量产到生态闭环做得最完整的一家。尤其是 10W 功耗实现 160 TOPS 的能力不是简单堆晶体管就能做到的,存算一体架构的选择让它天生适合端侧场景。更难得的是,后摩没有只卖芯片,而是把 M.2 卡、加速卡、软件工具链一起推了出来,客户不用自己调参量化,装上就能用。这个「开箱即用」的能力,进一步降低了规模商业化的门槛。

不过端侧 AI 市场处于刚刚起步的阶段,2026 年虽然是「元年」,但能跑多远还要看两点:一是联想、长城这些终端巨头的产品能不能真正打动市场,毕竟东西再好,卖不出去就是白搭;二是云端 AI 的成本在持续下降,端侧的优势能不能长期维持,需要持续迭代。

其次后摩的对手越来越多,除了前文提到的行业巨头英伟达,高通、联发科也在布局端侧 AI,华为昇腾体系更是全栈自研。我们不妨期待后摩在之后还能给市场带来什么新产品。

总的来说,后摩智能在 WAIC 2026 上交出的答卷,不是一颗芯片,而是一个完整的「端侧 AI 生态雏形」。后摩拿到入场券了吗?从这次 WAIC 的情况来看,小雷觉得,它已经坐在牌桌上了。

主题为「智能伙伴 · 共创未来」的 WAIC2026 正在火热开展中!

AI 叙事路线从模型参数堆叠,转变到 Agent 生产力落地;异构协同、光子计算持续提高计算上限;具身智能加速应用,机器人到家进厂让物理 AI 变为现实。

雷科技 WAIC 探展团已抵达上海,直击 AI 产业化落地年度巅峰时刻,敬请关注!

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 联想 机器人 芯片 上海
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论