" 个人级推理设备(AI PC)将从概念走向现实。"12 月 30 日,第三届全国先进计算技术创新大赛在成都举行,中国工程院院士、清华大学计算机系教授郑纬民在现场分享中提到,随着 AI 大模型向普惠化、低成本方向发展,部署成本显著下降,让边缘侧、端侧的低成本大模型应用从构想变成现实。
沿着这一思路,与会学界、企业及机构代表聚焦 " 成本普惠化 "" 应用垂直化 "" 产业生态化 " 等方向,探讨 AI 如何与千行百业深度融合,并推动算力价值转化为现实生产力。
一个越来越明显的共识是,AI 产业正从早期的技术模型探索,进入以 " 应用创新 "" 产业深耕 " 为核心的新阶段,深度赋能政务、医疗、工业制造、交通、能源等关键领域,持续催生新业态、新模式。

图片来源:主办方提供
破解算力难题 "AI PC" 加速走进现实
" 现在智算算力需求非常旺盛,租 GPU 做 AI 推理,得提前两个星期排队预约。" 郑纬民表示,曾经由 " 模型训练 " 主导的算力需求,如今已经转向 " 推理 ",简单说就是 AI 从 " 学习成长 " 阶段,进入了 " 给人干活 " 的实用阶段,而这也催生出爆发式的算力缺口。
要让 AI 高效 " 干活 ",选对芯片是关键。相较于 CPU,更擅长高效矩阵运算和高速数据读写的 GPU 脱颖而出。
不过高效的 GPU 也面临 " 烦恼 ",其内存主要用于存储两类数据,一是训练所得的模型参数,二是推理过程中产生的中间结果。随着 Kimi 等支持数百万字上下文的模型走红,AI 大模型趋向 " 数据更多、模型更大、上下文更长 ",但这也带来了极高的推理负载,导致用户量激增时频繁宕机。
郑纬民以热门论文的推理需求为例," 十万个用户同时查询,如果每个用户都单独存储文章原文和推理中间结果,AI 必然不堪重负。"
郑纬民提到,业内的破解思路是 " 公共数据共享存储 ",即将重复出现的公共数据和推理中间结果仅存储一份,让所有用户共用。通过 " 缓存复用 "" 以存换算 " 大幅减少算力浪费,从而缓解大模型 AI 宕机问题。
郑纬民透露,该技术开源后获得行业广泛认可,英伟达、华为、阿里等国内外头部企业都在采用。
除了存储问题,公共算力 " 不够用 " 也是一大行业痛点。
" 我经常清晨五点半起来用 AI 查论文,往往问三次就会‘流量超限’。要是等到高峰期,可能问完一个问题,AI 就会提示我‘休息一会’。其实不是我累了,是它忙不过来了。"
郑纬民拿亲身体验举例,大家常用的 DeepSeek 大模型,背后是由 6000 多块芯片组成、耗资 20 多亿元的 " 超级芯片 ",但即便如此,高峰时段还是扛不住频繁的用户查询需求。
郑纬民介绍,针对企业部署本地推理的高成本问题,业内一项解决办法是 "CPU+GPU" 协同的 " 性价比 " 方案。具体来说,就是把 AI 最需要快速运算的核心参数放在 GPU 里,把占比更高、不那么急的普通参数放在 CPU 里。这样一来,只用一套更低成本的设备,就能让大模型 " 满血 " 运行。
郑纬民透露,现在这个方案已经被多家大模型企业采用,相当于给企业提供了 " 平价解决方案 "。
而这两项技术创新,正让 AI PC 概念加速走向现实。
" 有可能过两年,在座各位都会用上 AI PC。" 郑纬民预判,就像当年计算机普及一样,AI 技术有望从 " 集群级服务 " 向 " 个人级应用 " 发展,这也是当下 AI 行业最值得关注的趋势。
产业价值兑现 AI 重构千行百业
如果说前几年是 AI 的技术竞赛,今年则是产业场景中的价值兑现。
政策层面的系统性布局,为这场变革筑牢了根基。国家层面早已按下加速键。今年 8 月,国务院发布《关于深入实施 " 人工智能 +" 行动的意见》,明确提出到 2027 年,率先实现人工智能与 6 大重点领域广泛深度融合,新一代智能终端、智能体等应用普及率超 70%。
地方层面的实践则让政策落地生根,以四川为例,四川推进人工智能 " 一号创新工程 ",将其纳入 "15+N" 重点产业链,打造国家创新试验区,34 个本土垂直大模型落地生根,形成政策与产业共振的良好生态。
工信部电子信息司副司长史惠康表示,当前,以先进计算为核心驱动力的科技创新正加速重构全球产业格局,催生出生成式人工智能、具身智能、数字孪生等前沿应用,深刻改变着人们的生产和生活方式,重塑全球创新格局和产业生态。
以技术突破、政策赋能为双引擎,AI 的产业应用快速落地。
以人工智能的重要分支具身智能为例,华为技术有限公司昇腾计算业务副总经理刘伟现场提供了一组数据:2024 年具身领域投融资超过 300 亿美元,是 2023 年的 3 倍以上,全年我国机器人相关企业注册量就超 19 万家。同时,海外英伟达、特斯拉、OpenAI 等巨头加快布局大模型 + 具身智能,并视为第二增长曲线。到 2025 年,大模型迅猛发展,引领 AI、智能体、具身智能等产业爆发,加速 AI 在行业核心场景的落地。
若把具身智能视为 AI 的 " 四肢 ",智能体则是驱动产业协同的 " 大脑 "。
2025 年,被普遍认为是大模型智能体的 " 元年 "。天府绛溪实验室先进计算前沿研究中心业务支持部副部长李昕表示,随着人工智能从 " 大模型 " 迈向 " 大应用 ",多智能体协同技术正在打破单一应用的局限," 智能体经济 " 已然成型。AI 浪潮下,多智能体协同完成生产调度、质量检测、设备维护的全流程,在智慧城市里联动交通、安防、政务系统高效运转,释放规模化的智能价值。
随着算力产业指数级增长、技术持续突破、生态协同开放态势,AI 普惠已不是抽象概念,而是通过 "To B+To C" 双轮驱动,深度融入医疗、公安、金融、政务等社会运转的方方面面。
每日经济新闻


登录后才可以发布评论哦
打开小程序可以发布评论哦