"2026 云栖大会 " 于 9 月 22 日 -24 日在杭州举行。平头哥半导体副总裁高慧出席并演讲。

高慧表示,在 Agent 应用当中,AI 负载发生了三个不可逆的变化。
第一,算力重心正在从训练为主,走向推理优先。
第二,负载形态从单轮请求走向多步编排。
第三,竞争维度从单芯片指标比拼,转向系统级协同。
高慧判断:Agent 时代,不再是一款 CPU 通吃全部场景,CPU 会分化成两条产品线,对应两种完全不同的负载需求。
第一种,延迟敏感型。服务 AINode,承担请求预处理、GPU 内核调度。每一步都穿插在 GPU 推理前后,CPU 和 GPU 互相等待,每一微秒都影响用户体验。要求单核性能强、内存带宽高、与 GPU 互联路径短。
第二种,吞吐并发型 CPU。服务 Agent,承载工具调用、检索、沙箱执行。不是单个 Agent 运行,而是成百上千 Agent 并发,要求核心数量多、内存容量大、隔离性强、单核成本更低。
" 一个追求极致低延迟,一个追求超大并发。单颗芯片很难同时做到两者最优,所以我们选择分开设计,各自做到极致。" 高慧说道。
高慧指出,AI 带来的改变,不只是模型更强、芯片更快,而是在重新定义整套计算系统。在这套新系统里,玄铁芯片产生智能,倚天 CPU 驱动智能执行动作,网络让算力形成规模,存储让上下文与知识持续流动。未来 AI 会像电力、互联网一样,成为无处不在的基础设施。
新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。


登录后才可以发布评论哦
打开小程序可以发布评论哦