AI Agent 的爆发式普及正在引发一场意想不到的算力危机——不是 GPU,而是 CPU。
8 月 7 日,据科技媒体 The Information 报道,亚马逊云服务(AWS)高管今年 5 月召集工程师开会,传达了一个警示性信号:为确保旗下 EC2 云服务器业务未来能够满足所有客户需求,工程师必须尽一切可能节省算力资源。这一要求不仅涵盖 AI 芯片,也明确指向长期支撑互联网时代运转的传统 CPU 服务器。
报道称,这一内部动作折射出更广泛的行业趋势:随着越来越多的企业员工借助 AI Agent 开发软件,CPU 需求正在急剧攀升,算力紧缺的压力已从 GPU 蔓延至整个计算基础设施。AI 咨询机构 Elendil Labs 联合创始人兼董事总经理 Jing Xie 表示,他观察到客户的人均 IT 支出翻倍,直接原因正是 AI Agent 的大规模使用。
内部告急:工程师等待 CPU 资源从数小时延长至数天
据报道,知情人士透露,AWS 已向各团队设定截止期限,要求在今年晚些时候削减计算资源占用。工程师们正在下线此前用于软件开发、如今已闲置的 EC2 虚拟服务器实例,以便将这部分算力重新分配给外部客户。
一名在 AWS 工作数年的工程师表示,过去只需数小时便能获取的 CPU 服务器资源,如今需要等待数天,这在其职业生涯中从未遇到过,并直言这种等待可能影响项目交付进度。
AWS 方面对此回应称,即便面临 " 大量需求 ",公司仍能满足 " 绝大多数内外部客户的计算需求 ",并强调正与内部团队密切协作,确保 EC2 资源得到高效利用," 一如既往 "。AWS 同时表示,其给予员工的指导方针并未因当前的内存紧缺而发生改变。
不过,据报道,目前,外部客户所受影响相对有限。一位协助企业使用 AWS 的顾问表示,他尚未观察到客户通过合同承诺的 CPU 算力出现运营层面的短缺。
然而,AWS 的 " 竞价实例 "(Spot Instances)——即 AWS 以大幅折扣出售、但可在两分钟内收回的溢出服务器资源——近几个月来已愈发难以大批量获取。
分析认为,这一信号表明,AWS 整体算力的供需缺口正在收窄,弹性空间已大幅压缩。对于依赖低成本竞价实例运行大规模工作负载的企业客户而言,这或许预示着云计算成本上行压力的到来。
AI Agent 驱动 CPU 需求激增,算力缺口超出预期
此次 CPU 短缺的核心驱动力,是 Agentic AI 的快速普及。Jing Xie 指出,AI Agent 在运行过程中通常需要调用更多云计算资源,并由此产生对 CPU 的持续性需求。
" 基本上,现在构建、生产和运行的大量工作,所需的 CPU 都比过去更多。"
即便在 AI 开发流程内部,CPU 同样扮演着不可或缺的角色——例如,AI 公司在为模型训练准备数据时,需要通过 CPU 从文档、图像和视频中读取原始数据。
芯片厂商的表态进一步印证了这一趋势。
英特尔 CEO Lip-Bu Tan 在今年 4 月的财报电话会议上披露,AI 推理(即模型运行)中 CPU 与 GPU 的使用比例为 1 比 4;而到 7 月,英特尔首席财务官 David Zinsner 表示这一比例已接近 1 比 1。AMD 和 Arm 的高管也发表了类似评论。
除 CPU 本身外,与 CPU 配套使用的内存芯片供应不足,以及数据中心物理空间的限制,也在共同加剧这场算力紧缺。
值得关注的是,算力的内外部分配平衡,已成为大型科技公司近两年面临的共同挑战。
据 The Information 此前报道,谷歌去年专门成立了一个由高级管理人员组成的委员会,负责在 Google Cloud、DeepMind AI 研究部门及消费者业务之间协调算力分配。即便如此,内部摩擦依然存在——谷歌明星 AI 研究员 Noam Shazeer 今年夏天早些时候因对算力获取感到不满而离职。
微软的经验则展示了另一面:算力管理效率的提升可以直接转化为营收增长。微软首席财务官 Amy Hood 在上月的财报电话会议上将 Azure 云服务的部分增长归因于 CPU 和 GPU 机群管理上的 " 效率提升 "。
" 当我们能够实现效率提升时,这些收益会被迅速货币化。"


登录后才可以发布评论哦
打开小程序可以发布评论哦