Agentic AI新趋势：亚马逊AWS出现“CPU短缺”

fudashuai

来源：华尔街见闻

AI Agent的爆发式普及正在引发一场意想不到的算力危机——不是GPU，而是CPU。

8月7日，据科技媒体The Information报道，亚马逊云服务（AWS）高管今年5月召集工程师开会，传达了一个警示性信号：为确保旗下EC2云服务器业务未来能够满足所有客户需求，工程师必须尽一切可能节省算力资源。这一要求不仅涵盖AI芯片，也明确指向长期支撑互联网时代运转的传统CPU服务器。

报道称，这一内部动作折射出更广泛的行业趋势：随着越来越多的企业员工借助AI Agent开发软件，CPU需求正在急剧攀升，算力紧缺的压力已从GPU蔓延至整个计算基础设施。AI咨询机构Elendil Labs联合创始人兼董事总经理Jing Xie表示，他观察到客户的人均IT支出翻倍，直接原因正是AI Agent的大规模使用。

内部告急：工程师等待CPU资源从数小时延长至数天

据报道，知情人士透露，AWS已向各团队设定截止期限，要求在今年晚些时候削减计算资源占用。工程师们正在下线此前用于软件开发、如今已闲置的EC2虚拟服务器实例，以便将这部分算力重新分配给外部客户。

一名在AWS工作数年的工程师表示，过去只需数小时便能获取的CPU服务器资源，如今需要等待数天，这在其职业生涯中从未遇到过，并直言这种等待可能影响项目交付进度。

AWS方面对此回应称，即便面临"大量需求"，公司仍能满足"绝大多数内外部客户的计算需求"，并强调正与内部团队密切协作，确保EC2资源得到高效利用，"一如既往"。AWS同时表示，其给予员工的指导方针并未因当前的内存紧缺而发生改变。

不过，据报道，目前，外部客户所受影响相对有限。一位协助企业使用AWS的顾问表示，他尚未观察到客户通过合同承诺的CPU算力出现运营层面的短缺。

然而，AWS的"竞价实例"（Spot Instances）——即AWS以大幅折扣出售、但可在两分钟内收回的溢出服务器资源——近几个月来已愈发难以大批量获取。

分析认为，这一信号表明，AWS整体算力的供需缺口正在收窄，弹性空间已大幅压缩。对于依赖低成本竞价实例运行大规模工作负载的企业客户而言，这或许预示着云计算成本上行压力的到来。

AI Agent驱动CPU需求激增，算力缺口超出预期

此次CPU短缺的核心驱动力(6.700, -0.15, -2.19%)，是Agentic AI的快速普及。Jing Xie指出，AI Agent在运行过程中通常需要调用更多云计算资源，并由此产生对CPU的持续性需求。

即便在AI开发流程内部，CPU同样扮演着不可或缺的角色——例如，AI公司在为模型训练准备数据时，需要通过CPU从文档、图像和视频中读取原始数据。

芯片厂商的表态进一步印证了这一趋势。

英特尔CEO Lip-Bu Tan在今年4月的财报电话会议上披露，AI推理（即模型运行）中CPU与GPU的使用比例为1比4；而到7月，英特尔首席财务官David Zinsner表示这一比例已接近1比1。AMD和Arm的高管也发表了类似评论。

除CPU本身外，与CPU配套使用的内存芯片供应不足，以及数据中心物理空间的限制，也在共同加剧这场算力紧缺。

值得关注的是，算力的内外部分配平衡，已成为大型科技公司近两年面临的共同挑战。

据The Information此前报道，谷歌去年专门成立了一个由高级管理人员组成的委员会，负责在Google Cloud、DeepMind AI研究部门及消费者业务之间协调算力分配。即便如此，内部摩擦依然存在——谷歌明星AI研究员Noam Shazeer今年夏天早些时候因对算力获取感到不满而离职。

微软的经验则展示了另一面：算力管理效率的提升可以直接转化为营收增长。微软首席财务官Amy Hood在上月的财报电话会议上将Azure云服务的部分增长归因于CPU和GPU机群管理上的"效率提升"。