Agent改写算力账本,CPU不再是AI服务器的配角?
事件
AI算力的投入逻辑正在发生变化:企业不再只盯着加速卡采购,而是转向搭配一整套均衡配置的算力机柜,CPU由此重新回到预算表的中心位置。过去以训练为主的采购思路是尽量多堆GPU、压缩其他部件成本,如今这一思路正在被智能体(Agent)负载改写。
原因在于负载结构变了。智能体执行任务时,需要反复做工具调用、任务编排、检索与数据预处理、状态与会话管理,这些环节主要落在CPU与内存子系统上;一旦调度跟不上,昂贵的加速卡就会空转,整机吞吐被拖慢。因此机柜设计更强调CPU与加速卡的合理配比、内存容量与带宽,以及节点间互联和散热能力。
对企业而言,影响体现在采购与评估两端:整柜交付、液冷与高速互联方案的价值上升,单看加速卡数量已不足以判断算力水平,更应关注端到端吞吐和单位任务成本。服务器厂商与云服务商的竞争点,也从卖卡转向卖整套均衡算力方案。
来源
本条目由采集管线自动抓取并发布,完整内容见下方来源链接。
*采集源:钛媒体*