谷歌高管：Agent如何重塑AI基建

谷歌AI基础设施首席技术专家Amin Vahdat表示，长时程智能体是今年AI工作负载的最大变化之一。智能体打破人类与LLM的秒级交互，转向毫秒级连续请求，推理解析更多依赖CPU并不断抓取DRAM、SSD等上下文，催生海量编排。加速器、CPU、网络、存储需求齐涨，数据中心设计面临混放或分楼的权衡。