ARTICLE / 雷锋网

一颗288核的至强6+,为什么能同时运行500个Agent?

2026年06月01日 18:20 · 来自 雷锋网

阅读原文 → 收藏

过去两年,AI基础设施行业有一个几乎无人质疑的共识:GPU决定AI的上限。 从大模型训练到推理部署,产业的关注点几乎都围绕着GPU展开。显存够不够大、带宽够不够高、Token吞吐量能达到多少,成为衡量AI基础设施能力的核心指标。 但Agent的出现,正在改变这套逻辑。 与传统聊天机器人不同,Agent并不只是完成一次问答,而是需要持续执行任务。它需要调用工具、访问数据库、浏览网页、管理记忆系统,甚至不断创建和调度新的子Agent协同完成工作。 当AI开始从生成答案转向执行任务,一个长期被GPU光环掩盖的角色重新回到了舞台中央——CPU。 <span style="font-size: 16p