英伟达自测 Vera CPU:跑智能体时,每瓦吞吐比“最快 x86”高 60%
作者:陈一帆
英伟达 11 月 5 日发布博文,公布自家服务器 CPU Vera 在智能体负载上的测试数据:在 100 兆瓦数据中心场景中,Vera 每瓦可支持 1.6 倍于“最快 x86”的智能体数量,相比“能效最高 x86”,智能体速度快 2 倍。数字来自厂商自测与五家合作方自报,尚待第三方验证。

11 月 5 日,英伟达发布博文,公布自家服务器 CPU Vera(今年 3 月 16 日发布)在智能体负载上的实测结果:在 100 兆瓦数据中心的对比场景里,相比“速度最快的 x86 CPU”,Vera 每瓦能支持 1.6 倍的智能体数量,也就是多出 60%;相比“能效最高的 x86 CPU”,智能体执行速度快 2 倍。数字全部来自英伟达自测和合作方自报,目前没有第三方独立验证 。
智能体为什么忽然吃起 CPU
过去谈 AI 服务器,大家盯的是 GPU:训练大模型、跑推理,算力越大越好。智能体(agent)的工作方式不太一样。它不只是生成一段答案,还得搜资料、查数据库、写代码、把代码真跑一遍看对不对,然后再根据结果决定下一步 。
打个日常的比方:GPU 像脑子,负责“想”;CPU 像腿和手,负责跑腿办事。模型每想一步,就要把动作交给 CPU 执行;执行完,结果再送回 GPU 判断。任务越复杂、步骤越多,这种来回切换就越频繁,CPU 侧的调度、并发和响应速度就成了实际体验的上限 。
英伟达由此给出的判断是:企业把智能体规模化部署之后,数据中心的瓶颈正从“算力够不够”转向速度、并发能力和能耗三者的平衡 。换成运营视角,就是同样的电力额度下,能同时养活多少个智能体、每个智能体多久能出结果。
合作方各自报了数字

博文附了几家早期合作方的测试结论。Perplexity 称,用 Vera 跑智能体编码任务比传统 CPU 快 1.5 倍,并计划投入生产系统;DeepInfra 称,在智能体编排任务中,Vera 比最佳 x86 处理器快至多 2.2 倍;ClickHouse 称,其标准软件不做专门优化,就能在 176 核上接近线性扩展,并登上 ClickBench 硬件排行榜;Daytona 称,用 Vera 启动 1000 个智能体沙箱只需 10.8 秒,在 2000 个并发沙箱下每秒完成 12.7 个任务,而 x86 平台需要 88.4 秒;Modal 称,每核沙箱吞吐量最高达到同类 x86 硬件的 2 倍 。
这些场景有个共同点:都更看重大量小任务在同一时间被调度和切换,而不是单次跑一个巨大的模型。沙箱启动时间、每核吞吐这类指标,恰好是开发者感受最直接的部分。
换个问法比芯片
从工程角度看,比“快多少”更值得注意的是指标变了:以前比 FLOPS,每秒能算多少次;现在开始比每瓦能跑多少个智能体 。当机柜的电力上限是固定的,这就更像按能效标签挑家电,而不是只看峰值功率。
不过界限要说清楚。据现有公开报道,博文没有点名对比的 x86 具体型号,“最快”和“能效最高”都是英伟达自己挑的参照对象;测试负载由哪些任务构成、60% 这个数字怎么统计,也只给了结果、没给方法 。五家合作方的数据同样属于自报,硬件配置是否对等无法从现有信息判断;其中 ClickBench 榜单公开可查,是最容易自己复核的一块。
Perplexity 说要把 Vera 放进生产系统,如果真落地,外部验证迟早会来。在那之前,把这组数字当成厂商给出的能力预期,比当成评测定论更合适。
转载说明
本文根据以下公开资料整理,原文及配图出处见下方。
- [S1] AI 时代最强“芯脏”:英伟达实测 Vera CPU,较最快 x86 CPU 每瓦多跑 60% 智能体
- 配图 1:来源:www.ithome.com(图片署名见原文) · 图片出处
- 配图 2:来源:www.ithome.com(图片署名见原文) · 图片出处
评论 0
还没有评论,来抢沙发。