英伟达Vera CPU号称可规模化单线程最强,智能体AI负载性能是x86的1.8倍

可规模化单线程最强 CPU:英伟达 Vera 在智能体 AI 负载下持续性能是 x86 的 1.8 倍

精选理由

英伟达的Vera CPU专为智能体AI打造,单核性能比x86强1.8倍,编码和数据库分析都更快,值得关注。

AI 摘要

英伟达发布NVIDIA Vera CPU,称其为可规模化单线程最强CPU。在智能体AI负载下,其单核持续性能是x86的1.8倍。相比NVIDIA Grace,自研Olympus核心每周期指令数高50%。Perplexity测试显示,Vera完成真实编码流程速度约为x86的1.5倍,并发沙箱启动速度最高为x86的1.9倍。合作伙伴测试中,Starburst SQL分析速度可达领先x86服务器的3倍,Redpanda实时流处理延迟最低降至1/6。

原文 · IT之家

可规模化单线程最强 CPU:英伟达 Vera 在智能体 AI 负载下持续性能是 x86 的 1.8 倍

IT之家 6 月 29 日消息,英伟达昨日(7 月 7 日)发布博文,指出在智能体 AI 时代,NVIDIA Vera CPU 成为“可规模化单线程最强 CPU”, 持续单核性能是 x86 的 1.8 倍。 在博文中,英伟达提出“可规模化单线程最强 CPU”(Max single-threaded CPUs at scale)概念,指出在智能体 AI 推理、响应和学习过程中,CPU 需要承担工具调用、代码执行、数据处理、KV 缓存和结果分析等任务,而单线程是衡量速度的一个关键指标。 英伟达在官方博文中指出,NVIDIA Vera 就是此类新型 CPU 的代表,面向智能体循环中的串行步骤设计,相比较 NVIDIA Grace,其自研 Olympus CPU 核心每周期指令数高 50%。 在硬件参数方面,Vera 配备最高 1.2TB/s 的 LPDDR5X 内存带宽,内存功耗低于 40 瓦;同时采用单片计算裸片设计,核心间带宽为 3.4TB/s。 在性能对比方面,英伟达称,在智能体 AI 执行的满载 CPU 工作负载中,Vera 的单核持续性能为 x86 的 1.8 倍。 Perplexity 测试一项真实编码流程,即克隆代码仓库并在沙箱中运行测试套件,结果显示 Vera 完成任务速度约为 x86 的 1.5 倍,并发沙箱启动速度最高为 x86 的 1.9 倍。 在数据处理类负载中,合作伙伴测试显示,Vera 运行 Starburst(分布式 SQL 分析平台)的大规模 SQL 分析速度可达领先 x86 服务器 CPU 的 3 倍;在 Redpanda(流式数据平台)实时流处理场景中,延迟最高可降低至 1/6。

英伟达Vera CPU号称可规模化单线程最强,智能体AI负载性能是x86的1.8倍 · AI 热点