NVIDIA 发布 Vera CPU

AI 智能体不仅仅是生成答案。它们还会搜索信息、查询数据库、编写和测试代码并采取行动。

这些步骤中的每一个都依赖于 CPU，智能体在整个任务执行过程中会在 GPU 推理和 CPU 执行之间切换。

随着企业投入更多智能体进行工作，AI 工厂需要能够快速执行这些步骤并同时支持大量智能体的 CPU，且所有这些都必须在可用功率的限制之内。

这意味着： AI 基础设施提供商需要在不增加每个智能体等待时间的情况下支持更多智能体。至关重要的是，AI 工厂受到电力限制。这意味着运营商需要选择能够使每一瓦特功率完成的工作量最大化的基础设施。

为什么这很重要： NVIDIA Vera 在单个 CPU 内同时实现了快速的智能体性能和极高的每瓦容量。这为提供商提供了用于各种智能体工作负载的单一 CPU，而不必混合搭配速度快和密度高的 x86 部件来平衡速度与容量。

证明这一点的有力数据： 在 100 兆瓦数据中心的对比中，NVIDIA 发现单个 Vera CPU 的性能优于最快的 x86 CPU 和最具能效的 x86 CPU。

合作伙伴已经开始将 Vera 投入实际应用。早期采用者在生产级测试中看到了同样出色的性能：

Perplexity：使用 Vera 运行智能体编码任务的速度比在传统 CPU 上快 1.5 倍。Perplexity 计划在即将推出的生产系统中部署 Vera。
DeepInfra：在生产智能体工作负载的智能体编排方面，其速度达到了最佳 x86 处理器的 2.2 倍，在所测试的四种架构中实现了最快的速度。
ClickHouse：其标准二进制文件在没有进行 Vera 特定调优的情况下，在 176 个核心上实现了近乎线性的扩展，并登顶 ClickBench 硬件排行榜。
DuckLabs：实现了英特尔 Xeon 6 基准测试中 TPC-H SF1000 中位数性能的大约 1.5 倍。
Daytona：使用 Vera 在 10.8 秒内上线了 1,000 个智能体沙盒，在 2,000 个并发沙盒下实现了每秒 12.7 个完成的作业，而 x86 则需要 88.4 秒。
Modal：与同类 x86 硬件相比，每个核心实现了高达 2 倍的沙盒吞吐量，并且在重负载下增幅进一步扩大。

了解更多关于 NVIDIA Vera CPU 的信息。