Google Cloud 与 NVIDIA 宣布推出 NVIDIA Vera Rubin 基础设施
Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure
Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式商用，A5X 实例将于下月提供。该实例整合了 Vera Rubin NVL72、ConnectX-9 SuperNICs 等硬件，将为大规模强化学习和智能体推理提供支持，首批客户包括 Ineffable Intelligence 与 WPP。
原文公布了新基础设施的落地进展与首批客户案例，读者可以据此了解其在超大规模强化学习和智能体工作负载中的性能与应用形态。
这些实例将于下个月正式全面上市，并计划向欧洲扩展，为云客户带来一个用于训练、推理和大规模强化学习的集成平台。
A5X 实例集成了 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNICs、Google Cloud Virgo Network 以及 Google Cloud 的第四代先进液体冷却技术，可满足大规模高要求的智能体推理和强化学习工作负载的需求。Google Cloud 计划在多个站点将其基于 Vera Rubin 的基础设施扩展到多达 960,000 个 Rubin GPU。
Ineffable Intelligence 是一家总部位于伦敦的科技公司，由 AlphaGo 创始人 David Silver 创立，是首批接入 A5X 的客户之一。Ineffable 正在利用该平台推进大规模强化学习，并塑造能够从经验中持续学习的“超级学习者”（superlearner）系统。
通过互动进行学习需要一个包含生成经验、评估结果和更新模型的连续循环，这需要能够大规模支持整个流程的基础设施。A5X 将 Vera Rubin 引入 Google Cloud 的 AI 超级计算机作为一个集成系统，结合了计算、网络和存储，以支持大规模的经验驱动型学习。
“我们正在构建能够通过自身经验不断改进的超级学习者，”Ineffable Intelligence 创始人兼首席执行官 David Silver 表示。“这既需要大量的计算能力，又需要在生成经验和在其上进行训练之间建立紧密的连接，以便智能体的每一次改进都能迅速塑造其下一次经验。Vera Rubin 在计算性能和高带宽连接方面的结合——包括 Vera CPU 与 Rubin GPU 之间以及机架内 Rubin GPU 之间——使我们能够进一步推进强化学习研究的规模和雄心。”
WPP 是一家总部位于伦敦的营销和传播公司，它还使用 NVIDIA Nemotron 模型和 NVIDIA OpenShell（安全 AI 智能体 NVIDIA OpenShell 参考架构的一部分）在基于 NVIDIA Vera Rubin 的 A5X 实例上展示了其创意智能体参考架构。
这些智能体将对话请求转化为多步骤的创意工作流，例如视频生成、超分辨率放大和风格重塑，并在执行前获得人工批准。OpenShell 为智能体执行提供受管制的沙盒，帮助控制对敏感品牌资产和创意工具的访问。在 WPP 的初步测试中，通常需要多节点集群的工作负载在单个 A5X 实例上即可运行。
随着各组织部署智能体系统，他们需要保护为其提供动力的专有模型和敏感数据——即使在运行于他们并不拥有的基础设施上时也是如此。
Google Cloud 将成为首批在裸金属实例（例如由 NVIDIA GB300 NVL72 驱动的 A4X Max 实例）上以机架规模提供 NVIDIA 机密计算（NVIDIA Confidential Computing） 的云服务商之一。此外，Google Cloud 正在由 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 驱动的 G4 VM 上 正式推出 机密计算，为机密推理和微调提供灵活的平台。包括 Vertebrae、Polaris Cloud 和 Confidential Core AI 在内的客户正在使用机密 G4 进行对话隐私保护、可验证的智能体执行和策略管辖的企业智能。
为了支持大规模的高能效部署，Google Cloud 与 NVIDIA 正在探索基于 Vera Rubin 的基础设施的 NVIDIA DSX MaxLPS 功能，以帮助优化每瓦性能并在可用数据中心功耗预算内扩展容量。
了解有关 NVIDIA Vera Rubin 和 Google Cloud A5X 实例的更多信息。
来源：NVIDIA Blog · blogs.nvidia.com