NVIDIA 扩展机密计算能力,推出 Confidential Bare Metal 等部署选项
NVIDIA Confidential Computing Expands, Enabling Frontier Model Builders to Securely Scale Across Global Infrastructure
NVIDIA 宣布扩展机密计算能力并推出全新部署选项 Confidential Bare Metal,使前沿模型构建者能够在第三方基础设施上安全地运行敏感工作负载。该能力由硬件级隔离与加密证明支撑,并已扩展至 Grace Blackwell 和 Rubin 等系统,同时获得 Cohere、Google Cloud 等多家企业支持。
文章公布了机密计算在裸金属等形态上的扩展与多方支持,读者可以据此评估其在保障前沿模型与训练推理隐私方面的最新方案。
NVIDIA 正在构建工具以实现安全的智能体 跨技术栈。今天宣布的 NVIDIA OpenShell 参考架构是 NVIDIA 不断扩大的技术组合的一部分,该技术组合使组织能够安全地大规模部署智能体。NVIDIA 机密计算是保护这些智能体在运行所依赖的模型和数据的底层基础设施。
今天,NVIDIA 正在通过机密裸金属(Confidential Bare Metal)扩展这一层,这是 NVIDIA 机密计算的一项新部署选项,使前沿模型构建者能够在专用的第三方基础设施上运行敏感工作负载,同时保留对其模型和数据的控制权。
NVIDIA 正在引入新的平台安全控制,以保护传输中的数据、衡量平台完整性并实施硬件级访问限制。当在第三方云、新云(neocloud)和企业基础设施的 NVIDIA 加速计算基础设施上运行定制软件栈(包括主机和平台基础设施软件)时,这些新控制可让前沿模型构建者使用裸金属实例来拥有和运营其软件栈。
NVIDIA 机密计算现提供具有三种部署选项的融合安全架构:
- 用于裸金属基础设施的机密裸金属
- 用于 Kubernetes 环境的机密容器
- 用于虚拟化环境的机密虚拟机
组织可以根据其信任边界和运营要求匹配合适的模型。
NVIDIA 机密计算还在 NVIDIA Grace Blackwell 和 Rubin 系统中不断扩展,并将与 NVIDIA DSX OS 集成,作为构建 AI 工厂的云服务提供商的参考架构。
模型构建者利用全球算力
机密裸金属为受支持的提供商提供了一种途径,以服务需要强模型和数据隐私保护的高价值工作负载。对于模型构建者来说,不断扩大的生态系统为在全球范围内扩展训练和推理提供了更多的地理、主权和运营选择。
Cohere 计划将机密裸金属集成到 Cohere Model Vault 中,利用 NVIDIA 机密计算可信执行环境将硬件级根基的安全直接扩展到 GPU —— 在执行期间保护内存中和互连上的模型和数据。
“企业信任 Cohere 提供安全且机密的推理平台,”Cohere 首席技术官 Phil Blunsom 表示。“通过 Cohere Model Vault 中的 NVIDIA 机密计算,我们将硬件级根基的安全直接扩展到 GPU,在执行期间保护内存中和互连上的客户数据。”
Google Cloud 正在将对机密裸金属的支持扩展到由 NVIDIA GB300 NVL72 系统驱动的 A4X Max 实例。这些实例将结合非虚拟化的 NVIDIA 加速计算与针对训练数据和模型知识产权的密码保护。
“Google Cloud 推出机密裸金属(Confidential Bare Metal),为 AI 实验室提供硬件隔离、非虚拟化的计算环境以及端到端加密保护。我们基于 NVIDIA 机密计算构建的 A4X 实例能够保护用户数据的隐私,保护模型知识产权,并提供顶级的服务性能,”Google Cloud 杰出工程师兼 AI 基础设施安全主管 Andrés Lagar-Cavilla 表示。
机密计算扩展至 NVIDIA 平台
NVIDIA 机密计算采用根植于硬件的隔离和加密证明技术,帮助保护运行过程中的模型和数据。
支持范围现已扩展至 NVIDIA Grace Blackwell NVL72 —— 将机密计算引入 NVL72 机架级系统 —— 以及基于 x86 的 NVIDIA HGX Rubin NVL8 和 NVIDIA DGX Rubin NVL8 系统。
CoreWeave、Firmus、GMI Cloud、Google Cloud、IREN、Lambda、Microsoft Azure Infrastructure、Nebius、Nscale 和 Vultr 支持 NVIDIA 机密计算部署。包括 Cisco、Dell Technologies、HPE、Lenovo、Supermicro 和 Bull 在内的全球系统合作伙伴将通过 NVIDIA 认证系统支持这些功能。
NVIDIA DSX OS 将支持所有 NVIDIA 机密计算模式,为云服务商构建和运营支持机密工作负载的 AI 工厂提供软件基础。
了解有关 NVIDIA 机密计算的更多信息。
来源:NVIDIA Blog · blogs.nvidia.com