NVIDIA 在 GTC Berlin 发布本地 AI 硬件矩阵、软件更新及端侧模型支持
Bringing the Spark to Europe: Local Intelligence Powers Next Wave of Agents
NVIDIA 在 GTC Berlin 展示了包括 RTX Spark、DGX Spark 和 DGX Station 在内的全线本地 AI 硬件阵容,并宣布推出 DGX Station for Windows、模型支持以及针对推理引擎的优化。
NVIDIA 在 GTC Berlin 公布了面向本地 AI 硬件的完整产品矩阵、软件更新及模型支持,为开发者和企业部署端侧智能体提供了新方案。
在柏林 GTC 大会上,NVIDIA 正在展示其全线本地 AI 硬件产品。RTX Spark(于上周发布)为 Windows PC 上的个人智能体提供动力;DGX Spark 支持开发人员在 Linux 上构建和扩展应用程序;DGX Station 则为在 Linux 上运行前沿工作负载的企业团队提供服务,Windows 版本将于 12 月推出。
相关公告包括:
- Underdog Desktop Agent 现已登陆 RTX Spark
- DGX Spark 64GB 将于 10 月 23 日星期五上市
- NVIDIA Sync 将于本月支持 8 台 DGX Spark 并新增 Model Launcher
- 10 月份的 DGX Spark 软件更新添加了 Wi-Fi Assistant 并更新了 DGX Spark Skills
- DGX Station 通过七项新集成改进了可管理性
- 面向 Windows 的 DGX Station 将于 12 月推出,支持众多制造应用程序和智能体框架
- 针对 DGX Station 机器人的三个全新开源参考工作流
- NVIDIA Cloud Functions 即将以抢先体验版形式登陆 DGX Station
- Recursive Flint 是一款全新的本地编码模型,现已适用于 NVIDIA 本地硬件
- 对新型 Nemotron、GLM、DeepSeek、Qwen、MiniMax 和 FLUX.3 AI 模型提供 Day-0 支持
- 针对 llama.cpp 和 vLLM 推理引擎的新加速,以及针对本地 AI 硬件优化的全新检查点集合。
了解更多关于这些本地 AI 公告的信息,并查看柏林 GTC 大会上的演示和场次。
RTX Spark 将个人智能体带入 Windows PC
RTX Spark 是 PC 的全新起点——配备高达 128GB 的统一内存和 1 petaflop 的 AI 计算能力,可运行个人智能体、加速内容创作并实现 1440p 100 帧/秒的游戏体验。
以下是早期评测人员自 10 月 16 日发布以来对该平台的评价:
“严肃创作者的梦想机器……” — CGMag
“为 AI 的未来而设计……” — The Verge
“一台功能极其强大、出人意料地便携且高效的机器……” — PCMag
Underdog 是一款专为完全本地、私密 AI 构建的新桌面智能体应用,也将其体验带到了 RTX Spark 上。在其专用 Husky 模型推理引擎的驱动下,Underdog 在设备上完全运行模型,因此个人智能体可以在不让用户数据离开 PC 的情况下完成工作。Underdog 现已可下载。
为了更好地使开发人员和爱好者能够构建和定制本地智能体,许多 RTX Spark 笔记本电脑都配备了解锁的引导加载程序。
在 GTC 主题演讲中,NVIDIA 创始人兼首席执行官黄仁勋展示了如何利用运行在 RTX Spark 上的 AI 智能体,通过 NVIDIA Isaac Lab、Hermes Agent 和 Nemotron 3.5 Bolt 74B 来训练Hugging Face 的 Microduck 机器人。
ASUS、Dell Technologies、HP、Lenovo、Microsoft 和 MSI 笔记本电脑现已上市,Acer 也即将推出。
了解有关 RTX Spark 的更多信息,并开始使用最新的 RTX Spark 业务手册。
DGX Spark 为开发者提供广阔的构建空间
全新 DGX Spark 64GB 系统(能够运行包括 Nemotron 3.5 Bolt 74B 24GB、Qwen3.8 27B 和 Gemma 4 26B-A4B 在内的模型)将于 10 月 23 日星期五开始由合作伙伴陆续推出。
当工作负载需要更大容量时,开发者可以通过内置的 NVIDIA ConnectX-7 网络和 NVIDIA Sync Cluster Assistant 连接多个 DGX Spark 系统。这允许用户运行诸如 Qwen 3.8 Flash Next、DeepSeek v4 Flash 0731 和 GLM 5.3 Flash 等高级编程模型。
现在,DGX Spark 支持在手动配置下最多八个单元的集群,从而支持更大的模型、更长的上下文、并发代理和分布式开发。它非常适合共享单个集群作为后端的小型团队,每个开发人员针对同一模型运行并发会话,它可提供 1TB 的统一内存——足以运行诸如 GLM 5.3 等前沿级模型。
开始使用 DGX Spark 集群业务手册。
NVIDIA Sync Model Launcher 也将于本月晚些时候推出。它简化了在单个 DGX Spark 或集群上访问本地 AI 的流程。只需点击几下,Model Launcher 即可下载适合该配置的模型和容器,并将模型连接到 OpenCode。它会自动加载 DGX Spark 技能,用于故障排除、设备维护、访问官方文档以及其他工作流指导。
10 月份的 DGX Spark 软件更新带来了全新的 Wi-Fi 助手,允许用户在 DGX Spark 以设备模式运行时切换网络。此外,DGX Spark 技能通过 OpenCode 直接向 NVIDIA Sync 提供以工作流为中心的故障排除和设备维护指导。
DGX Spark 系统可直接从 Acer、ASUS、Dell Technologies、GIGABYTE、HP、Lenovo、MSI 和 NVIDIA 购买。
DGX Station 将前沿智能带到桌面
对于更大的团队,DGX Station 提供 748GB 的一致性内存和高达 20 petaflops 的 AI 性能,使开发人员能够运行诸如 GLM 5.3 等高级模型,并以可媲美云模型的速度为 30 多个用户提供服务。为了实现规模扩展,NVIDIA Sync 现在支持 DGX Station,从而简化了两个基于 Linux 的系统之间的连接。
与 Absolute Security、Splunk by Cisco、Fleet Device Management、Microsoft Intune、Perforce Puppet、Progress Software Chef 和 Tanium 的全新集成,使 IT 团队能够通过企业设置、管理和合规流程来管理 DGX Station 系统,从而有助于加速审批、降低部署风险,同时将首次令牌生成时间缩短至最短。
随着即将推出的基于 Windows 的系统,开发人员可以构建能够利用专业应用程序的工作流,运行于 NVIDIA RTX PRO GPU 上,并由在 NVIDIA GB300 系统上运行其大语言模型 (LLM) 的智能体进行操作——这一切都可以在一台机器上完成。
DGX Station for Windows 预计将于 12 月由系统制造商合作伙伴推出,它将本地人工智能扩展到企业已经在使用的应用程序和操作环境中。工程师可以在 Windows 原生软件中运行本地模型和智能体,同时在同一系统上访问人工智能模型、工具和智能体。
DGX Station for Windows 将支持来自 nTop、Dassault Systèmes、Keysight Technologies、MathWorks、Rockwell Automation、Siemens、Synopsys、Unity 和 Altera 的制造应用程序,用于人工智能引导的设计、仿真、验证和工程自动化。用户将能够在本地运行使用 Hermes Agent、Perplexity 或 Aible 的智能体,以便在企业环境中进行智能体控制。
同样本地且可控的计算模型也延伸到了机器人技术。DGX Station 为机器人团队提供用于后训练、仿真和评估的专用计算,缩短了迭代周期,无需等待共享基础设施。
NVIDIA 发布了三个开源参考工作流,将 GPT-6 Astra、NVIDIA Isaac Lab、Isaac Lab-Arena 和 Cosmos 带给 NVIDIA DGX Station。开发人员可以使用它们通过强化学习来优化 GR00T 1.7 模型、训练灵活的操控技能,并对 Cosmos 世界模型进行后训练以生成合成数据。
NVIDIA Cloud Functions 即将以抢先体验版形式登陆基于 Linux 的 DGX Station。团队可以在共享目录中注册本地模型端点,并通过一个兼容 OpenAI 的入口点进行访问。
开发人员无需更改应用程序代码即可升级端点背后的模型,而队友则无需直接访问机器即可使用共享模型。这使 DGX Station 成为团队本地可控的推理服务。
DGX Station 为人工智能工厂开发带来了本地迭代。在 GTC Berlin 的展厅里,NVIDIA 预览了运行在 DGX Station 上的 DSX OS,以便在完整基础设施可用之前模拟人工智能工厂的运营。另一个演示将展示为 30 多名软件开发人员提供本地 Token 工厂支持的 DGX Station 系统。
DGX Station 系统现已由 ASUS、Dell Technologies、GIGABYTE、HP、MSI、Supermicro 和 Exxact 发货。针对 Windows 系统的 DGX Station 预计将于今年晚些时候由 ASUS、Dell Technologies、GIGABYTE、HP、MSI 和 Supermicro 开始发货。
推出 Recursive Flint — 一款针对 RTX Spark 优化的全新本地编程模型
今天,前沿 AI 实验室 Recursive Superintelligence 发布了 Recursive Flint,这是一款专为快速、准确编程而构建的本地 LLM。作为一款拥有 400 亿参数、其中 25 亿激活参数的 混合专家(mixture-of-experts)模型,Recursive Flint 能够提供快速推理,并且在 SWE-Bench Pro v2、Terminal-Bench 2.1 和 SWE-bench verified 等智能体编程基准测试中表现出色。
Recursive Flint 是使用 Recursive 的 Eureka Machine 构建的,这是一个用于大规模自动化 AI 研究的系统。它能自动化整个研究循环:提出想法、实现想法、运行实验以验证想法,并利用结果决定下一步尝试什么——从而创建了专用内核,在不改变模型权重的情况下,将 Flint 在 RTX Spark 上的生成速度提升了 55%。
开发者可以在 Hugging Face 上以 Apache 2.0 许可证 下载开放权重,并在 RTX Spark 和 DGX Spark 系统以及 GeForce RTX 和 RTX PRO GPU 上运行该模型。开发者还可以使用 NeMo Automodel 进行监督微调和低秩适应(LoRa),以及使用 NeMo RL 进行群组相对策略优化,对模型进行后训练。
支持首发的新模型
NVIDIA 还为 NVIDIA Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax、Liquid AI 的 LFM2.5-24B-A2B 以及 FLUX.3 Klein 扩散模型提供首发(day-zero)模型支持。
Nemotron Bolt E4B 4GB 在仅需 4GB 内存的空间中集成自然对话和多轮智能体技能,在 NVIDIA GeForce RTX GPU、NVIDIA Jetson 设备以及 RTX 和 DGX Spark 上为快速的本地语音助手、交互式游戏角色和嵌入式接口提供动力。Bolt E4B 4GB 将于 10 月 23 日星期五发布。
Black Forest Labs 的 FLUX 3 Image Klein 是一个拥有 56 亿参数的开源权重图像模型,用于生成和编辑。经 NVIDIA 优化的版本使其能够在仅有 8GB VRAM 的 GeForce RTX GPU 上运行,并在 RTX 5090 GPU 上以约四秒的速度创建 1 百万像素的图像。
MiniMax M3.1 Flash 是为 NVIDIA DGX Station 和 DGX Spark 构建的全新开源模型,将长文本 AI 带到桌面端。Liquid AI 的 LFM2.5-24B-A2B 是一个开放权重的推理模型,在每个 Token 中仅激活其 24 亿参数中的 20 亿,使其速度足够快,可以直接在 PC 上运行私有的、具备工具调用能力的 AI 智能体。
此外,NVIDIA 发布了一组针对本地 AI 硬件的 RAM 效率进行优化的模型检查点合集,使前沿级开源模型能够在运行的同时,留出充足的内存用于 KV 缓存。每个检查点在量化时均保持接近全精度的准确度,率先在单台 DGX Spark 128GB 或 RTX PRO 6000 上推出 Qwen3.8-Flash-Next-FP4-Local,并在两台系统上推出 GLM-5.3-Flash-FP4-Local。
开发者可以在 DGX Spark 和 RTX Spark 上使用 NeMo AutoModel 进行首日后训练(post-train),其中包含针对 Nemotron Bolt E4B、Flux 3 Image Klein 等模型的示例方案。
加速 AI 推理
NVIDIA 继续与 llama.cpp 和 vLLM 开源社区合作,以加速本地硬件上的智能体工作负载。
在 llama.cpp 中,针对 Qwen 3.8 Flash Next 的全新 MTP 投机解码支持使 NVIDIA RTX PRO 6000 Blackwell 上的端到端智能体任务速度提升高达 1.4 倍。
在 vLLM 中,更快的投机解码以及针对 Qwen 线性注意力层的全新 FlashInfer 预填充内核,使 DGX Spark 上 Qwen3.8 27B 的智能体任务速度提升高达 1.3 倍。在 DGX Station 上,GLM 5.3 Flash 的吞吐量提高了高达 1.2 倍。
查看 NVIDIA 的本地 AI 推理方案以尝试这些最新的优化。
在 X、Instagram、TikTok 和 Facebook 上关注 NVIDIA RTX Spark — 并通过订阅 NVIDIA Local AI 通讯了解最新动态。在 LinkedIn 和 X 上关注 NVIDIA Workstation。
有关软件产品信息,请 参见声明。
来源:NVIDIA Blog · blogs.nvidia.com