跳到正文
  1. OpenAI News68

    OpenAI 正式推出 Decisions API

    OpenAI 宣布 Decisions API 正式全面可用,基于 GPT-6 Luna 构建,旨在帮助应用和智能体从文本、图像及结构化输入中进行快速、低成本的决策。该 API 支持概率、选择和评分三种答案类型,具备原生 GPT-Live 集成、提示词缓存及美国与欧盟区域推理驻留等特性。

    发布时间:

    推荐理由:官方推出了基于 GPT-6 Luna 的 Decisions API,为应用和智能体提供低成本、高速度的结构化决策能力,读者可以评估其在实时路由和分类场景中的落地价值。

  2. AWS Machine Learning Blog65

    AWS 发布 SageMaker AI 模型自定义训练会话功能

    AWS 宣布推出 SageMaker AI 无服务器模型自定义的训练会话功能,允许开发者在无需管理底层 GPU 基础设施的前提下编写和协调自定义的后训练循环与奖励信号。该功能支持多轮强化学习等技术,目前已全面可用并支持 gpt-oss-20b、gemma-4-31B-it 等模型。

    发布时间:

    推荐理由:AWS 推出的 SageMaker AI 训练会话让开发者能够自定义后训练循环而无需管理 GPU 基础设施,降低了复杂强化学习和智能体微调的门槛。

  3. AWS Machine Learning Blog62

    Amazon Polly 为生成式语音引擎推出重大升级

    Amazon Polly 为其生成式语音引擎推出了重大升级,带来更自然、更具表现力且低延迟的语音输出。此次升级新增了 9 个区域的 14 个新语音,并首次在生成式引擎中全面提供印地语和芬兰语支持。现有应用的 API 调用与语音名称保持不变,支持作为直接放置升级接入。

    发布时间:

    推荐理由:该升级在保持现有 API 和定价不变的前提下提升了语音自然度和准确性,并新增了多语言支持,有助于开发者低成本优化现有应用的音频生成体验。

  1. NVIDIA Blog63

    NVIDIA 扩展 Cosmos 平台并推出世界模型训练与部署新工具

    NVIDIA 扩展了 Cosmos 平台,推出包含五个云原生蓝图的 Cosmos Data Factory、Cosmos 3 模型变体以及更新的框架与微服务。新工具通过智能体技能加速多模态数据策展、模型微调、蒸馏和推理,已在保时捷、ANYbotics 和 MicroAGI 等企业和机构中落地应用。

    发布时间:

    推荐理由:该平台扩展了世界模型训练与部署工具,展示了物理 AI 在工业和自动驾驶中的数据与微调优化实践。

  1. OpenAI News61

    ChatGPT Ads 扩展至 26 个新国家

    OpenAI 宣布将 ChatGPT Ads 扩展至 26 个新国家,使全球可用国家和地区达到 89 个,目前已有超过 10 万名广告主在平台上运行了广告系列。新扩展覆盖了拉丁美洲、欧洲、中东、非洲和亚洲等多个市场,广告仅在 Free 和 Go 方案中展示,Plus、Pro 和 Enterprise 订阅仍保持无广告。

    发布时间:

    推荐理由:OpenAI 将 ChatGPT Ads 扩展至 26 个新国家,全球可用地区增至 89 个,累计超 10 万广告主使用该平台。读者可了解其广告业务在国际市场的最新覆盖范围与订阅限制。

  2. Hugging Face Blog63

    NVIDIA 在 Hugging Face 发布 SimReady Central:面向机器人与 AI 工厂的开源 3D 仿真资产库

    NVIDIA 推出了 SimReady Central 库,在 Hugging Face 上汇集了超过 2000 个支持仿真工作流的 OpenUSD 资产。该库由自然语言搜索提供支持,允许设备制造商提交和验证资产,供开发者和 AI 智能体快速构建机器人训练环境与 AI 工厂数字孪生。

    发布时间:

    推荐理由:NVIDIA 在 Hugging Face 上线 SimReady Central 库,为具身智能和 AI 工厂数字孪生提供两千多款免门槛的 OpenUSD 仿真资产,并支持自然语言搜索与 AI 智能体辅助场景构建。

  3. NVIDIA Blog64

    NVIDIA 扩展机密计算能力,推出 Confidential Bare Metal 等部署选项

    NVIDIA 宣布扩展机密计算能力并推出全新部署选项 Confidential Bare Metal,使前沿模型构建者能够在第三方基础设施上安全地运行敏感工作负载。该能力由硬件级隔离与加密证明支撑,并已扩展至 Grace Blackwell 和 Rubin 等系统,同时获得 Cohere、Google Cloud 等多家企业支持。

    发布时间:

    推荐理由:文章公布了机密计算在裸金属等形态上的扩展与多方支持,读者可以据此评估其在保障前沿模型与训练推理隐私方面的最新方案。

  4. NVIDIA Blog63

    NVIDIA 推出 Factory Operations Blueprint 工业智能体蓝图并更新多项仿真与计算库

    NVIDIA 宣布面向开发者推出 Factory Operations Blueprint 工业智能体蓝图的早期访问,支持构建可协调工厂机器并执行质检与舰队管理的智能体。同时,NVIDIA 发布了 cuDSS 库的通用版本,并展示了 Siemens、Mercedes-Benz 等工业巨头利用 CUDA-X、Omniverse 及 Cosmos 模型加速工程仿真与工厂数字孪生的应用进展。

    发布时间:

    推荐理由:NVIDIA 发布了 Factory Operations Blueprint 工业智能体蓝图及多项仿真库更新,开发者可据此构建连接前沿模型的工厂管理与质检智能体。

  5. NVIDIA Blog65

    Google Cloud 与 NVIDIA 宣布推出 NVIDIA Vera Rubin 基础设施

    Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式商用,A5X 实例将于下月提供。该实例整合了 Vera Rubin NVL72、ConnectX-9 SuperNICs 等硬件,将为大规模强化学习和智能体推理提供支持,首批客户包括 Ineffable Intelligence 与 WPP。

    发布时间:

    推荐理由:原文公布了新基础设施的落地进展与首批客户案例,读者可以据此了解其在超大规模强化学习和智能体工作负载中的性能与应用形态。

  6. NVIDIA Blog65

    NVIDIA 在 GTC Berlin 发布本地 AI 硬件矩阵、软件更新及端侧模型支持

    NVIDIA 在 GTC Berlin 展示了包括 RTX Spark、DGX Spark 和 DGX Station 在内的全线本地 AI 硬件阵容,并宣布推出 DGX Station for Windows、模型支持以及针对推理引擎的优化。

    发布时间:

    推荐理由:NVIDIA 在 GTC Berlin 公布了面向本地 AI 硬件的完整产品矩阵、软件更新及模型支持,为开发者和企业部署端侧智能体提供了新方案。

  1. Hugging Face Blog68

    Hugging Face 宣布为 TorchTPU 提供原生支持

    Hugging Face 宣布生态系统对 TorchTPU 实现原生支持,允许 PyTorch 用户通过简单的 device_map="tpu" 或 TPU 后端直接在 Google TPU 上运行 Transformers 和 Diffusers 模型。新方案摆脱了对 torch_xla 的依赖,并支持 Pallas 优化内核与 torch.compile 加速。

    发布时间:

    推荐理由:文章详细介绍了 TorchTPU 带来的原生支持方式与代码示例,为在 Google TPU 上运行 PyTorch 模型提供了清晰的工程参考。

  2. Hugging Face Blog64

    AnyLanguageModel 1.0 发布:Apple 平台本地模型开发框架迎来重大更新

    Hugging Face 官方发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 与 swift-xet 1.0。该版本提供与 Apple Foundation Models 兼容的替换 API,支持在 iOS、macOS 和 visionOS 上通过统一会话代码调用本地及托管模型,并新增了工具调用、引导生成和图片支持等功能。

    发布时间:

    推荐理由:官方发布 AnyLanguageModel 1.0 及相关 Swift 工具包,展示了通过统一 API 在 Apple 平台无缝切换本地与托管大模型的方法。

  3. Hugging Face Blog64

    PyTorch 2.15 发布:MPS 后端迎来 FP8、MoE 加速及显存优化

    PyTorch 2.15 正式发布,为 Mac 的 MPS 后端带来 FP8 支持、混合专家模型解码提速以及显著优化的视频解码显存占用。

    发布时间:

    推荐理由:该版本大幅提升了 Mac 运行大模型与视频生成时的性能和显存效率,为本地开发提供了更实用的加速方案。

  4. AWS Machine Learning Blog64

    Amazon Bedrock 为 Anthropic Claude 模型推出结构化输出功能

    Amazon Bedrock 现在支持所有 Anthropic Claude 模型的结构化输出和严格工具调用,通过受限解码在生成 token 时强制符合 JSON Schema。该功能支持批处理、跨区域推理和流式传输,消除了自定义解析和重试逻辑的需要。

    发布时间:

    推荐理由:Amazon Bedrock 为 Claude 模型引入结构化输出和严格工具调用,开发者可以据此评估它如何简化数据管道和智能体开发。

  5. AWS Machine Learning Blog64

    TwelveLabs Pegasus 1.5 视频语言模型现已登陆 Amazon Bedrock

    TwelveLabs 的视频语言模型 Pegasus 1.5 现已在 Amazon Bedrock 上线。该模型支持最长 2 小时的视频分析,提供时间戳元数据生成、多模态参考图像提示和免预索引的即时处理能力,可从 Amazon S3 URI 直接加载并返回结构化 JSON 结果。

    发布时间:

    推荐理由:TwelveLabs 的 Pegasus 1.5 视频语言模型上线 Amazon Bedrock,支持时长达两小时的视频长文本分析、时间戳元数据生成和多模态参考图像提示,为开发者处理长视频数据提供了官方托管方案。

  6. AWS Machine Learning Blog65

    AWS 推出 vLLM 推送式 KV 缓存传输机制以改善推理延迟

    AWS 推出了 vLLM 的推送式 NIXL 连接器,通过将解码侧的块注册和传输设置移至后台线程,与预填充计算进行重叠。在 Qwen3-32B 模型基准测试中,该模式相比拉取模式可将首字延迟(TTFT)降低最多 3 倍,并将每输出 token 耗时(TPOT)降低 30%。

    发布时间:

    推荐理由:文章介绍了 vLLM 的推送式 KV 缓存传输方案,读者可以了解它如何通过重叠预处理与解码设置来降低首字延迟。

  1. vllm63

    vLLM v0.32.0 发布

    vLLM 发布 v0.32.0 版本,引入了 Model Runner V2、更广泛的低精度 KV 缓存支持、结构化决策与通用解析器,并增强了对 NVIDIA、AMD ROCm、Intel XPU 等多硬件平台的大模型推理与投机解码能力。

    发布时间:

    推荐理由:vllm v0.32.0 带来了多项硬件平台性能优化与架构升级,为大模型推理部署提供了更低的延迟和更高的吞吐。

  1. AWS Machine Learning Blog66

    Meta 的 Muse Spark Open 现已登陆 Amazon SageMaker JumpStart

    Meta 的编码优化开源推理模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,支持 1M token 上下文及 MoE 架构。文章介绍了如何通过 SageMaker Studio 或 Python SDK 部署 BF16 与 NVFP4 两种量化变体,并提供了推理请求示例。

    发布时间:

    推荐理由:文章详细介绍了在亚马逊平台上部署该模型的完整步骤与配置要求,为技术团队评估资源成本和架构落地提供了实用参考。

  2. Google DeepMind62

    Google DeepMind 推出智能体开发平台 Google Antigravity 以加速抗菌肽搜索

    Google DeepMind 推出了智能体开发平台 Google Antigravity,旨在将原本碎片化的数据库检索、结构分析与文献综合整合至单一会话中。该平台结合了 ProtNLM 模型与内置的 Biomolecular Structure Viewer 3D 可视化工具,支持研究人员与 AI 智能体在共享视觉状态下交互式发现并评估候选抗菌肽。

    发布时间:

    推荐理由:原文介绍了该智能体平台在生物医药检索中的集成方案与交互方式,读者可以据此了解其如何简化多数据库协同工作流。

  1. Google Research68

    Google Research 发布 Deep Review 智能体文档验证系统

    Google Research 宣布公开推出 Deep Review,这是一个旨在为科学论文、法律协议和财务文件等复杂文档提供严谨反馈与技术验证的 agentic AI 系统。

    发布时间:

    推荐理由:原文介绍了该工具的四阶段智能体架构与多领域应用场景,读者可以据此了解大模型如何自动化处理学术审稿与复杂文档验证。