跳到正文
  1. AWS Machine Learning Blog65

    Amazon SageMaker AI 多轮强化学习实战指南

    AWS 团队发布了在 Amazon SageMaker AI 上使用多轮强化学习(MTRL)训练大模型的实战指南,以 Wordle 游戏为例展示了将智能体部署至 Amazon Bedrock AgentCore 并通过 GRPO 算法训练的端到端流程。文章详细介绍了系统架构、奖励函数设计、MLflow 监控及在服务设置下的评估表现。

    发布时间:

    推荐理由:文章以 Wordle 为例演示了在 Amazon SageMaker AI 上使用多轮强化学习训练智能体的方法,读者可以参考其架构设计、奖励函数编写与端到端评测流程。

  1. OpenAI News68

    OpenAI 正式推出 Decisions API

    OpenAI 宣布 Decisions API 正式全面可用,基于 GPT-6 Luna 构建,旨在帮助应用和智能体从文本、图像及结构化输入中进行快速、低成本的决策。该 API 支持概率、选择和评分三种答案类型,具备原生 GPT-Live 集成、提示词缓存及美国与欧盟区域推理驻留等特性。

    发布时间:

    推荐理由:官方推出了基于 GPT-6 Luna 的 Decisions API,为应用和智能体提供低成本、高速度的结构化决策能力,读者可以评估其在实时路由和分类场景中的落地价值。

  1. Microsoft Research86

    Microsoft Research 解决数学领域 31 年历史难题 KLS 猜想

    Microsoft Research 团队通过人类引导的智能体辅助研究流程,解决了高维几何与概率论中的 31 年历史难题 Kannan-Lovász-Simonovits 猜想。该工作通过递归应用新数学准则并证明累积误差保持在通用常数范围内,消除了对维数的依赖。

    发布时间:

    推荐理由:该研究展示了人类引导的智能体辅助科学发现过程,为复杂数学难题的求解提供了可复用的协作范式。

  1. NVIDIA Blog63

    NVIDIA 推出 Factory Operations Blueprint 工业智能体蓝图并更新多项仿真与计算库

    NVIDIA 宣布面向开发者推出 Factory Operations Blueprint 工业智能体蓝图的早期访问,支持构建可协调工厂机器并执行质检与舰队管理的智能体。同时,NVIDIA 发布了 cuDSS 库的通用版本,并展示了 Siemens、Mercedes-Benz 等工业巨头利用 CUDA-X、Omniverse 及 Cosmos 模型加速工程仿真与工厂数字孪生的应用进展。

    发布时间:

    推荐理由:NVIDIA 发布了 Factory Operations Blueprint 工业智能体蓝图及多项仿真库更新,开发者可据此构建连接前沿模型的工厂管理与质检智能体。

  2. NVIDIA Blog65

    Google Cloud 与 NVIDIA 宣布推出 NVIDIA Vera Rubin 基础设施

    Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式商用,A5X 实例将于下月提供。该实例整合了 Vera Rubin NVL72、ConnectX-9 SuperNICs 等硬件,将为大规模强化学习和智能体推理提供支持,首批客户包括 Ineffable Intelligence 与 WPP。

    发布时间:

    推荐理由:原文公布了新基础设施的落地进展与首批客户案例,读者可以据此了解其在超大规模强化学习和智能体工作负载中的性能与应用形态。

  3. NVIDIA Blog65

    NVIDIA 在 GTC Berlin 发布本地 AI 硬件矩阵、软件更新及端侧模型支持

    NVIDIA 在 GTC Berlin 展示了包括 RTX Spark、DGX Spark 和 DGX Station 在内的全线本地 AI 硬件阵容,并宣布推出 DGX Station for Windows、模型支持以及针对推理引擎的优化。

    发布时间:

    推荐理由:NVIDIA 在 GTC Berlin 公布了面向本地 AI 硬件的完整产品矩阵、软件更新及模型支持,为开发者和企业部署端侧智能体提供了新方案。

  4. NVIDIA Blog75

    NVIDIA 推出面向欧洲及多行业的开源模型家族

    NVIDIA 扩大了其开源模型系列,推出 Nemotron 3.5 Super VL 与 Bolt、Kumo 结构化数据模型、Cosmos 3.5 世界模型、Alpamayo 2 Edge 自动驾驶推理模型、BioNeMo RFD4-Proteina 蛋白质设计模型及 Ising 量子计算模型。

    发布时间:

    推荐理由:NVIDIA 一次性发布并开源了覆盖多模态、结构化数据、具身智能和科学计算的多个模型家族,为企业和开发者提供了可定制的主权 AI 基础架构。

  5. AWS Machine Learning Blog64

    在 AWS Trainium2 上使用原生 PyTorch 训练与部署 i14 的 Laplace 3B 线性注意力模型

    i14 与 AWS 合作,通过原生 PyTorch 在 AWS Trainium2 芯片上成功训练与部署了采用门控线性注意力架构的 Laplace 3B 模型。该模型在单台 trn2.48xlarge 实例上实现了每秒约 12 万 token 的训练吞吐量,并将推理状态控制在每序列 29.5 MB 的固定大小,从而摆脱了传统 Transformer 的 KV cache 线性增长限制。

    发布时间:

    推荐理由:文章详细记录了在 AWS Trainium2 上适配和训练线性注意力模型的技术细节,为定制架构的硬件加速提供了可迁移的工程参考。

  6. AWS Machine Learning Blog62

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

    AWS 官方博客介绍了如何在 Amazon SageMaker HyperPod 上通过监督微调和 GRPO 联合微调 GPT-OSS-20B 模型以支持多语言推理。SFT 将模型在目标语言中的推理能力从 22% 提升至 100%,而 GRPO 在此基础上将答案准确率进一步提升 8 个百分点。

    发布时间:

    推荐理由:文章详细演示了如何在 Amazon SageMaker HyperPod 上使用 SFT 与 GRPO 联合微调开源推理模型,为多语言推理优化提供了可落地的技术决策框架。

  1. Hugging Face Blog68

    ALTK-Evolve:利用学习型记忆登顶 τ²-bench 客服智能体榜单

    Hugging Face 博客介绍了 ALTK-Evolve 方法,它通过分析智能体任务尝试并提炼行为规则加入系统提示词,在无需更新模型权重的情况下,使基于 GPT-4.1 和 GPT-5.5 的基础 ReAct 智能体在 τ²-bench 客服基准的零售与航空任务中登顶或超越现有微调及前沿模型。该方法通过增加少量输入提示词成本,在不增加对话轮次的前提下大幅提升了准确率与 Pass^4 稳定性。

    发布时间:

    推荐理由:该方法通过提炼行为规则并加入系统提示词,在无需更新模型权重的情况下显著提升了智能体在客服基准上的准确率与稳定性,为优化智能体性能提供了一种低成本且可迁移的提示词工程路径。

  2. AWS Machine Learning Blog64

    Amazon Bedrock 为 Anthropic Claude 模型推出结构化输出功能

    Amazon Bedrock 现在支持所有 Anthropic Claude 模型的结构化输出和严格工具调用,通过受限解码在生成 token 时强制符合 JSON Schema。该功能支持批处理、跨区域推理和流式传输,消除了自定义解析和重试逻辑的需要。

    发布时间:

    推荐理由:Amazon Bedrock 为 Claude 模型引入结构化输出和严格工具调用,开发者可以据此评估它如何简化数据管道和智能体开发。

  3. Cloudflare AI63

    Cloudflare AI 发布新型 System One 提取模型 Clairic

    Cloudflare AI 推出了新型 System One 提取模型 Clairic,目前已在 Workers AI 上以预览版形式托管,并计划很快开源权重。Clairic 能够在单次前向传递中从非结构化输入中提取、计算、估计和预测数值,无需生成 token,相比传统 LLM 具有更高的准确性、更快的延迟和更低的成本。

    发布时间:

    推荐理由:该模型采用单次前向传递直接提取结构化数据,展示了在数据处理工作流中替代传统 LLM 的高效率和低成本路径。

  4. AWS Machine Learning Blog64

    AWS 推出 vLLM 双向 KV 缓存传输功能以降低多轮智能体首字延迟

    AWS 团队在 vLLM 中引入了双向 KV 缓存传输机制,允许解码节点将此前计算的 KV 缓存返回给预填充节点,从而避免多轮对话中的重复计算。在 Amazon EC2 P5en 实例集群的基准测试中,该功能在长提示词下将 Qwen3-32B 和 GLM-5-FP8 的首字延迟(TTFT)分别降低了最多 1.6 倍和 3.3 倍。

    发布时间:

    推荐理由:文章详细介绍了 vLLM 中双向 KV 缓存传输的架构与基准测试数据,帮助开发者评估其在减少多轮智能体工作负载首字延迟方面的实际效果。

  5. AWS Machine Learning Blog65

    AWS 推出 vLLM 推送式 KV 缓存传输机制以改善推理延迟

    AWS 推出了 vLLM 的推送式 NIXL 连接器,通过将解码侧的块注册和传输设置移至后台线程,与预填充计算进行重叠。在 Qwen3-32B 模型基准测试中,该模式相比拉取模式可将首字延迟(TTFT)降低最多 3 倍,并将每输出 token 耗时(TPOT)降低 30%。

    发布时间:

    推荐理由:文章介绍了 vLLM 的推送式 KV 缓存传输方案,读者可以了解它如何通过重叠预处理与解码设置来降低首字延迟。

  1. Google Research63

    谷歌发布将 AI 智能体锚定于生物现实的自主湿实验室构建模块

    谷歌发布了将 AI 智能体锚定于生物现实的三项研究进展,旨在推动自主湿实验室的发展。其核心内容包括:推出 VERID 框架作为实验室工作单元的语义数字孪生以实现硬件安全与实时状态跟踪,通过适配体分子发现展示了闭环智能体科学发现流程,以及通过加速全新蛋白质结合体设计实现高效靶向结合。

    发布时间:

    推荐理由:原文介绍了谷歌在生物实验室自动化和智能体闭环发现方面的三项技术进展,为读者理解大模型如何与物理湿实验室结合提供了具体框架。

  1. AWS Machine Learning Blog63

    如何在 AWS 上部署开源编码智能体模型 Reflection Beam

    AWS 官方博客介绍了如何在 Amazon SageMaker JumpStart 和 SageMaker HyperPod 上部署 Reflection AI 推出的开源智能体编码模型 Beam 1.0。

    发布时间:

    推荐理由:文章给出了在 AWS 上部署该开源模型的两条具体路径和配置要点,读者可以据此评估不同托管方案的资源开销。

  2. Hugging Face Blog88

    Reflection 发布 501B 开源模型 Beam

    Reflection 实验室推出首款开源模型 Beam,这是一个拥有 501B 总参数、每 token 激活 23B 的 mixture-of-experts 架构大语言模型,支持 1M tokens 上下文窗口,专注于编码与智能体场景。

    发布时间:

    推荐理由:文章详细介绍了 Reflection 实验室首款 501B 开源 MoE 模型 Beam 的架构设计与部署方案,读者可以据此了解其在长文本和智能体任务上的技术实现。

  3. Hugging Face Blog68

    Granite Switch 4.1 发布:在一个端点中集成聊天、决策和语音能力

    Hugging Face 联合 IBM 发布了 Granite Switch 4.1 模型(包含 8B 和 30B 版本),通过复用基底模型的 KV cache 并在单个托管端点上集成了通用决策 aLoRA、安全卫士 aLoRA 以及语音转文本模型 Granite-Speech-5.0-Turbo-CTC。

    发布时间:

    推荐理由:原文介绍了多功能组合模型的架构及复用 KV cache 的实现方式,读者可以了解如何在单个端点上高效组合决策与语音能力。

  4. Apple Machine Learning Research64

    Selection-Based Structured Reasoning: 迈向高效的多模态搜索智能体

    Apple Machine Learning Research 推出了 Selection-based Structured Reasoning (SSR) 框架,将多模态智能体的自由格式推理重新定义为预设候选选择。

    发布时间:

    推荐理由:文章提出了一种将多模态智能体推理转化为候选选择的新框架,读者可以通过该方法评估其在降低推理延迟和提升搜索效率方面的潜力。

  5. AWS Machine Learning Blog66

    Meta 的 Muse Spark Open 现已登陆 Amazon SageMaker JumpStart

    Meta 的编码优化开源推理模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,支持 1M token 上下文及 MoE 架构。文章介绍了如何通过 SageMaker Studio 或 Python SDK 部署 BF16 与 NVFP4 两种量化变体,并提供了推理请求示例。

    发布时间:

    推荐理由:文章详细介绍了在亚马逊平台上部署该模型的完整步骤与配置要求,为技术团队评估资源成本和架构落地提供了实用参考。