跳到正文
10月24日周六
  1. AWS Machine Learning Blog65

    Amazon SageMaker AI 多轮强化学习实战指南

    AWS 团队发布了在 Amazon SageMaker AI 上使用多轮强化学习(MTRL)训练大模型的实战指南,以 Wordle 游戏为例展示了将智能体部署至 Amazon Bedrock AgentCore 并通过 GRPO 算法训练的端到端流程。文章详细介绍了系统架构、奖励函数设计、MLflow 监控及在服务设置下的评估表现。

    发布时间:

    推荐理由:文章以 Wordle 为例演示了在 Amazon SageMaker AI 上使用多轮强化学习训练智能体的方法,读者可以参考其架构设计、奖励函数编写与端到端评测流程。

  2. AWS Machine Learning Blog62

    AWS 宣布拜耳作物科学基于 Amazon Bedrock AgentCore 构建智能体决策引擎

    AWS 官方博客介绍了拜耳作物科学如何利用 Amazon Bedrock AgentCore 构建多智能体决策引擎(ADE),在生产环境中运行 22 个专有智能体以简化农业机器学习工作流。该系统采用 LangGraph 进行路由编排,通过 AgentCore Gateway 对接下游工具,在上线初期无需人工介入即可解决约 80% 的用户问题。

    发布时间:

    推荐理由:该案例展示了企业如何基于托管服务构建多智能体决策引擎,读者可以了解多智能体架构设计与生产环境落地的实际权衡。

  3. AWS Machine Learning Blog24

    如何在 Amazon QuickSight 图层地图中使用 GeoJSON 可视化点与路线

    Amazon QuickSight 图层地图现已支持 Point 和 LineString 两种新的几何类型,允许用户通过 GeoJSON 工作流绘制特定位置或连接路线。文章详细介绍了数据集与 GeoJSON 结构的配置要求,并通过实例演示了如何将路线和零售商店点绘制到图层地图中。

    发布时间:
  4. AWS Machine Learning Blog55

    使用 AWS CDK 编排 SageMaker AI 端点自动缩放

    AWS 官方博客介绍了如何使用可重用的 CDK 构件与 CloudFormation 自定义资源,在更新 SageMaker AI 端点时自动编排自动缩放目标的注销与注册。该方案通过三个自定义资源处理依赖顺序,使开发者能够在单次部署中同时更新端点配置和自动缩放参数而无需手动干预。

    发布时间:
  5. OpenAI News63

    OpenAI 披露将在线存储平台 Habitat 扩展至服务超 10 亿 ChatGPT 用户的技术演进第二部分

    OpenAI 官方发布了关于其在线存储平台 Habitat 扩展至服务超 10 亿 ChatGPT 用户的技术文章第二部分,详细介绍了如何优化底层 Azure Cosmos DB、解决多租户与分区限制、改进全球分布式读取性能以及扩展变更数据捕获(CDC)架构。

    发布时间:

    推荐理由:文章详细披露了 OpenAI 优化其大规模在线存储平台 Habitat 的架构演进和工程实践,对于构建高并发、全球化分布式存储系统的工程师具有极高的参考价值。

10月23日周五
  1. Hugging Face Blog32

    模型是否能在 AWS Trainium 上运行?快来查阅

    Hugging Face 推出了 torch-neuronx model support Space,用于查询 Hub 上的热门模型是否能在 AWS Trainium 上未经修改地运行。用户可以查看测试结果、Trainium 核心数量、运行时间和峰值设备内存,并获取运行脚本。所有展示的数据均来源于公共数据集,方便开发者直接进行查询。

    发布时间:
  2. AWS Machine Learning Blog64

    在 Amazon SageMaker AI 上使用 Kokoro TTS 从 AI 智能体流式传输低延迟语音

    AWS 官方介绍了如何在 Amazon SageMaker AI 上使用 Kokoro-82M 模型和双向流式传输,实现 AI 智能体生成首句文字即开始语音合成。该方案通过逐句推送和传输优化,将首音频响应时间缩短了数倍。

    发布时间:

    推荐理由:文章给出了基于 Amazon SageMaker AI 部署 Kokoro 82M 模型并进行双向流式传输的具体架构和性能对比,读者可以参考其实现来降低语音智能体交互延迟。

  3. AWS Machine Learning Blog64

    Amazon SageMaker AI 推出 training session APIs,支持自定义模型训练循环且无需管理 GPU

    Amazon SageMaker AI 宣布推出 training session APIs,允许开发者在本地 Python 进程中编写自定义训练循环,而由 AWS 在托管 GPU 上处理计算、分布式执行、容灾和检查点。

    发布时间:

    同一件事,精选收录的是《AWS 发布 SageMaker AI 模型自定义训练会话功能》

  4. AWS Machine Learning Blog65

    AWS 发布 SageMaker AI 模型自定义训练会话功能

    AWS 宣布推出 SageMaker AI 无服务器模型自定义的训练会话功能,允许开发者在无需管理底层 GPU 基础设施的前提下编写和协调自定义的后训练循环与奖励信号。该功能支持多轮强化学习等技术,目前已全面可用并支持 gpt-oss-20b、gemma-4-31B-it 等模型。

    发布时间:

    推荐理由:AWS 推出的 SageMaker AI 训练会话让开发者能够自定义后训练循环而无需管理 GPU 基础设施,降低了复杂强化学习和智能体微调的门槛。

  5. AWS Machine Learning Blog21

    Rescale 如何用 Strands Agents 与 AI-DLC 构建 AI 故障分诊 Agent

    Rescale 结合 AWS 架构与 AI-DLC 方法论,在 5 天内完成了智能故障分诊 Agent 的原型构建并在几周内投入生产。该 Agent 借助 Amazon Bedrock 上的 Claude Opus 4.8 自动对夜间端到端测试失败进行分类与路由,并结合 MCP 查询日志及知识库历史模式生成结构化修复报告。

    发布时间:
  6. AWS Machine Learning Blog63

    如何在 Amazon SageMaker AI 上为 TTS 端点精确配置自动伸缩策略

    亚马逊机器学习团队介绍了在 Amazon SageMaker AI 上部署 Kokoro-82M 语音合成模型时,如何通过测量单实例并发上限 Q_max 和端到端扩容时间 T_total 来精确计算自动伸缩阈值。该方法利用原生指标 ConcurrentRequestsPerModel 替代盲目猜测,确保服务在流量突发时既能满足延迟 SLO 又不会造成 GPU 闲置。

    发布时间:

    推荐理由:文章给出了基于真实测量的自动伸缩策略推导方法,读者可以据此避免盲目设置指标带来的隐性成本或延迟风险。

10月22日周四
  1. NVIDIA Blog63

    NVIDIA 扩展 Cosmos 平台并推出世界模型训练与部署新工具

    NVIDIA 扩展了 Cosmos 平台,推出包含五个云原生蓝图的 Cosmos Data Factory、Cosmos 3 模型变体以及更新的框架与微服务。新工具通过智能体技能加速多模态数据策展、模型微调、蒸馏和推理,已在保时捷、ANYbotics 和 MicroAGI 等企业和机构中落地应用。

    发布时间:

    推荐理由:该平台扩展了世界模型训练与部署工具,展示了物理 AI 在工业和自动驾驶中的数据与微调优化实践。

  2. AWS Machine Learning Blog62

    AWS 团队探讨多智能体系统的 5 个生产挑战及 Deep Insight 解决方案

    AWS 解决方案架构团队开源了生产级多智能体系统 Deep Insight,并解析了其在多智能体协作、模型选择、安全代码执行与运维监控方面的完整设计。系统通过 Strands Agents SDK 的 Graph 模式与 Agents-as-Tools 模式实现任务编排,结合 Amazon Bedrock 分配不同角色的 Claude 模型,并在 AWS Fargate 沙箱中安全执行生成代码。

    发布时间:

    推荐理由:文章给出了多智能体生产系统在架构设计与安全沙箱方面的落地细节,读者可以参考其分层编排与代码执行隔离方案。

  3. AWS Machine Learning Blog62

    使用 Strands Agents 构建自适应智能体框架

    AWS 官方介绍了如何使用 Strands Agents 构建自适应智能体框架(AAIF),通过本地运行的 SLM(如 llama3.2:1b)处理常规任务并进行智能调度,同时将复杂请求路由至 Amazon Bedrock 的云端模型。文章给出了在物联网监控场景下的参考实现、本地工具配置以及多部署架构的适配方法。

    发布时间:

    推荐理由:文章给出了用本地 SLM 结合云端模型构建自适应智能体框架的完整步骤,可以帮助开发者在降低 API 成本的同时保持低延迟。

  4. AWS Machine Learning Blog44

    如何在 AWS Trainium 上使用 torchtitan 训练 Qwen3

    本文介绍了如何在单台 trn2.48xlarge 实例上使用 torchtitan 在 AWS Trainium 芯片上训练 Qwen3 模型。文章详细讲解了通过 Transformers v5 后端、原生 Qwen3 配置以及自定义 Neuron Kernel Interface 的 MoE 内核这三种方式进行预训练或微调的具体步骤。

    发布时间:
  5. AWS Machine Learning Blog17

    U.S. Hunger 如何利用 Amazon Quick 连结领导层与数据

    非营利组织 U.S. Hunger 通过引入 Amazon Quick 直接探索核心数据集,使团队能够基于统一指标和共享定义协同决策。目前该组织已有 17 名来自管理、技术及财务等职能的同事接入该平台,利用 Quick Spaces 与日常 AI 工作空间提升业务运营效率。

    发布时间:
10月21日周三
  1. Cloudflare AI43

    Commerce.com 与 Cloudflare 如何为 AI 智能体准备线上店铺

    Commerce.com 联合 Cloudflare 在边缘层推出 WebMCP 测试版,为旗下近 10 万个独立网店自动注入结构化工具,让 AI 智能体无需解析 HTML 即可直接调用搜索和加购等功能。该方案结合了浏览器端的 WebMCP 与服务端 MCP,使智能体能直接在用户浏览器会话中安全地运行,同时为每个商家提供了便捷的边缘端退出选项。

    发布时间:
  2. NVIDIA Blog64

    NVIDIA 扩展机密计算能力,推出 Confidential Bare Metal 等部署选项

    NVIDIA 宣布扩展机密计算能力并推出全新部署选项 Confidential Bare Metal,使前沿模型构建者能够在第三方基础设施上安全地运行敏感工作负载。该能力由硬件级隔离与加密证明支撑,并已扩展至 Grace Blackwell 和 Rubin 等系统,同时获得 Cohere、Google Cloud 等多家企业支持。

    发布时间:

    推荐理由:文章公布了机密计算在裸金属等形态上的扩展与多方支持,读者可以据此评估其在保障前沿模型与训练推理隐私方面的最新方案。

  3. NVIDIA Blog65

    Google Cloud 与 NVIDIA 宣布推出 NVIDIA Vera Rubin 基础设施

    Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式商用,A5X 实例将于下月提供。该实例整合了 Vera Rubin NVL72、ConnectX-9 SuperNICs 等硬件,将为大规模强化学习和智能体推理提供支持,首批客户包括 Ineffable Intelligence 与 WPP。

    发布时间:

    推荐理由:原文公布了新基础设施的落地进展与首批客户案例,读者可以据此了解其在超大规模强化学习和智能体工作负载中的性能与应用形态。

  4. NVIDIA Blog65

    NVIDIA 在 GTC Berlin 发布本地 AI 硬件矩阵、软件更新及端侧模型支持

    NVIDIA 在 GTC Berlin 展示了包括 RTX Spark、DGX Spark 和 DGX Station 在内的全线本地 AI 硬件阵容,并宣布推出 DGX Station for Windows、模型支持以及针对推理引擎的优化。

    发布时间:

    推荐理由:NVIDIA 在 GTC Berlin 公布了面向本地 AI 硬件的完整产品矩阵、软件更新及模型支持,为开发者和企业部署端侧智能体提供了新方案。

  5. AWS Machine Learning Blog64

    在 AWS Trainium2 上使用原生 PyTorch 训练与部署 i14 的 Laplace 3B 线性注意力模型

    i14 与 AWS 合作,通过原生 PyTorch 在 AWS Trainium2 芯片上成功训练与部署了采用门控线性注意力架构的 Laplace 3B 模型。该模型在单台 trn2.48xlarge 实例上实现了每秒约 12 万 token 的训练吞吐量,并将推理状态控制在每序列 29.5 MB 的固定大小,从而摆脱了传统 Transformer 的 KV cache 线性增长限制。

    发布时间:

    推荐理由:文章详细记录了在 AWS Trainium2 上适配和训练线性注意力模型的技术细节,为定制架构的硬件加速提供了可迁移的工程参考。

  6. AWS Machine Learning Blog31

    Smartsheet 在 AWS 上推出用于 AI 智能体的 MCP Server

    Smartsheet 推出了一般可用状态的 Model Context Protocol (MCP) Server,允许 AI 助手通过标准化协议读取、写入和管理 Smartsheet 数据。该协议跨越 40 多个工具,支持用户通过自然语言更新任务状态、创建行及修改项目结构。文章展示了如何将其连接至 Amazon Quick 与 Kiro 等工作流。

    发布时间:
  7. AWS Machine Learning Blog42

    AWS 上的 Smartsheet MCP Server 如何为 AI 智能体提供工作流上下文

    Smartsheet 推出了基于 Model Context Protocol 的服务端工具,使 AI 助手能够通过标准化协议读取、写入和管理 Smartsheet 数据。该服务端跨越了 40 多种用于探索、创建和管理工作表及自动化的工具,支持用户通过自然语言直接更新任务状态并修改项目结构。文章重点介绍了如何通过 Amazon Quick 和 Kiro 将其连接到现有工作流中。

    发布时间:
  8. AWS Machine Learning Blog41

    Octave 如何在 Amazon Bedrock 上构建安全的多租户 AI 基础架构

    Octave 使用 Amazon Bedrock 上的 Cohere Embed v4 和 Amazon OpenSearch Service 等工具,为 Reliance 平台构建了包含数据准备、安全执行和内容保护的三层安全多租户 AI 基础架构。该架构支持隔离多租户数据、执行独立代理并嵌入超 20 亿份文档,将每个用例的部署时间缩短了 50%。

    发布时间:
  9. AWS Machine Learning Blog62

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

    AWS 官方博客介绍了如何在 Amazon SageMaker HyperPod 上通过监督微调和 GRPO 联合微调 GPT-OSS-20B 模型以支持多语言推理。SFT 将模型在目标语言中的推理能力从 22% 提升至 100%,而 GRPO 在此基础上将答案准确率进一步提升 8 个百分点。

    发布时间:

    推荐理由:文章详细演示了如何在 Amazon SageMaker HyperPod 上使用 SFT 与 GRPO 联合微调开源推理模型,为多语言推理优化提供了可落地的技术决策框架。

  10. AWS Machine Learning Blog31

    AWS 演示如何结合 Amazon Quick 与 Amazon Bedrock AgentCore 构建对话式供应链智能

    AWS 介绍了一种结合 Amazon Quick 与 Amazon Bedrock AgentCore 构建对话式供应链智能的端到端实现方案。该方案利用 Amazon Bedrock AgentCore 作为智能层,通过 Model Context Protocol(MCP)服务器将企业工具组合起来,使供应链团队能够通过自然语言跨系统查询和处理业务。

    发布时间:
  11. AWS Machine Learning Blog31

    Eon 如何在 Amazon Bedrock AgentCore 上利用 MCP Gateway 构建多云调查系统

    Eon 使用 Amazon Bedrock AgentCore 部署了统一的 MCP Gateway,取代了多云环境中的逐个工具凭证与本地 Model Context Protocol 进程。该方案为开发者和自主智能体提供了跨 AWS、GPR 与 Azure 的统一调查工具访问权限。新工程师的工具配置时间从原本的两天缩短至大约两分钟。

    发布时间:
  12. AWS Machine Learning Blog64

    在 AWS 上使用 X.509 PKI 确保 AI 智能体身份安全

    AWS 官方博客介绍了如何结合 Keyfactor EJBCA 与 AWS 服务,利用 X.509 公钥基础设施为多智能体系统提供密码学身份验证。方案通过签名请求信封、用户签名的委派断言、受众限定令牌以及实时 OCSP 吊销检查,解决了 Model Context Protocol 缺乏内置身份验证标准的安全缺口。

    发布时间:
  13. AWS Machine Learning Blog64

    AWS 推出 AWS Agent Registry 实现运行时工具与智能体发现

    AWS 发布 AWS Agent Registry 托管服务,允许编排器在运行时通过混合搜索发现并动态加载 MCP 服务器、智能体及技能。该服务通过分离注册与鉴权机制,支持解耦发布与治理审批流,从而摆脱硬编码工具和频繁重新部署的限制。

    发布时间:

    推荐理由:文章介绍了 AWS Agent Registry 的运行机制与架构实践,开发者可以据此了解如何通过运行时发现替代硬编码工具。

10月20日周二
  1. AWS Machine Learning Blog63

    在 AWS 上使用 Denodo 与 Amazon Bedrock AgentCore 为智能体构建语义层

    AWS 官方介绍了如何结合 Denodo Platform 与 Amazon Bedrock AgentCore 为 Agentic AI 应用构建统一的语义层。

    发布时间:

    推荐理由:文章详细演示了如何在 AWS 上结合 Denodo 与 Amazon Bedrock AgentCore 构建多源联邦语义层,读者可以学习通过 MCP 和语义安全策略安全地支撑智能体访问企业实时数据的方法。

  2. Hugging Face Blog68

    Hugging Face 宣布为 TorchTPU 提供原生支持

    Hugging Face 宣布生态系统对 TorchTPU 实现原生支持,允许 PyTorch 用户通过简单的 device_map="tpu" 或 TPU 后端直接在 Google TPU 上运行 Transformers 和 Diffusers 模型。新方案摆脱了对 torch_xla 的依赖,并支持 Pallas 优化内核与 torch.compile 加速。

    发布时间:

    推荐理由:文章详细介绍了 TorchTPU 带来的原生支持方式与代码示例,为在 Google TPU 上运行 PyTorch 模型提供了清晰的工程参考。