跳到正文
  1. AWS Machine Learning Blog65

    Amazon SageMaker AI 多轮强化学习实战指南

    AWS 团队发布了在 Amazon SageMaker AI 上使用多轮强化学习(MTRL)训练大模型的实战指南,以 Wordle 游戏为例展示了将智能体部署至 Amazon Bedrock AgentCore 并通过 GRPO 算法训练的端到端流程。文章详细介绍了系统架构、奖励函数设计、MLflow 监控及在服务设置下的评估表现。

    发布时间:

    推荐理由:文章以 Wordle 为例演示了在 Amazon SageMaker AI 上使用多轮强化学习训练智能体的方法,读者可以参考其架构设计、奖励函数编写与端到端评测流程。

  2. AWS Machine Learning Blog62

    AWS 宣布拜耳作物科学基于 Amazon Bedrock AgentCore 构建智能体决策引擎

    AWS 官方博客介绍了拜耳作物科学如何利用 Amazon Bedrock AgentCore 构建多智能体决策引擎(ADE),在生产环境中运行 22 个专有智能体以简化农业机器学习工作流。该系统采用 LangGraph 进行路由编排,通过 AgentCore Gateway 对接下游工具,在上线初期无需人工介入即可解决约 80% 的用户问题。

    发布时间:

    推荐理由:该案例展示了企业如何基于托管服务构建多智能体决策引擎,读者可以了解多智能体架构设计与生产环境落地的实际权衡。

  1. Hugging Face 社区博客83

    Microsoft 与 Hugging Face 发布 ThinkingBox-Training:用数据库评分训练 Agent

    Microsoft 与 Hugging Face 联合发布 ThinkingBox-Training,将数据库终端状态的可执行检查转化为强化学习奖励来训练智能体。通过离线策略相对难度过滤并结合 GRPO 微调 Qwen3.8-27B,使其在 ThinkingBox-Bench 上的平均成功率和观察到的全过率均显著提升。

    发布时间:

    推荐理由:原文公开了利用数据库终端状态作为强化学习奖励的训练方案,展示了智能体在业务工作流中可重复成功率的显著提升。

  2. AWS Machine Learning Blog64

    在 Amazon SageMaker AI 上使用 Kokoro TTS 从 AI 智能体流式传输低延迟语音

    AWS 官方介绍了如何在 Amazon SageMaker AI 上使用 Kokoro-82M 模型和双向流式传输,实现 AI 智能体生成首句文字即开始语音合成。该方案通过逐句推送和传输优化,将首音频响应时间缩短了数倍。

    发布时间:

    推荐理由:文章给出了基于 Amazon SageMaker AI 部署 Kokoro 82M 模型并进行双向流式传输的具体架构和性能对比,读者可以参考其实现来降低语音智能体交互延迟。

  3. AWS Machine Learning Blog63

    如何在 Amazon SageMaker AI 上为 TTS 端点精确配置自动伸缩策略

    亚马逊机器学习团队介绍了在 Amazon SageMaker AI 上部署 Kokoro-82M 语音合成模型时,如何通过测量单实例并发上限 Q_max 和端到端扩容时间 T_total 来精确计算自动伸缩阈值。该方法利用原生指标 ConcurrentRequestsPerModel 替代盲目猜测,确保服务在流量突发时既能满足延迟 SLO 又不会造成 GPU 闲置。

    发布时间:

    推荐理由:文章给出了基于真实测量的自动伸缩策略推导方法,读者可以据此避免盲目设置指标带来的隐性成本或延迟风险。

  1. AWS Machine Learning Blog62

    AWS 团队探讨多智能体系统的 5 个生产挑战及 Deep Insight 解决方案

    AWS 解决方案架构团队开源了生产级多智能体系统 Deep Insight,并解析了其在多智能体协作、模型选择、安全代码执行与运维监控方面的完整设计。系统通过 Strands Agents SDK 的 Graph 模式与 Agents-as-Tools 模式实现任务编排,结合 Amazon Bedrock 分配不同角色的 Claude 模型,并在 AWS Fargate 沙箱中安全执行生成代码。

    发布时间:

    推荐理由:文章给出了多智能体生产系统在架构设计与安全沙箱方面的落地细节,读者可以参考其分层编排与代码执行隔离方案。

  2. AWS Machine Learning Blog62

    使用 Strands Agents 构建自适应智能体框架

    AWS 官方介绍了如何使用 Strands Agents 构建自适应智能体框架(AAIF),通过本地运行的 SLM(如 llama3.2:1b)处理常规任务并进行智能调度,同时将复杂请求路由至 Amazon Bedrock 的云端模型。文章给出了在物联网监控场景下的参考实现、本地工具配置以及多部署架构的适配方法。

    发布时间:

    推荐理由:文章给出了用本地 SLM 结合云端模型构建自适应智能体框架的完整步骤,可以帮助开发者在降低 API 成本的同时保持低延迟。

  1. AWS Machine Learning Blog64

    在 AWS Trainium2 上使用原生 PyTorch 训练与部署 i14 的 Laplace 3B 线性注意力模型

    i14 与 AWS 合作,通过原生 PyTorch 在 AWS Trainium2 芯片上成功训练与部署了采用门控线性注意力架构的 Laplace 3B 模型。该模型在单台 trn2.48xlarge 实例上实现了每秒约 12 万 token 的训练吞吐量,并将推理状态控制在每序列 29.5 MB 的固定大小,从而摆脱了传统 Transformer 的 KV cache 线性增长限制。

    发布时间:

    推荐理由:文章详细记录了在 AWS Trainium2 上适配和训练线性注意力模型的技术细节,为定制架构的硬件加速提供了可迁移的工程参考。

  2. AWS Machine Learning Blog62

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

    AWS 官方博客介绍了如何在 Amazon SageMaker HyperPod 上通过监督微调和 GRPO 联合微调 GPT-OSS-20B 模型以支持多语言推理。SFT 将模型在目标语言中的推理能力从 22% 提升至 100%,而 GRPO 在此基础上将答案准确率进一步提升 8 个百分点。

    发布时间:

    推荐理由:文章详细演示了如何在 Amazon SageMaker HyperPod 上使用 SFT 与 GRPO 联合微调开源推理模型,为多语言推理优化提供了可落地的技术决策框架。

  3. AWS Machine Learning Blog64

    AWS 推出 AWS Agent Registry 实现运行时工具与智能体发现

    AWS 发布 AWS Agent Registry 托管服务,允许编排器在运行时通过混合搜索发现并动态加载 MCP 服务器、智能体及技能。该服务通过分离注册与鉴权机制,支持解耦发布与治理审批流,从而摆脱硬编码工具和频繁重新部署的限制。

    发布时间:

    推荐理由:文章介绍了 AWS Agent Registry 的运行机制与架构实践,开发者可以据此了解如何通过运行时发现替代硬编码工具。

  1. AWS Machine Learning Blog63

    在 AWS 上使用 Denodo 与 Amazon Bedrock AgentCore 为智能体构建语义层

    AWS 官方介绍了如何结合 Denodo Platform 与 Amazon Bedrock AgentCore 为 Agentic AI 应用构建统一的语义层。

    发布时间:

    推荐理由:文章详细演示了如何在 AWS 上结合 Denodo 与 Amazon Bedrock AgentCore 构建多源联邦语义层,读者可以学习通过 MCP 和语义安全策略安全地支撑智能体访问企业实时数据的方法。

  2. Cloudflare AI63

    Cloudflare 团队通过优化推理将 AI 代码评审成本降低 68%

    Cloudflare 团队通过精细化优化代码评审智能体,将平均单次评审成本从 2.43 美元降至 0.77 美元,降幅达 68%,同时将中位评审耗时从 4 分 09 秒缩短至 1 分 32 秒。优化手段主要包括跨仓库共享提示词前缀以提高缓存命中率、减少无效工具调用以及切换至更高效的 Anthropic 模型。

    发布时间:

    推荐理由:文章详细拆解了代码评审智能体在提示词缓存、模型切换与工具调用上的优化细节,为高频调用大模型的工程团队提供了可落地的降本增效方法。

  3. AWS Machine Learning Blog64

    AWS 推出 vLLM 双向 KV 缓存传输功能以降低多轮智能体首字延迟

    AWS 团队在 vLLM 中引入了双向 KV 缓存传输机制,允许解码节点将此前计算的 KV 缓存返回给预填充节点,从而避免多轮对话中的重复计算。在 Amazon EC2 P5en 实例集群的基准测试中,该功能在长提示词下将 Qwen3-32B 和 GLM-5-FP8 的首字延迟(TTFT)分别降低了最多 1.6 倍和 3.3 倍。

    发布时间:

    推荐理由:文章详细介绍了 vLLM 中双向 KV 缓存传输的架构与基准测试数据,帮助开发者评估其在减少多轮智能体工作负载首字延迟方面的实际效果。

  1. AWS Machine Learning Blog63

    如何在 AWS 上部署开源编码智能体模型 Reflection Beam

    AWS 官方博客介绍了如何在 Amazon SageMaker JumpStart 和 SageMaker HyperPod 上部署 Reflection AI 推出的开源智能体编码模型 Beam 1.0。

    发布时间:

    推荐理由:文章给出了在 AWS 上部署该开源模型的两条具体路径和配置要点,读者可以据此评估不同托管方案的资源开销。

  2. Apple Machine Learning Research63

    Apple 使用 MLX 和 RDMA 在 Mac Studio 上实现本地与分布式大模型推理

    Apple 机器学习研究团队介绍了如何利用最新版 MLX 框架和 Thunderbolt 5 上的 RDMA 驱动程序,在 Mac Studio(搭载 M5 Ultra 芯片)上运行近万亿参数的 Muse Spark Open 等前沿大模型。

    发布时间:

    推荐理由:文章详细展示了利用最新 MLX 和 RDMA 技术在 Mac Studio 集群上运行近万亿参数大模型的方法与性能数据,为端侧大模型部署提供了具体的工程参考。

  3. Hugging Face Blog86

    FLUX.3 Image Klein 现已上线 Diffusers

    Black Forest Labs 推出的 FLUX.3 Image Klein 现已在 Diffusers 中首日上线,支持文生图、多参考图生图以及基于边界框的布局控制。文章提供了蒸馏版和基础版的加载代码、LoRA 微调脚本以及模块化流水线的架构解析。

    发布时间:

    推荐理由:文章介绍了 FLUX.3 Image Klein 模型在 Diffusers 中的原生支持,提供了代码示例和架构解析,可帮助开发者了解其在文生图与图像编辑上的新特性。

  1. AWS Machine Learning Blog64

    使用 Amazon Bedrock AgentCore 构建自适应文档处理系统

    AWS 官方介绍了如何使用 Amazon Bedrock AgentCore 构建能够自动分类、提取、验证并从商业文档中学习的多智能体智能文档处理系统。该系统由 8 个协作智能体组成,通过图工作流自动处理新文档格式并将学习成果持久化复用,以减少人工模板配置和维护成本。

    发布时间:

    推荐理由:文章提供了基于 Amazon Bedrock AgentCore 构建多智能体文档处理系统的完整架构和部署步骤,读者可以参考其工作流设计来实现文档格式的自动化识别和持续学习。

  1. AWS Machine Learning Blog63

    如何使用 Amazon Bedrock AgentCore 生成演示文稿

    AWS 介绍了如何构建一个基于 Amazon Bedrock AgentCore 的 AI 智能体系统来自动生成企业演示文稿。该系统采用监督智能体架构,结合 RAG 检索企业文档并利用 Claude 模型与 Stability AI 生成幻灯片图文内容。

    发布时间:

    推荐理由:原文提供了基于 Amazon Bedrock 构建企业级自动化演示文稿生成系统的完整架构与代码实现,读者可以参考其工具编排与 RAG 方案。

  2. AWS Machine Learning Blog82

    如何在 Amazon Bedrock 上使用 Grok 4.7 构建长周期智能体

    Grok 4.7 现已上线 Amazon Bedrock,支持可配置的推理努力设置、工具调用及结构化输出。AWS 团队通过三个需要搜索与推理的复杂任务测试发现,xhigh 努力级别在准确性上表现最优,而 low 级别则在保持较高成功率的同时显著降低了 token 消耗,开发者可据此在生产环境中通过监控输出 token 和工具调用量来评估智能体运行状态。

    发布时间:

    推荐理由:文章通过在 Amazon Bedrock 上构建智能体并测试 Grok 4.7 的推理努力设置,展示了如何平衡任务准确性与 token 成本,为开发者提供了评估和监控智能体性能的实用方法。