跳到正文
10月13日周二
10月12日周一
  1. AWS Machine Learning Blog68

    使用 Ray LLM Deep Learning Containers 在 Amazon EKS 上运行多节点推理工作负载

    AWS 发布了支持多节点部署的 Ray LLM DLC,允许用户在 Amazon EKS 上通过预填充(prefill)与解码(decode)分离架构运行大模型。该方案利用 NIXL 和 EFA 实现节点间的高速 KV 缓存传输,无需编写自定义代码即可通过 YAML 配置实现 OpenAI 兼容的推理端点,有效解决了计算密集型预填充与内存带宽敏感型解码任务的资源竞争问题。

    发布时间:

    推荐理由:该教程展示了如何利用 AWS 新推出的多节点 Ray LLM DLC,在 Amazon EKS 上实现大模型的预填充与解码分离推理,为优化高并发推理性能提供了可落地的架构参考。

  2. AWS Machine Learning Blog60

    在 Amazon SageMaker AI 上使用 llama.cpp 部署决策模型

    AWS 官方发布教程,指导开发者在 Amazon SageMaker AI 上利用 llama.cpp 部署模型,支持标准文本生成及通过 SemIf 适配器实现结构化决策。该方案允许模型直接返回选项概率而非生成文本,适用于路由请求、动作选择等 Agent 场景,并提供了 CPU 与 GPU 的部署路径及性能基准参考。

    发布时间:

    推荐理由:本文介绍了在 Amazon SageMaker AI 上使用 llama.cpp 部署决策模型的方法,通过 SemIf 适配器可直接获取选项概率而非生成文本,适合需要结构化输出的 Agent 工作流。

  3. NVIDIA Blog63

    NVIDIA 在 OCP 全球峰会上公开 Vera Rubin 架构并推进开源 AI 工厂标准

    NVIDIA 在 OCP 全球峰会上宣布将 Vera Rubin 机架和计算托盘设计通过开源的 MGX 架构贡献给 OCP,并与合作伙伴共同发布了下一代人工智能工厂的开放标准、开源软件组件以及全新的网络与电源架构。

    发布时间:

    推荐理由:原文介绍了新架构和开源规范的具体演进,帮助读者了解下一代人工智能基础设施的设计标准。

10月10日周六
  1. Cloudflare AI72

    Cloudflare 发布多模态决策模型 Clef-omni 并优化 Clef 系列

    Cloudflare 发布 Clef-omni 模型,支持音频、视频、图像和文本输入,基于 Qwen3-Omni-30B-A3B-Instruct 架构构建。同时,Clef-flash 价格降至每百万 token 0.038 美元,上下文窗口调整为 24k;Clef 模型通过 SGLang 优化提升了推理速度。

    发布时间:

    推荐理由:Cloudflare 扩展了决策模型系列,通过引入支持音视频的多模态模型并优化现有模型性能与价格,为开发者提供了更低成本的自动化决策方案。

10月9日周五
  1. AWS Machine Learning Blog72

    Postman 如何在 Amazon Bedrock 上为 4000 万开发者运行 Agent Mode

    Postman 介绍了其 Agent Mode 的架构实践,通过动态工具选择、Schema 驱动的数据读取及精细化的上下文管理,解决了在成熟产品中集成智能体的复杂性。该系统利用 Amazon Bedrock 的跨区域推理、模型灵活性、提示词缓存及数据保护功能,实现了生产环境下的高性能与高可靠性。

    发布时间:

    推荐理由:Postman 分享了在成熟产品中集成 AI 智能体的工程实践,通过动态工具选择、Schema 驱动的数据读取及分层上下文管理,为构建生产级智能体提供了可迁移的架构模式。

  2. Hugging Face Blog68

    Ai2 如何通过 GPU 时间预算优化集群调度

    Ai2 团队通过引入基于 GPU 时间预算、分层公平调度和调度合约的系统,取代了原有的优先级调度模式。该方案将资源分配从操作任务转变为透明的预算过程,有效解决了 GPU 资源占用(squatting)和优先级膨胀问题,并将人工维护需求降低了 74%,同时保持了 98% 的集群占用率。

    发布时间:

    推荐理由:Ai2 分享了通过引入 GPU 时间预算和分层公平调度机制解决集群资源争抢问题的实践,为管理大规模分布式训练集群提供了可借鉴的策略。

  3. OpenAI News36

    Sophos 利用 OpenAI Daybreak 将威胁调查时间缩短 96%

    Sophos 通过集成 OpenAI Daybreak,成功将网络威胁调查时间缩短了 96%。该方案在保持人工监督的前提下,实现了 52% 的 MDR(托管检测与响应)案例自动化处理。这一应用展示了 Daybreak 在提升网络安全运营效率方面的显著成效。

    发布时间:
  4. NVIDIA Blog31

    NVIDIA 开发者如何利用前沿 AI 智能体与 NVIDIA Omniverse 将创意转化为仿真应用

    开发者正结合前沿 AI 模型与 NVIDIA Omniverse 库,通过自然语言指令指导 AI 智能体来构建、测试和优化仿真应用。NVIDIA 团队展示了利用 GPT-6 Astra 等模型在仓库规模压力测试、柔性电缆布线控制、CAD 资产转换、人形机器人模拟器构建以及自动驾驶测试工作流中的具体应用。

    发布时间:
  5. AWS Machine Learning Blog70

    Amazon Bedrock AgentCore payments 正式发布,支持 AI 智能体按推理次数付费

    Amazon Bedrock AgentCore payments 现已正式发布,旨在为 AI 智能体提供托管式的按需支付能力。该服务通过集成 x402 协议、管理钱包及基础设施层面的支出限额治理,使智能体能够安全地进行高频、小额的推理服务支付。Incarna 已利用该功能与 BlockRun 合作,实现了按单次推理请求结算的生产级工作流。

    发布时间:

    推荐理由:该功能通过基础设施层面的支出治理和 x402 协议支持,解决了 AI 智能体在执行任务时高频、小额支付的合规与风控难题。

10月8日周四
  1. NVIDIA Blog23

    《Gears of War: E-Day》现已上线 GeForce NOW

    《Gears of War: E-Day》现已登陆 GeForce NOW,Ultimate 会员可体验 GeForce RTX 5080 级别的云端性能,并支持 NVIDIA DLSS 和 NVIDIA Reflex 技术。Fire TV 用户近期将能直接通过 Amazon 购买 GeForce NOW 会员,实现更便捷的设备接入。本周共有 10 款游戏加入云端库,包括 7 款新发布作品。

    发布时间:
  2. Apple Machine Learning Research48

    Normalizing Trajectory Models (NTM) 提出一种基于标准化流的轨迹建模方法

    Normalizing Trajectory Models (NTM) 将扩散模型的反向生成步骤建模为具有精确似然训练能力的条件标准化流,解决了生成过程压缩至少量步骤时性能下降的问题。该模型通过结合浅层可逆块与深层轨迹预测器,支持从零训练或基于预训练流匹配模型初始化。在文本生成图像任务中,NTM 仅需 4 个采样步骤即可匹配或超越现有基准,并能通过自蒸馏生成高质量样本。

    发布时间:
  3. Hugging Face Blog82

    如何使用 ML-intern 智能体自动化构建与发布模型

    Hugging Face 官方博客介绍了如何通过 HuggingChat 中的 ML-intern 智能体,以低成本自动化完成模型微调、蒸馏及评估任务。作者分享了包含预算限制、基准测试及冒烟测试的提示词编写技巧,并展示了包括植物病害识别、图像 LoRA 及轻量化模型蒸馏在内的六个实际案例,所有提示词已在 GitHub 开源。

    发布时间:

    推荐理由:作者通过实测展示了如何利用 HuggingChat 中的 ML-intern 智能体完成从数据集构建、模型训练到评估发布的完整流程,并提供了可复用的提示词模板与成本控制策略。

  4. Google Research66

    AI 辅助是增强还是削弱了专业技能?一项专利撰写领域的实地实验

    Google Research 发布的一项针对 133 名专利律师的三个月实地实验显示,AI 辅助工具虽能显著提升律师的短期撰写效率与质量,但在脱离 AI 的独立评审任务中,资深律师表现出技能增强,而初级律师的技能提升并不明显。研究指出,AI 辅助带来的短期产出提升并不等同于专业判断力的快速习得,初级人员若过度依赖 AI 执行而非自主思考,可能面临技能习得受阻的风险。

    发布时间:

    推荐理由:该研究通过三个月的实地实验,揭示了 AI 辅助在提升短期工作产出的同时,可能对初级专业人员长期技能积累产生的不同影响,为评估 AI 对职业成长路径的长期作用提供了实证视角。

  5. AWS Machine Learning Blog75

    Claude Haiku 5.5 在 Amazon Bedrock 正式发布

    AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线。作为 Claude 5.5 系列中最高效的模型,它支持编码、工具调用、计算机使用及多步智能体任务,并引入了努力控制功能以平衡成本与智能。该模型可与 Claude Opus 5.5 配合,由 Opus 负责复杂推理,Haiku 5.5 执行高频、重复的子任务。

    发布时间:

    推荐理由:Claude Haiku 5.5 在 Amazon Bedrock 上线,通过提供更低成本和高吞吐能力,适合作为复杂任务中的高频子智能体使用。

  6. NVIDIA Blog80

    NVIDIA 与 Microsoft 合作推出 RTX Spark 平台及 Windows 智能体基础设施

    NVIDIA 与 Microsoft 宣布推出 RTX Spark 硬件平台,将 Blackwell RTX GPU 与 Grace CPU 集成至 Windows 笔记本及紧凑型台式机,支持本地运行大规模 AI 模型。

    发布时间:

    推荐理由:NVIDIA 与 Microsoft 合作推出 RTX Spark 硬件平台及 MXC 基础设施,旨在通过软硬一体化方案将高性能 AI 智能体运行能力引入 Windows 生态。

  7. AWS Machine Learning Blog38

    Amazon Quick 与 Amazon Bedrock 如何通过实时 ACL 执行重构 RAG 访问控制

    Amazon Quick 和 Amazon Bedrock Knowledge Bases 通过引入实时 ACL 执行机制,解决了企业 RAG 应用中权限同步滞后与映射错误的安全挑战。该方案采用两阶段验证架构,在预检索过滤的基础上,于查询时直接调用数据源 API 进行实时权限核验,确保 AI 仅基于用户有权访问的文档生成内容。此举在保障语义搜索性能的同时,消除了因权限变更延迟导致的数据泄露风险。

    发布时间:
  8. GitHub Blog · AI & ML58

    GitHub 发布 AI 驱动的通用密钥检测模型以增强推送保护

    GitHub 推出基于 ModernBERT 的新型分类器,用于在推送阶段识别非结构化密钥,评估速度低于 2 毫秒,可将密钥预防能力提升一倍以上。该功能目前处于私有预览阶段,本月将向 Enterprise Cloud 和 GitHub Teams 开放,并集成至 Copilot CLI 和 Copilot App 的安全审查命令中。

    发布时间:
  9. Hugging Face Blog68

    Liquid AI 发布 d1 系列端侧多模态决策模型

    Liquid AI 发布了 d1-3B 和 d1-omni-600M 两款开源决策模型,旨在为端侧设备提供快速的结构化决策能力。d1-3B 支持文本和图像输入,在 NVIDIA Jetson 等设备上单次推理延迟低于 50ms;d1-omni-600M 则支持文本、图像及音频输入。该系列模型不生成 token,而是通过单次前向传播直接输出决策结果,目前已在 Hugging Face 上线。

    发布时间:

    推荐理由:Liquid AI 发布了专为端侧设计的 d1 系列决策模型,通过单次前向传播实现快速结构化决策,为开发者提供了在资源受限设备上部署多模态任务的新选择。

  10. Microsoft Research82

    Microsoft Research 发布 Agent Lightning v1.0:轻量级智能体强化学习框架

    Microsoft Research Asia 开源了 Agent Lightning v1.0,这是一个约 3500 行代码的轻量级智能体强化学习框架。该框架采用 Harnessed Agentic RL 范式,允许直接在部署环境上进行训练,支持 Kubernetes 原生部署,并实现了 Collocated Async RL 以提升 GPU 利用率。

    发布时间:

    推荐理由:该框架通过直接复用部署时的智能体环境进行强化学习,降低了训练与部署不一致的风险,并提供了轻量化的 Kubernetes 原生支持方案。

10月7日周三
  1. AWS Machine Learning Blog53

    超越工时节省:构建 AI 智能体自动化的商业案例

    AWS 团队提出了一套评估 AI 智能体商业价值的框架,指出传统的基于工时节省的 ROI 模型不适用于智能体,企业应从时间节省、异常处理、决策质量及变更韧性四个维度衡量价值。文章还提供了一个基于任务复杂度和决策风险的优先级矩阵,建议企业通过定义明确的经济价值实现机制和设定停止投资的阈值,将智能体部署从孤立试点转化为可衡量的业务组合。

    发布时间:
  2. AWS Machine Learning Blog38

    Qlik 如何利用 Amazon Bedrock 构建企业级可溯源 AI

    Qlik 通过 Amazon Bedrock 构建了企业级 AI 工具 Qlik Answers,为全球 4 万多家客户提供基于数据源的自然语言问答服务。该系统通过路由层与专业智能体层协同,实现了对结构化数据与非结构化文档的精准检索,其中 Lintech International 的研究响应时间缩短了 75%。

    发布时间:
  3. Hugging Face Blog47

    TII 发布 Falcon ASR 语音识别模型

    TII 发布了参数规模为 1.6B 的 Falcon ASR 语音识别模型,该模型支持阿拉伯语(重点优化阿联酋方言)、英语、法语、西班牙语及葡萄牙语。在六项阿拉伯语测试中,Falcon ASR 的平均词错误率(WER)为 20.92%,优于此前 23.17% 的最佳公开结果,并支持单词级时间戳功能。目前用户可通过 Hugging Face Demo Space 进行体验。

    发布时间:
  4. Hugging Face Blog72

    Nemotron 模型通过微调与推理优化在 IOI 和 IMO 竞赛中达到金牌水平

    Hugging Face 团队通过对 Nemotron-3 进行监督微调(SFT)和强化学习(RL),结合生成、评估与改进的推理循环,使模型在 IOI 2026 和 IMO 2026 中达到金牌水平。该方案强调了模型微调与推理时计算的协同效应,并已在 Hugging Face 开源了相关检查点、训练数据集、推理流水线及评估基准。

    发布时间:

    推荐理由:该文展示了通过微调与推理时计算协同,使 Nemotron 模型在 IOI 和 IMO 竞赛中达到金牌水平的方法,为构建领域专家模型提供了可复用的技术路径。

  5. OpenAI News33

    Radisson Hotel Group 将酒店搜索功能引入 ChatGPT

    Radisson Hotel Group 携手 Accenture 利用 OpenAI 技术开发了一款 ChatGPT 插件,旨在帮助旅客在规划行程时直接搜索、对比并预订酒店。该功能通过集成酒店发现与预订流程,提升了用户在 ChatGPT 环境下的旅行规划体验。

    发布时间:
  6. Google DeepMind75

    Google DeepMind 发布 EmbeddingGemma 2 多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,这是一款基于 Gemma 4 架构、采用 Apache 2.0 协议的 7.4 亿参数轻量级多模态嵌入模型。它支持文本、图像、音频和视频的统一嵌入空间,具备 8K 上下文窗口,并支持通过 Matryoshka 学习动态调整输出维度,专为端侧设备的高效检索与 RAG 任务优化。

    发布时间:

    推荐理由:该模型通过模块化设计和 Matryoshka 学习技术,为开发者提供了一种在资源受限的端侧设备上实现多模态检索与 RAG 的高效方案。

  7. Microsoft Research32

    Microsoft Research 探讨 AI 的局限性与失败带来的启示

    Microsoft Research 合作伙伴研究经理 Jennifer Neville 在播客中探讨了 AI 系统在传统 benchmark 测试之外的表现,并分析了模型在面对非预期结果时深入研究数据的重要性。她指出,通过分析 AI 的“意外失败”并理解训练数据如何影响模型行为,能够帮助研究者更好地推动 AI 性能边界以满足用户需求。

    发布时间:
10月6日周二
  1. Google Research68

    Google 发布用于全球公共卫生的行星级地理空间基础模型 PDFM

    Google Research 推出人口动态基础模型(PDFM),通过自监督学习将搜索趋势、人类移动、建筑密度及环境因素压缩为位置嵌入向量。该模型作为插件可直接集成至现有流行病学工作流中,在疫苗接种预测、慢性病监测、传染病预警及心理健康风险评估等五项公共卫生挑战中表现出显著的预测增益。

    发布时间:

    推荐理由:Google Research 介绍了 PDFM 这一地理空间基础模型,通过将环境、移动和搜索数据转化为位置嵌入,为公共卫生预测提供了可直接集成的插件式方案。

  2. NVIDIA Blog38

    电信运营商为何基于开源模型构建 AI 战略

    89% 的电信运营商将开源模型视为 AI 战略的核心,其优势在于能够以更低成本获取前沿智能,并实现针对网络运营与客户服务的深度定制与自主管控。NVIDIA 推出了 300 亿参数的 Nemotron 3 Large Telco Model (LTM),并提供完整的微调方案与 NVIDIA NeMo 工具库,助力运营商通过私有数据构建符合行业规范的 AI 应用。

    发布时间:
  3. Mistral AI86

    Mistral AI 发布 Mistral Large 4 多模态模型预览版

    Mistral AI 推出 1 万亿参数的多模态模型 Mistral Large 4 预览版,具备 520 亿激活参数,在编码、智能体工作流、网络安全及科学计算领域表现优异。该模型目前已在 Mistral Studio 提供 API 预览,官方计划于本月底发布模型权重。

    发布时间:

    推荐理由:Mistral AI 发布了 1 万亿参数的多模态模型 Mistral Large 4 预览版,该模型在编码、智能体工作流及网络安全任务中表现出极强竞争力,并将于本月底开源权重。