vLLM v0.32.0rc1 发布:更新 Humming 并移除 NVFP4 scale workaround
vLLM 发布 v0.32.0rc1 版本,更新了 Humming 依赖并移除了 NVFP4 scale workaround。该版本由 jinzhen.ljz 签署提交,并由 Codex、Misha Goin 和 Kevin H. Luu 共同完成。
vLLM 发布 v0.32.0rc1 版本,更新了 Humming 依赖并移除了 NVFP4 scale workaround。该版本由 jinzhen.ljz 签署提交,并由 Codex、Misha Goin 和 Kevin H. Luu 共同完成。
Block 正在利用 OpenAI 技术构建 AI 驱动的安全防护系统。其安全团队能够以更快的速度调查威胁,并在几分钟内提出修复补丁。
SentinelOne 借助 OpenAI Daybreak 将恶意软件分析时间从数周大幅缩短至数小时,从而创造了调查更多威胁的能力。
Amp 借助 GPT-6 Astra、Ultrafast、GPT-Live-1 以及 Sign in with ChatGPT 等模型,推动 AI 智能体在代码编写之外的应用边界。通过这些技术,智能体能够胜任更多元的工作任务。
研究人员提出了一种直接从语音中检测语码转换的轻量级方法,利用预训练语音编码器中的帧级语言信息来识别单个话语中是否存在多种语言。基于CS-FLEURS中14个语言对的测试结果表明,Whisper-small编码器实现了0.798的平均F1分数,优于CNN基线的0.776和HuBERT线性基线的0.751。
Google Research 宣布公开推出 Deep Review,这是一个旨在为科学论文、法律协议和财务文件等复杂文档提供严谨反馈与技术验证的 agentic AI 系统。
推荐理由:原文介绍了该工具的四阶段智能体架构与多领域应用场景,读者可以据此了解大模型如何自动化处理学术审稿与复杂文档验证。
Google Research 在 Research@ 2026 活动上公布了十项技术与工具更新,涵盖 Google Earth AI 早期访问、支持多智能体协作的科学研究工具。
推荐理由:原文集中展示了十项技术与工具更新,读者可以据此了解其在科学、医疗、地球智能等领域的最新进展与开放动态。
Google Research 推出了 Geospatial Reasoning 智能体与 Planetary Prediction Engine 的多项更新,并发布了包含 GeoKTools 和 GeoExpertQueries 在内的技术报告与基准。
AWS 官方介绍了如何使用 Amazon Bedrock AgentCore 构建能够自动分类、提取、验证并从商业文档中学习的多智能体智能文档处理系统。该系统由 8 个协作智能体组成,通过图工作流自动处理新文档格式并将学习成果持久化复用,以减少人工模板配置和维护成本。
推荐理由:文章提供了基于 Amazon Bedrock AgentCore 构建多智能体文档处理系统的完整架构和部署步骤,读者可以参考其工作流设计来实现文档格式的自动化识别和持续学习。
Hugging Face 推出了 HiRO-ACEv2,该系统能够以 X-SHiELD 约 1/300 的成本生成全球 3 km 分辨率的气候数据。更新后的下采样模型 HiROv2 能够同时预测多个高分辨率字段,并准确重现极端降雨、大风和气压事件。该系统为研究人员提供了一种灵活且低成本的方式,用于生成多年期极端天气的高分辨率数据。
Apple Machine Learning Research 推出了首个从头预训练的三模态 Masked Diffusion Models(MDM),支持文本、图文和音文数据,并在 3B 模型规模(6.4T tokens)下取得了文本生成、文本生成图像和文本生成音频任务的强劲结果。
推荐理由:论文系统分析了三模态掩码扩散模型的设计空间与缩放规律,并提出了新的随机微分方程重参数化方法,为多模态离散扩散模型研究提供了大规模公开参考。
Third Moment Research 依托 GPT-6 Astra、GPT-6.1 Sol、Codex 以及面向网络安全的 Daybreak,构建了能够连续专注数天并在使用中不断改进的 Agent。该 AI 实验室成功运行了 10,000 个可持续运行 36 小时以上的智能体。
Tamnoon 基于 Amazon Bedrock 构建了名为 Tami 的智能体云安全修复编排器,通过多智能体架构实现安全漏洞的自主调查、风险评估与修复执行。该方案在 90 天内实现了关键云暴露减少超 90% 且零生产事故的成果。
AWS 介绍了如何构建一个基于 Amazon Bedrock AgentCore 的 AI 智能体系统来自动生成企业演示文稿。该系统采用监督智能体架构,结合 RAG 检索企业文档并利用 Claude 模型与 Stability AI 生成幻灯片图文内容。
推荐理由:原文提供了基于 Amazon Bedrock 构建企业级自动化演示文稿生成系统的完整架构与代码实现,读者可以参考其工具编排与 RAG 方案。
Amazon SageMaker JumpStart 提供了一个包含预训练模型的目录,支持用户使用 SageMaker Python SDK 部署模型并运行可重复的性能测试。
新分析显示,Agentic AI 在欧盟企业和小企业中的采用率正在不断增长,深入使用有望释放更多价值。
欧洲多国城市正借助 NVIDIA 加速计算、Cosmos 和 Nemotron 开源模型以及 Omniverse 库部署物理 AI 智能体与数字孪生,以优化公共服务、交通安全和能源管理。
NVIDIA 宣布对英国初创企业生态系统进行新投资,其中包括一项为期五年、价值 2.5 亿美元的算力承诺,用于加强英国的智能体安全与安全研究。同时,NVIDIA 公布了对 Boltz、Foresight、Hiverge、Prima Mente 和 Riverlane 等英国初创企业的新投资计划,并正与 Earthshot Prize 建立全球联盟创始合作伙伴关系。
Google DeepMind 与新加坡政府科技局合作推出了一款专为端侧运行优化的轻量级防诈骗 AI 模型,旨在保护公民隐私的同时打击复杂的社会工程学诈骗。该模型基于轻量级 Gemma 模型微调,采用两阶段处理流水线,在设备本地分析对话模式并在检测到操纵意图时触发实时警告。
Google DeepMind 发布 Gemini 4 Argon 模型,该模型在编码、金融、网络安全等复杂任务中表现出前沿能力,并已在内部及 Fairwind Program 中用于漏洞扫描。为应对滥用与对齐风险,该模型引入了三层实时保护机制、自动化失调监控及增强的提示词注入防御,在网络攻击模拟及代码基准测试中展现了显著的安全性提升。
同一件事,精选收录的是《Google 发布 Gemini 4 Argon 模型》
AWS 宣布 Anchor Browser 集成 Amazon Bedrock AgentCore 支付功能,使 AI 智能体能够自动处理 HTTP 402 付费请求。该方案将钱包凭证和支付逻辑移至托管基础设施层,智能体无需内置支付代码即可通过 x402 协议访问付费网页及 API,并支持在基础设施层面设置预算限制与审计日志。
推荐理由:该方案将支付逻辑从 Agent 运行时剥离至基础设施层,通过集成 x402 协议实现自动化付费访问,为开发者提供了无需修改代码即可处理付费资源请求的标准化路径。
OpenAI 旗下 Higgsfield 平台更新,通过集成 GPT-6 Astra 模型将视频生成时长从 1 分钟提升至 10 分钟以上。同时引入 GPT-Image-2.5 提供更精确的视觉效果,并利用 GPT-Live 开启语音电影制作功能。
推荐理由:OpenAI 旗下 Higgsfield 平台通过集成 GPT-6 Astra 等模型,将 AI 视频生成时长提升至 10 分钟以上并引入语音电影制作功能。
Amazon Bedrock 现支持通过托管授权(managed entitlements)简化多账号环境下的第三方模型访问,允许用户在中心账号订阅后向组织内分发权限。
GitHub 推出了一款基于微调 ModernBERT 的上下文感知密钥分类器,用于优化密钥扫描流程。该系统采用“正则筛选+模型分类”的两阶段流水线,相比此前的 LLM 方案,将扫描执行时间缩短了 86%,推理成本降低了 98%,并实现了 11.5% 的用户接受度提升。
推荐理由:GitHub 通过引入基于 ModernBERT 的轻量级分类器替代原有的 LLM 方案,在降低 98% 推理成本的同时提升了密钥检测的准确率与响应速度,为开发者提供了更高效的密钥扫描方案。
Liquid AI 发布了 LFM2.5-24B-A2B,这是一款拥有 24B 总参数、2B 激活参数的推理模型,专为端侧智能体设计。该模型支持 131K 上下文窗口,在工具调用和指令遵循任务中表现优异,并在 Apple M5 Max 等设备上具备极高的推理速度,现已在 Hugging Face 开源。
推荐理由:Liquid AI 发布了专为端侧智能体设计的推理模型 LFM2.5-24B-A2B,其通过 2B 激活参数实现了高效的推理与工具调用能力,为本地运行复杂智能体任务提供了新选择。
Google 发布 Gemini 4 Argon 模型,该模型在编码、金融、法律及科学研究等复杂任务中表现出更强的推理与多模态能力。Argon 支持 100 万 token 的统一输入输出窗口,现已通过 API、AI Studio、Gemini 应用及 Google Antigravity 平台向开发者、企业及订阅用户开放。
推荐理由:Gemini 4 Argon 针对复杂工程、科学研究及智能体任务进行了深度优化,其在多步推理和代码生成方面的表现可作为评估当前前沿模型解决高难度专业任务能力的重要参考。
Google DeepMind 发布 Gemini 4 Argon 模型,该模型在具身推理基准测试(ERQA)中以 87% 的得分领先。Argon 具备物理理解、代码生成及视觉语义推理能力,支持机器人控制、实时仿真重建、智能体标注及科研自优化等全生命周期任务,现已通过 Google AI Studio 和 Gemini API 开放。
同一件事,精选收录的是《Google 发布 Gemini 4 Argon 模型》
Amazon SageMaker AI 通过 Swap-AB 技术优化了 NVIDIA Hopper 架构下的 WGMMA 指令利用率,通过矩阵转置解决了 MoE 模型解码阶段的性能瓶颈,在 H200 上实现了 2%–4% 的端到端吞吐量提升,该优化已集成至 vLLM 0.24.0 及更高版本。
Grok 4.7 现已上线 Amazon Bedrock,支持可配置的推理努力设置、工具调用及结构化输出。AWS 团队通过三个需要搜索与推理的复杂任务测试发现,xhigh 努力级别在准确性上表现最优,而 low 级别则在保持较高成功率的同时显著降低了 token 消耗,开发者可据此在生产环境中通过监控输出 token 和工具调用量来评估智能体运行状态。
推荐理由:文章通过在 Amazon Bedrock 上构建智能体并测试 Grok 4.7 的推理努力设置,展示了如何平衡任务准确性与 token 成本,为开发者提供了评估和监控智能体性能的实用方法。
ShipStation Global 工程团队在 Amazon Bedrock AgentCore 上构建了 Deckhand,这是一个基于 Slack 的 AI IT 服务台智能体,可自动化处理日常 IT 问题并管理 Jira Service Management 工单。该解决方案实现了 97.5% 的进线频道查询解决率,并获得了员工 96% 的满意度评价。
Orca Security 推出 Discovery AI 智能体,通过结合 RAG、多阶段模型分配及人工反馈闭环,将自然语言请求转化为云基础设施查询。该方案通过九阶段流水线架构,实现了相比基准方案 90% 的成本降低、93% 的输入 token 减少以及 75% 的延迟优化。
推荐理由:Orca Security 通过多阶段 Agent 架构将自然语言转化为复杂查询,其在成本、延迟和准确性上的优化实践为构建生产级智能体应用提供了可参考的流水线设计思路。
在数据受限的语言模型预训练中,引入高资源辅助语言进行数据混合,比激进的超参数调整更能提升模型性能。研究显示,数据混合带来的性能提升相当于增加 2–3 倍验证集数据量或 2–13 倍下游任务准确率,且该优势随模型规模(150M 至 1.43B 参数)扩大而显著增长。实践建议优先采用数据混合策略,并通过 μP 将小规模代理模型的超参数迁移至大模型。
NVIDIA 宣布推出 RTX Spark 个人计算平台,并联合生态伙伴在发布前夕推出多项软件更新与性能优化。该平台结合了游戏、创意与 AI 超算能力,带来了全新本地智能体功能、Nemotron 3.5 Bolt 74B 模型、NVIDIA PAIR 个人 AI 路由器及多款创意与开发工具优化。
推荐理由:NVIDIA 推出了 RTX Spark 平台及相关软件生态,读者可以了解其在本地智能体和创作工具上的硬件与生态布局。
vLLM 发布 v0.32.0rc0 版本,在 HiSparse 模块中新增了主机池(host pool)在 KV cache 容量日志中的报告功能。该更新旨在优化模型推理过程中的资源监控与管理,用户可通过 GitHub 仓库查看相关提交记录。
NVIDIA 宣布向 Doctolib、Entalpic、Genesis AI 和 Pigment 等法国初创企业进行新投资,持续推进当地生态系统建设。此前,NVIDIA 已在全欧洲承诺投入近 100 亿美元的技术生态资金,并在此次活动中展示了法国企业在 Agentic 基础设施、开源模型及各行业应用方面的最新进展。
Apple 研究团队提出 SELFCOMPACT 框架,通过引入模型自主调用的压缩工具与轻量级规则,实现对智能体上下文的自适应压缩。该方法无需微调,在数学推理与智能体搜索任务中,以 30% 至 70% 的 token 成本降幅,实现了优于固定间隔压缩的效果,最高提升 18.1 个基准分。
Apple 研究团队发布了 Minions 系统,通过聚合闲置 Apple Silicon 设备的 GPU 算力,构建了一个用于执行大规模机器学习推理的分布式虚拟 GPU 云。该系统旨在解决集中式 GPU 基础设施成本高、弹性不足及资源受限的问题,支持灵活的任务调度与容错机制,无需额外采购硬件即可提升推理效率。
研究评估了 LLM 在多维质量指标(MQM)和错误跨度标注(ESA)任务中的表现,通过对比 70 个语言对及 WMT23 和 WMT25 数据集,发现 LLM 与人类标注者的一致性在不同任务中差异巨大,在多数场景下仍不可靠。研究指出人类在细粒度标注和低资源语言上表现受限,而 LLM 则难以处理细微错误、错误语言变体及错误跨度标注。该结果强调了通过人机协作标注流程提升评估可靠性的潜力。
AWS 官方发布教程,指导用户在泰国、马来西亚、新加坡、印尼和台湾通过 Amazon Bedrock 的全局跨区域推理功能调用 GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra 模型。该方案通过配置推理配置文件 ID,允许用户在本地容量受限时将请求路由至其他已部署模型的商业 AWS 区域,并提供了 IAM 权限设置、SCP 配置及监控管理的具体实现步骤。
推荐理由:本文详细介绍了在特定亚太地区通过 Amazon Bedrock 全局跨区域推理功能调用 GPT-6 模型的方法,为解决本地容量限制提供了可落地的配置指南。
GitHub 官方介绍了四种定制 GitHub Copilot 以适应特定项目需求的方法:使用自定义指令(Custom instructions)设定代码规范,利用智能体技能(Agent skills)封装重复流程,通过自定义智能体(Custom agents)处理复杂任务,以及借助 MCP 服务器连接外部工具与数据源。开发者可根据项目需求组合使用这些功能,从而减少重复解释标准与工作流的成本。