部署工程 最新动态

PyTorch 2.15 发布：MPS 后端迎来 FP8、MoE 加速及显存优化

PyTorch 2.15 正式发布，为 Mac 的 MPS 后端带来 FP8 支持、混合专家模型解码提速以及显著优化的视频解码显存占用。

Cloudflare 团队通过优化推理将 AI 代码评审成本降低 68%

Cloudflare 团队通过精细化优化代码评审智能体，将平均单次评审成本从 2.43 美元降至 0.77 美元，降幅达 68%，同时将中位评审耗时从 4 分 09 秒缩短至 1 分 32 秒。优化手段主要包括跨仓库共享提示词前缀以提高缓存命中率、减少无效工具调用以及切换至更高效的 Anthropic 模型。

Maxwell：一款打通代码与硬件的新型代码执行模型

doubleAI 推出了新型代码执行模型 Maxwell，它能在程序运行时理解并改进代码、推理硬件与数据，并对所有优化进行形式化等效证明。Maxwell 支持 CPU 与 GPU，其实测表现包括将数据处理管线提速 38 倍、AI 推理内核提速 4.25 倍，并使 LTX-2.5 的 4K 视频生成时间缩短近一半。

TwelveLabs Pegasus 1.5 视频语言模型现已登陆 Amazon Bedrock

TwelveLabs 的视频语言模型 Pegasus 1.5 现已在 Amazon Bedrock 上线。该模型支持最长 2 小时的视频分析，提供时间戳元数据生成、多模态参考图像提示和免预索引的即时处理能力，可从 Amazon S3 URI 直接加载并返回结构化 JSON 结果。

AWS 推出 vLLM 双向 KV 缓存传输功能以降低多轮智能体首字延迟

AWS 团队在 vLLM 中引入了双向 KV 缓存传输机制，允许解码节点将此前计算的 KV 缓存返回给预填充节点，从而避免多轮对话中的重复计算。在 Amazon EC2 P5en 实例集群的基准测试中，该功能在长提示词下将 Qwen3-32B 和 GLM-5-FP8 的首字延迟（TTFT）分别降低了最多 1.6 倍和 3.3 倍。

AWS 推出 vLLM 推送式 KV 缓存传输机制以改善推理延迟

AWS 推出了 vLLM 的推送式 NIXL 连接器，通过将解码侧的块注册和传输设置移至后台线程，与预填充计算进行重叠。在 Qwen3-32B 模型基准测试中，该模式相比拉取模式可将首字延迟（TTFT）降低最多 3 倍，并将每输出 token 耗时（TPOT）降低 30%。

vLLM v0.32.0 发布

vLLM 发布 v0.32.0 版本，引入了 Model Runner V2、更广泛的低精度 KV 缓存支持、结构化决策与通用解析器，并增强了对 NVIDIA、AMD ROCm、Intel XPU 等多硬件平台的大模型推理与投机解码能力。

meng shao@shao__meng· 10:38精选AI 评分8686

Anthropic 在 Claude 编写了 Claude Code 约 90% 的代码后重新设计了代码评审流程，将大部分人读代码的动作交给机器，仅将人类注意力集中在判断力所在的关键环节。文中详细介绍了从 PR 前自我验证、AI 评审、安全评审、自动化检查、风险分级人工审批到合并队列和快速回滚的七层防线，并给出了将评审器本身作为持续评测系统以及为 AI 评审引入“收敛”约束的具体工程解法。

Jim Fan@DrJimFan· 00:52精选AI 评分8181

Jim Fan 宣布开源智能体机器人框架 ASPIRE V1.0，具备完整的真实机器人技能发现与自改进能力。切换到 Astra 作为后端模型后，实验室在各项评测中的表现一夜之间饱和至约 99%；同时，Opus 5.5 在机器人仿真评测中略胜 Astra，Sonnet 5.5 的成本与机器人能力帕累托前沿达到每任务 12 美元。

如何在 AWS 上部署开源编码智能体模型 Reflection Beam

AWS 官方博客介绍了如何在 Amazon SageMaker JumpStart 和 SageMaker HyperPod 上部署 Reflection AI 推出的开源智能体编码模型 Beam 1.0。

meng shao@shao__meng· 21:39精选AI 评分8686

Perplexity 开源了团队内部的 Agent 代码执行平台 SPACE，基于 Firecracker microVM 隔离运行不可信代码。该平台采用控制面与数据面分离的架构，提供模板、沙箱、进程等核心抽象，并支持 Kubernetes 与单机部署。

Meta Muse Spark Open 在 Together AI 正式上线

Meta 的 Muse Spark Open 模型已在 Together AI 上线，支持 1M-token 上下文窗口、长周期自主运行和多模态输入。该模型专为长运行周期的 Agent 编码工作流设计，API 定价为每百万输入 tokens 1.25 美元、输出 tokens 4.25 美元、缓存输入 tokens 0.15 美元。

Meta 的 Muse Spark Open 现已登陆 Amazon SageMaker JumpStart

Meta 的编码优化开源推理模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线，支持 1M token 上下文及 MoE 架构。文章介绍了如何通过 SageMaker Studio 或 Python SDK 部署 BF16 与 NVFP4 两种量化变体，并提供了推理请求示例。

NVIDIA 宣布推出 RTX Spark 个人电脑并举行全球发布活动

NVIDIA 宣布推出面向创作者、游戏玩家与 AI 智能体的 Windows 个人电脑 RTX Spark，并于全球多地举行发布体验活动。该产品整合了本地 AI 性能，首批媒体评测显示其在兼容性与本地 AI 工作流方面表现出色。

Apple 使用 MLX 和 RDMA 在 Mac Studio 上实现本地与分布式大模型推理

Apple 机器学习研究团队介绍了如何利用最新版 MLX 框架和 Thunderbolt 5 上的 RDMA 驱动程序，在 Mac Studio（搭载 M5 Ultra 芯片）上运行近万亿参数的 Muse Spark Open 等前沿大模型。

FLUX.3 Image Klein 现已上线 Diffusers

Black Forest Labs 推出的 FLUX.3 Image Klein 现已在 Diffusers 中首日上线，支持文生图、多参考图生图以及基于边界框的布局控制。文章提供了蒸馏版和基础版的加载代码、LoRA 微调脚本以及模块化流水线的架构解析。

使用 Amazon Bedrock AgentCore 构建自适应文档处理系统

AWS 官方介绍了如何使用 Amazon Bedrock AgentCore 构建能够自动分类、提取、验证并从商业文档中学习的多智能体智能文档处理系统。该系统由 8 个协作智能体组成，通过图工作流自动处理新文档格式并将学习成果持久化复用，以减少人工模板配置和维护成本。

如何使用 Amazon Bedrock AgentCore 生成演示文稿

AWS 介绍了如何构建一个基于 Amazon Bedrock AgentCore 的 AI 智能体系统来自动生成企业演示文稿。该系统采用监督智能体架构，结合 RAG 检索企业文档并利用 Claude 模型与 Stability AI 生成幻灯片图文内容。

面壁智能发布 MiniCPM-V 4.7，35B 多模态模型可在手机端流畅运行

面壁智能与 OpenBMB 正式开源 MiniCPM-V 4.7 系列模型，包含 35B-A3B 和 1B 两个版本。其中 35B-A3B 作为首个端侧 MoE 模型，通过前瞻专家调度（LES）和自回放微调技术，在仅占用 3G 内存的情况下即可在手机端实现每秒 13 个 token 以上的解码速度，且在多项视觉与文本评测中表现领先。

AWS 推出 Anchor Browser 与 Amazon Bedrock AgentCore 支付集成功能

AWS 宣布 Anchor Browser 集成 Amazon Bedrock AgentCore 支付功能，使 AI 智能体能够自动处理 HTTP 402 付费请求。该方案将钱包凭证和支付逻辑移至托管基础设施层，智能体无需内置支付代码即可通过 x402 协议访问付费网页及 API，并支持在基础设施层面设置预算限制与审计日志。