技术方向
让大模型先想再答的能力：思维链、推理模型，数学与逻辑评测上的突破和争议。
75 条精选近 30 天 68 条共收录 483 条
doubleAI 推出了新型代码执行模型 Maxwell，它能在程序运行时理解并改进代码、推理硬件与数据，并对所有优化进行形式化等效证明。Maxwell 支持 CPU 与 GPU，其实测表现包括将数据处理管线提速 38 倍、AI 推理内核提速 4.25 倍，并使 LTX-2.5 的 4K 视频生成时间缩短近一半。
推荐理由：原文介绍了能在运行时优化二进制代码并提供形式化等价证明的新型模型，读者可以据此了解其在数据管线和推理内核上的性能表现。
Inception Labs 推出 Mercury 3，这是目前能力最强的扩散大模型。该模型在多个基准测试中表现优于同类速度优化模型，运行速度达每秒 1,000 token 以上，支持 1M token 上下文，并已在 API 平台上线。
推荐理由：原文公布了新型扩散大模型的各项基准表现和定价，读者可以据此评估其在低延迟场景中的实际部署价值。
Cloudflare AI 推出了新型 System One 提取模型 Clairic，目前已在 Workers AI 上以预览版形式托管，并计划很快开源权重。Clairic 能够在单次前向传递中从非结构化输入中提取、计算、估计和预测数值，无需生成 token，相比传统 LLM 具有更高的准确性、更快的延迟和更低的成本。
推荐理由：该模型采用单次前向传递直接提取结构化数据，展示了在数据处理工作流中替代传统 LLM 的高效率和低成本路径。
推荐理由：原文公布了 DeepSeek V4.1 Flash 1017 的评测得分、API 定价与多项能力提升，读者可借此评估其在开源模型中的性价比与性能表现。
AWS 团队在 vLLM 中引入了双向 KV 缓存传输机制，允许解码节点将此前计算的 KV 缓存返回给预填充节点，从而避免多轮对话中的重复计算。在 Amazon EC2 P5en 实例集群的基准测试中，该功能在长提示词下将 Qwen3-32B 和 GLM-5-FP8 的首字延迟（TTFT）分别降低了最多 1.6 倍和 3.3 倍。
推荐理由：文章详细介绍了 vLLM 中双向 KV 缓存传输的架构与基准测试数据，帮助开发者评估其在减少多轮智能体工作负载首字延迟方面的实际效果。
AWS 推出了 vLLM 的推送式 NIXL 连接器，通过将解码侧的块注册和传输设置移至后台线程，与预填充计算进行重叠。在 Qwen3-32B 模型基准测试中，该模式相比拉取模式可将首字延迟（TTFT）降低最多 3 倍，并将每输出 token 耗时（TPOT）降低 30%。
推荐理由：文章介绍了 vLLM 的推送式 KV 缓存传输方案，读者可以了解它如何通过重叠预处理与解码设置来降低首字延迟。
稀宇科技正式上线 MiniMax M3.1 Flash 模型，其推理速度较前代提升近 3 倍且使用成本降低 70%。该模型在智能体任务、编程、Computer Use 及网络安全等基准测试中表现优异，现已接入 API、MPlan 及 MiniMax Code，并计划稍后开放权重。
推荐理由：MiniMax M3.1 Flash 在保持较低使用成本的同时大幅提升了推理速度与多项基准表现，读者可以据此评估其在自动化与软件开发场景下的落地性价比。
DeepSeek 发布新模型 DeepSeek-V4.1-Flash-1017，在提升代码和 Agent 任务表现的同时缩短了运行时间并减少了输出消耗。网页端、APP 与 API 已同步更新，配套的 DeepSeek Harness 升级至 0.2.1 版本。此外，官方还推出了支持网页搜索与正文抓取的自研 Search 和 Fetch API 接口。
推荐理由：新模型在提升代码和Agent任务表现的同时压低了运行时间和输出成本，并且开放了自研搜索API。
谷歌正式面向全球发布 Gemini 4 Argon 旗舰模型，重点加强了多模态、编程、专业知识工作和长流程任务持续执行能力。该模型在多项评测中达到与行业同类旗舰相当的水平，其 API 价格限时提供五折优惠至 11 月 30 日结束。
推荐理由：谷歌发布新一代旗舰模型并给出多项基准测试与API定价，读者可以据此了解其性能水平和调用成本。
谷歌发布了将 AI 智能体锚定于生物现实的三项研究进展，旨在推动自主湿实验室的发展。其核心内容包括：推出 VERID 框架作为实验室工作单元的语义数字孪生以实现硬件安全与实时状态跟踪，通过适配体分子发现展示了闭环智能体科学发现流程，以及通过加速全新蛋白质结合体设计实现高效靶向结合。
推荐理由：原文介绍了谷歌在生物实验室自动化和智能体闭环发现方面的三项技术进展，为读者理解大模型如何与物理湿实验室结合提供了具体框架。
AWS 官方博客介绍了如何在 Amazon SageMaker JumpStart 和 SageMaker HyperPod 上部署 Reflection AI 推出的开源智能体编码模型 Beam 1.0。
推荐理由：文章给出了在 AWS 上部署该开源模型的两条具体路径和配置要点，读者可以据此评估不同托管方案的资源开销。
Reflection 实验室推出首款开源模型 Beam，这是一个拥有 501B 总参数、每 token 激活 23B 的 mixture-of-experts 架构大语言模型，支持 1M tokens 上下文窗口，专注于编码与智能体场景。
推荐理由：文章详细介绍了 Reflection 实验室首款 501B 开源 MoE 模型 Beam 的架构设计与部署方案，读者可以据此了解其在长文本和智能体任务上的技术实现。
Hugging Face 联合 IBM 发布了 Granite Switch 4.1 模型（包含 8B 和 30B 版本），通过复用基底模型的 KV cache 并在单个托管端点上集成了通用决策 aLoRA、安全卫士 aLoRA 以及语音转文本模型 Granite-Speech-5.0-Turbo-CTC。
推荐理由：原文介绍了多功能组合模型的架构及复用 KV cache 的实现方式，读者可以了解如何在单个端点上高效组合决策与语音能力。
Apple Machine Learning Research 推出了 Selection-based Structured Reasoning (SSR) 框架，将多模态智能体的自由格式推理重新定义为预设候选选择。
推荐理由：文章提出了一种将多模态智能体推理转化为候选选择的新框架，读者可以通过该方法评估其在降低推理延迟和提升搜索效率方面的潜力。
Meta 的 Muse Spark Open 模型已在 Together AI 上线，支持 1M-token 上下文窗口、长周期自主运行和多模态输入。该模型专为长运行周期的 Agent 编码工作流设计，API 定价为每百万输入 tokens 1.25 美元、输出 tokens 4.25 美元、缓存输入 tokens 0.15 美元。
推荐理由：原文给出了新模型的架构特性和 API 价格，读者可以据此评估其在长上下文编码和多模态任务中的成本与能力。
Meta 的编码优化开源推理模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线，支持 1M token 上下文及 MoE 架构。文章介绍了如何通过 SageMaker Studio 或 Python SDK 部署 BF16 与 NVFP4 两种量化变体，并提供了推理请求示例。
推荐理由：文章详细介绍了在亚马逊平台上部署该模型的完整步骤与配置要求，为技术团队评估资源成本和架构落地提供了实用参考。
Meta 发布了开源混合专家多模态模型 Muse Spark Open，拥有约 8160 亿总参数、每个 token 约 420 亿激活参数以及高达 100 万 token 的上下文窗口。该模型支持文本、图像、音频和视频输入，专为代码编写与智能体任务优化，并提供了 BF16 和 NVFP4 权重以及主流推理框架的部署指南。
推荐理由：原文介绍了该开源多模态混合专家模型的架构参数与部署推理方案，读者可借此评估其在长上下文与智能体任务中的落地可行性。
Meta 发布 Muse Spark Open，这是一个拥有 816B 总参数和 42B 激活参数、具备 1M token 上下文窗口的开源权重多模态推理模型。该模型针对编码和智能体任务进行训练，在 Hugging Face 开源，并支持在 SGLang 和 vLLM 中进行优化运行。
推荐理由：文章公布了该开源模型的具体参数规模、上下文窗口以及推理和微调支持，读者可以据此评估其在代码和智能体任务中的实际落地潜力。
Apple 机器学习研究团队介绍了如何利用最新版 MLX 框架和 Thunderbolt 5 上的 RDMA 驱动程序，在 Mac Studio（搭载 M5 Ultra 芯片）上运行近万亿参数的 Muse Spark Open 等前沿大模型。
推荐理由：文章详细展示了利用最新 MLX 和 RDMA 技术在 Mac Studio 集群上运行近万亿参数大模型的方法与性能数据，为端侧大模型部署提供了具体的工程参考。