技术方向
让大模型先想再答的能力：思维链、推理模型，数学与逻辑评测上的突破和争议。
75 条精选近 30 天 68 条共收录 483 条
Microsoft Research Asia 开源了 Agent Lightning v1.0，这是一个约 3500 行代码的轻量级智能体强化学习框架。该框架采用 Harnessed Agentic RL 范式，允许直接在部署环境上进行训练，支持 Kubernetes 原生部署，并实现了 Collocated Async RL 以提升 GPU 利用率。
推荐理由：该框架通过直接复用部署时的智能体环境进行强化学习，降低了训练与部署不一致的风险，并提供了轻量化的 Kubernetes 原生支持方案。
Hugging Face 团队通过对 Nemotron-3 进行监督微调（SFT）和强化学习（RL），结合生成、评估与改进的推理循环，使模型在 IOI 2026 和 IMO 2026 中达到金牌水平。该方案强调了模型微调与推理时计算的协同效应，并已在 Hugging Face 开源了相关检查点、训练数据集、推理流水线及评估基准。
推荐理由：该文展示了通过微调与推理时计算协同，使 Nemotron 模型在 IOI 和 IMO 竞赛中达到金牌水平的方法，为构建领域专家模型提供了可复用的技术路径。
Mistral AI 推出 1 万亿参数的多模态模型 Mistral Large 4 预览版，具备 520 亿激活参数，在编码、智能体工作流、网络安全及科学计算领域表现优异。该模型目前已在 Mistral Studio 提供 API 预览，官方计划于本月底发布模型权重。
推荐理由：Mistral AI 发布了 1 万亿参数的多模态模型 Mistral Large 4 预览版，该模型在编码、智能体工作流及网络安全任务中表现出极强竞争力，并将于本月底开源权重。
vLLM 发布 v0.31.0 版本，为 DeepSeek-V4.1-Flash 引入了 FlashMLA 压缩 KV 缓存及多项硬件加速与调度优化。新版本还增强了快启动功能、模型运行器 V2 的投机解码支持，并改进了大规模分布式服务的扩展性。
推荐理由：此版本带来了针对 DeepSeek-V4.1-Flash 的大规模内核与缓存优化及多平台运行支持，开发者可据此评估其在复杂推理与大规模吞吐场景下的升级收益。
OpenAI 推出 GPT-6 Astra Ultrafast 模型，该模型运行于 NVIDIA Blackwell GPU 之上，相比 Astra 标准模式 token 生成速度提升最高 8 倍。该版本现已通过 OpenAI API 及部分 ChatGPT Work 和 Codex 用户开放，旨在通过降低延迟优化智能体在编码、测试及工具调用等工作流中的响应效率。
推荐理由：OpenAI 推出基于 NVIDIA Blackwell 架构的 GPT-6 Astra Ultrafast 模型，通过推理优化实现最高 8 倍的生成速度，旨在缩短智能体在编码与工具调用中的循环周期。
Google 发布新一代前沿模型 Gemini 4 Argon，该模型具备强大的长周期推理能力，支持 1M tokens 的输出窗口，在软件工程、金融法律分析及网络安全防御等领域表现领先。目前该模型已向部分受信任的防御者开放，未来将通过 API 和 Google AI Ultra 提供给开发者与企业。
推荐理由：Gemini 4 Argon 通过将输出窗口提升至 1M tokens 并强化长周期推理能力，为软件工程、企业知识工作及网络安全防御提供了新的性能基准。
Apple 推出 SCLATE 执行基底，通过统一的事件调度器和混合模拟时钟，支持在长周期多会话场景下对未经修改的智能体进行训练与评估。该系统可将长达数月的任务压缩至数小时内完成，并记录模型调用的 token 与概率。
推荐理由：该研究提出的执行基底解决了持续学习智能体在多会话场景下的调度难题，通过压缩时间轴和统一事件管理，为评估智能体在长周期任务中的表现提供了标准化方案。
Anthropic 发布 Claude 5.5 系列的第二个模型 Claude Sonnet 5.5。该模型相比 Sonnet 5 运行速度提升 30% 以上，在编码、知识工作及长周期任务中表现显著增强，且在多项基准测试中性能接近 Opus 5.5。Sonnet 5.5 现已在各平台上线，并首次在 Sonnet 系列中引入了网络安全防护机制与防蒸馏安全分类器。
推荐理由：Claude Sonnet 5.5 在保持定价不变的前提下显著提升了编码与推理性能，其在多项基准测试中表现接近 Opus 5.5，为开发者提供了更高性价比的生产力选择。
Anthropic 推出 Claude 5.5 系列首款模型 Claude Opus 5.5，在 Agent 编码、计算机使用及知识工作任务中表现领先。该模型运行成本较 Opus 5 降低 40%，推理速度提升超 30%，并具备更自然的沟通风格。此外，Opus 5.5 引入了更严格的自动化行为审计与安全防护措施，目前已在各主流云平台上线。
推荐理由：Anthropic 发布 Claude Opus 5.5，在提升智能体编码与推理能力的同时，通过架构优化将运行成本降低 40%，并强化了针对网络安全与生物研究的安全防护机制。
Google 发布 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking 两款语音模型，旨在提升语音智能体的实时推理与复杂任务处理能力。
推荐理由：Google 发布了 Gemini 3.8 Live 系列模型，通过引入实时推理和多步思考能力，为语音智能体提供了更流畅的交互体验与任务执行效率。
Together AI 在 DeepSWE 基准上对比了 GLM-5.3 与 GPT-5.6 Sol 的表现。GPT-5.6 Sol 在单次尝试中保持领先，而 GLM-5.3 在多次尝试下表现更优且成本仅为前者的一半。分析建议采用级联路由策略，即优先使用 GLM-5.3，在测试失败时再调用 GPT-5.6 Sol，以实现更优的成本效益与任务覆盖率。
推荐理由：通过对比 GLM-5.3 与 GPT-5.6 Sol 在 DeepSWE 上的表现，展示了不同模型在成本、速度与任务覆盖率上的权衡，并提出了基于验证器的级联路由策略。
月之暗面发布 Kimi K3，这是全球首个 2.8 万亿参数的开源模型，专为长序列编码、知识工作及深度推理设计。该模型支持 1M 上下文窗口、多模态输入及可配置的推理深度，现已通过 Together AI 提供 API 服务，支持自动上下文缓存以优化成本。
推荐理由：Kimi K3 作为首个 2.8 万亿参数的开源模型，通过架构创新支持 1M 上下文及深度推理，开发者可参考其在 Together AI 上的调用指南与成本优化策略。
伯克利人工智能研究实验室（BAIR）探讨了随着推理成本急剧下降，智能体普及将如何重塑数据系统。文章指出未来数据系统需要迎接三大新挑战：支持智能体的高并发试探查询、管理多智能体协作的长任务状态与记忆基底，以及利用智能体从零合成定制化的专用数据系统。
推荐理由：文章探讨了零边际推理成本时代对数据系统架构的深远影响，分析了智能体作为工作负载带来的新型挑战与优化方向。
Together AI 在 ICML 2026 展示了九项研究成果，覆盖从智能体框架（如 DSGym、ThunderAgent）、模型推理优化（如 RARO、V1、Aurora）到系统与内核优化（如 Untied Ulysses、OEA、ParallelKernelBench）的全栈技术。
推荐理由：Together AI 在 ICML 2026 发布了九项涵盖从智能体到 GPU 内核的全栈研究，这些成果展示了如何通过跨层优化提升模型推理效率与性能。
自适应并行推理（APR）允许模型根据问题复杂度动态决定何时分解任务、并行执行线程及协调结果，旨在解决传统顺序推理带来的上下文冗余与高延迟问题。文章对比了 Multiverse 等修改推理引擎的方案与 ThreadWeaver 等客户端编排方案，并探讨了如何通过强化学习激励模型学习并行控制流，同时指出该领域在推理稳定性与训练目标上的开放性挑战。
推荐理由：文章系统梳理了自适应并行推理这一新兴范式，对比了不同技术路径在推理效率与实现复杂度上的权衡，为理解大模型推理加速提供了关键视角。