斯坦福与 UC Berkeley 推出 TokenGate:token 门控注意力让长上下文 prefill 最快提升 11.3 倍
来自斯坦福大学和 UC Berkeley 的研究人员推出了 TokenGate,这是一个专为大语言模型长上下文 prefill 阶段设计可训练 token 门控注意力模块。
来自斯坦福大学和 UC Berkeley 的研究人员推出了 TokenGate,这是一个专为大语言模型长上下文 prefill 阶段设计可训练 token 门控注意力模块。
南京大学和商汤等团队的研究人员开源了 OpenMobile-2 手机智能体模型,包含基于 Qwen3.5 的 9B 和 Qwen3.6 的 27B 版本,并提供完整的训练环境与数据。
微软研究院开源了去中心化的多智能体编码框架 Agensh,移除了传统架构中的中心编排器,通过 Gitea、Mattermost 和共享上下文面板实现工作协同。该框架支持从 1 个扩展至 1,024 个 Agent 运行,在 ProgramBench 评测中随智能体数量增加显著提升了通过率。
推荐理由:该开源框架移除了多智能体系统中的中心编排器,通过去中心化协作和共享状态支持超大规模扩展,为复杂编程任务提供了新途径。
作者构建了一个基于 Pokémon Showdown 2v2 对战环境的多智能体测试平台,用来评估大语言模型智能体之间的协作、沟通与谈判能力。实验显示,使用 Qwen3.8-27B 模型时,自由对话组的胜率达到 64%,高于无对话组的 42%,但自由对话也带来了每场战斗 978k prompt tokens 的消耗。
Sierra 推出并开源了 𝜏-i18n 语音智能体多语言评测基准,将 𝜏-Voice 扩展至西班牙语、巴西葡萄牙语、印地语、韩语和普通话五种新语言。该基准引入了语言包机制,并提供任务完成率、交互表现和生成质量三个维度的独立评估指标。
Ai2 推出了用于测量大模型人口统计公平性的新基准 FairStress,能够捕捉模型在面对对抗性提示词时的隐蔽不对称性。测试结果表明,当候选人背景不同时,模型更容易因说服性论据而放弃对少数群体候选人的正确决策,表现出反刻板印象过度纠正现象。
Hugging Face 博客介绍了 ALTK-Evolve 方法,它通过分析智能体任务尝试并提炼行为规则加入系统提示词,在无需更新模型权重的情况下,使基于 GPT-4.1 和 GPT-5.5 的基础 ReAct 智能体在 τ²-bench 客服基准的零售与航空任务中登顶或超越现有微调及前沿模型。该方法通过增加少量输入提示词成本,在不增加对话轮次的前提下大幅提升了准确率与 Pass^4 稳定性。
推荐理由:该方法通过提炼行为规则并加入系统提示词,在无需更新模型权重的情况下显著提升了智能体在客服基准上的准确率与稳定性,为优化智能体性能提供了一种低成本且可迁移的提示词工程路径。
Latent Space 播客访谈 Leash Bio 联合创始人 Ian Quigley,探讨了 DNA 编码文库(DEL)的高通量数据采集、AI 模型在化学生物学中的应用挑战,以及团队近期推出的 Minos 科学推理智能体和开放数据集。访谈内容涵盖生物学规模化法则、Kaggle 竞赛复盘、模型对化学家身份的隐性记忆、多肽结合位点工程以及智能体科学强化学习的沙盒实践。
Composo 开源了 DishwasherBench v0.1.0,这是一个基于 Bosch SMV4HAX40G 洗碗机物理模拟的基准测试平台,支持人类和 AI 智能体通过 MCP 接口进行装载任务比拼。该项目通过模拟喷淋、水流及洗涤化学反应,根据 Eco 50 程序下的洗涤结果对模型装载效率进行评分,目前已在 GitHub 上线并提供相关研究文档与测试工具。
Amazon Web Services 提出 Priming 方法,通过复用预训练 Transformer 权重,以不到 0.5% 的预训练成本将模型转换为混合状态空间模型(SSM)。
同一件事,精选收录的是《AWS 提出 Priming 方法,可将预训练 Transformer 改造成混合状态空间架构》
AWS 团队发布论文《Priming: Hybrid state space models from pre-trained Transformers》,提出一种利用预训练 Transformer 权重构建混合架构的方法,将预训练成本降低逾 99%。
推荐理由:AWS 团队提出的 Priming 方法通过复用预训练权重构建混合架构,大幅降低了混合模型开发成本,并提供了可直接用于长上下文推理的开源模型与 vLLM 插件。
Google DeepMind 推出 SynthID Bio,这是一种专门用于合成生物学的水印技术,可在不影响蛋白质生物功能的前提下,将不可见的数字签名嵌入 AI 设计的蛋白质序列及 3D 结构中。该技术通过调整氨基酸选择和原子坐标实现溯源,旨在加强生物安全并确保科学数据的完整性,目前已开源相关代码、实验数据及模型权重。
推荐理由:该研究展示了如何为 AI 生成的蛋白质序列和结构嵌入不可见水印,为生物安全领域提供了一种可验证的溯源方案,并已开源相关代码与模型权重。
Microsoft Research 发布了逆合成预测框架 RetroChimera,该成果已发表于 Nature。该模型通过集成 Transformer 架构的 R-SMILES 2 与基于图神经网络的 NeuralLoc,利用学习排序策略整合两者的互补优势,在盲测中表现出优于现有基准的合成路线预测能力。RetroChimera 的实现代码与权重已在 GitHub 开源。
Google Research 推出 MilleMiglia,这是一款基于 C++ 开发的实例生成器,旨在为中程物流配送问题创建具有真实感且保护隐私的基准数据。该工具通过构建空间-时间图模型,解决了中程物流中货物在配送中心间转运、分拣及同步的复杂调度难题。目前,MilleMiglia 的源代码和文档已在 GitHub 开源,为物流优化研究提供了基础支撑。
Amazon 发布了 SOP-Bench,这是一个旨在评估 AI 智能体执行真实业务标准操作程序(SOP)能力的开源基准测试。该框架涵盖 12 个行业领域的 2000 多项任务,通过提供真实流程文本、配套工具接口及标准答案,支持开发者验证智能体在复杂、多步骤任务中的实际表现,并已在 GitHub 和 Hugging Face 上开源。
ControlG 框架通过引入工业 PID 控制器,将多任务机器学习中的目标协调问题转化为计算资源的动态时间分配问题。该方法摒弃了传统的梯度混合策略,改为在训练过程中按需分配计算容量,从而有效解决了多任务学习中的梯度冲突、训练漂移及目标权重衰减问题。在节点聚类任务中,ControlG 的随机调度策略表现优于 AutoSSL、ParetoGNN 及 CAGrad 等现有方法。
Amazon 推出 PatientAgentBench,这是一个用于评估面向患者的医疗 AI 智能体的开源基准框架。该框架通过生成合成患者记录和临床场景,利用 LLM 评审团根据临床安全、分诊质量等六个维度对智能体的多轮对话表现进行评分,旨在解决现有静态医学测试无法衡量智能体在真实临床工作流中表现的问题。
ThunderAgent 是一款旨在解决智能体推理中 KV cache 抖动问题的调度层系统,通过将智能体工作流抽象为可调度程序,实现了单节点吞吐量 2.5 倍提升及 8 节点集群 2.4 倍加速。该系统兼容 OpenAI API,支持与现有推理引擎及优化技术集成,目前已开源并被 SkyRL 等框架采用。
Together AI 发布了 ParallelKernelBench (PKB),这是一个专门用于评估多 GPU 内核生成能力的基准测试框架,包含 87 个源自真实代码库的分布式计算问题。测试显示,即使是 GPT-5.5 和 Gemini 3 Pro 等前沿模型,在零样本设置下也难以生成优于 PyTorch + NCCL 基准的内核,且在处理 rank 协调和通信机制选择时表现出明显的推理短板。
推荐理由:该研究通过 ParallelKernelBench 评估了前沿模型在多 GPU 环境下编写高性能 CUDA 内核的能力,揭示了模型在处理复杂分布式通信与硬件协同方面的局限性。
Berkeley AI Research 推出 SPEX 与 ProxySPEX 算法,旨在解决大规模 LLM 交互识别的计算难题。该框架利用稀疏性、低阶性和层次性等结构特征,通过策略性消融实验实现高效归因。其中,ProxySPEX 进一步利用交互的层次结构,在保持与 SPEX 同等性能的同时,消融次数减少约 10 倍,有效提升了长上下文场景下的归因准确性。
研究人员开发了一种基于信息内容评估与优化成像系统的框架,通过直接量化测量结果中包含的有用信息,解决了传统指标难以综合衡量分辨率、噪声与采样等因素的问题。该方法利用已知噪声物理模型简化互信息计算,在彩色摄影、射电天文学、无透镜成像及显微镜等四个领域中,均能准确预测系统性能。实验证明,该框架优化出的设计方案在无需特定解码器的情况下,即可达到 SOTA 端到端方法的性能,且显著降低了内存与计算需求。