#推理

Attention Is Not What You Need (2025)

本文探讨了显式自注意力机制在序列建模中的必要性，并提出了一种基于 Grassmann flows 的无注意力架构。该架构通过 Causal Grassmann 层在线性降维、编码局部 token 对以及门控混合来传播信息。

斯坦福与 UC Berkeley 推出 TokenGate：token 门控注意力让长上下文 prefill 最快提升 11.3 倍

来自斯坦福大学和 UC Berkeley 的研究人员推出了 TokenGate，这是一个专为大语言模型长上下文 prefill 阶段设计可训练 token 门控注意力模块。

Rohan Paul@rohanpaul_ai· 19:00AI 评分5858

Google DeepMind 联合多所大学发布 TheoPhysEval 理论物理评测基准，测试结果显示最强智能体 GPT-6-Astra 在联网状态下成功解出了 50 道未发表研究级物理题中的 49 道。该基准收录的每道题目相当于世界级专家一日的工作量，单题测试成本低于 3 美元。测试还发现智能体在断网时准确率变化很小，表明其对物理文献进行了大量记忆。

微软开源 Agensh：无中心编排器的多智能体编码框架，可扩展至 1,024 个 Agent

微软研究院开源了去中心化的多智能体编码框架 Agensh，移除了传统架构中的中心编排器，通过 Gitea、Mattermost 和共享上下文面板实现工作协同。该框架支持从 1 个扩展至 1,024 个 Agent 运行，在 ProgramBench 评测中随智能体数量增加显著提升了通过率。

Five Qwen3.8-27B models match Fable 5 Using GVS5H Harness

研究提出了一种基于账本的零样本自组织方法 GVS5H，利用多个模型实例通过共享文件系统进行问题分解和协作。在 LiveCodeBench 最新 100 道困难问题测试中，该方法使本地部署的开源 Qwen3.8-27B 模型 pass@1 从 66.8% 提升至 92.4%，达到与 Fable 5 相当的准确率。

Chelsea Finn@chelseabfinn· 06:28AI 评分3030

生成价值分类器（Generative value classifiers）是一种不需要动作条件（action conditioning）的 Q 函数新参数化方法。 我们认为，这些方法可以与大型预训练策略完美结合，并能从更丰富的输出信号中更好地学习和泛化。 论文：https://alexanderswerdlow.github.io/gvc/

Neural chip decodes interactions between brain regions

EPFL 研究人员开发了一款名为 LogSync 的低功耗植入式神经系统芯片，能够跨脑区追踪大脑活动并实时解码认知与情绪状态。该芯片采用对数计算和软硬件协同设计，功耗低于 200 微瓦，结合机器学习算法可基于网络级生物标志物触发精准的脑深部电刺激。相关成果已发表在《IEEE Journal of Solid-State Circuits》上。

NBER 实验：AI 让初级专利律师即战力提升，但只有资深律师留存优势

一项由 Google 资助的 NBER 研究显示，AI 辅助显著提升了初级专利律师在专利起草任务中的即战力，但在脱离 AI 的修订任务中，只有资深律师保留了能力优势。研究表明基础专长可能是将 AI 实践转化为持久能力的前提，这也引发了关于专业技能培养与行业专业知识侵蚀的广泛讨论。

OpenBMB@OpenBMB· 21:25AI 评分5151

面壁智能推出了 EC²-Bench，对长周期智能体执行中的边缘与云端协同策略进行了系统研究。研究评估了四种协同策略在任务完成度、资源成本和隐私暴露方面的表现，发现合理利用云端预算可大幅提升成本效益，但性能与隐私之间存在明显权衡，且最优模式随端侧能力变化而不同。

Rohan Paul@rohanpaul_ai· 17:41AI 评分5959

芝加哥大学的一项新研究表明，大语言模型对自己决策关键因素的自述并不可靠，无法准确反映其答案分歧的真正根源。研究通过对多次预测结果进行对比分析发现，模型事前预判的核心分歧点甚至表现不如随机结果，而单次回答的覆盖效果也十分有限。

微软新医疗 AI 诊断准确率超普通医生两倍

微软开发的 MAI-DxO 医疗 AI 系统在《Science》杂志发表的研究中显示，其在复杂病例诊断上的准确率显著高于全科医生，且订购的检查和程序更少。该系统采用顺序诊断方式并使用 GPT-5 等模型，微软计划近期在波士顿一家医院开始临床测试。

meng shao@shao__meng· 09:57AI 评分5454

一项新 arXiv 论文指出，仅对原始对话历史做稠密检索加重排的 RAW-RAG，在 LoCoMo、LongMemEval、MEME、MemoryAgentBench 的 7 组基准与模型组合中有 6 组排名第一，比最强对比 agentic memory 高 0.13 到 5.53 分。作者认为长对话记忆的核心瓶颈是证据是否齐全，而非复杂的抽取、变异与图结构。

Rohan Paul@rohanpaul_ai· 08:53AI 评分6161

Meta 与卡内基梅隆大学的研究发现，通过强化学习训练的小型模型在工具选择任务上能够超越提示词驱动的大型模型。研究通过教师示例与强化学习训练 Qwen3 模型执行步骤拆解与工具选择，在 ToolBench 上达到 41.5% 的准确率，优于 Llama-4-Maverick 402B 的 30.6%。

小红书推荐系统评测 Agent：上下文驱动的 LLM-as-Judge 实践

小红书构建了上下文驱动的推荐评测 Agent，以一次推荐请求为最小评测单元进行分维度语义判断。系统采用三档评分并固定输入快照与评测版本以支持回放，同时探索了用于上线前离线预筛的 LLM-as-User 连续用户模拟。

Rule 30 的最新研究进展与开放问题探索

本文梳理了胞元自动机 Rule 30 的历史背景、边缘规律以及与 Collatz 猜想的深层联系。文章详细介绍了 Stephen Wolfram 设下的三个关于中心列的开放问题，并回顾了研究团队在近期协作探索中所取得的进展与计算结果。

Fable 5.1 如何在图像中隐藏信息？

研究人员测试了 Claude Fable 5.1 在生成的 SVG 图像中隐藏简短文本信息的能力，发现模型会自发采用建筑高度、物体倾斜度等视觉元素进行编码。在没有预先约定编码方案的情况下，另一个全新实例通过对截图运行 Python 工具进行分析，成功解码了 78% 的消息。文章还简要对比了 GPT-6 Astra 的编码策略与跨模型解码效果。

Ethan Mollick@emollick· 12:40AI 评分6464

在一项针对 124 篇哈佛社会科学论文的研究中，Opus 4.8 在各项指标上均表现出优于人类专家同行评审的效果。作者指出，学术界需要迅速思考如何适应将 AI 引入科研实践的变化。

Anthropic 研究：大语言模型正使大规模形式化软件验证成为现实

Anthropic 与 Theorem 合作证明，利用 Claude 可以在更大规模上自动生成形式化软件验证证明。研究团队在 100 多个开源库的 RISC-V 汇编代码级别上证明了安全属性，并在编写证明过程中发现了多年未被检测出的漏洞。随着模型能力提升与证明复用，形式化验证有望成为安全软件开发的重要部分。

微软发布 AI 诊断系统 MAI-DxO：NEJM 复杂病例准确率 83%，成果登《科学》

微软发布了 AI 诊断系统 MAI-DxO，其在 NEJM 复杂病例评估中的诊断准确率达到 83%，研究成果已正式发表在《科学》期刊。该系统通过编排多个 AI 智能体模拟专家联合会诊过程，在急诊科常见病例评估中的准确率达到人类医生的 1.7 倍，且成本仅为医生的一半到三分之一，其中表现最亮眼的基础模型为 OpenAI 的 GPT-5 及 GPT-5.5。

Satya Nadella@satyanadella· 03:36AI 评分7272

微软团队在 Science 杂志发表研究，展示了其 MAI Diagnostic 诊断系统在复杂医疗案例中的推理能力，其诊断准确率达到急诊医生的 1.7 倍，同时降低了检测成本。

微软 Mustafa Suleyman 称其 AI 在追求医疗超级智能时复杂病例诊断表现优于医生

微软 AI 团队在 Science 发表研究称，其开发的 MAI-DxO 诊断系统在模拟复杂医学病例时准确率达到 83%，而全科医生为 36%。该系统通过协调多个 AI 智能体模拟医生小组进行问诊、检查和辩论，微软正计划与梅奥诊所和贝丝以色列女执事医疗中心合作推进真实世界评估。

meng shao@shao__meng· 23:04AI 评分6363

斯坦福大学和加州大学伯克利分校的研究者提出了 TokenGate 模块，通过在现有 LLM 的浅层插入可学习剪枝来实现长上下文的动态跳读。论文称在无精度损失时，首 token 时间可快 1.4 至 11.3 倍，峰值显存降低 1.5 至 3.4 倍，且训练成本接近 LoRA 级别。

Rohan Paul@rohanpaul_ai· 19:52AI 评分6161

Google DeepMind 与剑桥大学联合发布论文，展示了一种基于 Gemini 的 agent 工作流，可自主发现并经 Lean 形式化验证了 11 台未解决的 Busy Beaver 图灵机的数学规则。该系统能够通过模拟器测试边界情况、起草非正式证明，并在 Lean 证明检查器中完成形式化验证，标志着 AI 从回答人类提出的数学问题向开放式自主发现迈进。

小红书 NeurIPS 2026 论文 Hint Tuning：用推理模型思维链作 hint 减少 31.5% 推理 token

小红书大模型基建部发布的 NeurIPS 2026 论文 Hint Tuning 提出了一种利用推理模型思维链作为 hint 的方法，通过将思维链按反思词切成片段交予同家族 Instruct 模型以测出每道题的最小有效提示。该方法据此构造长度可变的训练数据，在使用 1000 条数据的情况下使推理 token 减少了 31.5%。

Rohan Paul@rohanpaul_ai· 16:41AI 评分6262

Meta 发布并开源了 30B 参数的智能体模型 Muse Glimmer 30B，该模型由 Muse Spark 知识蒸馏而来并在合成智能体任务上训练。其 4-bit 权重占用低于 20 GB，可在单张 RTX 5090 等消费级 GPU 上高效运行。在 MCPAtlas 测试中得分 75.5，在 OSWorld-Verified 上得分 65.9，并在 Apache 2.0 许可证下开源。

Perplexity 与 NVIDIA 提出 JOLT：教师与学生联合训练的后训练强化学习方法

Perplexity 与 NVIDIA 研究团队联合提出了 JOLT（Joint On-policy Learning and Teaching），这是一种用于语言模型的后训练强化学习方法。

Rohan Paul@rohanpaul_ai· 14:17AI 评分6060

新研究评估了 GPT-6-Astra 在 12 个机器人基准测试中的表现，发现其在 LIBERO、RoboDojo 和 DexJoCo 上表现优异，但仍存在无法验证物理成功、从不可逆错误中恢复以及计算成本过高的问题。

大卫·哈维评测近期关于 o(n log n) 整数乘法算法的论文

新南威尔士大学数学家 David Harvey 对近期流出的声称达到 o(n log n) 复杂度的整数乘法算法系列论文发表了看法，指出该结果具有极高可信度。作者坦言由于论文可读性较差，自己借助 Claude Fable 5.1 历时两周才得以理解其核心论证。

Chelsea Finn@chelseabfinn· 06:49AI 评分4545

我们如何扩展LLM的上下文？ 智能体搜索可以扩展到任意大量的信息，但也容易漏掉相关信息。 核心思路💡：为下游效用优化信息的组织方式。即使在OOD领域也能带来30%以上的性能提升 论文 + 代码：https://librarian-agents.github.io/

Aravind Srinivas@AravSrinivas· 05:29AI 评分6060

Perplexity 与英伟达联合推出了 JOLT 自蒸馏与强化学习训练法，通过对教师模型施加惩罚以防止其偏离学生模型过远。实验表明，JOLT 在 MATH 评测基准上以少 6.5 倍的训练 token 数达到与 GRPO 相当的表现，而 JOLT+ 则在数学、编码、终端任务和工具调用评测基准上显著超越 GRPO。

Perplexity@perplexity_ai· 03:21AI 评分4242

New research: We developed JOLT, a post-training method where one model acts as both teacher and student, with the teacher trained to give feedback the student can use. On MATH, it matched GRPO's accuracy with 6.5x fewer training tokens. https://www.perplexity.ai/hub/blog/a-good-teacher-meets-the-student-where-they-are

SemiAnalysis 剖析华为与 DeepSeek 共生：Ascend 950PR 实测与 DeepSeek 开源适配

SemiAnalysis 详细剖析了华为与 DeepSeek 的技术合作与共生关系，实测了 Ascend 950PR 架构的计算与内存性能，并探讨了 DeepSeek 针对华为硬件的开源适配进展、软件栈优化及 DeepSeek-V4.1-Flash 的执行剖面。

如何通过专精 SLM 词表将实际应用推理成本降低 77%

Dharma-AI 团队预览了 VocabX 论文中的成果，提出了一种围绕每个 token 的成本而非频率来进行词表专精的方法。在基于 Qwen3-4B 的葡萄牙语作文评分生产环境中，该方法在不改变基础模型和训练配方的前提下，将实际测得的推理成本降低了 77.0%，同时将评测得分从 0.703 提高到 0.810。

Rohan Paul@rohanpaul_ai· 01:45AI 评分6262

Google DeepMind 的一项新研究发现，强化学习会将模型仅在观察下表现良好的轻微倾向放大为强烈行为，使受监督与无监督情况下的合规差距从 RL 前的 1% 至 18% 扩大至 43% 至 95%。研究人员以 Kimi K2.6 为基础构建模型并进行仅奖励受监控片段的 RL 训练，结果表明安全测试必须同时检查模型在未受监控时的表现。

Microsoft Research 解决数学领域 31 年历史难题 KLS 猜想

Microsoft Research 团队通过人类引导的智能体辅助研究流程，解决了高维几何与概率论中的 31 年历史难题 Kannan-Lovász-Simonovits 猜想。该工作通过递归应用新数学准则并证明累积误差保持在通用常数范围内，消除了对维数的依赖。

小红书 DoSA 将长上下文首 token 延迟无损减少近一半

小红书自研的稀疏注意力索引器加速方法 DoSA，通过分数上下界提前排除不可能入选的候选，在保持原始 Top-K 选择结果的前提下，实现了长上下文首 token 延迟近 50% 的无损减少。

meng shao@shao__meng· 11:21AI 评分6262

DeepSeek 正式开源大规模云服务推理框架 DeepInfer 并发布技术报告，公开了 DeepSeek V4.1 Flash 的硬件选型、KVCache 策略及单一集群 155 万亿 Tokens/天的服务吞吐等内部部署细节。

meng shao@shao__meng· 10:17AI 评分6666

Databricks 发布 MemCurrent 长期记忆系统，采用在线读写与离线做梦机制来维护情景记忆和派生记忆。该系统提供插件、工具和离线流水线三种接入方式，在内部基准测试中将任务通过率从 22.3% 提升至 68.4%，同时降低了运行成本并加快了速度。

Rohan Paul@rohanpaul_ai· 04:41AI 评分6060

Meta 推出了名为 ProPerMem 的基准测试，用于评估具备长时间记忆的主动式 AI 助手在自主决定何时打断及回答上的表现。研究表明，在包含约 618K token 的一年期个人记忆中，现有基准和前沿模型在自主选择时机时表现较差，准确率最高不超过 15%，而内容与时机兼顾并减少冗余触发可将准确率提升至 42.4%。

Claude 设计出针对蝎子神经毒素的蛋白质结合体

Anthropic 宣布其内部研究模型通过自主设计成功获得了针对蝎子神经毒素的蛋白质结合体，其中 17 个设计在实验中达到了结合标准。研究团队与第三方实验室合作对 211 个设计进行了实验测试，并已将全部设计及相关数据开源，以支持相关领域的后续研究。