跳到正文
5月8日周五
  1. Berkeley AI Research78

    自适应并行推理:高效推理扩展的新范式

    自适应并行推理(APR)允许模型根据问题复杂度动态决定何时分解任务、并行执行线程及协调结果,旨在解决传统顺序推理带来的上下文冗余与高延迟问题。文章对比了 Multiverse 等修改推理引擎的方案与 ThreadWeaver 等客户端编排方案,并探讨了如何通过强化学习激励模型学习并行控制流,同时指出该领域在推理稳定性与训练目标上的开放性挑战。

    发布时间:

    推荐理由:文章系统梳理了自适应并行推理这一新兴范式,对比了不同技术路径在推理效率与实现复杂度上的权衡,为理解大模型推理加速提供了关键视角。

4月20日周一
  1. Berkeley AI Research58

    GRASP:面向世界模型的并行随机梯度规划方法

    GRASP 是一种针对学习型世界模型的新型梯度规划器,通过将轨迹提升至虚拟状态以实现并行优化,并引入状态噪声与梯度重塑技术,解决了长程规划中梯度消失、爆炸及状态输入敏感性导致的脆弱问题。实验表明,该方法在长程任务中相比传统规划器显著提升了成功率并缩短了计算时间。

    发布时间:
3月13日周五
  1. Berkeley AI Research40

    LLM 交互识别算法 SPEX 与 ProxySPEX 发布

    Berkeley AI Research 推出 SPEX 与 ProxySPEX 算法,旨在解决大规模 LLM 交互识别的计算难题。该框架利用稀疏性、低阶性和层次性等结构特征,通过策略性消融实验实现高效归因。其中,ProxySPEX 进一步利用交互的层次结构,在保持与 SPEX 同等性能的同时,消融次数减少约 10 倍,有效提升了长上下文场景下的归因准确性。

    发布时间: