Apple 发布 SCLATE:用于持续学习智能体训练与评估的执行基底
SCLATE: A Substrate for Continual-Learning Agent Training and Evaluation
Apple 推出 SCLATE 执行基底,通过统一的事件调度器和混合模拟时钟,支持在长周期多会话场景下对未经修改的智能体进行训练与评估。该系统可将长达数月的任务压缩至数小时内完成,并记录模型调用的 token 与概率。
该研究提出的执行基底解决了持续学习智能体在多会话场景下的调度难题,通过压缩时间轴和统一事件管理,为评估智能体在长周期任务中的表现提供了标准化方案。
作者Youngmok Jung, Sirajul Salekin, Henry Tran, Javier Movellan, Zhao Huang, Manjot Bilkhu
持续学习智能体是由模型、工具链和内存组成的系统,在长期的多会话周期中运行。评估和训练它们需要将任务与智能体端的事件(如会话停止和启动、定时任务以及内存整合)交织在一起。然而,现有的基准测试和训练框架仅调度基准测试自身的事件,导致每个基准测试和智能体对都需要构建自定义的调度循环。我们提出了 SCLATE,这是一个执行基底,基准测试和未经修改的智能体可以通过适配器将各自的事件添加到同一个开放事件调度器中。混合模拟时钟在共享时间线上运行这些事件,在智能体工作时实时流动并跳过空闲间隙,从而将长达一个月的场景压缩至数小时内。SCLATE 还充当了部署引擎,可以运行任何智能体的工具链和内存且无需修改,并通过容器内代理记录每次模型调用的 token 和对数概率。我们将七个基准测试移植到 SCLATE,并在十个模型上对十种未经修改的工具链和内存配置进行了直接比较。比较结果显示,添加的内存系统并不能可靠地优于工具链自带的内存,且模型在使用相同工具链和内存的方式上存在巨大差异。随后,我们通过未经修改的工具链和内存系统对 Qwen3.5-4B 进行了后训练。该模型学会了使用两者,在读取文件行数减少 6.8 倍的情况下,SWE-bench Verified 通过率提高了 16.7 个百分点,并能写入更丰富的内存记录,同时其留出的 MetaClaw 准确率最高提升了 11.8 个百分点。
相关阅读与更新。
近期的自主机器学习工程(MLE)智能体在公共排行榜上取得了显著进展。现代 MLE 智能体通常受到长周期停滞和有限的大语言模型(LLM)原语的驱动,部署在日益复杂的机制之上:多智能体编排器、专用检索子智能体等。虽然这些工具链不断扩展,但对更原始但经过改进的编码的使用……
由生成式 AI 模型驱动的界面智能体(简称“智能体”)可以根据用户指令自动执行操作。开发智能体的一个重要方面是其用户体验(即智能体体验)。目前越来越需要为 AI 工程师以外的更广泛人群提供脚手架来原型化智能体体验,因为他们可以为设计智能体体验贡献宝贵的视角。在这项工作中,我们探索了……
来源:Apple Machine Learning Research · machinelearning.apple.com