跳到正文
公众号:小红书技术·· 6 天前AI 评分31

小红书 AllSpark 提出 ROSS:让模型重学训练中自生成的 rollout

AI 导读

小红书 AllSpark Team 提出 ROSS 方法,通过筛选有价值轨迹片段并保留完整上下文做选择性监督,让模型重新学习训练中自己生成的 rollout。基于 Qwen3.6-35B-A3B,该方法在单轮 RL 中将数学均分从 75.19% 提升至 76.98%,代码均分从 42.09% 提升至 44.21%,MOPD 均分从 58.40% 提升至 62.20%。

来源:公众号:小红书技术 · mp.weixin.qq.com