跳到正文
公众号:小红书技术·· 2 小时前AI 评分31

小红书 AllSpark 提出增强上下文学习能力的数据管线,35B 模型追平万亿参数前沿模型

AI 导读

小红书 AllSpark 团队提出不依赖人工标注的合成数据训练流程,通过用 GLM-5.2 深度改写 3515 篇公开文档以切断参数记忆,最终生成 9625 条训练样本。该数据管线旨在增强模型的上下文学习能力,使 35B 模型得以追平万亿参数前沿模型。

来源:公众号:小红书技术 · mp.weixin.qq.com