跳到正文
MarkTechPost·· 9 天前AI 评分63

阶跃星辰以开放权重发布 Step 5 Preview:600B MoE、27B 激活、1M 上下文

StepFun 以开放权重发布 Step 5 Preview:600B MoE、27B 激活、1M 上下文

AI 导读

阶跃星辰发布 Step 5 Preview 开放权重模型,该模型采用 600B 参数、每 token 激活 27B 的 MoE 架构,支持最高 1M token 上下文,其 FP8 和 BF16 权重已上线 Hugging Face 和 ModelScope。

来源:MarkTechPost · marktechpost.com