跳到正文
  1. AWS Machine Learning Blog66

    Meta 的 Muse Spark Open 现已登陆 Amazon SageMaker JumpStart

    Meta 的编码优化开源推理模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,支持 1M token 上下文及 MoE 架构。文章介绍了如何通过 SageMaker Studio 或 Python SDK 部署 BF16 与 NVFP4 两种量化变体,并提供了推理请求示例。

    发布时间:

    推荐理由:文章详细介绍了在亚马逊平台上部署该模型的完整步骤与配置要求,为技术团队评估资源成本和架构落地提供了实用参考。

  2. Hugging Face Blog89

    Meta 发布开源多模态混合专家模型 Muse Spark Open

    Meta 发布了开源混合专家多模态模型 Muse Spark Open,拥有约 8160 亿总参数、每个 token 约 420 亿激活参数以及高达 100 万 token 的上下文窗口。该模型支持文本、图像、音频和视频输入,专为代码编写与智能体任务优化,并提供了 BF16 和 NVFP4 权重以及主流推理框架的部署指南。

    发布时间:

    推荐理由:原文介绍了该开源多模态混合专家模型的架构参数与部署推理方案,读者可借此评估其在长上下文与智能体任务中的落地可行性。

  1. NVIDIA Blog63

    NVIDIA 在 OCP 全球峰会上公开 Vera Rubin 架构并推进开源 AI 工厂标准

    NVIDIA 在 OCP 全球峰会上宣布将 Vera Rubin 机架和计算托盘设计通过开源的 MGX 架构贡献给 OCP,并与合作伙伴共同发布了下一代人工智能工厂的开放标准、开源软件组件以及全新的网络与电源架构。

    发布时间:

    推荐理由:原文介绍了新架构和开源规范的具体演进,帮助读者了解下一代人工智能基础设施的设计标准。

已经到底了