跳到正文
Hacker News-首页· bigwheels·· 11 天前同事件AI 评分86

Meta 发布开源多模态模型 Muse Spark Open

Muse Spark Open

AI 导读

Meta 发布开源多模态模型 Muse Spark Open,拥有 816B 总参数(42B 激活)和 1M-token 上下文窗口。该模型具备原生多模态能力,专为编码和智能体工作设计,支持在两台 Apple M5 Ultra Mac Studios 上本地运行,同时已在多家 API 平台上线并提供权重下载。

同一件事,精选收录的是《Meta 发布开源多模态混合专家模型 Muse Spark Open》

正文 · AI 翻译

Muse Spark Open 从今天开始提供,首次将领先的智能体能力带到 Apple M5 Ultra Mac Studio 的桌面端。

今天,我们发布了 Muse Spark Open 的权重,这是迄今为止能力最强的美国开源权重模型。Muse Spark Open 是一种原生多模态模型,拥有 8160 亿总参数(420 亿激活参数)和 100 万 token 的上下文窗口。它专为编程和智能体工作而构建,在长视野任务、复杂软件工程和多步推理方面表现出色。

我们相信未来属于每个人,这其中也包括在任何地方(包括家中)自由运行先进模型的权利。Muse Spark Open 是同类模型中首个使用最新的 MLX 框架在两台 Apple M5 Ultra Mac Studio 桌面端上运行的模型。

Muse Spark Open 从今天起通过 Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 等 API 平台提供。模型权重可在 Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face 和 Microsoft Foundry Models 上下载。

它运行在 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp 和 Unsloth 等领先的推理引擎上,并针对 AMD、Apple、Intel 和 NVIDIA 芯片进行了优化。开发者可以使用 PyTorch 框架轻松进一步自定义模型。

核心基准测试

有关我们评估的更多详细信息,请参阅评估方法报告。

针对 Apple Silicon 优化

借助最新版本的 MLX,Muse Spark Open 经过优化可在配备 M5 Ultra 的 Mac Studio 上运行,它们共同构成了在您自己的桌面端运行强大模型的最佳方式。

Apple 的统一内存架构让 M5 Ultra 的集成 GPU 每个 Mac Studio 可使用高达 512 GB 的内存,因此两台机器可以容纳整个模型。该芯片 1.2 TB/s 的内存带宽速度极快,足以读取每个 token 所需的一小部分。其结果是,两台 Mac Studio 的行为就像一台拥有 1TB 统一内存的超级计算机。

我们测试了一系列完全在设备上运行的智能体工作流,这些工作流由由 Muse Spark Open 驱动的 Muse Code 提供支持,包括向 Ice Cubes(开源 Mastodon 客户端)推送真实的 iOS 更改(错误修复、新功能、完整构建),以及端到端驱动 DaVinci Resolve,模型逐帧检查素材以寻找最精彩的瞬间并将其垂直裁剪。

现已推出

我们分享这项工作是因为我们希望每个人都能使用最好的模型。Muse Spark Open 的开源权重版本在 SGLang 中附带了自定义的、可自动调优的 Helion GPU 内核,在 NVIDIA 和 AMD GPU 上实现了 1.03-3.95 倍的内核级加速,并在 AMD MI350 上实现了 3% 的端到端加速。

安全与准备工作

发布开源权重模型是我们为每个人带来个人超级智能益处的方式之一,也是全行业推进安全工作的方式之一。

开源权重也有其自身的考量,为此 Muse Spark Open 进行了额外的安全后训练。结果表明,在所测量的风险类别中具有强大的防护措施。

我们根据我们的Meta 超级智能扩展框架对模型进行了评估,涵盖了最严重的风险,它达到了我们框架要求的发布阈值。详细结果位于Muse Spark Open 模型卡中,完整的评估报告即将发布。

许可证

我们根据 Muse Model License 发布了模型权重,并附带有限的商业条款,允许许多开发者免费使用该模型。

开始使用

你可以利用 PyTorch 的 TorchTitan 进一步微调 Muse Spark Open,以满足特定用例的需求。要在 Apple silicon 上运行它,请使用 MLX,它会直接从 Hugging Face 拉取权重。

Muse Spark Open 现已通过 Hugging Face 提供:https://huggingface.co/collections/meta-models/muse-spark-open

用于在 Mac Studio 上运行 Muse Spark Open 的 MLX 适配器。

托管推理合作伙伴:Together AI、Fireworks、Baseten、Modal、Groq、Nebius 和 OpenRouter。

使用 Muse Spark Open 构建或发布了作品?在 Hugging Face 论坛上与我们分享——我们很期待看到你的创作。

来源:Hacker News-首页 · research.meta.ai