跳到正文
  1. NVIDIA Blog72

    NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 系列开源多模态模型

    NVIDIA 发布 Nemotron 3.5 系列开源模型,包括 1200 亿参数的 Super VL 多模态模型及两个端侧 Bolt 模型。Super VL 具备前沿的多模态智能与高效吞吐,Bolt 74B-A9B 24GB 和 Bolt E4B 4GB 则分别适配本地工作负载与边缘设备交互。该系列覆盖从企业服务器到桌面及边缘设备的完整智能体部署场景。

    发布时间:

    推荐理由:文章详细公开了 Nemotron 3.5 系列开源模型的参数规模、端侧适配方案和多模态能力,读者可以据此评估其在本地及企业级智能体部署中的效能。

  1. Hugging Face Blog82

    Liquid AI 发布 LFM2.5-24B-A2B 推理模型

    Liquid AI 发布了 LFM2.5-24B-A2B,这是一款拥有 24B 总参数、2B 激活参数的推理模型,专为端侧智能体设计。该模型支持 131K 上下文窗口,在工具调用和指令遵循任务中表现优异,并在 Apple M5 Max 等设备上具备极高的推理速度,现已在 Hugging Face 开源。

    发布时间:

    推荐理由:Liquid AI 发布了专为端侧智能体设计的推理模型 LFM2.5-24B-A2B,其通过 2B 激活参数实现了高效的推理与工具调用能力,为本地运行复杂智能体任务提供了新选择。

  1. 量子位82

    面壁智能发布 MiniCPM-V 4.7,35B 多模态模型可在手机端流畅运行

    面壁智能与 OpenBMB 正式开源 MiniCPM-V 4.7 系列模型,包含 35B-A3B 和 1B 两个版本。其中 35B-A3B 作为首个端侧 MoE 模型,通过前瞻专家调度(LES)和自回放微调技术,在仅占用 3G 内存的情况下即可在手机端实现每秒 13 个 token 以上的解码速度,且在多项视觉与文本评测中表现领先。

    发布时间:

    推荐理由:面壁智能发布 MiniCPM-V 4.7 系列模型,通过前瞻专家调度等技术实现 35B 参数模型在 3G 内存下的流畅运行,为端侧大模型部署提供了低内存占用的性能优化参考。

  1. Hugging Face Blog68

    Liquid AI 发布 d1 系列端侧多模态决策模型

    Liquid AI 发布了 d1-3B 和 d1-omni-600M 两款开源决策模型,旨在为端侧设备提供快速的结构化决策能力。d1-3B 支持文本和图像输入,在 NVIDIA Jetson 等设备上单次推理延迟低于 50ms;d1-omni-600M 则支持文本、图像及音频输入。该系列模型不生成 token,而是通过单次前向传播直接输出决策结果,目前已在 Hugging Face 上线。

    发布时间:

    推荐理由:Liquid AI 发布了专为端侧设计的 d1 系列决策模型,通过单次前向传播实现快速结构化决策,为开发者提供了在资源受限设备上部署多模态任务的新选择。

  1. Google DeepMind75

    Google DeepMind 发布 EmbeddingGemma 2 多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,这是一款基于 Gemma 4 架构、采用 Apache 2.0 协议的 7.4 亿参数轻量级多模态嵌入模型。它支持文本、图像、音频和视频的统一嵌入空间,具备 8K 上下文窗口,并支持通过 Matryoshka 学习动态调整输出维度,专为端侧设备的高效检索与 RAG 任务优化。

    发布时间:

    推荐理由:该模型通过模块化设计和 Matryoshka 学习技术,为开发者提供了一种在资源受限的端侧设备上实现多模态检索与 RAG 的高效方案。

已经到底了