在 AWS 上使用 AtScale 与 Amazon Bedrock AgentCore 构建智能体语义层
AWS 机器学习博客介绍了如何在 AWS 平台上结合 AtScale 与 Amazon Bedrock AgentCore 构建智能体语义层。
AWS 机器学习博客介绍了如何在 AWS 平台上结合 AtScale 与 Amazon Bedrock AgentCore 构建智能体语义层。
NVIDIA RTX Spark 系列笔记本电脑正式上市,起售价 2,399 美元,搭载 NVIDIA Blackwell RTX GPU 与 Grace CPU,提供最高 1 petaflop 的 AI 算力及 128GB 统一内存。华硕、戴尔、惠普、联想、微软和微星均推出了相关轻薄机型,NVIDIA 并在柏林、北京、伊斯坦布尔、首尔、旧金山和台北六地举办了线下首发庆祝活动。
NVIDIA 宣布推出面向创作者、游戏玩家与 AI 智能体的 Windows 个人电脑 RTX Spark,并于全球多地举行发布体验活动。该产品整合了本地 AI 性能,首批媒体评测显示其在兼容性与本地 AI 工作流方面表现出色。
推荐理由:官方宣布了 RTX Spark 的发售与全球活动安排,读者可以据此了解该端侧 AI 平台的硬件定位和媒体首发评价。
NVIDIA 发布 Nemotron 3.5 系列开源模型,包括 1200 亿参数的 Super VL 多模态模型及两个端侧 Bolt 模型。Super VL 具备前沿的多模态智能与高效吞吐,Bolt 74B-A9B 24GB 和 Bolt E4B 4GB 则分别适配本地工作负载与边缘设备交互。该系列覆盖从企业服务器到桌面及边缘设备的完整智能体部署场景。
推荐理由:文章详细公开了 Nemotron 3.5 系列开源模型的参数规模、端侧适配方案和多模态能力,读者可以据此评估其在本地及企业级智能体部署中的效能。
Google DeepMind 与新加坡政府科技局合作推出了一款专为端侧运行优化的轻量级防诈骗 AI 模型,旨在保护公民隐私的同时打击复杂的社会工程学诈骗。该模型基于轻量级 Gemma 模型微调,采用两阶段处理流水线,在设备本地分析对话模式并在检测到操纵意图时触发实时警告。
Liquid AI 发布了 LFM2.5-24B-A2B,这是一款拥有 24B 总参数、2B 激活参数的推理模型,专为端侧智能体设计。该模型支持 131K 上下文窗口,在工具调用和指令遵循任务中表现优异,并在 Apple M5 Max 等设备上具备极高的推理速度,现已在 Hugging Face 开源。
推荐理由:Liquid AI 发布了专为端侧智能体设计的推理模型 LFM2.5-24B-A2B,其通过 2B 激活参数实现了高效的推理与工具调用能力,为本地运行复杂智能体任务提供了新选择。
Liquid AI 发布了 d1-3B 和 d1-omni-600M 两款开源决策模型,旨在为端侧设备提供快速的结构化决策能力。d1-3B 支持文本和图像输入,在 NVIDIA Jetson 等设备上单次推理延迟低于 50ms;d1-omni-600M 则支持文本、图像及音频输入。该系列模型不生成 token,而是通过单次前向传播直接输出决策结果,目前已在 Hugging Face 上线。
推荐理由:Liquid AI 发布了专为端侧设计的 d1 系列决策模型,通过单次前向传播实现快速结构化决策,为开发者提供了在资源受限设备上部署多模态任务的新选择。
Google DeepMind 发布 EmbeddingGemma 2,这是一款基于 Gemma 4 架构、采用 Apache 2.0 协议的 7.4 亿参数轻量级多模态嵌入模型。它支持文本、图像、音频和视频的统一嵌入空间,具备 8K 上下文窗口,并支持通过 Matryoshka 学习动态调整输出维度,专为端侧设备的高效检索与 RAG 任务优化。
推荐理由:该模型通过模块化设计和 Matryoshka 学习技术,为开发者提供了一种在资源受限的端侧设备上实现多模态检索与 RAG 的高效方案。