Hugging Face Blog·· 10 天前精选AI 评分68
Granite Switch 4.1 发布:在一个端点中集成聊天、决策和语音能力
Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint
AI 导读
Hugging Face 联合 IBM 发布了 Granite Switch 4.1 模型(包含 8B 和 30B 版本),通过复用基底模型的 KV cache 并在单个托管端点上集成了通用决策 aLoRA、安全卫士 aLoRA 以及语音转文本模型 Granite-Speech-5.0-Turbo-CTC。
推荐理由
原文介绍了多功能组合模型的架构及复用 KV cache 的实现方式,读者可以了解如何在单个端点上高效组合决策与语音能力。
来源:Hugging Face Blog · huggingface.co