跳到正文
Rohan Paul· @rohanpaul_ai · X·· 2 小时前精选AI 评分76
AI 导读

Moonshot AI 在 HuggingFace 发布了 2.8T 参数的 Kimi K3.1 Pro 模型权重,该模型以 4-bit 精度提供以降低部署门槛。模型在 Terminal-Bench 4.0 上得分 65.7%,架构上通过线性注意力机制优化了 1M token 上下文的处理效率,并采用了限制商业转售的修改版 MIT 许可。

推荐理由

Moonshot AI 开源了 2.8T 参数的 Kimi K3.1 Pro 模型权重,其采用 4-bit 量化发布并针对长上下文处理进行了架构优化,为开发者提供了高性能模型的新选择。

正文 · AI 翻译

Moonshot AI 在 Huggingface 上发布了拥有 2.8T 参数的庞大模型 Kimi K3.1 Pro 权重。

在 Terminal-Bench 上,它与 Claude 5.5 展开了正面交锋

采用 4-bit 权重进行训练,发布时也保持该精度,避免了 16-bit 副本所需的 5.6TB 空间。

Moonshot 追溯到其通用中期训练语料库和 RL 环境中隐藏的网络内容会导致漏洞利用技能稳步上升,并在开放权重之前将其全部移除。

在 Moonshot 自己的测试中,该模型在 Terminal-Bench 4.0 上的得分为 65.7%,接近 Claude Opus 5.5 的 66.4%,但在不使用工具的情况下,在 HLE-Diamond 上仅达到 39.4%,而 GPT-6 Astra 为 65.8%。

每个 token 仅激活 104B 个参数,其 93 层中有 69 层使用线性注意力机制,这使得处理 1M token 的上下文成本更低。

其修改后的 MIT 许可证豁免了内部使用,但要求年收入超过 2000 万美元的模型托管公司进行谈判,从而限制了可能压低该公司自身 API 价格的转售商。

来源:Rohan Paul · x.com