在 llama.cpp 中运行 Underdog Saluki 27B 工具调用指南
热点事件观察中
在 llama.cpp 中运行 Underdog Saluki 27B 工具调用指南
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
MarkTechPost 发布了在 llama.cpp 中运行 Underdog Saluki 27B 模型的实测指南，并对其进行了字节级 provenance 分析、内存与速度测试，以及工具调用性能对比。 该模型制作者称，体积为 7.9 GB 的 Underdog Saluki 27B（即 2-bit Qwen3.8-27B）在约每权重 2 bit 的情况下保持了工具调用能力，且在 120 个 BFCL v4 任务的严格评分测试中通过数超过其 54 GB 的父模型，McNemar 检验显示两者性能差异具有统计学意义。
AI 根据报道生成 · 1 天前更新
最新进展10月25日 10:30
如何在 llama.cpp 中运行 Underdog Saluki 27B：2-bit Qwen3.8-27B 工具调用实测指南报道时间线
沿着报道，了解事件的不同侧面。
10月25日
- MarkTechPost如何在 llama.cpp 中运行 Underdog Saluki 27B：2-bit Qwen3.8-27B 工具调用实测指南
本文介绍了如何在 llama.cpp 中运行 Underdog Saluki 27B 模型，并将其与 ISTA 的 IQ2_XS 版本进行了详细的字节级 provenance 分析、服务器内存与速度测试，以及在 120 个 BFCL v4 任务上的工具调用性能对比。测试结果显示，Saluki 在严格评分下通过的任务数超过其父模型，且两者的性能差异经 McNemar 检验具有统计学意义。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 910月25日 13:00
- 近 24 小时变化
- -50%
02.557.510
18:0010月26日06:0012:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。