如何在 llama.cpp 中运行 Underdog Saluki 27B:2-bit Qwen3.8-27B 工具调用实测指南
本文介绍了如何在 llama.cpp 中运行 Underdog Saluki 27B 模型,并将其与 ISTA 的 IQ2_XS 版本进行了详细的字节级 provenance 分析、服务器内存与速度测试,以及在 120 个 BFCL v4 任务上的工具调用性能对比。测试结果显示,Saluki 在严格评分下通过的任务数超过其父模型,且两者的性能差异经 McNemar 检验具有统计学意义。