Georgi Gerganov· @ggerganov · X·· 10 天前AI 评分62
AI 导读
llama.cpp v0.7.0 版本发布并支持 128GB Mac，官方给出了运行 Qwen3.8 模型服务及启用草稿模型和懒加载模式的具体命令。
正文 · 原文
llama.cpp v0.7.0, 128GB Mac/Spark: llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on
来源：Georgi Gerganov · x.com