OpenBMB· @OpenBMB · X·· 6 天前AI 评分31
AI 导读
🚀 MiniCPM-V 4.7 现已在 vLLM v0.32.0 中获得支持！感谢 @vllm_project 的支持。这使得以高吞吐量和低延迟部署 MiniCPM-V 4.7 变得更加容易。
正文 · 原文
🚀 MiniCPM-V 4.7 is now supported in vLLM v0.32.0! Thanks @vllm_project for the support. This makes it easier to serve MiniCPM-V 4.7 with high throughput and low latency.
来源：OpenBMB · x.com