vllm· vadiklyutiy·· 9 天前AI 评分14
vLLM 发布 v0.32.0rc3：修复 sm90 上 Mamba2 chunk scan 内核的 NaN 输出问题
v0.32.0rc3: [Bugfix] Fix NaN output of the Mamba2 chunk scan kernel on sm90 (#61718)
AI 导读
vLLM 发布 v0.32.0rc3 版本，修复了 sm90 架构上 Mamba2 chunk scan 内核输出 NaN 的缺陷。
来源：vllm · github.com