跳到正文
Berkeley AI Research·· 2026-07-29精选AI 评分78

从 CUDA 到 MLX:K-Search 如何将内核优化经验迁移至 Apple Silicon

From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon

AI 导读

研究人员扩展了 K-Search 框架,通过引入 CUDA 到 MLX 的结构化翻译层,将 NVIDIA 生态中的内核优化经验自动适配至 Apple Silicon。实验显示,该方法在 Apple Silicon 上实现了接近专家级的性能,其中 Attention 内核达到原生 MLX 性能的 0.97 倍,Mamba SSM 内核的预填充速度较社区实现提升了约 20 倍。

推荐理由

该研究通过构建 CUDA 到 MLX 的翻译层,使 AI 驱动的内核搜索框架能将 NVIDIA 的优化经验迁移至 Apple Silicon,为非 CUDA 硬件的性能优化提供了可迁移的自动化路径。

来源:Berkeley AI Research · bair.berkeley.edu