跳到正文
Together AI·· 2026-09-10精选AI 评分76

Together AI:如何在 NVIDIA Vera Rubin NVL72 上优化 ThunderKittens 内核

To Infinity and Beyond: ThunderKittens Now on NVIDIA Vera Rubin NVL72!

AI 导读

Together AI 团队在 NVIDIA Vera Rubin NVL72 平台上适配并优化了 ThunderKittens 内核,通过利用 Rubin 架构的新特性(如 64 字节 K 步长、576 列张量内存、328 KiB 共享内存及 B 端收集器)显著提升了 NVFP4 和 FP8 GEMM 的性能。

推荐理由

Together AI 团队分享了在 NVIDIA Vera Rubin 架构上优化 GEMM 内核的实践经验,通过利用更大的共享内存、双倍 K 步长及 B 端收集器等新特性,为开发者提供了提升计算性能的具体优化路径。

来源:Together AI · together.ai