Together AI·· 2026-09-10精选AI 评分76
Together AI:如何在 NVIDIA Vera Rubin NVL72 上优化 ThunderKittens 内核
To Infinity and Beyond: ThunderKittens Now on NVIDIA Vera Rubin NVL72!
AI 导读
Together AI 团队在 NVIDIA Vera Rubin NVL72 平台上适配并优化了 ThunderKittens 内核,通过利用 Rubin 架构的新特性(如 64 字节 K 步长、576 列张量内存、328 KiB 共享内存及 B 端收集器)显著提升了 NVFP4 和 FP8 GEMM 的性能。
推荐理由
Together AI 团队分享了在 NVIDIA Vera Rubin 架构上优化 GEMM 内核的实践经验,通过利用更大的共享内存、双倍 K 步长及 B 端收集器等新特性,为开发者提供了提升计算性能的具体优化路径。
来源:Together AI · together.ai