跳到正文
Hugging Face Blog·· 6 天前精选AI 评分68

Hugging Face 宣布为 TorchTPU 提供原生支持

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 宣布生态系统对 TorchTPU 实现原生支持,允许 PyTorch 用户通过简单的 device_map="tpu" 或 TPU 后端直接在 Google TPU 上运行 Transformers 和 Diffusers 模型。新方案摆脱了对 torch_xla 的依赖,并支持 Pallas 优化内核与 torch.compile 加速。

推荐理由

文章详细介绍了 TorchTPU 带来的原生支持方式与代码示例,为在 Google TPU 上运行 PyTorch 模型提供了清晰的工程参考。

来源:Hugging Face Blog · huggingface.co