Hugging Face Blog·· 6 天前精选AI 评分68
Hugging Face 宣布为 TorchTPU 提供原生支持
Hugging Face ❤️ TorchTPU: TPUs, Natively
AI 导读
Hugging Face 宣布生态系统对 TorchTPU 实现原生支持,允许 PyTorch 用户通过简单的 device_map="tpu" 或 TPU 后端直接在 Google TPU 上运行 Transformers 和 Diffusers 模型。新方案摆脱了对 torch_xla 的依赖,并支持 Pallas 优化内核与 torch.compile 加速。
推荐理由
文章详细介绍了 TorchTPU 带来的原生支持方式与代码示例,为在 Google TPU 上运行 PyTorch 模型提供了清晰的工程参考。
来源:Hugging Face Blog · huggingface.co