Hugging Face Blog·· 2 天前精选AI 评分71
Hugging Face 推出 TorchTPU,让 PyTorch 原生支持 TPU
Hugging Face ❤️ TorchTPU: TPUs, Natively
AI 导读
Hugging Face 介绍 TorchTPU 这一 PyTorch 原生 TPU 后端,Transformers、Diffusers 和 Kernels 无需 torch_xla 即可原生运行在 TPU 上,模型只需 device_map="tpu" 即可加载。
推荐理由
原文介绍了 TorchTPU 原生后端与安装方式,并给出 batch 64 下 21.5× 的解码加速等实测数据,读者可据此评估迁移成本。
来源:Hugging Face Blog · huggingface.co