Hugging Face 推出 TorchTPU,让 PyTorch 原生支持 TPU
Hugging Face 介绍 TorchTPU 这一 PyTorch 原生 TPU 后端,Transformers、Diffusers 和 Kernels 无需 torch_xla 即可原生运行在 TPU 上,模型只需 device_map="tpu" 即可加载。
推荐理由:原文介绍了 TorchTPU 原生后端与安装方式,并给出 batch 64 下 21.5× 的解码加速等实测数据,读者可据此评估迁移成本。

