跳到正文
Hugging Face Blog·· 2 天前精选AI 评分68

PyTorch 2.15 提升 Mac MPS 后端:MoE 解码提速 5–6.5 倍、视频 VAE 内存从 270 GiB 降到 8 GiB

MPS in PyTorch 2.15

AI 导读

Hugging Face PyTorch 团队介绍 PyTorch 2.15 的 MPS 后端更新:MPS 支持 torch.float8_e4m3fn 的 FP8 张量和 F.scaled_mm。

推荐理由

原文给出 PyTorch 2.15 MPS 后端的具体性能数字与内存变化,Mac 上跑模型和训练的读者可据此评估升级收益。

来源:Hugging Face Blog · huggingface.co