跳到正文
  1. Hugging Face Blog71

    Hugging Face 推出 TorchTPU,让 PyTorch 原生支持 TPU

    Hugging Face 介绍 TorchTPU 这一 PyTorch 原生 TPU 后端,Transformers、Diffusers 和 Kernels 无需 torch_xla 即可原生运行在 TPU 上,模型只需 device_map="tpu" 即可加载。

    推荐理由:原文介绍了 TorchTPU 原生后端与安装方式,并给出 batch 64 下 21.5× 的解码加速等实测数据,读者可据此评估迁移成本。

  1. Hugging Face Blog60

    TorchNeuron 为 AWS Trainium 带来 PyTorch 原生后端,HF 库原生支持

    Hugging Face 宣布 TorchNeuron 为 AWS Trainium 提供原生 PyTorch 后端,自 2026 年 10 月 20 日起开放公测,可通过 pip install torch-neuronx 安装。

    推荐理由:官方宣布 Trainium 获得 PyTorch 原生后端,HF 库可直接使用,还给出覆盖率变化和训练示例。

  1. Hugging Face Blog83

    Reflection 发布开源模型 Beam:501B 参数 MoE,Apache 2.0 协议

    Reflection 在 Hugging Face 发布其首个开源模型 Beam(Beam-1.0-501B-A23B),为 501B 参数、每 token 激活 23B 的 MoE 模型,采用 Apache 2.0 协议,支持 1M token 上下文,主打编码与智能体场景。

    推荐理由:官方博客给出 Beam 的架构细节、基准成绩和部署微调配方,读者可以据此评估在自有硬件上跑前沿开源模型的成本与路径。

  1. Hugging Face Blog84

    Meta 发布开源权重多模态 MoE 模型 Muse Spark Open,约 816B 参数

    Meta 发布开源权重多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B,支持文本、图像、音频和视频输入,上下文窗口最高 1M tokens,定位为 agentic coding 模型。

    推荐理由:原文给出架构细节、部署配方和实测吞吐数字,开发者可以据此评估如何在自己环境里运行或微调这个 816B 模型。

已经到底了