跳到正文
热点事件持续更新

Meta 确认在生产环境用 Google TPU 跑推理

2 篇报道2 个报道来源3 小时前更新

先了解这件事

AI 综述

Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 确认,Google 于 2026 年 10 月 20 日发布的 TPU 版 SGLang 推理引擎(SGLang-TorchTPU)已在 Meta 生产环境中运行。这是目前唯一的一手确认。 Google 开发者博客随后宣布了这一消息,并同步开源了配套的 vLLM TPU 版本;此前这两个推理引擎需经 JAX 框架才能使用 TPU。 Zongwei Zhou 未透露使用规模、涉及哪些产品,以及 TPU 是租用还是自购。RadixArk 称,目标是到 2027 年第一季度实现新开源模型发布当天即支持 TPU。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. Tom's Hardware
    Google TPU 通过 PyTorch 原生版 SGLang 与 vLLM 进入 Meta 生产环境

    Google 开发者博客宣布,PyTorch 原生版 SGLang 推理引擎已在 Meta 生产环境运行,配套的 vLLM 版本也同步开源,二者此前需经 JAX 框架才能使用 TPU。

10月21日
  1. dotey (@dotey)精选
    Meta 工程师确认已在生产环境用 Google TPU 跑 AI 推理

    Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 确认,Google 10 月 20 日发布的 TPU 版 SGLang 推理引擎已在 Meta 生产环境中运行。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。