跳到正文
Tom's Hardware· Shane Downing ·· 4 小时前AI 评分73

Google TPU 通过 PyTorch 原生版 SGLang 与 vLLM 进入 Meta 生产环境

Google’s TPUs for AI workloads now run in Meta's data centers

AI 导读

Google 开发者博客宣布,PyTorch 原生版 SGLang 推理引擎已在 Meta 生产环境运行,配套的 vLLM 版本也同步开源,二者此前需经 JAX 框架才能使用 TPU。

来源:Tom's Hardware · tomshardware.com