Tom's Hardware· Shane Downing ·· 4 小时前AI 评分73
Google TPU 通过 PyTorch 原生版 SGLang 与 vLLM 进入 Meta 生产环境
Google’s TPUs for AI workloads now run in Meta's data centers
AI 导读
Google 开发者博客宣布,PyTorch 原生版 SGLang 推理引擎已在 Meta 生产环境运行,配套的 vLLM 版本也同步开源,二者此前需经 JAX 框架才能使用 TPU。
来源:Tom's Hardware · tomshardware.com