跳到正文
抹香鲸的奇妙信号
只看论文#Meta
10月21日周三
  1. arXiv cs.AI65

    TorchTPU 论文介绍 Google 与 Meta 合作为 TPU 打造原生 PyTorch 后端

    Google 与 Meta 的开源合作项目 TorchTPU 发布论文，提出在 Google TPU 上原生执行 PyTorch 的混合 eager/编译架构。该项目支持开箱即用的模型执行与 TPU 迁移，并通过 eager 执行优化、编译集成和原生硬件加速提供有竞争力的推理与训练性能。论文共 23 页，链接 https://arxiv.org/abs/2610.24161。

    推荐理由：Google 与 Meta 合作的开源项目，论文说明了 TPU 上原生执行 PyTorch 的混合架构，关注框架与硬件适配的读者可作参考。

  2. arXiv cs.AI55

    The Shape of Wisdom：语言模型如何在内部状态中收敛到同一答案

    arXiv 论文让 Llama-3.1-8B、Qwen2.5-7B、Gemma-2-9B 和 Llama-3.2-1B 回答 2,256 个有重复答案的事实性问题，发现同答案的问题在各层收敛到状态空间的共享区域即答案质心。答案可读性在网络深度 47%-71% 的某一层跳变；跳变后将错误答案状态移向正确质心可使模型在 83%-97% 的情形给出正确答案，随机移动仅 2%-4%。