Stanford 与 UC Berkeley 研究者提出 TokenGate，将 LLM prefill 最高提速 11 倍
Stanford and Berkeley Researchers Build TokenGate to Cut LLM Prefill Costs
AI 导读
Stanford 与 UC Berkeley 团队发布论文 TokenGate（arXiv:2610.26754，10 月 25 日），通过可学习的 token 剪枝方法加速大语言模型的 prefill 阶段。
Stanford 与 UC Berkeley 研究者提出 TokenGate，将 LLM prefill 最高提速 11 倍