arXiv cs.AI· Ning Zhang, Shihao Wang, Jinrui Zhang, Chaodong Xiao, Lei Zhang·· 1 天前AI 评分41
BitMTP：当多 Token 预测遇上低比特大语言模型
BitMTP: When Multi-Token Prediction Meets Low-Bit Large Language Models
AI 导读
BitMTP 是一个面向超低比特大语言模型骨干的多 Token 预测（MTP）算法-系统协同设计框架，通过联合 next-token 与 MTP 目标、多种解码模式及 Accepted-prefix 对齐实现高效加速。
来源：arXiv cs.AI · arxiv.org