arXiv cs.AI· Xinyu Lei, Hong Huang, Jiebin Zhang, Hongyu Li, Jinlong Song, Decheng Wu, Guanghua Yu, Jianchen Zhu, Sujian Li·· 1 天前AI 评分44
E8-QAT：基于隐式 E8 格码本的高效 2-bit 量化感知训练
E8-QAT: Efficient 2-Bit Quantization-Aware Training with Implicit Lattice Codebooks
AI 导读
E8-QAT 是一种 2-bit 量化感知训练框架，用 E8 格作为隐式八维码本，通过算术投影联合量化权重组，无需在训练前向中存储或搜索显式码本。在 Qwen3.6-35B-A3B 上其四项任务平均分追平全精度模型，同等条件下在 IFEval 和 LiveCodeBench 上分别比 SOTA 基线提升 2.03% 和 1.51%。
来源：arXiv cs.AI · arxiv.org