arXiv cs.AI· Rhea Sanjay Sukthanker, Riccardo Grazzi, James Hensman, Pashmina Cameron·· 1 天前AI 评分47
超越 4 bit:以数据为中心的后训练量化与恢复研究
Beyond 4 bits: Data-Centric Post-training Quantization and Recovery
AI 导读
arXiv 论文研究了 2 bit 极低比特后训练量化(PTQ)中三个关键选择:量化表示、校准数据和恢复微调数据,覆盖 3.8B 到 32B 的六个稠密与 MoE 模型。
来源:arXiv cs.AI · arxiv.org