研究者提出SteerDistill量化感知蒸馏方法降低LLM Agent量化损失

Genming Cui、Xiangyu Li 等研究者在 arXiv 发布论文（2611.13410），提出量化感知蒸馏方法 SteerDistill：由全精度教师模型引导量化学生模型修正失败回答，并利用学生执行反馈迭代优化引导，最终让学生模型内化修正、实现无辅助推理。 论文称，在五个智能体基准和三个模型上，SteerDistill 在 W4A16 设置下平均分超过最强量化基线 1.67–2.18 分，且与 BF16 的差距在一分以内；在 τ²-Bench 上，其成功率较 QeRL 高 1.84 个百分点，训练 GPU 时数减少 67%，成功轨迹也比量化基线更短。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。