跳到正文
热点事件持续更新

AutoQS:用LLM自动搜索模型量化分组策略

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Zhen Liu 等作者发布论文提出 AutoQS,一种借助大语言模型自动设计量化策略的方法:在固定权重精度下按层和算子搜索 group-size 分配,用低成本质量代理加少量实际量化反馈,在有限评估预算内迭代优化。作者称在 Qwen2.5-7B-Instruct 的四比特权重实验中,其七任务平均精度较 uniform-group GPTQ 和 AWQ 分别提升 0.70 和 1.12 个百分点。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. arXiv cs.AI
    AutoQS:用大语言模型自动化设计量化策略

    AutoQS 是一种借助大语言模型自动搜索量化策略的方法,在固定权重精度下按层和算子搜索 group-size 分配,用低成本质量代理和少量实际量化反馈在有限评估预算内迭代优化。在 Qwen2.5-7B-Instruct 上的四比特权重实验显示,其七任务平均精度较 uniform-group GPTQ 和 AWQ 分别提升 0.70 和 1.12 个百分点。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。