研究者提出面向LLM量化的CoreQ框架
热点事件持续更新
研究者提出面向LLM量化的CoreQ框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Seohyeon Cha等研究者发布论文,提出免训练的大语言模型训练后量化框架CoreQ,通过失配的几何分解计算闭式、逐层自适应的校正系数,再用贪心逐轮量化求解三角最小二乘目标。 论文称,该设计针对两个已有问题:完全应用经验失配校正会过拟合有限的校准数据,而使用固定校正系数又忽略了各层失配估计的差异。
AI 根据报道生成 · 41 分钟前更新
最新进展11月20日 13:00
CoreQ:面向 LLM 量化的失配校正逐轮量化方法报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv cs.AICoreQ:面向 LLM 量化的失配校正逐轮量化方法
CoreQ 是一种免训练的大语言模型训练后量化(PTQ)框架,通过失配的几何分解得到闭式、逐层自适应的校正系数,缓解逐层量化带来的输入失配和校准数据过拟合问题,再用贪心逐轮量化求解三角最小二乘目标。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。