跳到正文
热点事件持续更新

研究者提出面向LLM量化的CoreQ框架

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Seohyeon Cha等研究者发布论文,提出免训练的大语言模型训练后量化框架CoreQ,通过失配的几何分解计算闭式、逐层自适应的校正系数,再用贪心逐轮量化求解三角最小二乘目标。 论文称,该设计针对两个已有问题:完全应用经验失配校正会过拟合有限的校准数据,而使用固定校正系数又忽略了各层失配估计的差异。

AI 根据报道生成 · 41 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    CoreQ:面向 LLM 量化的失配校正逐轮量化方法

    CoreQ 是一种免训练的大语言模型训练后量化(PTQ)框架,通过失配的几何分解得到闭式、逐层自适应的校正系数,缓解逐层量化带来的输入失配和校准数据过拟合问题,再用贪心逐轮量化求解三角最小二乘目标。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。