跳到正文
热点事件持续更新

SoScale:FP4 量化的二阶缩放搜索方法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Pengxiang Zhao 等在 arXiv 论文中提出 SoScale,一种面向层级化 FP4 量化的二阶权重尺度码搜索方法。论文称,该方法在 Hessian 感知的层重建目标下搜索硬件有效的尺度码,并结合 GPTQ 式误差恢复,按对层输出的影响选择尺度。 据论文,在 Qwen3 模型上,SoScale 在 MXFP4、NVFP4 和 HiF4 三种格式下均持续降低下游量化性能损失。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. arXiv cs.AI
    SoScale:面向 FP4 量化的二阶尺度搜索方法

    arXiv 论文提出 SoScale,一种面向层级化 FP4 量化的二阶权重尺度码搜索方法。该方法在 Hessian 感知的层重建目标下搜索硬件有效的尺度码,并结合 GPTQ 式误差恢复,按对层输出的影响选择尺度。在 Qwen3 模型上,SoScale 在 MXFP4、NVFP4 和 HiF4 三种格式下均持续降低下游量化性能损失。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。