SoScale:FP4 量化的二阶缩放搜索方法
热点事件持续更新
SoScale:FP4 量化的二阶缩放搜索方法
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Pengxiang Zhao 等在 arXiv 论文中提出 SoScale,一种面向层级化 FP4 量化的二阶权重尺度码搜索方法。论文称,该方法在 Hessian 感知的层重建目标下搜索硬件有效的尺度码,并结合 GPTQ 式误差恢复,按对层输出的影响选择尺度。 据论文,在 Qwen3 模型上,SoScale 在 MXFP4、NVFP4 和 HiF4 三种格式下均持续降低下游量化性能损失。
AI 根据报道生成 · 2 小时前更新
最新进展11月14日 13:00
SoScale:面向 FP4 量化的二阶尺度搜索方法报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- arXiv cs.AISoScale:面向 FP4 量化的二阶尺度搜索方法
arXiv 论文提出 SoScale,一种面向层级化 FP4 量化的二阶权重尺度码搜索方法。该方法在 Hessian 感知的层重建目标下搜索硬件有效的尺度码,并结合 GPTQ 式误差恢复,按对层输出的影响选择尺度。在 Qwen3 模型上,SoScale 在 MXFP4、NVFP4 和 HiF4 三种格式下均持续降低下游量化性能损失。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。