提出FPoT量化方法实现免乘法LLM推理
热点事件持续更新
提出FPoT量化方法实现免乘法LLM推理
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Sunghyun Wee 等研究者在 arXiv 论文(arXiv:2610.21257,已被 NeurIPS 2026 接收)中提出 FPoT(Fractional PoT)量化方法,使用 base-√2 的分数二次幂网格,在保持纯整数移位加数据通路的同时实现实用的 4-bit 权重量化。 论文称,在 Llama-3-8B 的 4-bit 权重与激活量化设置下,FPoT 相比 PoT 基线将零样本常识推理性能相对提升 8.72%。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 13:00
FPoT 分数二次幂量化:实现无乘法器的高效 LLM 推理报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- arXiv cs.AIFPoT 分数二次幂量化:实现无乘法器的高效 LLM 推理
研究者提出 FPoT(Fractional PoT)量化方法,采用 base-$\sqrt{2}$ 的分数二次幂网格,在保持纯整数移位加数据通路的同时实现实用的 4-bit 权重量化。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。