Rhea Sanjay Sukthanker 等提出 ThinkBit 两比特量化框架
热点事件持续更新
Rhea Sanjay Sukthanker 等提出 ThinkBit 两比特量化框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Rhea Sanjay Sukthanker 等发布论文(arXiv:2610.34886),提出面向推理保持的两比特标量量化框架 ThinkBit,将每个权重表示为整数码字乘以组内共享的 bfloat16 scale。 该框架通过按层位宽分配、基于 Gumbel-softmax 的码字搜索、scale 重校准和短程 QAT(量化感知训练)构建,并在 Qwen3 模型上进行了实验。作者称该框架旨在保留模型的推理能力。
AI 根据报道生成 · 55 分钟前更新
最新进展10月27日 12:00
ThinkBit:两比特量化框架通过搜索码字与重校准 scale 保留推理能力报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.AIThinkBit:两比特量化框架通过搜索码字与重校准 scale 保留推理能力
ThinkBit 是一个面向推理保持的两比特标量量化框架,将每个权重表示为整数码字乘以组内共享的 bfloat16 scale,并通过按层位宽分配、基于 Gumbel-softmax 的码字搜索、scale 重校准和短程 QAT 来构建。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。