跳到正文
热点事件持续更新

Rhea Sanjay Sukthanker 等提出 ThinkBit 两比特量化框架

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Rhea Sanjay Sukthanker 等发布论文(arXiv:2610.34886),提出面向推理保持的两比特标量量化框架 ThinkBit,将每个权重表示为整数码字乘以组内共享的 bfloat16 scale。 该框架通过按层位宽分配、基于 Gumbel-softmax 的码字搜索、scale 重校准和短程 QAT(量化感知训练)构建,并在 Qwen3 模型上进行了实验。作者称该框架旨在保留模型的推理能力。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI
    ThinkBit:两比特量化框架通过搜索码字与重校准 scale 保留推理能力

    ThinkBit 是一个面向推理保持的两比特标量量化框架,将每个权重表示为整数码字乘以组内共享的 bfloat16 scale,并通过按层位宽分配、基于 Gumbel-softmax 的码字搜索、scale 重校准和短程 QAT 来构建。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。