Varest提出基于语义可置换性的图像token压缩方法
热点事件持续更新
Varest提出基于语义可置换性的图像token压缩方法
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Tianhao Fu 等人在 arXiv(2610.18690 v2)发布 Varest,一种图像 token 压缩方法。其思路基于"语义可置换性":同一语义区域内的 token 可粗略概括,而物体边界和文字需要更细的区分。方法由物体和文本定位器引导可变分辨率合并,再通过可学习的 [REL] 寄存器在 decoder 早期处理后剪枝视觉 token。 论文称,该方法在仅保留原始层平均图像 token 数 5.56% 的情况下,保留全 token 性能的 86.10–92.33%;在三个骨干模型、13 个基准上,各预算下的平均性能保持率均优于 15 个基线方法。
AI 根据报道生成 · 53 分钟前更新
最新进展10月23日 12:00
Varest:基于 LLM 前语义可变分辨率 Token 化与 LLM 内相关性剪枝的图像 Token 压缩报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- arXiv cs.AIVarest:基于 LLM 前语义可变分辨率 Token 化与 LLM 内相关性剪枝的图像 Token 压缩
Varest 提出一种图像 token 压缩方法,利用语义可置换性:由物体和文本定位器引导可变分辨率合并,保留边界和文字细节,再通过可学习的 [REL] 寄存器在 decoder 早期处理后剪枝视觉 token。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。