论文发现sink键方向可调控VLM注意力并提出免训练方法SHRINK
热点事件持续更新
论文发现sink键方向可调控VLM注意力并提出免训练方法SHRINK
1 篇报道1 个报道来源53 分钟前更新
先了解这件事
AI 综述
Hui Zhu等研究者在arXiv发布论文,发现视觉语言模型中sink键方向可控制图像与问题token的注意力:增强正向sink对齐分量平均提升注意力,负向则降低。基于此,他们提出免训练方法SHRINK,在生成时部分削减可见键中的sink对齐分量。 论文称,SHRINK在九个基准上使LLaVA-OneVision-7B平均准确率提升5.1个百分点、Qwen2.5-VL-3B提升2.7个百分点。
AI 根据报道生成 · 18 分钟前更新
最新进展11月20日 13:00
视觉语言模型 Sink Token 研究:SHRINK 无训练 Sink 引导键编辑方法解析报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- arXiv cs.AI视觉语言模型 Sink Token 研究:SHRINK 无训练 Sink 引导键编辑方法解析
一项 arXiv 研究发现视觉语言模型中 sink 键方向可控制图像与问题 token 的注意力:增强正向 sink 对齐分量平均提升注意力,负向则降低。基于此提出免训练方法 SHRINK,在九个基准上使 LLaVA-OneVision-7B 平均准确率提升 5.1 个百分点、Qwen2.5-VL-3B 提升 2.7 个百分点。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。