跳到正文
热点事件持续更新

论文发现sink键方向可调控VLM注意力并提出免训练方法SHRINK

1 篇报道1 个报道来源53 分钟前更新

先了解这件事

AI 综述

Hui Zhu等研究者在arXiv发布论文,发现视觉语言模型中sink键方向可控制图像与问题token的注意力:增强正向sink对齐分量平均提升注意力,负向则降低。基于此,他们提出免训练方法SHRINK,在生成时部分削减可见键中的sink对齐分量。 论文称,SHRINK在九个基准上使LLaVA-OneVision-7B平均准确率提升5.1个百分点、Qwen2.5-VL-3B提升2.7个百分点。

AI 根据报道生成 · 18 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    视觉语言模型 Sink Token 研究:SHRINK 无训练 Sink 引导键编辑方法解析

    一项 arXiv 研究发现视觉语言模型中 sink 键方向可控制图像与问题 token 的注意力:增强正向 sink 对齐分量平均提升注意力,负向则降低。基于此提出免训练方法 SHRINK,在九个基准上使 LLaVA-OneVision-7B 平均准确率提升 5.1 个百分点、Qwen2.5-VL-3B 提升 2.7 个百分点。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。