研究:偏好优化致LLaVA目标类别覆盖下降并提出base引导恢复方法
热点事件持续更新
研究:偏好优化致LLaVA目标类别覆盖下降并提出base引导恢复方法
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Hansang Lee 在 arXiv 发布论文(arXiv:2611.23179),诊断出 LLaVA-1.5-7B 的四个偏好优化(PO)检查点在降低幻觉的同时也降低了目标类别覆盖率,且在 CHAIR 上集合级 F1 无显著提升;并提出无需训练的 base 引导对象类别恢复方法,将基础模型高置信度的独有类别追加到 PO 生成描述中。 作者称,在开发集上固定阈值后,该方法使三个检查点在留出 COCO 集上的召回达到基础模型一个百分点以内,同时独有对象幻觉率低于基础模型。诊断实验还显示,正向 EOS logit 偏置让基础模型提前停止即可复现三个检查点 58%-86% 的 CHAIRi 增益,而负向偏置在贪心解码下仅恢复 2%-9% 的丢失召回。作者表示将发布召回控制评估的代码。
AI 根据报道生成 · 1 小时前更新
最新进展11月19日 13:00
偏好优化让 LLaVA-1.5-7B 少幻觉也少覆盖?诊断与恢复目标类别覆盖研究报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- arXiv cs.AI偏好优化让 LLaVA-1.5-7B 少幻觉也少覆盖?诊断与恢复目标类别覆盖研究
研究发现 LLaVA-1.5-7B 的四个偏好优化(PO)检查点在降低幻觉的同时也降低了目标类别覆盖率,在 CHAIR 上的集合级 F1 无显著提升。正向 EOS logit 偏置让基础模型提前停止即可复现三个检查点 58%-86% 的 CHAIRi 增益,而负向 EOS 偏置在贪心解码下仅恢复 2%-9% 的丢失召回。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。