研究者发布视觉语言模型可解释性开源库VLMProbe

Gexin Huang 等研究者在 arXiv 发布论文并开源了 VLMProbe 库，一个用于视觉语言模型探针与可解释性分析的工具，统一集成 lens 读出、注意力归因、因果干预和稀疏自编码器（SAE）分析，并提供共享模型适配器、校准与检查点工具、评估流程和可视化。代码已在开源平台发布。 论文的对比实验涵盖视觉语言、语言和视觉模型，结果显示：表示读出与空间解释依赖分析目标和观察位置；局部归因估计可能与干预效应不一致；SAE 在重建保真度、概念读出和空间定位上各有取舍。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。