论文提出CMaG：免训练方法审计LVLM组合安全脆弱性
热点事件持续更新
论文提出CMaG：免训练方法审计LVLM组合安全脆弱性
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Hong Kyu Lee 等人在 arXiv 发表论文，提出免训练去对齐方法 CMaG，用于审计大型视觉语言模型组合性安全的对齐鲁棒性。该方法仅需 80 个样本的一次反向传播获得引导方向，在 Qwen2.5-VL-7B 和 LLaVA-1.5-7B 上将组合性安全分数最多降低 65 点，同时超过 98% 的输出保持连贯，效果优于基于梯度的基线方法。 论文结论称，模型行为层面的安全分数可能很高，但对定向内部干预仍然脆弱。作者提示，论文含有不安全的模型输出，包括涉及自残的内容。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 13:00
组合性去对齐：审计大型视觉语言模型的安全鲁棒性报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- arXiv cs.AI组合性去对齐：审计大型视觉语言模型的安全鲁棒性
一篇 arXiv 论文提出 CMaG，一种免训练的去对齐方法，用于审计大型视觉语言模型组合性安全的对齐鲁棒性。CMaG 仅用 80 个样本的一次反向传播即可获得引导方向，在 Qwen2.5-VL-7B 和 LLaVA-1.5-7B 上将组合性安全分数最多降低 65 点，同时超过 98% 的输出保持连贯。研究表明行为层面的安全分数可能很高，但对定向内部干预仍然脆弱。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。