arXiv cs.AI· Zhihua Wei, Qiang Li, Jian Ruan, Zhenxin Qin, Leilei Wen, Ruiyang Qin, Qingzhuo Wang, Dongrui Liu, Wen Shen·· 1 天前AI 评分45
通过越狱相关表示偏移理解与防御 VLM 越狱（JRS-Rem）
Understanding and Defending VLM Jailbreaks via Jailbreak-Related Representation Shift
AI 导读
一项 arXiv 研究发现，VLM 并非无法识别有害意图，而是视觉模态使表示向特定越狱状态偏移，导致拒绝机制失效。研究定义了沿越狱方向的越狱相关表示偏移（jailbreak-related shift）来量化这一转变，可统一解释多种越狱场景。据此提出的推理时防御方法 JRS-Rem 在多个场景下提供强防御，同时保持良性任务性能，代码已开源。
来源：arXiv cs.AI · arxiv.org