研究提出SISS视觉提示注入攻击与ScaleGuard防御
热点事件持续更新
研究提出SISS视觉提示注入攻击与ScaleGuard防御
1 篇报道1 个报道来源53 分钟前更新
先了解这件事
AI 综述
Yiheng Zhao等在arXiv发布论文，提出尺度诱导语义偏移（SISS）攻击框架及配套防御方法ScaleGuard。研究发现图像缩放会改变视觉语言模型的机器可读语义：文本指令在512×512分辨率下不可被模型恢复，但激进降采样后变得可读。 SISS是一个闭环黑盒框架，结合双尺度验证、选择性自硬化、浅层低秩适应与像素空间噪声正则化。据论文报告，第三轮细化在300例基准上对四个闭源视觉语言模型取得58.75%平均攻击成功率，高于最强生成基线的41.08%。
AI 根据报道生成 · 24 分钟前更新
最新进展11月14日 13:00
视觉提示注入中的尺度诱导语义偏移（SISS）研究：图像缩放改变视觉语言模型的机器可读语义报道时间线
沿着报道，了解事件的不同侧面。
11月14日
- arXiv cs.AI视觉提示注入中的尺度诱导语义偏移（SISS）研究：图像缩放改变视觉语言模型的机器可读语义
一项 arXiv 研究提出尺度诱导语义偏移（SISS）：文本指令在 512×512 分辨率下不可被视觉语言模型恢复，但激进降采样后变得可读。通过双尺度验证、自硬化、低秩适应与像素噪声正则化，第三轮细化在 300 例基准上对四个闭源视觉语言模型取得 58.75% 平均攻击成功率，最强生成基线为 41.08%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。