跳到正文
热点事件持续更新

研究:渲染为图像可降提示注入风险但替换攻击例外

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Haoyang Liu 等研究者发布 arXiv 论文(arXiv:2611.24231),对 191 个英文问答来源在六个模型上对比文本与页面图像版本,测量标记附加、答案格式化和答案替换三类间接提示注入。结果显示渲染普遍降低附加与格式化攻击的执行率,但 Qwen3-VL-8B 仍以 77.96% 的成功率执行图像形式的答案替换。 注意力分析显示,文本命令作用于自身位置,而视觉编码会把图像命令及其目标分散到整个指令页,这一差异被提出者视为部分攻击未受防护的原因。效用方面,原文问答的效用比率在 93.31% 至 101.61% 之间,但当答案需结合两处证据时,Qwen 降至 61.99%。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    arXiv 论文研究文本转像素渲染对多模态模型提示词注入的条件性防护

    arXiv 论文(arXiv:2611.24231)用 191 个英文问答来源和六种模型,对照文本与页面图像版本,测量标记附加、答案格式化和答案替换三类注入操作的执行情况。渲染普遍降低附加与格式化攻击成功率,但 Qwen3-VL-8B 仍以 77.96% 执行图像形式的答案替换;注意力分析显示文本命令作用于自身位置,而视觉编码会把图像命令及其目标分散到整个指令页。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。