跳到正文
热点事件持续更新

研究团队提出SceneSafetyBench揭示视觉语言模型场景状态安全漏洞

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Tongxi Wu 等研究者发布论文,提出视觉语言模型(VLM)存在“场景状态安全漏洞”:模型可通过解读图像中的视觉事件状态,在危险场景下提供有害协助。研究者同时发布了 SceneSafetyBench 基准和配套的 S3TA 系统化攻击方法来评估这一漏洞。 SceneSafetyBench 包含 375 个图像问答对,覆盖初始、中等、终极三种场景状态和五种视觉呈现方式。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. arXiv cs.AI
    SceneSafetyBench 论文揭示视觉语言模型的场景状态安全漏洞并提出 S3TA 攻击

    研究团队发现视觉语言模型(VLM)存在场景状态安全漏洞,可通过解读视觉事件提供有害协助,并发布包含 375 个图像问答对的 SceneSafetyBench。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。