跳到正文
热点事件持续更新

论文揭示On-Policy蒸馏可传播视觉后门

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Zane Fu 等人在 arXiv 发表论文,指出 On-Policy 蒸馏(OPD)在视觉-语言模型训练中存在被忽视的视觉后门传播风险。研究称,低投毒比例下后门很少出现,但超过临界阈值后攻击成功率迅速接近 100%。

AI 根据报道生成 · 57 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    学生模型持续部署中,视觉后门威胁不断增长:On-Policy 蒸馏的安全风险研究

    一篇 arXiv 论文揭示 On-Policy Distillation(OPD)在视觉-语言模型训练中存在被忽视的视觉后门传播风险。研究发现低投毒比例下后门很少出现,但一旦超过临界阈值,攻击成功率迅速接近 100%,且传播不依赖显式恶意响应,而由教师模型分配的异常概率质量持续累积驱动。基于此作者提出新型触发器设计,实现零显式触发注入的视觉后门传播。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。