论文揭示On-Policy蒸馏可传播视觉后门
热点事件持续更新
论文揭示On-Policy蒸馏可传播视觉后门
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Zane Fu 等人在 arXiv 发表论文,指出 On-Policy 蒸馏(OPD)在视觉-语言模型训练中存在被忽视的视觉后门传播风险。研究称,低投毒比例下后门很少出现,但超过临界阈值后攻击成功率迅速接近 100%。
AI 根据报道生成 · 57 分钟前更新
最新进展11月18日 13:00
学生模型持续部署中,视觉后门威胁不断增长:On-Policy 蒸馏的安全风险研究报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AI学生模型持续部署中,视觉后门威胁不断增长:On-Policy 蒸馏的安全风险研究
一篇 arXiv 论文揭示 On-Policy Distillation(OPD)在视觉-语言模型训练中存在被忽视的视觉后门传播风险。研究发现低投毒比例下后门很少出现,但一旦超过临界阈值,攻击成功率迅速接近 100%,且传播不依赖显式恶意响应,而由教师模型分配的异常概率质量持续累积驱动。基于此作者提出新型触发器设计,实现零显式触发注入的视觉后门传播。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。