提出AnchorRep防御跨模型对抗攻击
热点事件持续更新
提出AnchorRep防御跨模型对抗攻击
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Gal Wertheizer 等发布论文，提出防御方法 AnchorRep：用轻量 LoRA 适配器把被防御模型对有害提示的内部表示推离一个冻结的锚模型，从而削弱跨模型对抗迁移攻击，训练中不需要对抗样本，只用少量有害提示。 论文称，在 5 个模型、4 个架构家族共 2,000 个迁移攻击上，攻击成功率降至不超过 1.1%，其中两个模型降为 0%，降幅最大的是 Mistral，从 36% 降至 1.1%。
AI 根据报道生成 · 1 小时前更新
最新进展11月6日 13:00
AnchorRep 用表示排斥防御 LLM 跨模型对抗迁移攻击报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- arXiv cs.AI精选AnchorRep 用表示排斥防御 LLM 跨模型对抗迁移攻击
论文提出 AnchorRep，用轻量 LoRA 适配器把被防御模型对有害提示的内部表示推离冻结锚模型，无需对抗样本即可削弱跨模型对抗迁移。在 5 个模型、4 个架构家族的 2,000 个迁移攻击上，攻击成功率降至 <=1.1%，Mistral 从 36% 降至 1.1%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。