跳到正文
热点事件持续更新

AttentionSwitch:联合优化注意力头干预的越狱防御

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Doniyorkhon Obidov 等研究者在 arXiv 发布论文,提出越狱防御方法 AttentionSwitch:在冻结的大语言模型内联合优化干预位置与干预强度,通过学习稀疏的注意力头集合及其按查询变化的乘性缩放因子,在不改变表征方向的前提下衰减或放大所选注意力头的输出。 论文称该方法为首个在冻结 LLM 内同时优化干预位置与强度的越狱防御。作者报告在多种主流模型和越狱攻击上的实验中,AttentionSwitch 优于现有防御,且在训练数据稀缺时效果尤为突出。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. arXiv cs.AI
    AttentionSwitch:通过联合学习稀疏注意力头选择与缩放实现 LLM 越狱防御

    研究者提出 AttentionSwitch,这是首个在冻结 LLM 内联合优化干预位置与干预强度的越狱防御方法。该方法学习稀疏的注意力头集合及查询条件下的乘性缩放因子,可在不改变表征方向的情况下衰减或放大所选注意力头的输出。在多种主流模型和越狱攻击上,AttentionSwitch 优于现有防御,在训练数据稀缺时效果尤为突出。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。