跳到正文
热点事件持续更新

研究发现模态对齐越强文本攻击越易迁移至音频

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

研究者在论文中提出并验证了“Alignment Curse”(对齐诅咒):全模态模型的文本与音频模态对齐越强,文本越狱攻击向音频迁移就越有效。论文已被 NeurIPS 2026 接收。 对 Qwen2.5-Omni、Qwen3-Omni 等模型的黑盒评测显示,从文本迁移来的音频攻击效果不亚于甚至常优于原生音频攻击,在攻击者只能访问音频的条件下优势更明显。作者据此提出,现有针对音频模态的安全评估可能低估了来自文本模态的攻击风险。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. arXiv cs.AI
    The Alignment Curse:模态对齐增强使文本越狱攻击更易迁移至音频

    论文提出并验证了对齐诅咒,表明全模态模型的文本音频对齐越强,文本攻击向音频迁移越有效。对 Qwen2.5-Omni、Qwen3-Omni 等模型的黑盒评测显示,文本迁移音频攻击效果不亚于甚至常优于原生音频攻击,且在仅有音频访问时优势明显,提示现有音频安全评估可能低估来自文本模态的风险。论文已被 NeurIPS 2026 接收。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。