arXiv cs.AI· Romina Omidi, Nima Naderloui, Yuan Hong, Binghui Wang·· 1 天前精选AI 评分71
统一攻击框架破解 KGW、SynthID 等大语言模型统计水印
A Unified Attack Framework against Statistical Generative Watermarks for Large Language Models
AI 导读
研究者提出针对大语言模型统计水印的统一攻击框架，发现 KGW、GumbelSoft、DipMark、ITS、SynthID 等方法的检测分数与生成时引入的 token 概率偏移存在 score-ratio alignment 关联。攻击者仅需黑盒查询即可生成逃逸检测且保持流畅的文本，在 7 种水印方案、3 个 LLM 的评测中将检测率降至最高 0.05，并证明该弱点是设计上的固有缺陷。
推荐理由
论文指出统计类大语言模型水印的检测分数与 token 概率偏移存在固有关联，并给出黑盒攻击可将检测率降至 0.05 以内。
来源：arXiv cs.AI · arxiv.org