Semantic Overlays：用残差流标注缓解提示注入

Joshua Penman 在 arXiv 发布 Semantic Overlays 论文，提出训练小型适配器，在冻结模型的残差流上为指定 token 区间打标注，使被标注为不可执行的注入指令被模型当作惰性内容处理。代码与已训练适配器已公开。 该方法的安全边界由论文自己给出：任何输入文本都无法创建或移除标注，但模型对标注的响应仍由输入可影响的状态计算得出。在更强的威胁模型下防御会减弱——掌握模型权重的攻击者用 GCG 攻击可在 72% 的测试项上成功，仅对适配器做对抗训练后降至 14%。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。