UC Berkeley研究者提出SecPO对抗训练抵御提示注入

UC Berkeley 的 Sizhe Chen 等研究者发布 SecPO 论文，针对提示词注入攻击提出理论上有依据的损失函数，并配套高效的对抗训练流水线，用于训练模型抵御此类攻击。 论文称现有方法 Meta-SecAlign 存在两点不足：其训练基于较弱的模拟攻击，且缺乏理论支撑。为此，SecPO 的对抗训练流水线可合成更强的注入输入（best@240），并在其上训练模型。论文配套发布了代码、训练数据与模型。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。