研究者提出ES2嵌入空间分离方法增强大模型安全性

Xu Zhao、Xiting Wang、Weiran Shen 等研究者在 arXiv 发布的论文中提出 ES2（嵌入空间分离）微调方法，通过拉大有害与无害输入嵌入之间的距离来增强大语言模型对对抗攻击的防御。方法引入嵌入锚定损失和 KL 散度损失两项正则化，以避免过度分离损伤模型能力。 论文实验显示，ES2 对多种攻击方法具备良好防御效果，微调后模型的通用能力与基线相当，但部分任务有一定性能下降。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。