研究提出PGP攻击:预训练模型越狱漏洞可迁移到专有微调模型
热点事件持续更新
研究提出PGP攻击:预训练模型越狱漏洞可迁移到专有微调模型
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Yixin Tan 等研究者发布论文(arXiv:2512.14751,已被 ACM CCS 接收),提出 PGP 攻击与轻量防御。研究在“预训练到微调”威胁模型下发现:在公开发布的预训练 LLM 上优化的对抗提示,可高效迁移到攻击者无法接触的专有微调变体,即越狱漏洞会从预训练继承到微调模型。 该威胁模型的适用条件是:攻击者对已发布的预训练模型有完全访问权限,但接触不到其专有微调版本。这一发现意味着发布开源预训练模型可能放大其微调衍生模型的越狱风险,论文同时提出了相应防御方法。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 12:00
研究揭示预训练模型暴露会放大微调 LLM 的越狱风险,提出 PGP 攻击与防御报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.AI研究揭示预训练模型暴露会放大微调 LLM 的越狱风险,提出 PGP 攻击与防御
研究者在预训练到微调的威胁模型下发现,在预训练 LLM 上优化的对抗提示可高效迁移到其专有微调变体,说明越狱漏洞会从预训练继承到微调模型。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。