论文提出CodeSpear攻击与CodeShield防御揭示语法约束解码风险
热点事件持续更新
论文提出CodeSpear攻击与CodeShield防御揭示语法约束解码风险
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Yitong Zhang 等作者发布论文，提出针对语法约束解码（GCD）的越狱攻击 CodeSpear，可诱导大语言模型生成恶意代码；在 10 个模型、4 个基准上，CodeSpear 优于代表性越狱基线，平均提升攻击成功率超过 30 个百分点。 作者同时提出防御方法 CodeShield，训练模型在 GCD 下生成语义无害且结构多样的蜜罐代码，在不损失良性功能的情况下恢复安全性。论文已被 ICSE 2027 录用。
AI 根据报道生成 · 1 小时前更新
最新进展11月5日 13:00
论文提出 CodeSpear 越狱攻击与 CodeShield 防御，揭示语法约束解码的安全风险报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv cs.AI论文提出 CodeSpear 越狱攻击与 CodeShield 防御，揭示语法约束解码的安全风险
arXiv 论文提出 CodeSpear 越狱攻击，利用语法约束解码（GCD）诱导大语言模型生成恶意代码，在 10 个模型、4 个基准上平均提升攻击成功率超过 30 个百分点。作者同时提出 CodeShield 防御，训练模型在 GCD 下生成语义无害且结构多样的蜜罐代码，在不损失良性功能的情况下恢复安全性，论文已被 ICSE 2027 录用。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。