研究验证LLM可通过权重编辑为模型注入后门
热点事件持续更新
研究验证LLM可通过权重编辑为模型注入后门
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Zhaojia Wang、Jiucui Lu、Zheng Li 等研究者发表的 arXiv 论文(arXiv:2611.17395)实证评估了 LLM 依据自然语言指令直接修改模型权重、无需任务数据或梯度地植入后门的能力。结果显示,五种受测 LLM 中只有 GPT-6 Astra 能在全部三个目标架构上成功注入后门。 论文称,成功的攻击所需参数修改可以非常少,例如对 MLP 仅改 6 个参数,对一个微调过的 Qwen 模型仅改 0.02% 的权重。该研究属安全评估性质,揭示了权重空间编程作为潜在攻击面的风险。
AI 根据报道生成 · 3 小时前更新
最新进展11月16日 13:00
arXiv 论文实证研究:LLM 能否通过权重空间编程为神经网络植入后门报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- arXiv cs.AIarXiv 论文实证研究:LLM 能否通过权重空间编程为神经网络植入后门
arXiv 论文(arXiv:2611.17395)实证研究 LLM 能否依据自然语言指令直接修改模型权重植入后门,无需任务数据、前向传播或梯度。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月16日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。