跳到正文
热点事件持续更新

研究验证LLM可通过权重编辑为模型注入后门

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Zhaojia Wang、Jiucui Lu、Zheng Li 等研究者发表的 arXiv 论文(arXiv:2611.17395)实证评估了 LLM 依据自然语言指令直接修改模型权重、无需任务数据或梯度地植入后门的能力。结果显示,五种受测 LLM 中只有 GPT-6 Astra 能在全部三个目标架构上成功注入后门。 论文称,成功的攻击所需参数修改可以非常少,例如对 MLP 仅改 6 个参数,对一个微调过的 Qwen 模型仅改 0.02% 的权重。该研究属安全评估性质,揭示了权重空间编程作为潜在攻击面的风险。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. arXiv cs.AI
    arXiv 论文实证研究:LLM 能否通过权重空间编程为神经网络植入后门

    arXiv 论文(arXiv:2611.17395)实证研究 LLM 能否依据自然语言指令直接修改模型权重植入后门,无需任务数据、前向传播或梯度。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月16日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。