研究揭示知识蒸馏数据投毒可致学生模型后门

Qian Ma 等研究者发表针对图像知识蒸馏的后门攻击研究：在蒸馏数据集中注入带触发器、且已被干净教师模型预测为攻击者目标标签的图像，可让学生模型习得后门，而教师模型不受影响。研究称即使投毒率仅 10%，攻击仍然有效。 攻击策略包括定向对抗扰动和定向 GAN 类别转换等。投毒后的蒸馏数据可在学生模型对干净图像保持较好性能的同时，使其带上强烈后门。研究者称，这一结果表明仅靠干净教师模型不足以保证安全，蒸馏数据的完整性与来源应被纳入数据密集型知识蒸馏流水线的安全边界。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。