密码分析结合标签蒸馏提取神经网络参数
热点事件持续更新
密码分析结合标签蒸馏提取神经网络参数
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
一项 arXiv 研究(论文 2610.33671)提出将密码分析的权重方向提取与基于预测标签的学习结合,用于重建全连接神经网络,并把针对 ReLU 的提取方法改造适配 Leaky ReLU。实验属于有辅助的提取,需特权访问梯度、隐藏激活和受害模型参数,之后再进行基于标签的重建。 结果显示,在最大合成架构的 8 个搜索种子上,Leaky ReLU 在最深层隐藏层恢复 51–57 个神经元,而 ReLU 为零,但该优势并非在所有架构和层都成立。在两个 CIFAR-10 受害模型上,重建模型分别达到 56.40% 和 58.29% 的一致率,并在三个功能性指标上超过蒸馏基线。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 12:00
提取结合蒸馏:用密码分析技术从深度神经网络中恢复参数报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.AI提取结合蒸馏:用密码分析技术从深度神经网络中恢复参数
一项 arXiv 研究将密码分析的权重方向提取与基于预测标签的学习相结合,重建全连接神经网络,并将 ReLU 提取实现改造适配 Leaky ReLU。在最大合成架构的 8 个搜索种子上,Leaky ReLU 在最深层隐藏层恢复 51–57 个神经元而 ReLU 为零,但该优势并非在所有架构和层都成立。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。