跳到正文
热点事件持续更新

研究提出控制l^p训练范数缓解快速对抗训练灾难性过拟合

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Fares B. Mehouachi 与 Saif Eddin Jabari 在论文(arXiv:2505.02360 v3)中提出,仅通过控制 l^p 训练范数即可缓解快速对抗训练(FGSM)中的灾难性过拟合(CO),无需噪声注入、额外正则化或梯度裁剪;论文称该方法取得了有竞争力的鲁棒性。 研究还发现 CO 在 l^∞ 范数下比 l^2 更普遍,其根源是高度集中的梯度与激进范数约束的相互作用。作者基于 Participation Ratio 和熵度量量化梯度集中度,据此构建了自适应 l^p-FGSM,可依据梯度信息自动调节训练范数。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv cs.AI
    灾难性过拟合、熵差与 Participation Ratio:一种无噪声 l^p 范数快速对抗训练方案

    一项研究提出仅通过控制 l^p 训练范数来缓解快速对抗训练(FGSM)中的灾难性过拟合(CO),无需噪声注入、正则化或梯度裁剪。研究发现 CO 在 l^∞ 范数下比 l^2 更普遍,其根源是高度集中的梯度与激进范数约束的相互作用。基于 Participation Ratio 和熵度量量化梯度集中度,研究构建了自适应 l^p-FGSM,可依据梯度信息自动调节训练范数,实验显示其鲁棒性具有竞争力。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。