arXiv论文提出Model Annealing模型退火训练方法
热点事件持续更新
arXiv论文提出Model Annealing模型退火训练方法
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Ali Mohammadi Ruzbahani 与 Rezvan Abouzadeh 在 arXiv 论文(arXiv:2611.17524)中提出 Model Annealing(模型退火)训练方法:把训练分成多个 episode,反复升温再冷却学习率,让网络从自身历史快照记忆的平均预测和对抗式 "dreams" 中重新学习,不增加推理开销。 论文实验显示,在 CIFAR-100、Tiny-ImageNet 和 Imagewoof 上,覆盖四种架构和 5% 到 100% 的标签比例,该方法使 AdamW 训练的 ConvNeXt、ViT 和 MLP-Mixer 的 top-1 准确率在 33 个配置中的 28 个超过交叉熵训练,平均提升 1.3 个百分点;但对 SGD 训练的 ResNet-18 会降低准确率,不过仍提升其对小幅对抗扰动的鲁棒性。
AI 根据报道生成 · 4 小时前更新
最新进展11月16日 13:00
Model Annealing:通过复习与巩固实现数据高效学习报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- arXiv cs.AIModel Annealing:通过复习与巩固实现数据高效学习
一篇 arXiv 论文提出 Model Annealing(模型退火)训练方法:将训练分为多个 episode,反复升温再冷却学习率,网络从自身历史快照记忆的平均预测和对抗式"dreams"中重新学习,且不增加推理开销。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月16日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。