跳到正文
热点事件持续更新

arXiv论文提出Model Annealing模型退火训练方法

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Ali Mohammadi Ruzbahani 与 Rezvan Abouzadeh 在 arXiv 论文(arXiv:2611.17524)中提出 Model Annealing(模型退火)训练方法:把训练分成多个 episode,反复升温再冷却学习率,让网络从自身历史快照记忆的平均预测和对抗式 "dreams" 中重新学习,不增加推理开销。 论文实验显示,在 CIFAR-100、Tiny-ImageNet 和 Imagewoof 上,覆盖四种架构和 5% 到 100% 的标签比例,该方法使 AdamW 训练的 ConvNeXt、ViT 和 MLP-Mixer 的 top-1 准确率在 33 个配置中的 28 个超过交叉熵训练,平均提升 1.3 个百分点;但对 SGD 训练的 ResNet-18 会降低准确率,不过仍提升其对小幅对抗扰动的鲁棒性。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. arXiv cs.AI
    Model Annealing:通过复习与巩固实现数据高效学习

    一篇 arXiv 论文提出 Model Annealing(模型退火)训练方法:将训练分为多个 episode,反复升温再冷却学习率,网络从自身历史快照记忆的平均预测和对抗式"dreams"中重新学习,且不增加推理开销。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月16日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。