跳到正文
热点事件持续更新

研究者提出联邦自适应梯度校正方法FA-GC

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Evan Chen等研究者在arXiv论文(2502.02727 v4)中提出联邦自适应梯度校正方法FA-GC:在梯度进入Adam等自适应优化器的滑动平均之前先行校正漂移。论文称,在七个图像和语言任务上,FA-GC配合Adam平均需要最少的通信轮数即可达到目标精度。 论文还将FA-GC与FA-NT进行对比:FA-NT是把校正加到最终更新方向,而FA-GC是在梯度进入动量平均前就完成校正。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv cs.AI
    FA-GC:先校正再自适应的联邦梯度校正优化方法

    arXiv 论文提出联邦自适应梯度校正方法 FA-GC,在梯度进入 Adam 等自适应优化器的滑动平均之前先行校正漂移,并与把校正加到最终更新方向的 FA-NT 进行对比。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。