论文提出SPRA-LoRA联邦LoRA微调方法
热点事件持续更新
论文提出SPRA-LoRA联邦LoRA微调方法
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Saber Malekmohammadi等研究者在arXiv提交论文（arXiv:2611.13331），提出联邦学习中的SPRA-LoRA微调方法：冻结并在客户端定期重采样A矩阵，配合随适配秩r动态缩放的学习率。论文理论上证明梯度信噪比随r线性增长，并称该方法可将客户端的计算与上行通信开销降低50%，从而允许把资源用于更高的适配秩。 论文称，在基准数据集上的实验显示SPRA-LoRA以一半的客户端开销持续优于SOTA基线，并证明了异构客户端资源下的收敛性。这些为论文作者的说法与实验结果。
AI 根据报道生成 · 1 小时前更新
最新进展11月11日 13:00
SPRA-LoRA：面向联邦 LoRA 微调的随机投影与秩感知学习率方法报道时间线
沿着报道，了解事件的不同侧面。
11月11日
- arXiv cs.AISPRA-LoRA：面向联邦 LoRA 微调的随机投影与秩感知学习率方法
研究者提出 SPRA-LoRA，一种联邦学习中的秩感知 LoRA 微调策略，通过冻结并在客户端定期重采样 A 矩阵、配合随适配秩 r 动态缩放的学习率来提升效用。理论上证明梯度信噪比（SNR）随 r 线性增长，且冻结 A 可解耦 A、B 梯度，将计算与上行通信开销降低 50%。实验表明该方法在基准数据集上持续优于 SOTA 基线，并证明了异构客户端资源下的收敛性。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。