提出LARE损失重加权预训练方法
热点事件持续更新
提出LARE损失重加权预训练方法
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Jiazheng Li 等在 arXiv 论文（arXiv:2610.32141）中提出 LARE（Loss-Adaptive Reweighting under fixed Exposure），在固定各领域数据曝光量的前提下，依据运行时损失统计自动调整领域权重。论文称该方法揭示出数据混合比例之外的一项独立控制手段。 论文报告，对一个用 240B token 训练的 1.5B 模型，LARE 在全部五个评测基准上均有提升，相比匹配的直接混合平均提高 7.84 个百分点；该结果为论文自述效果，尚待外部验证。
AI 根据报道生成 · 1 小时前更新
最新进展10月26日 12:00
LARE：基于损失重加权的数据混合快速 LLM 预训练方法报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv cs.AILARE：基于损失重加权的数据混合快速 LLM 预训练方法
arXiv 论文提出 LARE（Loss-Adaptive Reweighting under fixed Exposure），在固定各领域数据曝光量的前提下，依据运行时损失统计自动调整领域权重，揭示数据混合比例之外的一项独立控制手段。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。