研究:重复高质量数据训练优于多样化单轮训练
热点事件持续更新
研究:重复高质量数据训练优于多样化单轮训练
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Aynetdinov 等发表 EMNLP 2026 研究称,对 500M 德语网页文档施加分层质量过滤后,多轮重复训练过滤后的高质量数据,在多个模型规模和 token 预算下持续优于一次性训练更大、过滤较少的多样性语料,7 个 epoch 后差距仍然存在。 基于该方法提出的德语模型 Boldt,据论文作者称以比同类模型少 10-360 倍的训练 token 达到 SOTA 结果。模型与清洗后的评测基准已向研究社区开源。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 12:00
重复胜过多样性:高质量数据过滤助力高效德语语言建模(Boldt 模型开源)报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.AI重复胜过多样性:高质量数据过滤助力高效德语语言建模(Boldt 模型开源)
一项 EMNLP 2026 研究对 500M 德语网页文档施加分层质量过滤,比较多轮重复训练过滤后数据与一次性训练多样性语料的效果,并提出德语模型 Boldt。实验显示,重复高质量数据在多个模型规模和 token 预算下持续优于单遍训练,且 7 个 epoch 后差距仍存在。Boldt 以比同类模型少 10-360x 的训练 token 达到 SOTA 结果,模型与清洗后的评测基准已开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。