跳到正文
热点事件持续更新

研究:重复高质量数据训练优于多样化单轮训练

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Aynetdinov 等发表 EMNLP 2026 研究称,对 500M 德语网页文档施加分层质量过滤后,多轮重复训练过滤后的高质量数据,在多个模型规模和 token 预算下持续优于一次性训练更大、过滤较少的多样性语料,7 个 epoch 后差距仍然存在。 基于该方法提出的德语模型 Boldt,据论文作者称以比同类模型少 10-360 倍的训练 token 达到 SOTA 结果。模型与清洗后的评测基准已向研究社区开源。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI
    重复胜过多样性:高质量数据过滤助力高效德语语言建模(Boldt 模型开源)

    一项 EMNLP 2026 研究对 500M 德语网页文档施加分层质量过滤,比较多轮重复训练过滤后数据与一次性训练多样性语料的效果,并提出德语模型 Boldt。实验显示,重复高质量数据在多个模型规模和 token 预算下持续优于单遍训练,且 7 个 epoch 后差距仍存在。Boldt 以比同类模型少 10-360x 的训练 token 达到 SOTA 结果,模型与清洗后的评测基准已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。