跳到正文
热点事件持续更新

CausalMix:用因果推断建模优化大模型数据配比

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Zinan Tang 等研究者发布论文 CausalMix(arXiv:2607.01104),将大语言模型训练的数据配比优化建模为因果推断问题:以数据池统计特征为协变量、领域配比为处理,以摆脱既有方法对静态数据分布的依赖。该论文已被 NeurIPS 2026 接收。 论文作者称,该方法先在 512 次 Qwen2.5-0.5B 训练上拟合因果模型以估计条件平均处理效应(CATE),再为 80 万数据池外推最优配比,用于训练 7B 模型;并称该框架成功推广到 Qwen3-4B-Base 的长思维链数据上。

AI 根据报道生成 · 56 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI
    CausalMix:将数据配比视为因果推断以优化大语言模型训练

    arXiv 论文提出 CausalMix,把 LLM 训练的数据配比优化建模为因果推断问题,以数据池统计特征为协变量、领域配比为处理,摆脱既有方法对静态数据分布的依赖。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。