跳到正文
热点事件持续更新

研究者提出AutoPipe自动配置LLM后训练流水线

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Channe Chwa 等研究者提出 AutoPipe,一个面向 LLM 后训练(SFT 与强化学习)流水线的预算感知两阶段自动配置框架:离线阶段从历史运行学习数据集条件的学习排序代理模型,在线阶段用引导贝叶斯优化并结合高斯过程残差建模数据集差异,同时借助早停和预测器降低评估成本。 在生物医学推理任务上的实验显示,AutoPipe 以远低于全保真 HPO 基线的在线成本取得相当的性能,并优于纯离线方法和早停 HPO 变体。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI
    AutoPipe:LLM 后训练流水线的自动配置框架

    研究者提出 AutoPipe,一个面向 LLM 后训练(SFT 与强化学习)流水线的预算感知两阶段自动配置框架。离线阶段从历史运行学习数据集条件的学习排序代理模型,在线阶段引导贝叶斯优化并用高斯过程残差代理建模数据集差异,同时通过早停和预测器降低评估成本。在生物医学推理任务上,AutoPipe 以远低于全保真 HPO 基线的在线成本取得相当性能,并优于纯离线方法和早停 HPO 变体。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。