跳到正文
热点事件持续更新

研究者提出PreG方法提升并行测试时扩展效率

1 篇报道1 个报道来源53 分钟前更新

先了解这件事

AI 综述

Jie Ren等在arXiv论文中提出Prefix-Guided Sampling(PreG),用于改进大语言模型并行测试时扩展(TTS)中置信度信号的利用。该方法先生成短前缀,用内部置信度评分排序,再只补全最有希望的候选路径,从而在保持路径质量的同时降低token用量和计算开销。 论文的理论分析称,在固定算力预算下PreG能拓宽决策边界裕度;实验显示其在多个benchmark上持续优于标准并行TTS。

AI 根据报道生成 · 38 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. arXiv cs.AI
    Prefix-Guided Sampling:用前缀置信度信号提升并行测试时扩展效率

    arXiv 论文提出 Prefix-Guided Sampling(PreG),改进大语言模型并行测试时扩展(TTS)中的置信度信号利用。该方法先生成短前缀并用内部置信度评分排序,只补全最有希望的候选路径,在保持路径质量的同时显著降低 token 用量与计算开销;理论分析表明固定算力预算下 PreG 能拓宽决策边界裕度,实验中在多个 benchmark 上持续优于标准并行 TTS。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。