跳到正文
热点事件持续更新

用势函数降低语言模型期望估计方差

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Francesco I. Re 等人在 arXiv:2610.11399 论文中提出:利用采样时顺带获得的 next-token 条件概率,构造一族基于势函数(前缀上的实值函数)的估计器,以降低自回归语言模型下测试泛函期望估计的方差,并给出了方差缩减的条件。 在熵估计、水印检测和小概率事件估计等任务上,该方法在计算成本相当的情况下,相比 Monte Carlo 和重要性采样基线显著降低了方差。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. arXiv cs.AI
    自回归语言模型下基于 potentials 的期望估计方法

    arXiv 论文提出用 potentials(前缀上的实值函数)改进自回归语言模型下测试泛函期望的估计精度,利用采样时顺带获得的 next-token 条件概率构造一族方差缩减估计器。在熵估计、水印检测和小概率事件估计等任务中,该方法在计算成本相当的情况下,相比 Monte Carlo 和重要性采样基线显著降低方差。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。