用势函数降低语言模型期望估计方差
热点事件持续更新
用势函数降低语言模型期望估计方差
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Francesco I. Re 等人在 arXiv:2610.11399 论文中提出:利用采样时顺带获得的 next-token 条件概率,构造一族基于势函数(前缀上的实值函数)的估计器,以降低自回归语言模型下测试泛函期望估计的方差,并给出了方差缩减的条件。 在熵估计、水印检测和小概率事件估计等任务上,该方法在计算成本相当的情况下,相比 Monte Carlo 和重要性采样基线显著降低了方差。
AI 根据报道生成 · 1 小时前更新
最新进展10月23日 12:00
自回归语言模型下基于 potentials 的期望估计方法报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- arXiv cs.AI自回归语言模型下基于 potentials 的期望估计方法
arXiv 论文提出用 potentials(前缀上的实值函数)改进自回归语言模型下测试泛函期望的估计精度,利用采样时顺带获得的 next-token 条件概率构造一族方差缩减估计器。在熵估计、水印检测和小概率事件估计等任务中,该方法在计算成本相当的情况下,相比 Monte Carlo 和重要性采样基线显著降低方差。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。