提出迭代去对齐重要采样法估计稀有事件概率
热点事件持续更新
提出迭代去对齐重要采样法估计稀有事件概率
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Hanming Yang 等在 arXiv 论文（Rare Event Estimation via Iterative Unalignment）中提出一种新的重要采样方法：通过扰动模型权重构建提议分布，在权重空间用梯度搜索，估计语言模型智能体输出轨迹中的稀有事件概率，最低可估计至 10^-9。 作者在约 120M 和 2.6B 参数的可微语言模型、300 多个稀有事件上评估；据论文结果，对概率低于 10^-7 的事件，该估计器相比朴素 Monte Carlo 平均获得超过 800 倍的算力加权效率提升。实现代码已开源。
AI 根据报道生成 · 1 小时前更新
最新进展11月14日 13:00
通过迭代去对齐估计 AI 智能体的稀有事件概率报道时间线
沿着报道，了解事件的不同侧面。
11月14日
- arXiv cs.AI通过迭代去对齐估计 AI 智能体的稀有事件概率
一项 arXiv 研究提出通过扰动模型权重构建重要性采样（IS）提议分布的新方法，用可微语言模型在权重空间做梯度搜索，来估计智能体输出轨迹中低至 10^-9 的稀有事件概率。在约 120M 和 2.6B 模型、300 多个稀有事件上评估，对概率低于 10^-7 的事件，该 IS 估计器相比朴素 Monte Carlo 平均获得超过 800 倍的算力加权效率提升。实现代码已开源。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。