Value Probes：学习值函数增强束搜索红队审计

Jonathan F. Jao 与 Andrew Kyle Lampinen 在 arXiv 论文中提出 Value Probes 方法：将大语言模型自动化红队审计建模为马尔可夫决策过程，用束搜索替代仅依赖 auditor 模型，并通过线性探测目标模型激活来估计值函数。论文称，相比 token 数量对齐的标准审计方法，该方法将峰值审计分数提高约 50%。 该方法称值函数可通过线性探针从目标模型激活预测折扣未来奖励来估计，且可利用较小模型的离策略数据拟合 Value Probes。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。