arXiv cs.AI· Drake Benjamin Brown, Khushbu Pahwa, Yubin Ge, Salvatore Romeo, Akhil Agnihotri, Yi Zhang, Xiaofei Ma, Daniele Bonadiman·· 1 小时前精选AI 评分61
研究显示 Agent-as-a-Judge 虽有证据支撑仍难逃确认偏误
Grounded but Not Immune: Confirmation Bias in Agent-as-a-judge
AI 导读
arXiv 论文（arXiv:2611.05662）研究发现，Agent-as-a-Judge 即使自行收集决定性证据，一条来自权威且与正确结论无关的虚假预审备注仍可翻转至多 40% 的正确判定，涉及四个 judge 和五个数据集。作者将失败归为三种模式：过度信任、幻觉和调查不足，两个 Claude judge 的有害翻转中 67-75% 属于过度信任，轻量缓解措施只能削弱而无法消除该偏误。
推荐理由
论文用受控诊断说明 Agent-as-a-Judge 即便自主取证仍会因权威性提示翻转至多 40% 的正确判定，并给出三类失败模式归因。
正文 · AI 翻译
摘要：评估开放式智能体任务越来越多地交由“智能体即评委”（Agent-as-a-Judge）来完成：评估者被赋予工具以及智能体的完整轨迹，以便对照环境验证结果。其前提是：一个自行收集证据的评委应当以这些证据为依据。我们表明，这种依据并不能使评委免于确认偏误：一条单独的虚假预筛查备注——即使它来自权威方、且对正确结论没有任何证据意义——在四位评委和五个数据集上，能推翻使用工具的评委高达 40% 的正确结论，尽管评委收集了决定性的证据。这种偏移由线索的特定属性驱动。我们将这种线索视为确认偏误的受控诊断手段，而非对抗性攻击。我们的核心贡献是解释确认偏误如何在轨迹中改变评委的行为。我们对评委行为的变化进行分类，并将这些变化归因于三种失效模式之一：过度信任（进行验证、得出正确结论、然后屈从）、幻觉（为结论翻转编造支持）以及调查不足（在第一个佐证信号处停止）。对于两个 Claude 评委而言，失效主要表现为过度信任（占有害翻转的 67–75%），而较小的评委的错误模式则分布在全部三种之中。轻量级的缓解措施能削弱但始终无法消除这种偏误。
| 评论： | 预印本。审稿中 |
| 分类： | 人工智能 (cs.AI)；计算与语言 (cs.CL) |
| 引用格式： | arXiv:2611.05662 [cs.AI] |
| （本版本为 arXiv:2611.05662v1 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2611.05662 通过 DataCite 获取 arXiv 签发的 DOI（注册中） |
提交历史
来自：Khushbu Pahwa [查看电子邮件]
[v1]
2026 年 11 月 3 日 星期二 21:47:19 UTC (958 KB)
来源：arXiv cs.AI · arxiv.org