arXiv cs.AI· Anthony Rhodes·· 1 天前AI 评分55
研究指出 LLM 无法自划智能体验证器可检查边界，提出 CoVer 方法
Not Self-Decidable: LLMs Cannot Draw the Boundary of What an Agent Verifier Can Check
AI 导读
论文研究智能体验证器中固定检查与需judge裁决的划分能否由模型自行决定。在 EU AI Act、FINRA 指引及已部署信贷智能体等六个语料上收集约 22,000 个标注，来自三个实验室的四个模型：答案明显处几乎完全一致，监管文本上则崩溃；错误方向相反，无法选出一个保守模型；在已部署智能体自己的规则集上还共同高估固定检查的适用，恰是不触发升级的方向。
来源：arXiv cs.AI · arxiv.org