Agentic Abstention：研究 LLM 智能体何时该停止行动而非继续调用工具
Agentic Abstention: Do Agents Know When to Stop Instead of Act?
AI 导读
论文定义了 Agentic Abstention，即智能体在不确定时应停止行动的序贯决策问题。研究在网页购物、终端环境和问答任务上评测 13 个 LLM 智能体系统与 2 种 agent scaffold，超过 28,000 条任务指令，发现部分智能体该停止时不停止，另一些则经过多次不必要的交互后才放弃，更大或更强的模型有时反而不擅长及时弃权。
推荐理由
论文提出智能体该在何时停止行动的问题，并以大规模评测和可复用方法给出改善路径，数据集和代码已开放。
正文 · AI 翻译
摘要：LLM 智能体被期望在多轮对话中行动，利用搜索、浏览界面和工具来完成用户目标。然而并非每个目标都能被充分界定，或在可用环境中实现。在这些情况下，可靠的智能体应认识到继续交互不太可能有帮助，并避免进行额外的工具调用。我们定义了智能体弃权（Agentic Abstention），即决定智能体何时应在不确定性下停止行动的问题。与标准的 LLM 弃权（通常被评估为单轮的回答或弃权决策）不同，智能体弃权是一个序贯决策问题：智能体在每一轮可以回答、弃权或收集更多信息，而弃权的必要性可能只有在与环境交互后才会显现。我们在网页购物、终端环境和问答任务上研究这一问题，评估了 13 个 LLM 智能体系统和 2 个智能体框架，涉及超过 28,000 条任务指令。我们的结果表明，主要挑战不仅在于智能体能否弃权，还在于它们何时弃权。一些智能体在该弃权时从不弃权，而另一些则在多次不必要的交互后才弃权。这一差距在那些指令看似可行、直到环境揭示并非如此的任务上尤为明显（例如，没有有效结果与指令匹配）。我们进一步发现，模型规模、推理能力和智能体框架对弃权的影响各不相同，更大或更强的模型有时在及时弃权方面表现更差。最后，我们提出 CONVOLVE，一种用于改进智能体弃权的上下文工程方法，它将交互轨迹提炼为可复用的停止规则。在留出的 WebShop 任务上，CONVOLVE 在不更新模型参数的情况下显著提升了及时弃权，将 Llama-3.3-70B 的及时召回率从 26.7 提高到 57.4。我们的数据集和代码可在 this https URL 获取。
| 评论： | 被 NeurIPS 2026 接收。更新后的 camera-ready 版本，修订了参考文献并做了小幅更正 |
| 主题： | 人工智能 (cs.AI) |
| 引用格式： | arXiv:2606.28733 [cs.AI] |
| （或 arXiv:2606.28733v2 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2606.28733 通过 DataCite 获取 arXiv 发布的 DOI |
提交历史
来自：Han Luo [查看邮件]
[v1]
2026 年 6 月 27 日 星期六 04:49:37 UTC（1,067 KB）
[v2]
2026 年 11 月 5 日 星期四 12:19:33 UTC（1,076 KB）
来源：arXiv cs.AI · arxiv.org