跳到正文
arXiv cs.AI· Matthias Busch, Marius Tacke, Roland C. Aydin, Christian Feiler, Christian J. Cyron·· 1 小时前精选AI 评分62

CTXAgent 论文提出让 LLM Agent 自主管理上下文,Claude Opus 5.5 上成本最多降低 49%

CTXAgent - Self-Controlled Context Management of LLM Agents

AI 导读

arXiv 论文 CTXAgent 研究 LLM Agent 自主管理上下文:模型在两个工具和一段指引下自行决定何时压缩历史、保留什么并撰写交接内容。作者在 35-212 轮混合会话基准上比较七个前沿模型及三个常用 harness,多数强模型能维持 live context 在约 100k tokens 以内且分数基本不降。

推荐理由

论文给出七个模型自管理上下文的对照实验数据,并用成本降幅量化其与主流 harness 的差异,结论可直接用于选型。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:Agent harness 通过在超过 token 阈值时压缩历史记录,将长会话保持在上下文窗口内。我们研究一种替代方案:模型自行管理其上下文——在给定两个工具和一段指导的情况下,由模型决定何时压缩、保留什么、以及在交接时写入什么。由于此前的研究发现开源权重模型在没有脚手架的情况下无法自行管理上下文,我们在相同条件下比较了七个前沿模型(带与不带上下文工具)的 token 成本和基准得分,并将我们的 harness 与三个广泛使用的 harness 在其中两个模型上进行了比较。该基准由现有基准组装而成:编程练习、多步 SciCode 问题以及 SWE-bench Pro 和 Terminal-Bench 4.0 任务与植入的事实、临时观察和长期指令交错出现,全部以确定性方式检查,会话长度为 35–212 轮,类似于用户在一次聊天中处理不同任务。大多数最强的模型都能管理自己的上下文:它们定期压缩和整理,混合会话的实时上下文大多保持在 100k token 以下,且其基准得分大多没有显著下降。对于上下文管理良好的模型,成本降低相当可观,但因模型而异,因为有些模型压缩过于频繁,导致其他成本上升。使用 Claude Opus 5.5 时,自管理 harness 在任务成功率上与 Claude Code 相当,成本比其显式 200k 窗口配置低 34%,比其默认配置低 49%,且无需选择上下文窗口。我们发布了 agent、基准以及所有结果数据。
学科: 人工智能 (cs.AI)
引用格式: arXiv:2610.34425 [cs.AI]
  (本版本为 arXiv:2610.34425v1 [cs.AI])
  https://doi.org/10.48550/arXiv.2610.34425

arXiv 分配的 DOI,经 DataCite(注册待完成)

提交历史

来自:Matthias Busch [查看邮件]
[v1] 2026年10月25日 星期日 16:30:56 UTC (742 KB)

来源:arXiv cs.AI · arxiv.org