跳到正文
arXiv cs.AI· Junwei Yao, Yongxi Zhou, Zike Yang, Zhijun Wang, Jianan Liu, Yanxian Chen, Wenbo Ye·· 1 天前AI 评分49

大语言模型智能体上下文压缩评测:当前问题的压缩如何影响后续问题

Evaluating Context Compaction on the Questions That Come Later

AI 导读

一项 arXiv 研究评测了语言模型智能体的上下文压缩对“后续问题”的影响。在 MultiRC 上,用 gpt-6-luna(通过 OpenAI Decisions API)为当前问题选句可提升该问题准确率 11.4 个百分点(仅用 25% token),但对后续问题相比随机删句无优势;LLMLingua-2 按词删减则在后续问题上高出随机删句 12.5 个百分点。

来源:arXiv cs.AI · arxiv.org