复旦等机构提出LoLBench基准,测Agent在大型代码库的能力
热点事件持续更新
复旦等机构提出LoLBench基准,测Agent在大型代码库的能力
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
复旦大学、香港城市大学、香港中文大学等机构提出LoLBench基准,用平均约240万行源代码的软件系统评测Agent从功能提案到模块交付的能力。实测28种Agent组合中,Opus 5搭配Claude Code或mini-SWE-agent均以14%的解决率并列最高,全部组合的中位数仅2%。论文见 https://arxiv.org/abs/2609.37143。 LoLBench从社区功能提案及对应已合并PR中选取100项任务,覆盖29个系统、8种语言和5个领域。评测在断网的Docker环境中进行,以防Agent检索上游实现。
AI 根据报道生成 · 1 小时前更新
最新进展11月4日 18:03
复旦等机构推出LoLBench,实测28种Agent组合在240万行代码系统中最高仅解决14%报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- 新智元复旦等机构推出LoLBench,实测28种Agent组合在240万行代码系统中最高仅解决14%
复旦大学、香港城市大学、香港中文大学等机构提出LoLBench,用平均约240万行源代码的系统评测Agent从功能提案到模块交付的能力,论文见 https://arxiv.org/abs/2609.37143。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。