论文称Agent基准饱和源于计量方式并提出分级评分
热点事件持续更新
论文称Agent基准饱和源于计量方式并提出分级评分
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Zihan Dong 等研究者在 arXiv 论文(arXiv:2611.13541)中指出,Agent 基准的饱和多来自计量方式而非任务本身,并提出一种带日期锚点、把成本作为独立维度的截断对数比评分方法。论文重评了八个基准(含 SWE-bench Verified 和 Terminal-Bench)的已发布运行结果以验证该方法。 论文的出发点是:多数 Agent 基准把一次运行压缩为一个通过/失败比特,这会丢弃信息。作者称,在一次 Terminal-Bench 重跑中,按通过/失败打平的模型在被测试丢弃的量上相差超过十倍。
AI 根据报道生成 · 1 小时前更新
最新进展11月11日 13:00
arXiv 论文:Agent 基准饱和多在计量而非任务,提出分级评分方法报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- arXiv cs.AI精选arXiv 论文:Agent 基准饱和多在计量而非任务,提出分级评分方法
arXiv 论文(arXiv:2611.13541)重评八个基准的已发布运行结果,包括 SWE-bench Verified 和 Terminal-Bench,发现 Agent 基准的饱和多来自计量方式而非任务本身。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。