跳到正文
热点事件持续更新

论文称Agent基准饱和源于计量方式并提出分级评分

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Zihan Dong 等研究者在 arXiv 论文(arXiv:2611.13541)中指出,Agent 基准的饱和多来自计量方式而非任务本身,并提出一种带日期锚点、把成本作为独立维度的截断对数比评分方法。论文重评了八个基准(含 SWE-bench Verified 和 Terminal-Bench)的已发布运行结果以验证该方法。 论文的出发点是:多数 Agent 基准把一次运行压缩为一个通过/失败比特,这会丢弃信息。作者称,在一次 Terminal-Bench 重跑中,按通过/失败打平的模型在被测试丢弃的量上相差超过十倍。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. arXiv cs.AI精选
    arXiv 论文:Agent 基准饱和多在计量而非任务,提出分级评分方法

    arXiv 论文(arXiv:2611.13541)重评八个基准的已发布运行结果,包括 SWE-bench Verified 和 Terminal-Bench,发现 Agent 基准的饱和多来自计量方式而非任务本身。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。