跳到正文
热点事件持续更新

哥伦比亚大学团队提出Seq@K顺序反馈评测协议

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

哥伦比亚大学Thomson Yen等研究者发布论文,提出Seq@K评测协议:衡量模型能否在K次顺序尝试中、每次失败后获得反馈的条件下解决问题,以捕捉Pass@1、Pass@K无法反映的反馈利用能力。 研究者在7个基准、16个前沿模型上进行了评测,结果显示模型排名常与Pass@K不同,Pareto前沿上也出现更高效的配置。通过分析模型轨迹,该协议还可刻画迭代修正行为,如模型响应反馈中问题的速率和对自身答案的固执程度。

AI 根据报道生成 · 53 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. arXiv cs.AI
    Seq@K:在序贯反馈下评估大语言模型的新基准

    研究者提出 Seq@K 评估协议,衡量模型能否在 K 次序贯尝试、每次失败后获得反馈的条件下解决问题,以捕捉 Pass@1、Pass@K 无法反映的反馈利用能力。该协议在 7 个基准、16 个前沿模型上评测,结果显示模型排名常与 Pass@K 不同,Pareto 前沿也出现更高效的配置。分析模型轨迹还可刻画其迭代修正行为,如响应反馈中问题的速率和对自身答案的固执程度。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。