arXiv cs.AI· Zhan-Yu Wu, Ji Luo, Alyssa Wu, Junjielong Xu, Richeng Xuan, Zhichao Hu, Chongming Gao, Xinting Hu·· 2 小时前AI 评分51
UserSWE:评测编码智能体在多轮对话与动态用户交互下修复仓库级 bug 的能力
UserSWE: Evaluating Coding Agents in Multi-Turn Conversations with Dynamic Users
AI 导读
论文提出 UserSWE 基准,评测编码智能体通过与动态用户多轮交互修复仓库级 bug,每轮以测试结果为主的判定机制打分。其流程把仓库历史和单轮基准转成多轮任务,persona 链基于 20,859 个开发会话校准。
来源:arXiv cs.AI · arxiv.org