南京大学团队提出TestPrism:单一参考评测高估AI代码测试质量一倍
Coding agent写测试集体失败,AI代码合格率被高估一倍
AI 导读
南京大学刘佳恒老师团队提出测试生成Benchmark TestPrism,包含300个测试任务和3000个候选实现,以JSF为核心指标。研究发现14种Coding Agent配置中最强的Claude Fable 5.1在单一参考评测下成功率59.67%,JSF却只有28.00%;并归纳出3大类、7种错误机制,提出的TestHelix框架在相同推理预算下将JSF提升11.67至12.00个百分点。