跳到正文
arXiv cs.AI· Ethan Ludwick, Yu-Chung Hsiao·· 2 小时前AI 评分45

SANE:面向 LLM 裁判的自动化评分器特定 metamorphic 测试框架

SANE: Automated Scorer-Specific Metamorphic Testing for LLM Judges

AI 导读

研究人员提出 SANE,一个基于智能体的自动化测试框架,可为 LLM judge(大语言模型裁判)自动生成评分器特定的扰动测试用例并验证其有效性。在五个领域中,SANE 生成的有效测试族数量是 Judge Reliability Harness(JRH)的 3.7 倍,并在专业性与毒性等 JRH 检测不到问题的领域发现了评分器缺陷。

来源:arXiv cs.AI · arxiv.org