SANE:面向 LLM 裁判的自动化评分器特定 metamorphic 测试框架
SANE: Automated Scorer-Specific Metamorphic Testing for LLM Judges
AI 导读
研究人员提出 SANE,一个基于智能体的自动化测试框架,可为 LLM judge(大语言模型裁判)自动生成评分器特定的扰动测试用例并验证其有效性。在五个领域中,SANE 生成的有效测试族数量是 Judge Reliability Harness(JRH)的 3.7 倍,并在专业性与毒性等 JRH 检测不到问题的领域发现了评分器缺陷。
来源:arXiv cs.AI · arxiv.org