DeCert:生成式奖励模型的决策证书监督方法(arXiv 论文)
Judging the Justification: Decision Certificate Supervision for Generative Reward Models
AI 导读
一项 arXiv 论文提出 DeCert 框架,无需参考解释即可评估生成式奖励模型(GenRM)生成理由的有效性与判定一致性,并将其转化为兼顾判定正确性和理由质量的偏好监督。在两个模型家族和多个分布内外 benchmark 上,DeCert 持续超越强生成式裁判基线并提升理由质量,还将位置一致准确率最高提升 14.8 点,有效缓解位置偏差。