arXiv cs.AI· Fady Rezk, Yuangang Pan, Chuan-Sheng Foo, Xun Xu, Nancy Chen, Henry Gouk, Timothy Hospedales·· 1 天前AI 评分45
个性化对齐中的奖励模型选择危机：奖励模型准确率无法预测部署表现
The Reward Model Selection Crisis in Personalized Alignment
AI 导读
arXiv 论文指出，个性化对齐领域长期依赖奖励模型（RM）准确率选模型，但该指标与下游策略准确率仅弱相关（Kendall's tau = 0.08--0.31），无法预测奖励引导解码（RGD）的部署效果。
来源：arXiv cs.AI · arxiv.org