arXiv cs.AI· Austin Meek, Kyle Cox, Matthew Nguyen, Austin J. Brockmeier, Steven Basart·· 2 小时前AI 评分52
arXiv 论文提出用表示工程动态干预缓解真实场景中的 reward hacking
Mitigating Reward Hacking in Realistic Scenarios Through Representation Engineering
AI 导读
Austin Meek 等人在 arXiv:2610.29129 提出通过表示工程监测和缓解真实场景下的 reward hacking。研究比较三种获取转向向量的方法，对残差流施加动态干预，以低于均匀加法的表征扰动显著降低 reward hacking，且几乎不损害模型连贯性与能力，编码环境提取的向量可泛化到其他领域。
来源：arXiv cs.AI · arxiv.org