Flat-RLVR:基于锐度感知的可验证奖励强化学习,提升 LLM 推理能力
Flat-RLVR: Sharpness-Aware Reinforcement Learning with Verifiable Rewards for Reasoning Capacity in LLMs
AI 导读
Flat-RLVR 是一种面向大语言模型后训练的方法,通过锐度感知最小化在 RLVR 中搜索平坦奖励区域,并结合 GRPO 变体。该方法理论上证明平坦奖励 RLVR 可减少分布锐化,实验显示其提升了样本多样性,同时保持单次尝试准确率,在采样效率与推理能力之间取得更好的平衡。
来源:arXiv cs.AI · arxiv.org