论文提出双通道约束GRPO：把VLM安全当预算校准

Bo Han 团队在 arXiv 发布论文《Safety as a Budget》，提出双通道约束 GRPO，用 Lagrange 乘子把有害协助率与过度拒绝率作为显式预算来训练视觉语言模型，以同时压低有害协助与过度拒绝。论文称，标准 GRPO 存在评分器均值偏差、组内标准化抵消惩罚两大问题。 方法上，基础奖励保留原始分数用于组内比较，惩罚与约束估计经过用评审标注的模型响应拟合的单调映射，优势项保留乘子。论文报告的实验条件下的结果：在 1,037 条对抗性提示的留存测试上，有害协助率从标准 GRPO 的 8.9% 降至 4.8%；在 400 条良性查询上过度拒绝率不超过 2%，且 MMBench 成绩不变。

AI 根据报道生成 · 26 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。