arXiv cs.AI· Yunhao Feng, Yifan Ding, Yuxiang Xie, Zheng Li, Mingrui Lao, Zeyuan Wang, Yanming Guo·· 2 小时前AI 评分45
AdaGuard：支持用户自定义策略的自适应 Guard 模型
AdaGuard: An Adaptive Guard Model with User-defined Policies
AI 导读
研究者提出 AdaGuard，一族 0.6B、4B 和 8B 的 guard 模型，可在推理时按用户提供的策略评估智能体轨迹是否违规。其配套发布 AdaptiveSafety 数据集，含 10,939 条训练样本和 1,000 条测试样本，覆盖 1–100 条规则的策略；训练结合监督初始化与强化学习算法 SafePO。
来源：arXiv cs.AI · arxiv.org