arXiv cs.AI· Chenhan Lyu, Amir Rahmani·· 1 天前AI 评分37
用记录式推导审计安全偏好标注:符号化偏好标注方法
Auditing Safety Preference Supervision with Recorded Derivations
AI 导读
一项 arXiv 研究提出符号化偏好标注(Symbolic Preference Labeling)方法:用预训练语言模型对 prompt 与回复的预定义属性分类,再由显式规则和固定判定排序生成偏好标签,且每条标签可从存储的属性、规则和排序复算,无需重跑模型。
来源:arXiv cs.AI · arxiv.org