跳到正文
arXiv cs.AI· Jiashuo Sun, Hao Zhang, Xueqiang Xu, Heng Wang, Yixuan Xie, Pengcheng Jiang, Zhenrui Yue, Jiajun Fan, Peiran Li, Ge Liu, Shaowen Wang, Jiawei Han·· 1 天前AI 评分47

Ask-to-Distill:面向 On-Policy 蒸馏的数据合成方法

Ask to Distill: Learning to Synthesize Data for On-Policy Distillation

AI 导读

UIUC 等机构研究者在 arXiv 论文中提出 Ask-to-Distill 框架,将合成问题视为分布引出器,无需参考答案或正确性奖励即可评估并优化用于 on-policy 蒸馏的合成问题。

来源:arXiv cs.AI · arxiv.org