Hugging Face Daily Papers· Runsheng Chen, Yihong Liu, Raoyuan Zhao, Michael A. Hedderich, Hinrich Schütze, Matthias Grabmair·· 4 天前AI 评分36
桥接自蒸馏（BSD）：面向 on-policy 学习的统一蒸馏框架
Bridged Self-Distillation for On-Policy Learning
AI 导读
慕尼黑工业大学与 LMU Munich 团队提出 Bridged Self-Distillation（BSD），一个从任意提供推理轨迹的教师模型进行 on-policy 蒸馏的统一框架。