跳到正文
Hugging Face Daily Papers· Yan Wang·· 2 天前AI 评分43

TraceForge:用学生模型自身风格生成推理轨迹做蒸馏

TraceForge: Distilling with Your Own Thinking

AI 导读

TraceForge 提出一种蒸馏替代方案:在教师模型隐藏推理轨迹不可得时,以教师答案和上下文为输入,由生成器自行写出学生模型家族风格的推理轨迹,配合对抗训练的 critic 筛选。独立判官的真实性评分显示其轨迹平均 0.68,接近真实轨迹的 0.66,critic 筛选后达 0.82。在相同 5,000 题和教师答案下,HumanEval+ 提升 3.7 点、MBPP+ 提升 7.1 点。

来源:Hugging Face Daily Papers · arxiv.org