CREDIT：反事实训练提升模型自归因

Zikai Zhou 等研究者在 arXiv 论文（2610.35295）中提出反事实训练方法 CREDIT，让语言模型在最终答案中标注自己是否受到所提供信息的影响，且无需人工标注。 测试发现，11 个前沿模型大多很少归因真正影响了答案的信息，其余模型则错误归因没有影响的信息。CREDIT 显著改善了 4 个开源模型（含 2 个蒸馏推理模型）的归因表现，优于推理级微调和提示词基线，并能区分因用户建议而改变的答案与模型本就会给出的答案。

AI 根据报道生成 · 36 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。