LLM 从哪里学会推荐 AI？研究溯源预训练与微调的影响

一项 arXiv 研究探究 LLM 为何倾向推荐 AI 相关选项：预训练模型已有 27% 的回答包含 AI/ML 词汇，指令微调版本升至 59%。自行微调显示该倾向并非必然：剔除 7% 涉及 AI 的指令样本可降低 14 个百分点，奖励有用性的数据提升 9 个百分点。此外，要求给出“最佳”选项使比率上升 8 个点，“现在就做”上升 18 个点。