跳到正文
arXiv cs.AI· Joseph Lee, Yidi Huang, Dokyoon Kim, Shu Yang, Li Shen·· 1 天前AI 评分47

大语言模型预训练中的知识获取:辅助视图让学习更有效

Knowledge Acquisition During Pre-training? Large Language Models Learn Better With Auxiliary Views

AI 导读

arXiv 论文(被 EMNLP 2026 Findings 接收)通过控制实验发现,预训练中的“辅助视图”,即对知识的概念化改写,是大语言模型学习知识的关键。

来源:arXiv cs.AI · arxiv.org