arXiv cs.AI· Christophe Khalil, Aya Mourad·· 1 天前AI 评分41
事实回忆中的“指令税”：基座模型可胜过其指令微调版本
The Instruction Tax on Factual Recall: Base Models Can Beat Their Instruction-Tuned Counterparts
AI 导读
该论文介绍 AKBC LM-KBC 2026 共享任务的解决方案，在官方榜单取得 0.6836 分，超过 0.2964 基线一倍以上。在不使用检索和微调、参数上限 32B 的条件下，基座模型用文本补全提示得 0.6836，而指令微调版本经聊天界面仅得 0.5681，作者称之为“指令税”。方案用训练集示例提示基座模型，生成 64–256 个输出并保留重复项，再针对不同关系做两项专门处理。
来源：arXiv cs.AI · arxiv.org