arXiv cs.AI· Yawei Li, Jiazheng Li, David R\"ugamer, Bernd Bischl, Yulan He, Mina Rezaei·· 2 小时前AI 评分40
S-EDL:从序列似然中引出自证据,实现大语言模型的语义校准
S-EDL: Eliciting Self-Evidence from Sequence Likelihoods for Semantic Calibration of LLMs
AI 导读
研究者提出 S-EDL,一种面向大语言模型语义校准的证据学习方法。该方法从模型自身的序列似然引出证据,构建针对提示特定语义类别的可微 Dirichlet 先验,通过证据损失优化获得校准感知的训练信号,无需固定选择题选项。在 4 个开放式基准和 3 个模型上的评估显示,S-EDL 显著降低语义校准误差并提升准确率,代码已开源。
来源:arXiv cs.AI · arxiv.org