arXiv 论文：大语言模型对群体关联字段赋予了错误的权重
Language Models Give Group-Linked Fields the Wrong Weight
AI 导读
arXiv 论文提出一种“证据参照审计”方法，在已知字段权重的模拟患者排序任务中测试四个大语言模型。结果显示：预测值为零时模型仍依赖无信息字段，而同等数据的贝叶斯线性回归不会；字段有预测力时模型依赖度增长远低于参照；有序标签比任意标签引来更多依赖，且排序准确率变化与依赖度变化并不一致。作者据此认为，审计应对照明确的预测参照来报告依赖度。
来源：arXiv cs.AI · arxiv.org