论文提出训练-free解码框架DeepLook

研究者发布论文提出DeepLook，一种无需训练的解码框架：通过监测分段级置信度，仅在不确定性瓶颈处分支，并用平均前瞻置信度（ALC）对候选延续排序，以节省推理算力。 论文报告，DeepLook在16个设置中的12个达到或超过DeepConf-low的准确率，同时生成的token减少87.3%。但在知识密集的GPQA-Diamond任务上，准确率优势消失，token节省仍然存在——连贯的幻觉内容也会获得较高的ALC。代码已公开。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。