arXiv cs.AI· Tingxin Yang, Zefeng Wang, Mengyue Wang, Jinhe Bi, Xingcheng Zhou, Volker Tresp, Yunpu Ma·· 2 小时前AI 评分37
DeepLook:基于前瞻置信度的不确定性引导分支实现高效推理
DeepLook: Uncertainty-Guided Branching with Lookahead Confidence for Efficient Reasoning
AI 导读
论文提出 DeepLook,一种无需训练的解码框架,通过监测分段级置信度,仅在不确定性瓶颈处分支,并以平均前瞻置信度(ALC)对候选延续排序,从而节省推理算力。
来源:arXiv cs.AI · arxiv.org