跳到正文
arXiv cs.AI· Tingxin Yang, Zefeng Wang, Mengyue Wang, Jinhe Bi, Xingcheng Zhou, Volker Tresp, Yunpu Ma·· 2 小时前AI 评分37

DeepLook:基于前瞻置信度的不确定性引导分支实现高效推理

DeepLook: Uncertainty-Guided Branching with Lookahead Confidence for Efficient Reasoning

AI 导读

论文提出 DeepLook,一种无需训练的解码框架,通过监测分段级置信度,仅在不确定性瓶颈处分支,并以平均前瞻置信度(ALC)对候选延续排序,从而节省推理算力。

来源:arXiv cs.AI · arxiv.org