PLRM:可并行的概率潜在推理框架,建模多样推理轨迹
Parallelizable Probabilistic Latent Reasoning for Diverse Reasoning Trajectories
AI 导读
arXiv 论文提出概率潜在推理模型 PLRM,一个可并行的变分框架,把推理从逐 token 的语言空间转移到紧凑连续潜在空间,缓解 CoT 中表层措辞与真实逻辑轨迹纠缠的问题。PLRM 采用 JEPA 式目标并行推断潜在分布,并引入离散策略变量与混合先验以保留多条推理轨迹的高斯混合结构。在多轨迹数据集上它持续优于随机基线,在单轨迹数据集上与确定性潜在推理模型性能相当,且训练更高效。
来源:arXiv cs.AI · arxiv.org