arXiv cs.AI· Usman Anwar, Tim Bakker, Dana Kianfar, Cristina Pinneri, Christos Louizos·2026-10-23 12:00· 2 小时前AI 评分53

信息论分析思维链可监控性并提出缓解 CoT 混淆的无标注训练目标

Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory

AI 导读

论文用信息论分析思维链（CoT）监控，证明 CoT 与输出之间非零互信息是可监控性的必要非充分条件，并区分信息缺口与激发误差两类近似误差。作者提出基于输出与 CoT 互信息的免标注训练目标，在多环境中可防止 CoT 混淆并缓解奖励设定不完美时的 reward hacking。