跳到正文
热点事件持续更新

研究探针揭示 RL 模型数学推理表征优于 SFT 模型

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Antyabha Rahman 等人发表研究(AAAI 2026 XAI4Science 工作坊论文),分析 RL 训练的推理模型为何在数学推理上优于 SFT 模型,对象包括 DeepSeek-Math-RL 与 DeepSeek-Math-Instruct。 研究发现:逐层线性探针在 RL 训练模型上更能准确预测答案正确性;均值消融显示 DeepSeek-Math-RL 的准确率随层深增加而下降,而 Instruct 模型没有这一现象。此外,token 数在低准确率题目上波动更大,DeepSeek-Math-RL 在高准确率题目上波动更低。

AI 根据报道生成 · 47 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. arXiv cs.AI
    RL 与 SFT 微调模型表征质量如何影响数学推理能力:一项机制分析

    一项发表于 AAAI 2026 XAI4Science 工作坊的研究分析了 RL 训练的推理模型为何在数学推理上优于 SFT 模型。逐层线性探针在 RL 模型中更能准确预测答案正确性,均值消融显示 DeepSeek-Math-RL 的准确率随层深增加而下降、Instruct 模型则不然;token 数在低准确率题目上波动更大,且 DeepSeek-Math-RL 在高准确率下波动更低。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。