跳到正文
热点事件持续更新

论文提出对比集合差分剪枝法CSD减少推理模型思考token

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

论文作者提出对比集合差分剪枝方法(CSD),通过对比同一问题长短正确答案的神经元激活,识别并优先剪除冗余推理神经元,并扩展偏好对到剪枝模型总能或总不能解决的问题。 在 DeepSeek-R1-Distill-Qwen-7B 上剪枝 20% 后,相比推理感知校准(RAC)加同样压缩的组合,CSD 在四个数学 benchmark 上少用 8–22% 思考 token,准确率差距在 0.5 分以内。 作者称这是初步版本,后续计划补充实验和修订。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI
    通过长短对比剪枝提升剪枝后推理模型的思维链可压缩性

    论文提出对比集合差分剪枝方法(CSD),通过对比同一问题长短正确答案的神经元激活,识别并优先剪除冗余推理神经元,并扩展偏好对到剪枝模型总能或总不能解决的问题。在 DeepSeek-R1-Distill-Qwen-7B 上剪枝 20% 后,相比推理感知校准(RAC)加压缩的组合,在四个数学 benchmark 上少用 8–22% 思考 token,准确率差距在 0.5 分以内。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。