论文提出SRA框架提升蒸馏小模型数学推理
热点事件持续更新
论文提出SRA框架提升蒸馏小模型数学推理
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Zhenxing Dou 等研究者在 arXiv 提交论文（arXiv:2610.34199），提出即插即用框架 SRA（Selective Residual Adaptation），用于增强蒸馏后小模型的推理能力。该方法用 Discrepance Gate 定位师生模型分布分歧的位置，再用 Candidate Residual Adapter 对 top-K logit 进行校准，把局部修正内化到学生模型中。 论文称，在 Qwen3 0.6B 到 4B 模型的数学基准测试上，SRA 持续提升蒸馏学生模型的表现，平均 Pass@16 最多提高 4.37 个百分点，且不损害通用能力。
AI 根据报道生成 · 57 分钟前更新
最新进展10月27日 12:00
SRA：用选择性残差适配增强 LLM 推理能力报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- arXiv cs.AISRA：用选择性残差适配增强 LLM 推理能力
研究者提出即插即用框架 SRA（Selective Residual Adaptation），通过 Discrepance Gate 定位师生模型分布分歧位置，并用 Candidate Residual Adapter 进行 top-K logit 校准，改进蒸馏小模型的多步推理。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。