研究者提出CPR路由框架缓解大模型微调灾难性遗忘
热点事件持续更新
研究者提出CPR路由框架缓解大模型微调灾难性遗忘
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Kwangmin Ki等研究者在arXiv论文(arXiv:2608.30158)中提出CPR(Critical-Point Routing),一种在基座模型与其SFT专家模型之间进行token级路由的框架,用于缓解微调带来的灾难性遗忘。 CPR的思路是基于“关键token”——即基座模型失败而专家模型成功的token——来决定调用专家。论文称,该方法在领域性能上超过SFT专家1.4–5.5%,同时把专家带来的通用能力下降从3.4–14.5%恢复到最多0.5%,且只需对约三分之一的token调用专家,开销较小。
AI 根据报道生成 · 55 分钟前更新
最新进展10月23日 12:00
CPR:基于关键点路由缓解大语言模型领域适配中的灾难性遗忘报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- arXiv cs.AICPR:基于关键点路由缓解大语言模型领域适配中的灾难性遗忘
arXiv 论文提出 CPR(Critical-Point Routing),一种在 base 模型与其 SFT 专家模型之间进行 token 级路由的框架,用于缓解微调带来的灾难性遗忘。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。