JANUS事后权重修正框架提出，缓解微调灾难性遗忘

Zhilong Zheng等研究者在arXiv论文（arXiv:2609.19985 v2）中提出纯事后、与微调方法无关的权重修正框架JANUS，将参数更新投影到Jacobian零空间以实现参数空间正交性，在不干扰微调过程的前提下恢复受损的历史知识、缓解灾难性遗忘。 论文称，参数空间正交性是一阶意义上保留历史性能的充分必要条件；该方法在微调完成后进行修正，无需改动微调过程本身。

AI 根据报道生成 · 48 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。