arXiv cs.AI· Min-Seong Kim, Jongbok Won, Jeesup Park, Yonghee Choi, Dong-Jun Han·· 1 天前AI 评分44
WSR-Tune：基于权重空间重参数化的 LLM 微调方法，保住下游适配中的安全对齐
Rethinking LLM Fine-Tuning via Weight Space Reparameterization: Preserving Safety during Downstream Adaptation
AI 导读
一项被 NeurIPS 2026（spotlight）接收的研究提出 WSR-Tune，一种通过权重空间重参数化在下游微调中保留 LLM 安全性的框架。该方法构建安全条件基，将安全相关信息集中到少量方向并冻结这些安全关键方向，其余方向用于下游任务更新。实验显示该方法在下游性能与安全保留之间取得更优平衡。
来源：arXiv cs.AI · arxiv.org