研究者提出SimpleLoRIF识别削弱模型安全的微调数据

Saket Reddy 等研究者在 arXiv 论文中提出 SimpleLoRIF，一种可扩展的梯度嵌入方法，用于识别那些梯度与不安全行为对齐、会削弱大语言模型安全性的微调样本，即使这些样本本身看起来无害。该方法将反向传播限制在最后四个 transformer 块，可处理百万级样本。 研究者同时发布 SafeTulu 数据集，并提供一个 Hugging Face Space，允许研究者构建自定义版本，例如调整移除比例或只过滤某些子集后用于微调。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。