基于探针对抗训练实现对齐且不丧失可监控性

一项 arXiv 研究提出探针引导微调（probe-guided fine-tuning），用检测模型激活中不良属性的探针作为直接训练信号，在无害与诚实两个对齐目标上评估线性和非线性探针。结果显示，持续更新的探针能显著降低有害性并提升诚实性，比 DPO 和推理时引导取得更好的安全-效用权衡，且对越狱和 abliteration 攻击更鲁棒。微调后概念仍保持线性编码，监督能力未丧失。