arXiv cs.AI· Kia-J\"ung Yang, Dominik Meier, Jiachen Zhao, Terry Ruas, Bela Gipp·· 1 天前AI 评分29
思维链如何破坏对拒绝行为的简单激活引导：大推理模型拒绝机制研究
Beyond a Single Direction: Chain-of-Thought Disrupts Simple Steering of Refusal
AI 导读
一项 arXiv 研究发现，DeepSeek-R1-Distill-LLaMA-8B 等大推理模型的拒绝行为除残差流激活外还依赖思维链（CoT）。在固定 CoT 时激活引导仅能逆转 39% 的拒绝，移除 CoT 后升至 70%；两阶段干预下模型重新生成 CoT 时逆转率达 94%，且撤除引导后 CoT 单独保留 48% 的效果。
来源：arXiv cs.AI · arxiv.org