论文提出REACT激活干预方法提升模型链式思维安全性
热点事件持续更新
论文提出REACT激活干预方法提升模型链式思维安全性
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Hanwen Zhang 等在 arXiv 提交论文，提出 REACT 方法：从成对的安全与不安全链式思维轨迹中学习安全方向，在早期 CoT 隐藏状态上施加一次激活干预，模型权重保持冻结，后续 token 生成不再修改。 在 DeepSeek-R1-Distill-Llama-8B 上，REACT 将 StrongREJECT-273 上完全安全输出的比例从 29.06% 提升至 82.05%，同时良性拒绝与有用性接近基线。论文还发现该干预效果在第四、第五个 token 处降至约零。
AI 根据报道生成 · 1 小时前更新
最新进展10月26日 12:00
REACT：链式思维轨迹的表征级早期分析与控制报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv cs.AIREACT：链式思维轨迹的表征级早期分析与控制
论文提出 REACT，一种条件化激活干预方法，从成对的安全与不安全轨迹中学习安全方向，并在早期 CoT 隐藏状态上施加一次干预，模型权重保持冻结。在 DeepSeek-R1-Distill-Llama-8B 上，REACT 将 StrongREJECT-273 上完全安全输出的比例从 29.06% 提升至 82.05%，且良性拒绝与有用性接近基线。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。