残差干预提升工具使用模型目标选择但不保证动作正确

Tianda Sun 与 Dimitar Kazakov 发表论文（arXiv:2610.31686），在 Qwen3.5-27B 上审计激活干预能否让模型真正使用预期条件，覆盖 32 个工具使用任务环境，其中时间或权限决定候选是否合格。 两种针对具体案例的残差写入变体将熟悉目标选择的正确率从 35/128 提升到 119/128、从 33/128 提升到 114/128；但在同一选择任务中重组熟悉事实与标识符时增益消失，模型更倾向选择此前获得奖励的标识符。作者称这种选择性效果并不能确保完整动作正确，对候选是否合格的独立判断改善也很有限。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。