Anthropic 在 Opus 思维链中埋假工具调用防蒸馏

据作者 rickawsb 发文称，Anthropic 为防止模型被蒸馏，在 Opus 的推理链中主动埋入假的工具调用，以迷惑蒸馏者。这使其思维链包含错误甚至有害的步骤，看似模型能力下降，但最终输出仍然正确。 作者据此认为，这些模型的思维链已经不可信，无法再作为其真实推理过程的依据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。