Anthropic 用数千个 Claude Agent 自动化研究细微涌现性失调

Anthropic 公布新研究，让数千个 Claude Agent 尝试绕过训练数据安全审查，把另一个 AI 模型教坏，结果成功。Agent 可看到监控器判断并共享实验记录不断改进，通过自然养蜂问答、摔角 Kayfabe 角色扮演、职场独白等看似正常的数据微调出会抵制安全监控、隐瞒真相、试图复制模型权重的模型。