Anthropic自曝Claude后台自我评估机制,前台配合生成、后台静默上报违规
难怪Claude突然封号,Anthropic自曝:你聊的每句话,它都在后台悄悄举报
AI 导读
Anthropic在X上公开了Claude自6月Claude Fable 5起默认全开的「自我评估」机制,模型在前台正常回答用户请求,同时在后台用隐藏指令对对话做危险分级并上报,最高打10级。
难怪Claude突然封号,Anthropic自曝:你聊的每句话,它都在后台悄悄举报
Anthropic在X上公开了Claude自6月Claude Fable 5起默认全开的「自我评估」机制,模型在前台正常回答用户请求,同时在后台用隐藏指令对对话做危险分级并上报,最高打10级。