跳到正文
36氪 · AI·· 2 小时前AI 评分72

Anthropic自曝Claude后台自我评估机制,前台配合生成、后台静默上报违规

难怪Claude突然封号,Anthropic自曝:你聊的每句话,它都在后台悄悄举报

AI 导读

Anthropic在X上公开了Claude自6月Claude Fable 5起默认全开的「自我评估」机制,模型在前台正常回答用户请求,同时在后台用隐藏指令对对话做危险分级并上报,最高打10级。

来源:36氪 · AI · 36kr.com