跳到正文
泛咖说AI (@fankaishuoai)· 范凯说AI·· 3 小时前AI 评分29

GPT-6.2 恶评如潮,问题出在安全与对齐失衡

GPT-6.2 恶评如潮,原始模型肯定是很强的,问题就出在安全和对齐上。 对齐做的不够,模型可能被操纵干坏事;对齐做的过了,模型就变傻了。 Anthropic 应该是摸索...

AI 导读

GPT-6.2 遭遇恶评,原始模型能力很强,问题出在安全和对齐上:对齐不足模型可能被操纵,对齐过度则变傻。对比之下,Anthropic 摸索出合适的对齐方式,Opus 5.5 好评如潮;OpenAI 从 GPT-5.5 开始出现防御性废话,安全对齐过度。过去两年 OpenAI 安全对齐团队骨干接连离职,不少去了 Anthropic。

来源:泛咖说AI (@fankaishuoai) · x.com