GPT-6.2 恶评如潮,问题出在安全与对齐失衡
GPT-6.2 恶评如潮,原始模型肯定是很强的,问题就出在安全和对齐上。 对齐做的不够,模型可能被操纵干坏事;对齐做的过了,模型就变傻了。 Anthropic 应该是摸索...
AI 导读
GPT-6.2 遭遇恶评,原始模型能力很强,问题出在安全和对齐上:对齐不足模型可能被操纵,对齐过度则变傻。对比之下,Anthropic 摸索出合适的对齐方式,Opus 5.5 好评如潮;OpenAI 从 GPT-5.5 开始出现防御性废话,安全对齐过度。过去两年 OpenAI 安全对齐团队骨干接连离职,不少去了 Anthropic。