OpenAI 推出 Control Room 系统实时监控并叫停异常 AI 研发任务
OpenAI推出了Control Room系统,专门在AI研发和训练过程中实时监控并随时叫停异常任务。 随着AI模型能力越来越强,训练和实验过程中的安全隐患也随之增加,研发...
AI 导读
OpenAI 推出集中式控制系统 Control Room,在 AI 研发和训练过程中实时监控模型任务并在出现安全隐患时快速叫停。研发人员启动任务时获得专属任务编号,底层推理引擎每次生成 token 前须向系统申请许可,拦截到彻底终止最多 35 秒;系统还具备故障闭锁机制,控制中心宕机或被篡改时所有前沿模型生成请求会被全部拒绝。