Greg Brockman 介绍 OpenAI 加固前沿模型训练环境安全的做法
A post on how we've been securing our frontier model training environment. We've been building tools around our frontier cyber models, which have secu...
AI 导读
Greg Brockman 分享 OpenAI 过去几个月如何大幅加固研究训练环境的安全。做法包括移除所有前沿模型训练期间的实时互联网访问，改为构建离线的缓存版网络供模型使用，并围绕前沿 cyber 模型开发安全工具，作者认为这类工具的防护效果远超人工独立能力，且将成为今后防御者的关键手段。