跳到正文
TechCrunch· Ivan Mehta·· 1 小时前AI 评分46

OpenAI 发布新图像分类器并在 ChatGPT 添加警告以打击 CSAM

OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM

AI 导读

OpenAI 推出新工具打击儿童性虐待材料(CSAM),包括与 NCMEC 合作开发的图像分类器,可识别含 AI 生成在内的 CSAM 图片,并通过 API 免费向部分企业开放。早期测试显示,该分类器在找到相同数量滥用图像的情况下误报减少 48%,被标记图像为滥用图像的概率提升一倍。ChatGPT 还将新增警告界面,对相关提示词弹窗警示并暂停账户 24 小时,屡犯者可能被永久封号。

来源:TechCrunch · techcrunch.com