OpenAI 发布打击儿童性虐待材料的新工具
热点事件持续更新
OpenAI 发布打击儿童性虐待材料的新工具
2 篇报道2 个报道来源42 分钟前更新
先了解这件事
AI 综述
OpenAI 发布打击儿童性虐待材料(CSAM)的新工具,包括与 NCMEC 合作开发的图像分类器,可识别含 AI 生成在内的 CSAM 图片,并通过 API 免费向部分企业开放。OpenAI 称早期测试显示,该分类器在找到相同数量滥用图像的情况下误报减少 48%,被标记图像确为滥用图像的概率提升一倍。这些说法出自 OpenAI 的测试结果,尚未经第三方验证。
AI 根据报道生成 · 18 分钟前更新
最新进展11月17日 01:09
ChatGPT 将对试图访问 CSAM 内容的账号封禁 24 小时作为警告报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- TechCrunch (@techcrunch)ChatGPT 将对试图访问 CSAM 内容的账号封禁 24 小时作为警告
ChatGPT 对试图访问 CSAM(儿童性虐待材料)内容的账号实施 24 小时封禁,作为一次警告性处罚。
- TechCrunchOpenAI 发布新图像分类器并在 ChatGPT 添加警告以打击 CSAM
OpenAI 推出新工具打击儿童性虐待材料(CSAM),包括与 NCMEC 合作开发的图像分类器,可识别含 AI 生成在内的 CSAM 图片,并通过 API 免费向部分企业开放。早期测试显示,该分类器在找到相同数量滥用图像的情况下误报减少 48%,被标记图像为滥用图像的概率提升一倍。ChatGPT 还将新增警告界面,对相关提示词弹窗警示并暂停账户 24 小时,屡犯者可能被永久封号。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。